La décision de l'algorithme

Il n'existe pas de décision prise par un algorithme. Toute décision est l'acte d'une volonté humaine.
Les algorithmes, les ordinateurs, les traitements de données et les machines modifient pourtant les décisions humaines. En amont, ils les influencent et les altèrent. En aval, ils les appliquent et les automatisent. Cette modification du processus et du pouvoir décisionnels a été précocement perçue par le droit français. La loi informatique et libertés du 6 janvier 1978 établissait la nécessité de conserver le caractère humain de la décision, sans laisser la technique s'en emparer. Adapté en droit européen en 1995 et en 2016 dans le règlement général sur la protection des données à caractère personnel, ce principe est aujourd'hui devenu central en droit du numérique : la personne humaine doit être au coeur de la technique, la technique doit être au service de la personne humaine.
La centralité de ce principe contraste pourtant avec son manque d'effectivité et d'application. Ce retranchement quasi théorique du principe s'explique par plusieurs facteurs, mais surtout par son orientation vers la protection du destinataire de la décision (la personne à qui la décision s'applique) aux dépens de la protection de l'auteur de la décision (la personne qui prend la décision). Sans oublier les enjeux de pouvoir et les inégalités aggravées par l'utilisation de techniques décisionnelles sur les destinataires, il reste nécessaire de réintégrer l'auteur de la décision dans l'interprétation du droit du numérique. Sur le plan conceptuel, c'est par une relecture de la catégorisation des algorithmes décisionnels et de leur qualification que s'opère cette réintégration. Sur le plan du régime, c'est par la clarification des règles de conception et d'utilisation des algorithmes qu'elle est renforcée.
Le droit s'érige ainsi comme l'un des puissants contrepouvoirs de la technique, propre à protéger la liberté de la personne humaine.

Prix André Isoré de la Chancellerie des universités de Paris
Premier prix Innovations de l'Association française des docteurs en droit

Préface de Judith Rochfeld.