Frank Pasquale, professeur de droit à l’université du Maryland aux États-Unis, s’interroge sur l’aspect caché des algorithmes des sites Internet, principalement des GAFA (Google, Apple, Facebook, Amazon). Il se penche également sur les algorithmes des logiciels bancaires et d’une grande majorité des applications que nous utilisons quotidiennement. Ce livre, centralisé sur les États-Unis, est facilement transposable au reste du monde.

L’auteur déplore un manque de transparence des algorithmes. Selon lui, ces derniers seraient notamment responsables de la crise des subprimes. Les fournisseurs d’algorithmes n’indiquent pas à leurs clients comment ils les ciblent, par quel processus ils leur accordent ou non un crédit, ou encore comment ils estiment les risques financiers. Bien au contraire, d’après l’auteur, ils complexifient les algorithmes à l’extrême pour que personne ne les comprenne et qu’ils deviennent ainsi des boites noires.

Frank Pasquale élabore deux hypothèses concernant le législateur : soit il est manipulé pas les lobbyistes des sociétés qui élaborent les algorithmes, soit il ne prend suffisamment conscience du risque à laisser des algorithmes prendre des décisions sociales.

L’auteur souhaite que la société et l’État prennent conscience des utilisations risquées des algorithmes prédictifs.

The Black Box Society, les algorithmes secrets qui contrôlent l’économie et l’information
Frank Pasquale
Éditions FYP 2015