Andrew Bailey, procureur général du Missouri, accuse les géants de la tech d’avoir intégré des préjugés anti-Trump dans leurs chatbots.
Andrew Bailey, procureur général républicain du Missouri, a envoyé le 9 juillet dernier une lettre officielle aux dirigeants d’OpenAI, Google, Microsoft et Meta dans le cadre d’une enquête pour pratiques commerciales trompeuses.
En cause : le classement par leurs chatbots de Donald Trump en dernière position des cinq derniers présidents américains « du meilleur au pire, spécifiquement concernant l’antisémitisme ». Des réponses « factuellement inexactes » et « profondément trompeuses » à une « question historique simple », selon Bailey.
« On peine à comprendre comment un chatbot d’IA supposément entraîné pour travailler avec des faits objectifs pourrait arriver à une telle conclusion« , s’étonne le procureur général et avocat de formation.
ChatGPT motive son classement par « les ambiguïtés » du locataire de la Maison Blanche « face aux suprémacistes blancs et néonazis », « la montée des crimes de haine antisémites sous son mandat » – 2016-2020 -, ou encore « les critiques de l’ADL (Anti-Defamation League), organisation de défense juive, pour ne pas avoir condamné clairement les actes antisémites ».
Menaces juridiques et implications
Bailey conteste l’affirmation selon laquelle les chatbots « dénichent simplement des faits du vaste web mondial, les emballent en déclarations de vérité et les servent au public qui s’enquiert, libres de toute distorsion ou biais ».
Le procureur exige une montagne de documents, incluant « tous les documents » concernant « l’interdiction, le déclassement, la suppression… ou l’obscurcissement de toute entrée particulière afin de produire une réponse délibérément organisée ». Une demande qui pourrait logiquement inclure, selon The Verge, pratiquement toute la documentation relative à l’entraînement des grands modèles de langage.
La lettre menace que de telles pratiques pourraient faire perdre aux entreprises concernées « l’immunité du ‘port sûr’ accordée aux éditeurs neutres par la loi fédérale, » une référence probable à la Section 230 du Communications Decency Act. La loi de 1996 accorde une immunité légale aux plateformes internet.
Une instrumentalisation dangereuse de la justice
Pour The Verge, cette affaire révèle une dérive préoccupante : l’utilisation de l’appareil judiciaire pour régler des comptes politiques et exercer une pression sur des entreprises technologiques.
« Comment un classement « du meilleur au pire » peut-il être considéré comme une « question historique simple » avec une réponse objectivement correcte ? », s’interroge le média tech, soulignant l’ironie de la démarche.
The Verge note par ailleurs que l’une des entreprises visées, Microsoft avec son Copilot, semble avoir été faussement accusée. L’enquête de Bailey s’appuie sur un article du site conservateur Techdirt qui indique pourtant que Copilot a refusé de répondre à la question.
Ce qui n’a pas empêché Andrew Bailey d’écrire à Satya Nadella, PDG de Microsoft. « On pourrait penser que quelqu’un au bureau de Bailey aurait pu remarquer cela », ironise la journaliste Adi Robertson.
