J’ai lu : Empire of AI: Dreams and Nightmares in Sam Altman’s OpenAI de Karen Hao
Comprendre qui se trouve derrière les outils que l’on utilise au quotidien nous en dit beaucoup sur les intentions et les orientations qui les façonnent. C’est ce qui m’a attirée vers Empire of AI de Karen Hao, journaliste d’investigation qui a consacré sept ans à suivre OpenAI pour MIT Technology Review, The Wall Street Journal et The Atlantic. Plusieurs personnes que je respecte beaucoup en avaient parlé sur les réseaux, et le titre m’a interpellée d’emblée. La lecture est exigeante et on entre dans les détails de bien des choses, mais elle nous en apprend énormément sur les dynamiques de pouvoir qui se cachent derrière des outils devenus omniprésents dans nos vies.
Sam Altman et OpenAI : qui sont-ils vraiment ?
Le livre s’ouvre sur le licenciement et la réintégration de Sam Altman en novembre 2023, un épisode que l’auteure utilise comme point de départ pour révéler la nature profonde de l’organisation. Karen Hao brosse un portrait nuancé de Sam Altman : elle décrit un homme à la fois généreux et calculateur, charismatique et insaisissable, capable de faire sentir à chacun qu’il est en parfait accord avec lui, tout en poursuivant ses propres objectifs. « Vous pourriez le parachuter sur une île peuplée de cannibales et revenir cinq ans plus tard : il en serait le roi », disait son mentor Paul Graham. Ce don pour le pouvoir, combiné à une tendance documentée à distordre la vérité, crée une atmosphère de méfiance sourde que le livre explore avec beaucoup de précision.
La trajectoire d’OpenAI est elle aussi révélatrice : fondée avec de nobles idéaux (recherche ouverte, mission non lucrative, bénéfice pour l’humanité), l’organisation est devenue, selon Hao, tout ce qu’elle avait dit qu’elle ne serait pas. La course à l’AGI (intelligence artificielle générale), les besoins colossaux en capital, et l’arrivée de grands investisseurs ont progressivement érodé les principes fondateurs, au profit d’une logique d’empire.
Le coût humain invisible
L’un des passages qui m’a le plus marquée, et qui était difficile à lire, concerne les travailleurs de la modération de contenu. Pour rendre ChatGPT utilisable, OpenAI a eu recours à des centaines de travailleurs au Kenya, sous-payés, pour filtrer des contenus violents, abusifs et traumatisants. Ces travailleurs, sous-traités via des firmes intermédiaires, étaient délibérément maintenus hors de la visibilité de la compagnie et de ses clients. C’est ce que Hao appelle un modèle d’impartition pensé pour garder le travail le plus sale hors de vue.
L’auteure retrace aussi le sort de travailleurs vénézuéliens qui, fuyant une crise économique dévastatrice, ont été massivement recrutés pour annoter des données, avant d’être bannis des plateformes une fois jugés moins utiles. Ces récits illustrent une réalité que l’on préfère souvent ignorer : les grandes avancées de l’IA reposent sur une chaîne de travail précaire et invisible.
Un impact environnemental que l’industrie préfère taire
L’IA générative a aussi un coût environnemental concret. Les immenses centres de données nécessaires pour faire fonctionner ces modèles consomment des quantités importantes de ressources : de l’énergie en continu, au point où certaines entreprises relancent des centrales nucléaires abandonnées depuis des décennies, et de l’eau potable puisée dans des régions qui en ont pourtant grand besoin. En lisant tout ce qui circule sur l’IA et l’environnement, on a souvent l’impression d’avoir des bribes d’information sans vraiment savoir quoi en penser. Les chiffres varient, les promesses aussi. Mais une chose ressort clairement à la lecture de ce livre : il y a bel et bien un impact, qu’on sache exactement le quantifier ou non.
L’IA comme outil de concentration du pouvoir
L’IA générative, telle qu’elle se déploie aujourd’hui, est avant tout un outil de consolidation du pouvoir. Les grandes entreprises du secteur contrôlent trois axes importants : la production de connaissance (en centralisant les talents et en rendant leurs modèles opaques au public), les ressources (données, capital, énergie, territoires), et l’influence (en façonnant le récit mondial autour de l’IA). La recherche indépendante s’érode, les scientifiques s’alignent sur les priorités commerciales des géants technologiques, et la diversité des idées rétrécit à vue d’œil.
L’auteure rappelle une vérité souvent oubliée dans les discours enthousiastes sur l’IA : les technologies ne sont pas neutres. Elles portent les angles morts, les ambitions et les valeurs des gens qui les construisent. Et quand ces gens sont une poignée d’élites de la Silicon Valley, la vision qu’ils imposent est, par définition, étroite.
Un appel à comprendre pour mieux agir
Hao ne se contente pas de critiquer : elle propose des pistes de solutions. Pour contrebalancer la logique d’empire, elle plaide pour la transparence des données d’entraînement, des protections accrues pour les travailleurs du numérique, et surtout, une éducation large du public sur le fonctionnement réel de l’IA, ses forces, ses limites, et les intérêts qu’elle sert. Comme le disait Joseph Weizenbaum, l’inventeur du chatbot ELIZA dans les années 1960 : « Une fois qu’un programme est démystifié, une fois que ses rouages internes sont expliqués dans un langage suffisamment clair pour être compris, sa magie s’effondre. »
Lire Empire of AI m’a rappelé que comprendre les outils que l’on utilise, les personnes qui les construisent et les intérêts qu’ils servent, c’est la meilleure façon de ne pas se laisser emporter par les belles promesses et donc de rester lucide dans tout ça. L’éducation numérique est essentielle pour faire des choix éclairés, et ce sont des lectures comme celle-ci qui m’aident à les faire.