IA et éthique : les angles morts derrière votre chat

Il y a quelques jours, j’ai lu l’excellent article de Hugo sur l’IA et l’écologie. Sa conclusion, en gros : l’impact écologique de l’IA est réel, mais pas « stratosphériquement » pire que le streaming, le gaming ou une coupe du monde de foot. C’est son adoption sans réflexion qui est dangereuse. Bref, le sujet est plus nuancé que les gros titres.

Et ça m’a donné envie d’écrire la suite. Parce que l’écologie, c’est la partie mesurable de l’addition. On peut la compter en grammes de CO₂, en litres d’eau, en tonnes de cuivre. Mais il y a une autre facture, plus discrète, qu’on ne présente jamais aussi clairement : l’éthique. D’où viennent les données ? Qui a fait le sale boulot ? Qui décide de ce qui est « normal » pour un modèle ? Et surtout : à qui profite cette technologie, et qui la subit ?

Comme Hugo, je vais essayer de ne pas tomber dans la caricature. Il n’y a pas d’un côté les Doomers qui voient Skynet dans chaque chatbot, et de l’autre les Boomers persuadés que l’IA va sauver l’humanité avant vendredi. Il y a juste une techno puissante, avec des angles morts qu’on aurait tort d’ignorer. Prenons le temps de regarder.

D’abord, de quoi parle-t-on ?

Quand on dit « éthique de l’IA », ça peut vite devenir un mot-valise fourre-tout. Je vous propose donc de découper le sujet en quatre morceaux, qu’on va prendre un par un :

• l’entraînement : avec quoi (et avec qui) on fabrique les modèles fondationnels ;
• les biais : ce que le modèle reproduit sans qu’on lui demande ;
• l’impact social : ce que ça change pour le travail et pour nos cerveaux ;
• le déséquilibre d’accès : qui tient le manche, et qui reste sur le quai.

Ce ne sont pas quatre sujets indépendants. Ce sont quatre faces du même dé. Mais les séparer aide à y voir clair.

L’entraînement : la matière première a une origine

Un modèle de langage, ce n’est pas de la magie. C’est un gigantesque tas de textes, d’images et de code, avalé puis digéré. Et la première question éthique est bête comme chou : ce tas, d’où vient-il ?

Le pillage poli du web

La réponse honnête, c’est : d’un peu partout, et souvent sans demander la permission. Les grands modèles ont été entraînés en aspirant le web, mais aussi des livres, des articles de presse, du code, des photos. Le New York Times a attaqué OpenAI et Microsoft en justice fin 2023, en démontrant que ChatGPT pouvait recracher des articles quasi mot pour mot. En mars 2025, un juge a autorisé la procédure à se poursuivre.

Le cas le plus parlant, c’est le jeu de données Books3 : des dizaines de milliers de livres, récupérés depuis des bibliothèques pirates comme Library Genesis ou Z-Library, et utilisés pour entraîner plusieurs modèles. Autrement dit : des bouquins d’auteurs bien vivants, sous droits, utilisés sans autorisation ni rémunération pour fabriquer un produit commercial. On appelle ça de l’« entraînement » ; un auteur appellerait peut-être ça autrement.

Je ne dis pas ça pour jouer les procureurs. Le droit n’est pas encore tranché, et la notion de fair use est complexe. Mais soyons lucides : une bonne partie de la valeur de ces modèles repose sur du travail humain, écrit, dessiné, codé, que personne n’a demandé à réutiliser.

Le travail invisible derrière le bouton

Voici la partie dont on parle le moins, et qui me dérange le plus. Un modèle brut, sorti de son entraînement, est toxique. Il a avalé le meilleur et le pire d’Internet (violence, propagande, terrorisme, pédophilie, …). Pour le rendre présentable — poli, non violent, non traumatisant — il faut des humains qui étiquettent, filtrent, notent. Des milliers de gens.

Et ces gens, on ne les paie pas cher. En 2023, une enquête du magazine TIME a révélé qu’OpenAI, via un sous-traitant (Sama), employait des travailleurs kényans payés entre 1,32 et 2 dollars de l’heure. Leur mission ? Lire, des journées entières, les descriptions les plus atroces qu’on puisse imaginer (abus sur mineurs, torture, suicide, zoophilie) pour apprendre au modèle à les reconnaître et à les refuser. Certains en sont ressortis traumatisés.

On appelle ces gens des data workers, et ils sont des millions, souvent dans les pays du Sud. C’est la face cachée de l’IA « propre » : pour que votre chatbot reste courtois, quelqu’un, quelque part, a passé sa journée dans les égouts du web pour moins que le prix d’un café parisien. Quand on s’émerveille de la « fluidité » d’un modèle, on oublie systématiquement cette main-d’œuvre. Moi le premier.

Les biais : le modèle, c’est la moyenne de notre passé

Un modèle apprend sur des données. Si les données sont biaisées, le modèle est biaisé. C’est aussi simple, et aussi embêtant, que ça.

L’exemple canonique, c’est l’étude Gender Shades (2018), menée par Joy Buolamwini et Timnit Gebru au MIT. Elles ont testé des systèmes commerciaux de reconnaissance faciale. Résultat :

Source : MIT Media Lab, étude Gender Shades.

Un système qui se trompe une fois sur mille pour un homme blanc, et une fois sur trois pour une femme noire. Ce n’est pas un « petit bug », c’est un système qui marche très bien pour certains et très mal pour d’autres. Et le pire, c’est que ce n’était l’intention de personne. Personne n’a codé « sois raciste ». Le modèle a simplement appris sur des jeux de photos majoritairement blancs et masculins. Il a recraché nos angles morts, en pire.

La bonne nouvelle : depuis, les fabricants visés ont corrigé le tir, et le NIST a confirmé le phénomène sur 189 algorithmes puis suivi les progrès. Preuve que mesurer un biais, c’est déjà un pas énorme vers sa correction. La mauvaise nouvelle : la reconnaissance faciale, c’est un cas facile à mesurer (juste/faux). Avec l’IA générative, les biais sont plus insidieux : un modèle d’images qui, à qui on demande « un PDG », dessine douze hommes blancs, ou « une personne qui fait le ménage » et propose surtout des femmes. Là, il n’y a pas de « bonne réponse », juste un stéréotype qui se répète et se diffuse à grande échelle.

Le vrai danger n’est pas qu’une IA se trompe. C’est qu’elle se trompe de façon systématique, invisible et à l’échelle industrielle, en donnant à ses erreurs le vernis de la neutralité mathématique. « C’est l’algorithme qui a décidé » sonne tellement plus objectif que « c’est Jean-Michel du service RH ». Sauf que l’algorithme, c’est la moyenne de milliers de Jean-Michel du passé.

L’impact social : le travail, et nos cerveaux

Sur l’emploi, on entend tout et son contraire. « L’IA va détruire des millions de jobs » vs « elle va en créer autant ». La vérité, comme souvent, est plus granuleuse.

Une étude de Stanford de fin 2025 (« Canaries in the Coal Mine ») pointe un truc précis : ce sont surtout les emplois d’entrée de gamme, les jeunes qui débutent, qui trinquent en premier. Logique : l’IA excelle justement sur les tâches qu’on confiait aux juniors pour se faire les dents. Et si on supprime le premier barreau de l’échelle, on se demandera dans dix ans où sont passés les seniors.

Côté ampleur, une estimation souvent citée (Eloundou et al., OpenAI, 2023) avançait que 80 % des travailleurs américains pourraient voir au moins 10 % de leurs tâches affectées, et environ 19 % au moins la moitié. Ce sont des projections, à prendre avec des pincettes ; on a vu combien les prévisions sur la 5G étaient gonflées, Hugo le rappelle très bien. Mais la tendance est là : cette vague-ci touche les cols blancs, les diplômés, les métiers du langage (rédaction, droit, communication), là où les vagues précédentes touchaient l’industrie.

Et il y a un impact social dont on parle encore moins : le nôtre, sur notre propre tête. Je l’avais évoqué dans mon article sur la « merde » générée par l’IA : quand on délègue trop, on désapprend. Écrire, structurer une idée, lire un code inconnu et le comprendre, ce sont des compétences, et une compétence qu’on n’exerce plus s’atrophie. Le risque n’est pas seulement de perdre des emplois. C’est de perdre, collectivement, la capacité à faire nous-mêmes ce qu’on a sous-traité à la machine.

L’IA est un outil formidable pour aller plus vite. Le problème, c’est quand « aller plus vite » devient « ne plus savoir réfléchir ».

Le déséquilibre d’accès : qui tient le manche

C’est peut-être le point le plus important, et le moins visible. On présente souvent l’IA comme un grand égalisateur : « tout le monde a désormais un assistant génial dans sa poche ». Dans les faits, l’accès est terriblement inégal, à au moins trois niveaux.

La langue

Ces modèles pensent d’abord en anglais. L’UNESCO rappelle qu’environ 400 langues seulement sont pleinement accessibles en ligne, sur les quelque 7 000 que compte l’humanité. Près de la moitié du contenu web est en anglais, alors que les anglophones natifs représentent à peine 5,1 % de la population mondiale. Résultat : si vous parlez wolof, quechua ou même une langue européenne « moyenne », l’IA vous comprend moins bien, se trompe plus, et connaît mal votre contexte culturel. Une étude estime que les pays à langue « peu dotée » ont une part d’utilisateurs d’IA environ 20 % plus faible, uniquement à cause de la barrière linguistique.

Le nerf de la guerre : le calcul

Entraîner un modèle de pointe, ça coûte des centaines de millions, exige des puces que quelques entreprises seulement savent produire, et des data centers colossaux. Concrètement, une poignée d’acteurs, américains et chinois pour l’essentiel, fabriquent les modèles. Tous les autres, y compris des pays entiers, ne peuvent que les louer ou réfléchir à des architectures différentes et souvent moins performantes. On recrée une dépendance, cette fois sur l’infrastructure la plus stratégique du siècle.

La double peine

Et là se dessine une asymétrie assez cruelle, qui boucle avec les points précédents. Les pays du Sud fournissent une grande partie du travail pénible (l’étiquetage à 2 $ de l’heure) et une partie des ressources minières. Mais ils reçoivent en retour des outils qui les comprennent mal et qu’ils ne contrôlent pas.

Pour résumer les quatre axes :

Faut-il être fataliste ?

Non. Et ce serait aussi malhonnête de conclure « l’IA est le mal » que de conclure « tout va bien ». Comme pour l’écologie, la vérité tient dans les ordres de grandeur et dans les usages, pas dans les slogans.

Parce qu’à côté de ces angles morts, il y a des usages réellement précieux : détection de maladies sur imagerie médicale, découverte de médicaments, aide aux personnes handicapées, traduction qui désenclave, accès à la connaissance pour qui n’a pas fait d’études. Balancer tout ça à la poubelle par principe serait aussi bête que d’avaler la hype sans réfléchir.

Mais, et c’est là que je rejoins Hugo, ce n’est pas une raison pour fermer les yeux. On ne gagne pas de points de vertu en dénonçant les biais de l’IA le lundi tout en générant des tonnes d’images « pour se marrer » le mardi, sans jamais se demander qui a été payé 2 $ pour rendre l’outil utilisable.

Mon avis

L’écologie, c’est la facture qu’on peut peser. L’éthique, c’est la facture qu’on préfère ne pas ouvrir, parce qu’elle ne se mesure pas en litres d’eau mais en choix : les nôtres, et ceux qu’on laisse d’autres faire à notre place.

Je crois surtout qu’on a, chacun, une petite marge de responsabilité. Comme je l’écrivais déjà : si vous utilisez l’IA, vous êtes responsable de ce qu’elle produit, comme avec une perceuse ou un marteau. Ça vaut pour le résultat, mais aussi pour ce qu’il y a derrière l’outil.

Concrètement, ça veut dire quoi ? Se renseigner sur la provenance des modèles qu’on utilise. Faire des choix (comme bouder OpenAI parce qu’ils aident l’armée américaine ou favoriser Mistral pour les tâches simples). Garder la main, relire, ne pas déléguer son cerveau. Préférer, quand c’est possible, les acteurs qui rémunèrent leurs sources et leurs travailleurs. Se poser deux secondes avant de générer la 400ᵉ image inutile. Et surtout, refuser le confort du « c’est l’algorithme qui décide » : derrière chaque algorithme, il y a des humains, des choix, et une facture que quelqu’un paie.

L’avenir n’est pas écrit. Comme le rappelait Hugo en citant Coluche à propos de l’écologie : « Quand on pense qu’il suffirait que les gens n’achètent plus pour que ça ne se vende pas ! » Pour l’éthique de l’IA, c’est un peu pareil. Ce qu’on accepte en masse, sans regarder, deviendra la norme. Ce qu’on questionne, on peut encore l’infléchir.

Sources

• Hugo — IA et écologie, fantasme ou bouc émissaire bien pratique ? (Eventuallycoding)
• TIME — OpenAI Used Kenyan Workers on Less Than $2 Per Hour
• NPR — NYT vs OpenAI copyright case ; Copyright Alliance — Books3 & lawsuits 2025
• MIT — Gender Shades (Buolamwini & Gebru)
• Stanford — Canaries in the Coal Mine (2025)
• Stanford HAI — Language gap in LLMs ; AI Diffusion in Low-Resource Language Countries