Penser la technique · module en construction
Des regards venus d'ailleurs
Mis à jour le .
Les débats sur l'IA viennent surtout d'Europe et d'Amérique du Nord. D'autres traditions posent d'autres questions : qui est une personne, à qui appartiennent les données, ce que l'IA prend à la terre et aux gens. Et toi, comment partagerais-tu les voix d'une langue menacée ?
Choisis ton niveau et ta façon de lire : tu peux en changer à tout moment.
Étape 0 : Je suis parce que nous sommes
🟢 Découverte
La plupart des règles sur l'IA protègent l'individu : sa vie privée, ses droits, ses choix. Une philosophie d'Afrique subsaharienne, l'ubuntu, part d'une autre idée : on devient une personne à travers ses relations avec les autres.
🟡 Curieux
Vue sous cet angle, une décision automatisée ne nuit pas seulement à une personne isolée : elle abîme des liens. Classer quelqu'un comme « à risque », c'est aussi toucher sa famille, son entourage, sa communauté. La question n'est plus seulement « mes droits sont-ils respectés ? », mais « ce système renforce-t-il ou défait-il les relations entre les gens ? ».
🔴 Ingénieur
Les grilles d'évaluation habituelles mesurent des effets individuels : taux d'erreur par personne, consentement de chacun·e. Une approche relationnelle demanderait aussi de mesurer les effets sur les groupes et les liens, et d'associer les communautés concernées à la conception. Le module Les IA qui décident pour nous montre des décisions automatisées qui touchent des familles entières.
Un peu d'histoire
En juillet 2020, Sabelo Mhlambi, alors chercheur (fellow) en technologie et droits humains au Carr Center for Human Rights Policy (Harvard Kennedy School), publie « From Rationality to Relationality ». Selon lui, l'IA s'est construite sur une idée occidentale de la personne définie par la raison, d'Aristote à Descartes et Turing. Il lui oppose l'ubuntu, « philosophie relationnelle d'Afrique subsaharienne », qu'il présente surtout à partir de la pensée nguni d'Afrique australe et de son adage Umu-Ntu ngumu-Ntu nga ba-Ntu : « une personne est une personne à travers les autres personnes ». Les torts causés par les décisions automatisées sont, écrit-il, « par essence des violations » de cette conception relationnelle de la personne.
Il en tire cinq critiques : l'exclusion des communautés marginalisées de la conception de ces systèmes, les biais des procédures et des données, l'oubli des liens qui unissent une société, la transformation de nos vies numériques en marchandise, et la concentration des données et des ressources. Et des propositions : associer les plus défavorisé·es, permettre aux communautés de traiter leurs données comme une propriété qu'elles peuvent accorder sous licence ou retirer, et garder les données sur les appareils de chacun·e plutôt que chez les plateformes.
Idées reçues
« L'éthique de l'IA est universelle, il suffit de l'appliquer partout. » Les principes les plus cités viennent de quelques pays. D'autres traditions changent les questions elles-mêmes : la personne, la communauté, la relation.
Étape 1 : Plusieurs techniques, plusieurs mondes
🟢 Découverte
On parle souvent de « la » technique, comme s'il n'y en avait qu'une, qui avancerait partout de la même façon. Un philosophe propose de parler plutôt de techniques au pluriel.
🟡 Curieux
Chaque culture relie à sa manière sa vision du monde, sa morale et ses outils. Une même technique, importée ailleurs, n'a pas le même sens. Penser la technique au pluriel, c'est se demander quels autres chemins auraient été possibles, et lesquels restent à inventer.
🔴 Ingénieur
Pour les ingénieur·es, la question devient concrète : un système conçu dans un pays, avec ses données et ses valeurs, est-il adapté ailleurs ? Les modules Construire ensemble (Masakhane, Common Voice) et L'IA, fruit d'une intelligence collective montrent des communautés qui construisent leurs propres outils.
Un peu d'histoire
En 2017, le philosophe Yuk Hui propose dans la revue e-flux la notion de « cosmotechnique » : « l'unification du cosmos et de la morale à travers les activités techniques ». « Il n'y a pas eu une ou deux techniques, mais de nombreuses cosmotechniques », écrit-il. Il y voit une réponse à la fin d'une mondialisation restée « largement à sens unique ».
Idées reçues
« Le progrès technique suit une seule voie, la même partout. » L'histoire montre des techniques nées de visions du monde différentes. Celle que l'on présente comme universelle n'en est qu'une parmi d'autres.
Étape 2 : À qui sont les données ?
Une communauté a enregistré des centaines d'heures de sa langue, menacée de disparaître. Si l'on met tout en ligne, librement réutilisable, les données sont faciles à trouver et à réutiliser (principes FAIR), mais la communauté n'a plus aucun contrôle : une entreprise pourrait en tirer un produit sans rien lui rendre. Si tout reste fermé, la communauté garde le contrôle mais personne ne sait que ces données existent. Les principes CARE proposent de viser les deux : « Be FAIR and CARE » : décrire publiquement les données, mais laisser la communauté décider de leur usage, et lui en faire profiter.
Une communauté a enregistré des centaines d'heures de sa langue, que parlent surtout les aîné·es. Des chercheur·ses et des entreprises voudraient s'en servir pour entraîner des IA de reconnaissance vocale.
FAIR (données)
CARE (personnes)
Barème inventé pour illustrer la tension décrite par Carroll et al. (2020) entre ouverture des données et droits des peuples autochtones. Il ne décrit aucun projet réel.
🟢 Découverte
Une communauté a enregistré les voix de sa langue. Des chercheur·ses et des entreprises veulent s'en servir pour entraîner des IA. Choisis comment les partager, et regarde ce que cela donne selon deux familles de principes.
🟡 Curieux
Les principes FAIR, très utilisés en science, demandent que les données soient trouvables, accessibles, interopérables et réutilisables : ils poussent à l'ouverture. Les principes CARE, élaborés par des réseaux autochtones, rappellent qu'il y a des personnes derrière les données : bénéfice collectif, autorité de contrôle, responsabilité, éthique. Les deux ne s'opposent pas forcément : on peut décrire publiquement des données tout en laissant la communauté décider de leur usage.
🔴 Ingénieur
Une licence peut traduire ces choix en règles : interdire l'usage commercial sans accord, ou, comme une licence de « tutelle », exiger que les usages profitent à la communauté. Les grands jeux de données ramassés sur le web, au contraire, prennent les voix et les textes sans demander.
Un peu d'histoire
En 2020, un groupe international de réseaux autochtones, au sein de la Research Data Alliance, publie les principes CARE pour la gouvernance des données autochtones. Ils s'appuient notamment sur le travail du réseau māori Te Mana Raraunga et complètent les principes FAIR : leur mot d'ordre est « Be FAIR and CARE ».
En Aotearoa-Nouvelle-Zélande, le média māori Te Hiku Media, qui travaille à la revitalisation de la langue māorie (te reo Māori) avec l'IA, protège ses données par une « licence Kaitiakitanga » (de tutelle) et donne la priorité aux demandes des communautés autochtones. En 2020, un groupe de travail réunissant des personnes autochtones d'Aotearoa, d'Australie, d'Amérique du Nord et du Pacifique publie, en ʻōlelo Hawaiʻi et en anglais, un texte de référence pour concevoir l'IA à partir des préoccupations autochtones.
Idées reçues
« Des données ouvertes, c'est forcément mieux pour tout le monde. » L'ouverture profite d'abord à celles et ceux qui ont les moyens de s'en servir. Pour une communauté, garder le contrôle de sa langue ou de ses savoirs peut être une condition pour en profiter.
Étape 3 : Ce que l’IA prend
🟢 Découverte
Derrière une IA, il y a des métaux extraits du sol, du travail mal payé, des données prises à des millions de personnes. Deux chercheuses ont rendu visibles ces coûts cachés et ces inégalités.
🟡 Curieux
On présente souvent l'IA comme immatérielle et neutre. Pour Kate Crawford, c'est une technique d'« extraction » : de minerais, de travail, de données. Pour Ruha Benjamin, des technologies présentées comme objectives peuvent reproduire, et même cacher, des discriminations raciales anciennes, ce qu'elle appelle le « New Jim Code ».
🔴 Ingénieur
Ces analyses rejoignent ce que montrent d'autres modules : le travail des annotateur·rices (L'IA, fruit d'une intelligence collective), les biais des décisions automatisées (Les IA qui décident pour nous), et une technique jamais neutre (La technique est-elle neutre ?).
Un peu d'histoire
En 2019, Ruha Benjamin publie Race After Technology: Abolitionist Tools for the New Jim Code ; le livre reçoit en 2020 le prix Oliver Cromwell Cox de l'American Sociological Association pour la recherche antiraciste. En 2021, Kate Crawford publie Atlas of AI : elle y montre l'IA comme une technique d'extraction, « des minerais tirés de la terre au travail extrait de travailleur·ses de l'information mal payé·es, jusqu'aux données prises dans chaque action et chaque expression ».
Idées reçues
« L'IA est dématérialisée. » Elle repose sur des mines, des centres de données, de l'électricité, de l'eau et du travail humain, souvent loin de celles et ceux qui l'utilisent.
Élargir les questions
| Regard | La question qu'il ajoute |
|---|---|
| L'ubuntu (Sabelo Mhlambi) | Ce système renforce-t-il ou défait-il les relations entre les gens ? |
| Les cosmotechniques (Yuk Hui) | Quelle vision du monde cette technique porte-t-elle, et quelles autres sont possibles ? |
| Les principes CARE, Te Hiku Media | Qui décide de l'usage des données, et à qui profitent-elles ? |
| Ruha Benjamin, Kate Crawford | Quelles inégalités et quelles extractions se cachent derrière la promesse d'objectivité ? |
C'est le dernier module de la section Penser la technique : des objectifs mal posés aux regards venus d'ailleurs, autant de façons de ne pas laisser la technique décider seule.