Pourquoi une IA axée sur la justice est-elle si importante aujourd’hui ?

 

Auteur : Heather McCain

 

 

Live Educate Transform Society (LET’S) est dirigée par des personnes en situation de handicap, neurodivergentes et 2ELGBTQIA+. Nous avons vu le jour en 2005 en tant qu’organisation de base et nous nous sommes développés pour compter aujourd’hui des bénéficiaires à travers toute l’île de la Tortue (connue sous le nom colonial d’Amérique du Nord). À mesure que notre rayonnement s’étend, nous restons ancrés dans le savoir communautaire, la bienveillance et la responsabilité.

Chez Live Educate Transform Society (LET’S), notre travail s’appuie sur les 10 principes de justice pour les personnes en situation de handicap élaborés par Sins Invalid, qui considèrent l’accessibilité, l’équité et la solidarité communautaire comme des pratiques quotidiennes et continues. Nos principes directeurs consistent notamment à mettre au centre l’expertise vécue et vivante, à remettre activement en cause et à bouleverser les systèmes qui pathologisent, déforment ou effacent les personnes et les perspectives des personnes en situation de handicap, neurodivergentes et 2ELGBTQIA+, et à privilégier les approches qui réorientent le pouvoir et les ressources vers les personnes les plus touchées.

L’intelligence artificielle fait l’objet de nombreux débats au sein des organisations à but non lucratif et des espaces communautaires. Cependant, ceux-ci placent rarement au centre, de manière significative, la justice pour les personnes en situation de handicap, la souveraineté autochtone ou l’intersectionnalité. En réponse à cela, LET’S a élaboré son Guide d’éthique de l’IA centré sur la justice ainsi qu’un guide de recherche qui l’accompagne. Notre objectif est d’aider les organisations et les individus à comprendre à la fois les avantages potentiels et les préjudices bien réels de l’IA.

Nous avons également observé des schémas préjudiciables dans ces discussions. L’IA était présentée soit comme nuisible, soit comme transformatrice, sans grande nuance. Les personnes en situation de handicap et neurodivergentes étaient critiquées pour utiliser l’IA comme outil d’accès. D’autres étaient jugées pour ne pas l’adopter assez rapidement. Ces réactions limitent tout dialogue constructif. Nous avons besoin de conversations plus approfondies, fondées sur la bienveillance, la prise en compte de la complexité et la responsabilité.

 

 

Une approche centrée sur la justice réoriente la priorité :

• De la performance à l’équité
• De la neutralité à la responsabilité
• De l’innovation à l’impact
• Du bénéfice individuel au bien-être collectif

L’IA n’est pas neutre. Elle reflète les valeurs, les préjugés et les structures de pouvoir de ceux qui la conçoivent et la déploient. Sans intervention délibérée, elle peut renforcer les inégalités systémiques, notamment le capacitisme, le racisme, le transphobie, le colonialisme et d’autres « -ismes ».

Une IA centrée sur la justice nous demande de faire plus que simplement minimiser les préjudices. Elle nous met au défi de construire activement des systèmes qui soutiennent la dignité, l’accessibilité et l’autodétermination.

 

 

Qu’est-ce qui rend une IA « centrée sur la justice » ?

 

Une IA centrée sur la justice va au-delà des listes de contrôle éthiques ou des déclarations de diversité. Elle s’enracine dans les principes de justice pour les personnes en situation de handicap, l’intersectionnalité et la responsabilité communautaire.

Chez LET’S, nous mettons l’expertise de terrain au cœur de notre démarche. Les personnes les plus touchées par ces systèmes doivent façonner la manière dont l’IA est conçue et utilisée. Les connaissances techniques seules ne suffisent pas. Une pratique éthique doit inclure une responsabilité relationnelle et un leadership communautaire.

Les éléments clés d’une IA centrée sur la justice comprennent :

• Le leadership fondé sur l’expertise vécue : les personnes issues des communautés concernées doivent guider la conception, l’utilisation et l’évaluation de l’IA
• Le consentement éclairé : les individus doivent comprendre quand et comment l’IA est utilisée, et disposer de choix significatifs
• L’accessibilité dès la conception : les outils d’IA doivent être utilisables par des personnes présentant des besoins cognitifs, sensoriels et de communication variée
• La souveraineté des données : les communautés, en particulier les communautés autochtones, doivent conserver le contrôle de leurs données
• La transparence : les organisations doivent expliquer clairement l’utilisation de l’IA dans un langage simple
• Responsabilité : il doit exister des mécanismes pour remédier aux préjudices et rétablir la confiance

Cette approche reconnaît également que la « réduction des biais » (le processus proactif consistant à identifier, traiter et réduire les biais) ne suffit pas à elle seule. Les systèmes d’IA reproduisent souvent des normes néfastes, car ils sont entraînés sur des données biaisées et intégrés dans des systèmes inéquitables.

Par exemple, un outil d’IA dédié au recrutement peut prétendre réduire les biais tout en continuant à désavantager les candidats en situation de handicap s’il privilégie des indicateurs de productivité fondés sur des préjugés discriminatoires à l’égard des personnes en situation de handicap.

Une IA centrée sur la justice nous oblige à remettre en question les fondements de ces systèmes, et non pas simplement à ajuster leurs résultats.

Cela implique également de prendre le temps. Une mise en œuvre éthique nécessite du temps, de la réflexion et l’engagement de la communauté. Une adoption rapide sans analyse critique conduit souvent à des préjudices.

 

 

Risques et préjudices que nous ne pouvons ignorer

 

L’IA est souvent présentée comme un outil neutre, mais ses impacts sont profondément politiques et sociaux. Sans une perspective centrée sur la justice, l’IA peut renforcer et aggraver les préjudices.

Parmi les principaux risques, on peut citer :

• Biais algorithmiques : les systèmes d’IA peuvent reproduire la discrimination à l’encontre des personnes en situation de handicap, des personnes racialisées, des personnes 2ELGBTQIA+ et des communautés privées d’équité
• Exploitation des données : les données personnelles et communautaires peuvent être utilisées sans consentement ni partage des bénéfices
• Surveillance : l’IA peut permettre une surveillance accrue des communautés privées d’équité, en particulier celles qui font déjà l’objet d’une surveillance policière excessive
• Lacunes en matière d’accessibilité : de nombreux outils d’IA ne sont pas conçus en tenant compte des utilisateurs en situation de handicap
• Perte de lien humain : une dépendance excessive à l’IA peut réduire l’engagement relationnel significatif dans la prestation de soins et de services
• Préjudice épistémique : les savoirs issus de l’expérience vécue peuvent être dévalorisés au profit de résultats « fondés sur les données »

Ces risques ne sont pas hypothétiques. Ils se concrétisent déjà.

Par exemple, les outils de prise de décision automatisés utilisés pour sélectionner les candidats à un logement, à des prestations d’invalidité ou à des aides au revenu peuvent classer des familles comme « à haut risque » sur la base de données biaisées, ce qui entraîne une surveillance accrue ou le refus de services pour les membres de la communauté en situation de handicap et à faibles revenus. De même, les images et les textes générés par l’IA peuvent par défaut présenter des exemples de personnes blanches, cisgenres et valides, effaçant discrètement les réalités, les corps et les cultures des personnes noires, autochtones, en situation de handicap et 2ELGBTQIA+.

Dans les secteurs associatifs et communautaire, une responsabilité supplémentaire entre en jeu. Les organisations travaillent souvent avec des communautés qui ont subi des préjudices systémiques et qui sont marquées par la méfiance.

L’utilisation de l’IA sans lignes directrices éthiques claires peut nuire aux relations et à la crédibilité. Elle peut également renforcer les inégalités existantes.

Une IA centrée sur la justice nous oblige à nous poser les questions suivantes :

• À qui cet outil profite-t-il ?
• Qui pourrait en subir les conséquences négatives ?
• Quelles garanties sont en place ?
• Renforçons-nous ou combattons-nous les inégalités ?

Si nous ne pouvons pas répondre clairement à ces questions, nous devrions reconsidérer la manière dont nous utilisons l’IA, voire nous demander s’il convient de l’utiliser.

 

 

Mesures concrètes pour une utilisation éthique de l’IA au sein des organisations

 

Évoluer vers une IA centrée sur la justice exige une intention claire et une prise de responsabilité. Les organisations peuvent prendre des mesures concrètes pour aligner leurs pratiques sur les principes de justice.

Chez LET’S, nous recommandons les actions suivantes :

• Élaborer une politique d’éthique de l’IA fondée sur la justice, et pas seulement sur la conformité
• Impliquer les membres de la communauté, en particulier ceux qui possèdent une expertise de terrain, dans les processus décisionnels
• Réaliser des audits d’accessibilité des outils d’IA avant leur mise en œuvre
• Utiliser un langage simple pour communiquer lorsque l’IA est utilisée
• Limiter la collecte de données au strict nécessaire et garantir un stockage sécurisé
• Éviter d’utiliser l’IA pour des décisions à enjeux élevés sans supervision humaine
• Dispenser une formation au personnel sur l’utilisation éthique de l’IA, y compris les considérations relatives aux biais et à l’accessibilité
• Réexaminer et mettre à jour régulièrement les pratiques en matière d’IA en fonction des retours d’expérience et de l’évolution des connaissances

Il est également important de savoir reconnaître quand il ne faut pas utiliser l’IA.

Certains contextes exigent un contact humain, des nuances et une attention que l’IA ne peut reproduire. Par exemple, l’accompagnement en situation de crise, les consultations communautaires et les services tenant compte des traumatismes doivent donner la priorité à l’engagement humain.

Les organisations doivent également prendre en compte l’impact environnemental de l’IA. Au sein de notre organisation, nous savons que nous, les personnes en situation de handicap, pouvons l’utiliser comme un outil d’accessibilité pour faciliter notre travail, mais nous devons être conscients du fait que l’IA est source de handicap pour certaines personnes en raison des impacts environnementaux liés à sa consommation d’eau et d’énergie. Ces impacts ne sont pas répartis de manière équitable. Les communautés déjà confrontées au racisme environnemental, à des conditions de travail dangereuses et à l’injustice climatique en subissent souvent les conséquences les plus lourdes.

Une IA centrée sur la justice ne consiste pas seulement à faire des choix réfléchis, alignés sur des valeurs, qui privilégient les personnes et la planète plutôt que la productivité, le profit ou le prestige. Cela peut se traduire par le choix d’outils accessibles et économes en énergie, par leur test au sein de la communauté, et par la volonté de changer de cap si des préjudices apparaissent.

 

 

Renforcer la responsabilité collective et ouvrir des perspectives d’avenir

 

Une IA centrée sur la justice n’est pas une initiative ponctuelle. Il s’agit d’une pratique continue qui nécessite réflexion, adaptation et responsabilité collective.

Aucune organisation ne peut mener à bien ce travail seule. La collaboration entre les communautés et les secteurs est essentielle.

Nous devons créer des espaces où les personnes peuvent :

• Partager leurs expériences des préjudices subis et des répercussions
• Élaborer ensemble des cadres et des pratiques éthiques
• Remettre en question les discours dominants sur la technologie
• Imaginer des avenirs alternatifs ancrés dans la justice et la bienveillance

Chez LET’S, notre Guide d’éthique de l’IA est un document évolutif. Il s’enrichit au fur et à mesure que nous tirons des enseignements de la communauté, de la recherche et de la pratique. Nous encourageons chacun à s’y référer et à l’adapter.

L’IA a le potentiel de favoriser l’accessibilité et de réduire les obstacles. Cependant, cela ne se produira qu’à condition de mener une action délibérée.

Nous ne pouvons pas rester passifs face au développement de l’IA. Les enjeux sont trop importants.

Une IA centrée sur la justice nous met au défi de repenser la technologie comme un outil de libération collective plutôt que de profit individuel.

Ce travail commence par poser de meilleures questions, écouter attentivement et s’engager à agir.

 

 

Déclaration de transparence sur l’IA :

LET’S pratique la responsabilité relationnelle : nous rendons compte aux communautés de la manière dont nos choix affectent les personnes, les communautés et le territoire. Nous assumons la responsabilité d’identifier les préjudices, d’écouter les critiques et de changer de cap lorsque cela s’avère nécessaire.

La transparence fait partie intégrante de cette responsabilité ; c’est pourquoi nous partageons cette déclaration sur l’IA.

Chez Live Educate Transform Society (LET’S), nous considérons l’IA comme un outil qui nécessite de la prudence et un esprit critique, en reconnaissant qu’elle véhicule les valeurs, les préjugés et les structures de pouvoir de ceux qui la développent et l’entraînent.

Nos engagements sont les suivants :

• Utiliser l’IA de manière limitée et réfléchie
• Maintenir un contrôle humain sur tous les résultats
• Ne pas remplacer l’expérience vécue ni le jugement professionnel

En tant que petite association à but non lucratif dirigée par des personnes en situation de handicap et neurodivergentes, l’IA est utilisée par certains comme un outil d’accessibilité et de pérennité. Elle peut servir à la rédaction, à la mise en forme, à l’organisation, à la planification, à la personnalisation et/ou à la mise à disposition de ressources. Elle est utilisée de manière à respecter notre santé, notre énergie et nos capacités variables, tout en soutenant notre processus de travail.

Nous utilisons l’IA dans notre travail, mais nous reconnaissons également que la plupart des systèmes d’IA reposent sur des inégalités existantes et ont des impacts environnementaux qui aggravent le handicap et la marginalisation des personnes.

LET’S milite en faveur d’un changement systémique et promeut une utilisation de l’IA respectueuse de l’environnement. Nous élaborons et partageons des stratégies pratiques pour limiter et repenser son utilisation.

Pour cet article de blog, l’IA n’a été utilisée que dans un rôle de soutien, en s’appuyant sur le contenu et les cadres conceptuels existants de LET’S. L’IA a facilité le processus ; elle ne l’a pas piloté. L’ensemble du contenu a été relu et vérifié par LET’S.

LET’S ne choisit ni ne crée intentionnellement d’images générées par l’IA. Cependant, certaines plateformes, comme Canva, puisent dans des banques d’images tierces pouvant inclure des images générées par l’IA, souvent sans indication claire. Nous faisons de notre mieux pour identifier et éviter ces images, et nous vous invitons à nous faire part de vos remarques si vous remarquez quelque chose qui vous préoccupe.

Plateforme spécifique utilisée pour cet article de blog : IA (Claude Sonnet 4.6 sur Perplexity)