Par Rochele Padiachy et Usman Qazi

L’année 2025 marque le 10^e anniversaire du rapport final de la Commission de vérité et réconciliation (CVR) et de ses appels à l’action. Ces 94 appels à l’action portent sur une variété d’enjeux pour lesquels des progrès en matière de réconciliation demeurent nécessaires. Dix ans plus tard, il reste encore beaucoup à accomplir. Parallèlement, nous assistons à une transformation technologique rapide dans le domaine de l’intelligence artificielle (IA), un outil puissant qui redéfinit la manière dont nous accédons à l’information, dont nous la produisons et dont nous interagissons avec celle-ci en ligne.

Au-delà de ChatGPT : comprendre l’impact de l’IA sur l’inclusion

L’IA est entraînée à l’aide de grands modèles de langage (GML), des systèmes avancés capables d’exécuter des fonctions cognitives telles que l’apprentissage et la résolution de problèmes, et de créer des contenus de haute qualité tels que des fichiers audios, des images, du texte et du code[1]. Un exemple que vous avez probablement déjà vu est ChatGPT, l’un des GML les plus connus, capable de générer des textes et des photos de manière conversationnelle, à l’instar d’un être humain. Bien qu’un système d’IA tel que ChatGPT puisse avoir des utilisations positives, il présente également une forte propension à fournir des informations erronées, peut reproduire des préjugés négatifs présents dans ses données d’entraînement, soulève des préoccupations en matière de confidentialité et entraîne un impact environnemental important en raison de sa consommation énergétique[2].

Il est essentiel d’en tenir compte, car lorsque nous parlons de l’IA et de son intersection avec la DÉIA, nous devons comprendre ce qu’elle apporte à ces types d’espaces. Cet essor technologique soulève de nombreuses questions sur la manière dont il pourrait affecter, voire influencer, les cadres d’inclusion, d’accessibilité et de diversité. Nous devons réfléchir aux valeurs DÉIA au sein de l’écosystème de l’IA, faute de quoi nous risquons de renforcer les obstacles à l’accessibilité et à la sensibilisation. L’un de ces risques est la reproduction de discours nuisibles qui continuent de porter préjudice, aux communautés autochtones en particulier. Alors que l’IA s’enracine dans nos institutions et que nous réfléchissons au travail qu’il reste à accomplir pour la CVR et ses appels à l’action, nous devons nous poser la question suivante : qu’est-ce que cela signifie pour la souveraineté autochtone à l’ère numérique?

C’est ici que la notion de « techquité » entre en jeu.

Techquité : au-delà de l’accès à l’autonomie

Lorsque nous parlons de techquité (technologie + équité), nous faisons référence à quelque chose de bien plus profond que l’accès au Wi-Fi ou à un nouvel appareil[3]. La techquité vise à garantir que le développement technologique contribue activement à l’équité et la justice sociale pour toutes les communautés. La véritable équité dans le domaine de la technologie repose sur la participation, la capacité à contribuer à façonner, à gouverner et à tirer profit des systèmes qui définissent de plus en plus notre façon de vivre et d’apprendre et, plus important encore, nos liens les un·e·s avec les autres[4].

L’accès sans la faculté d’agir n’est pas de l’équité. C’est de la dépendance déguisée en inclusion.

Pour plusieurs communautés marginalisées et racisées, être connecté·e n’a pas toujours été synonyme d’autonomisation. Cela est particulièrement vrai pour de nombreuses communautés autochtones au Canada et ailleurs. Dans un rapport rédigé par l’Assemblée des Premières Nations et les Services aux Autochtones Canada, on souligne l’ampleur du fossé numérique : seulement environ 40 % des communautés des Premières Nations ont accès à Internet haute vitesse, tandis que d’importantes disparités persistent notamment en matière d’éducation, de santé et d’emploi[5]. Avec l’ajout de l’IA, ces espaces, sans dialogue adéquat ni consentement, risquent de reproduire les schémas passés et d’accentuer le fossé numérique. L’innovation devient alors une autre forme d’extraction plutôt qu’un processus de collaboration.

La conception de l’IA par les Maori·e·s : le modèle koru

La question n’est donc pas seulement de savoir comment les communautés autochtones accèdent à l’IA, mais aussi qui décide de la manière dont elle est conçue, entraînée et utilisée. Ces outils devraient être développés en partenariat avec les communautés autochtones, en s’appuyant sur leurs visions du monde et leurs pratiques de gouvernance.

Partout dans le monde, les communautés autochtones sont déjà en train de redéfinir cette relation. Un exemple frappant du leadership autochtone dans le domaine de l’IA est illustré par les travaux mis en avant dans le document intitulé « Blueprint for Equity and Inclusion in Artificial Intelligence » (Plan d’action pour l’équité et l’inclusion dans l’intelligence artificielle) publié en 2022 par le World Economic Forum. Ce rapport s’appuie sur les concepts développés par Sarah Cole Stratton du Māori Lab, dont le cadre inspiré de la culture maorie redéfinit le cycle de vie de l’IA à travers les notions de Whakapapa (interconnexion), de Whanaungatanga (responsabilité relationnelle) et de Kaitiakitanga (intendance). Stratton a été l’une des principales contributrices au projet WEC, où son « Representative, Responsible, Evolutionary AI Life Cycle » (trad. : « Le cycle de vie de l’IA représentative, responsable et évolutive ») a été mis en avant. Contrairement aux cycles de vie conventionnels de l’IA qui tournent en boucle dans un cercle vicieux de préjugés et de répétitions, le modèle de Stratton se déploie comme une koru, cette fougère en spirale qui symbolise la croissance, le renouveau et la continuité[6].

Ce cadre défini par les Maoris offre une alternative puissante : un cycle de vie de l’IA qui évolue, se déploie et s’adapte à chaque itération, guidé par les connaissances de la communauté, la gestion responsable de l’environnement et la gouvernance partagée. Ce cycle de vie repensé reflète une vérité plus large : l’innovation significative est relationnelle, itérative et responsabilisante, et elle se développe à l’image du koru, tendant toujours vers une expansion responsable.

Le « koru » de Māori Lab (Sara Cole Stratton)[7]

Souveraineté des données : PCAP et les principes CARE

C’est là que le principe de souveraineté des données autochtones devient pertinent et essentiel. Il s’agit des droits fondamentaux[8] et des cadres régionaux tels qu’ils apparaissent dans les principes de PCAP (propriété, contrôle, accès et possession) au Canada[9].

Dans un article rédigé par le Groupe de travail international pour les affaires autochtones (IWGIA), une organisation mondiale de défense des droits de la personne qui se consacre à la promotion et à la défense des droits des peuples autochtones[10], on souligne que les peuples autochtones doivent être les décideurs quant à l’utilisation de leurs données et de leurs représentations culturelles dans les systèmes numériques[11]. Dans de nombreux cas, les données recueillies auprès des communautés autochtones ou marginalisées sont extraites, marchandisées et utilisées sans consentement. Des cadres tels que les principes CARE (collective benefit [bénéfice collectif], authority to control [autorité de contrôle], responsibility [responsabilité], ethics [éthique]) pour la gouvernance des données autochtones nous rappellent que la souveraineté des données n’est pas simplement une norme technique, mais aussi une question de respect et d’autodétermination[12].

L’IA complexifie encore davantage ce paysage. Les systèmes d’IA utilisent des ensembles de données massifs, dont la plupart sont d’origine introuvable et reflètent souvent des préjugés historiques et systémiques. Lorsque ces modèles sont entraînés à partir de données non vérifiées, ils risquent fortement de multiplier et de reproduire les inégalités. En l’absence de participation et de supervision autochtones, plusieurs voix soulèvent des préoccupations quant au fait que l’IA pourrait devenir ce que certain·e·s chercheurs·euses appellent le colonialisme des données : la monétisation et l’extraction de la langue, de la culture et des connaissances sans consentement ni responsabilité[13].

L’IA autochtone en action : exemples tirés d’Amérique latine

Combler le fossé numérique exige des réformes structurelles, notamment des pratiques éthiques en matière de données qui respectent le consentement et l’autonomie des communautés, ainsi que des politiques qui favorisent la participation inclusive et la préservation culturelle[14]. Certains pays ont déjà commencé à expérimenter des initiatives d’IA menées par des Autochtones qui privilégient la préservation culturelle et la gouvernance communautaire.

Par exemple, un rapport intitulé L’intelligence artificielle centrée sur les peuples autochtones : perspectives depuis l’Amérique latine et les Caraïbes[15] souligne l’importance de l’inclusion participative, d’un usage éthique des données et des systèmes d’IA ancrés dans les systèmes de connaissances autochtones[16]. La numérisation des données autochtones doit garantir leur droit à l’autodétermination et à la propre gouvernance de leurs données, à utiliser ces dernières selon leurs valeurs et leurs intérêts communs, leur libre consentement, préalable et éclairé à une participation collaborative, et enfin garantir leur vie privée et leurs droits à la propriété intellectuelle[17]. Parmi les exemples intégrant de tels protocoles, notons :

• Des chercheur·euse·s de l’Institut technologique d’Oaxaca ont créé une application basée sur l’IA pour soutenir la revitalisation de la langue tu’un savi, en proposant des informations sur la prononciation et l’écriture à l’aide des caméras des téléphones cellulaires[18].
• Des chercheur·euse·s de Veracruz ont utilisé le traitement automatique du langage naturel pour évaluer la prononciation dans les langues autochtones, favorisant ainsi l’accès à l’éducation[19].

Ces exemples illustrent l’utilisation inclusive des valeurs DÉIA dans le cadre de l’IA.

La réconciliation à l’ère numérique : la voie à suivre pour le Canada

Bien que nous ayons abordé les questions d’éthique de l’IA à l’échelle mondiale, le débat sur l’IA dans le contexte canadien doit élargir la gouvernance des données autochtones, et la souveraineté autochtone doit s’appuyer sur les appels à l’action de la CVR et le contexte plus large de la réconciliation. Le dialogue entre l’IA et la DÉIA doit être mené en gardant à l’esprit les valeurs de la DÉIA, notamment l’expérience vécue, l’équité et les approches critiques, qui sont importantes pour aborder l’intersection entre l’IA et la DÉIA en relation avec le soutien aux communautés racisées et marginalisées. Sans conception intentionnelle, politiques inclusives et leadership autochtone, l’IA risque de devenir un autre outil d’assimilation et d’exclusion.

Avec l’avènement de cette nouvelle technologie en pleine expansion, ainsi que les enjeux soulevés à l’échelle mondiale par l’ONU et l’UNESCO, nous sommes contraint·e·s d’examiner de manière critique où cela nous mène. Lorsque nous réfléchissons à la CVR et aux appels à l’action, nous devons nous demander si l’IA perpétue les mêmes formes de discrimination à l’égard des peuples autochtones qu’auparavant. Au cours des dix dernières années, nous avons appris que la réconciliation n’est pas statique; elle doit évoluer en fonction des réalités sociales, politiques et technologiques. Et, dans ce contexte d’innovation fulgurante en matière d’IA, la réconciliation doit également composer avec les enjeux de souveraineté numérique et de techquité.

Ainsi, lorsque nous réfléchissons à la manière dont les communautés autochtones sont affectées par l’IA et à son potentiel de reproduire des schémas historiques néfastes de dépossession, il peut être inquiétant de constater l’absence de contrôle ou de lignes directrices permettant d’atténuer ces risques d’exploitation numérique et de renforcement des préjugés. La techquité permet d’utiliser l’IA dans un cadre défini, et en tenant compte des valeurs de la DÉIA, assure des approches centrées sur les personnes qui peuvent protéger les droits des peuples autochtones, leur donner les moyens d’agir en tant que décideur·euse·s et, s’ils·elles choisissent de participer, leur permettre d’utiliser la technologie selon leurs propres conditions[20]. Cette approche jette les bases d’un avenir inclusif pour l’IA, dans lequel les communautés autochtones continuent de façonner les technologies d’une manière qui honore leurs connaissances, leur autonomie et leurs droits.