Aller au contenu principal
Service de la bibliothèque
Bottin

Ressources multidisciplinaires

IA générative

Enjeux et biais de l'intelligence artificielle

En parallèle de ses potentiels bénéfices, l'intelligence artificielle générative présente de nombreux enjeux éthiques - on parle aussi de "biais" - en raison même de ses méthodes d'entrainement, de la piètre qualité des données sur laquelle elle est entrainée, et du caractère non prédictif et non explicable des résultats et des "décisions" qu'elle peut émettre.

CC BY NC SA Infographie "Les préjudices causés par les Grands Modèles de langage" repartagée du "Guide IA Générative : concepts de base, ChatGPT et plus: Le côté sombre de l'IA", adaptée et traduite par la bibliothèque de l'ETS de "Some Harm Considerations of Large Language Models (LLMs)" par Rebecca Sweetman sous licence Creative Commons - Attribution - Pas d'utilisation commerciale - Partage dans les mêmes conditions 4.0

Afin de contrer ces biais, on a recours à des principes éthiques. De manière générale, lorsqu'on conçoit, développe ou utilise des technologies informatiques, on se doit de respecter minimalement trois grands principes éthiques (Goswami et Das 2024, chapitre 4) : 

  • garantir la protection de la vie privée
  • garantir un usage équitable de la technologie, et
  • être en mesure de déterminer l'impact sociétal de la technologie, qu'il soit positif comme négatif. 

Les biais et les enjeux que soulève l'IA Générative amènent à considérer d'autres principes afin d'en assurer une conception ou un usage éthiques (Goswami et Das 2024, chapitre 4 ; La Déclaration de Montréal de l'IA responsable 2018) .

  • La justice ou l'équité relève du traitement ou de la représentation équitable de tous les individus et de tous les groupes sociaux; sans aucune discrimination par rapport à leur ethnicité, à leur genre, à leur appartenance à quelconques groupes sociaux ou encore à leur statut socio-économique ou socio-professionnel.
  • La transparence : capacité d'expliquer comment les algorithmes fonctionnent et basent leurs "décisions" pour arriver à leurs résultats.
    • Associé au principe d'interprétabilité et d'explicabilité des résultats ou décisions obtenus, et d'explicitation des liens de causes à effet.
  • La responsabilité et l'imputabilité : établissement de mécanismes de régulation qui cadre le développement et les usages des outils utilisant l'intelligence artificielle, afin de pouvoir imputer à qui de droit les effets d'une mauvaise conception ou utilisation.
    • Associé au principe d'intégrité et de transparence
  • La confidentialité : garantie de la confidentialité des données personnelles relativement aux processus de collecte, conservation et traitement qui s'opèrent.
  • La sécurité : implantation des mesures nécessaires afin d'identifier et contrer les failles  ou potentielles attaques, ou encore des utilisations ou manipulations illégales ou criminelles.
  • L'inclusivité : considération des diverses perspectives et besoins des différentes partie-prenantes, s'assurant que les technologies AI apporte un bénéfice à toutes la société, et non à certains groupes la composant, exacerbant les inégalités existantes.
    • Associé à la justice et la transparence
  • La durabilité : évaluation de l'impact environnemental des systèmes d'IA et travailler à les diminuer (en termes de consommation d'énergie et d'empreinte carbone).
  • La robustesse et fiabilité : maintien de la précision et de la fiabilité des performances, et ce dans des conditions variées et complexes.

Ces principes constituent un prisme par lequel il est possible d'évaluer l'éthique de la conception ou l'utilisation de l'IA de manière à ce que l'on puisse être conscient des lacunes et, éventuellement minimiser les biais et préjudices de l'IA. Plusieurs traités ou autres textes visant à réguler l'IA s'appuient sur ces principes et valeurs.

L'outil ROBOT permet d'avoir un regard critique et de se questionner sur l'éthique de l'outil qu'on utilise est disponible dans la rubrique "Comment bien utiliser les outils".

Régulation existante et autres traités

L'IA générative questionne aussi nos mécanismes de régulation, notamment juridiques. Il existe quelques premiers textes législatifs et traité visant à encadrer également la conception et l'utilisation de l'IA Générative. Toutefois, ceux-ci demeurent encore imprécis au regard des contextes de l'éducation et de l'enseignement supérieur.

Au Canada :

Aux États-Unis :

En Europe :

Sources et références

Goswami, S., & Das, A. K. (2024). Bias and fairness in AI Systems. O'Reilly. https://learning.oreilly.com/library/view/ai-for-everyone/9789361590832/xhtml/chapter004.xhtml

Peterson, C. et Broersen, J. (2023, 2024/05/01). Understanding the limits of explainable ethical AI. International Journal on Artificial Intelligence Tools, 33(03), 2460001. https://doi.org/10.1142/S0218213024600017

CC BY 4.0 Sauf indications contraires, les contenus de ce guide créé par le Service de la bibliothèque de l'UQTR sont sous licence CC BY 4.0