Repenser l’IA : pouvons-nous entraîner les machines à être meilleures que nous ?

Jul 09, 2023

Sahir Maharaj

Suivre

--

Écouter

Partager

Imaginez un monde dans lequel la technologie en sait plus sur vous que vous. Il comprend vos préférences et vos aversions, ainsi que votre histoire personnelle. L'efficacité, la commodité et les services personnalisés sont à votre portée dans le monde d'aujourd'hui. Cela n'a-t-il pas l'air merveilleux ? Mais que se passerait-il si cette technologie présentait des défauts qui reflètent à la fois les aspects positifs et négatifs de la société humaine ? L’intelligence artificielle (IA) est une arme à double tranchant. Même si l’intelligence artificielle a le potentiel de révolutionner nos vies, le biais des données reste un problème persistant auquel il faut s’attaquer. Alors, l’IA s’attaque-t-elle aux inégalités ou renforce-t-elle simplement des préjugés préexistants ? La réponse n'est pas simple, mais il est clair que nous devons résoudre ces problèmes si nous voulons exploiter pleinement le potentiel de cette technologie.

Les fondements de l’IA reposent sur les données. Qu'il s'agisse d'un moteur de recommandation Netflix ou d'une voiture autonome, les données constituent la base sur laquelle les algorithmes d'apprentissage automatique apprennent et prennent des décisions. Lorsque les données alimentant ces algorithmes contiennent des biais (raciaux, de genre, socio-économiques, etc.), elles faussent la prise de décision. Ces préjugés sont susceptibles de renforcer les stéréotypes et de maintenir les inégalités, qu’ils soient délibérés ou non.

Examinons quelques exemples concrets pour mettre cela en contexte. L’IA est de plus en plus utilisée dans le système de justice pénale pour des tâches telles que l’évaluation des risques et les évaluations de libération conditionnelle. Sur le papier, cela semble être une idée brillante : éliminer l’erreur humaine et la remplacer par une machine impartiale. D’un autre côté, les informations utilisées pour entraîner ces algorithmes sont fréquemment tirées de documents historiques qui présentent des préjugés raciaux et socio-économiques enracinés. En conséquence, les décisions arbitraires affectent fréquemment les minorités et les personnes économiquement défavorisées. Au lieu d’égaliser les règles du jeu, l’IA renforce les préjugés préexistants.

Mais il ne s’agit pas uniquement de justice pénale. Les biais omniprésents dans les données peuvent avoir un impact significatif sur la vie des gens, depuis les candidatures à un emploi triées par des filtres d'IA jusqu'aux algorithmes de notation de crédit. Lorsqu’un système d’intelligence artificielle qui a été formé principalement sur les données d’un groupe démographique spécifique est utilisé pour trier les candidatures à un emploi, les chances sont contre les candidats issus de milieux sous-représentés. De même, si les algorithmes de notation de crédit sont formés sur des données biaisées, ils peuvent classer à tort les personnes comme « à haut risque », ce qui rend difficile l’obtention de prêts ou d’hypothèques.

Alors, comment procéder à partir de là ? La solution n’est pas simplement d’abandonner l’IA parce qu’elle est biaisée. Cela impliquerait que vous perdiez les nombreux avantages qu’il offre, allant du diagnostic médical à l’atténuation du changement climatique. Pour résoudre ce problème, une approche globale est nécessaire.

Pour commencer, les ensembles de données utilisés pour entraîner les systèmes d’IA doivent être diversifiés : Cela nécessite l’inclusion d’un ensemble diversifié de données provenant de différents groupes démographiques et secteurs sociétaux. Par exemple, les algorithmes d’IA doivent être formés sur des données représentatives de différents âges, sexes et ethnies afin de poser des diagnostics précis et impartiaux dans le secteur de la santé.

Deuxième,Les algorithmes d’IA doivent être accessibles au grand public : Dans de nombreux cas, ces algorithmes sont considérés comme des « boîtes noires », même leurs concepteurs ne comprenant pas pleinement comment une décision particulière a été prise. Nous pouvons mieux comprendre les limites et les biais des algorithmes en les rendant plus transparents, ce qui facilite leur correction.

Troisièmement, il doit y avoir une sorte de cadre juridique pour suivre et vérifier les préjugés de l’IA : Il n’existe actuellement aucune procédure standard pour évaluer les biais potentiels liés à ces technologies. La surveillance réglementaire pourrait contribuer à soumettre l’intelligence artificielle aux mêmes normes éthiques que le reste de la société, garantissant ainsi qu’elle est utilisée de manière responsable.

Ensuite, l’éducation du public est nécessaire