Brève

Christine Balagué* : « Les start-up qui développent l’IA doivent intégrer les questions d’éthique »

Publié le 07/11/2017

Article réservé aux abonnés

visuel Balagué

Les technologies d’IA soulèvent d’importants problèmes d’éthique, en particulier dans la santé. Pour développer ces technologies très innovantes, elles doivent intégrer ces questions, comme la transparence des algorithmes et la loyauté des systèmes d’IA. L’éthique va bien au-delà du simple respect de la loi. Le respect de la loi ne génère pas automatiquement la confiance sur le marché. A l’intérieur de ces produits, une vraie valeur ajoutée doit être apportée dans les algorithmes, la manière dont on traite les données, les services proposés. Concernant la donnée, des décisions ont déjà été actées en matière de réglementation. Maintenant avec l’IA, il ne s’agit plus de l’utilisation des bases de données, mais des traitements de celles-ci. Ces derniers sont des programmes informatiques qui relèvent de méthodes de type machine learning comme le chatbot. Lorsque ce dernier envoie un message, le système apprend de l’utilisateur en lui posant des questions précises. La problématique tourne autour du mode de fonctionnement de ce système et de sa responsabilité dans le prédiagnostic médical. Sur ce sujet de la transparence des algorithmes, la France est le pays le plus avancé. Et même les entreprises qui sont les plus avancées en IA comme les Gafa ont créé une association IA Partnership afin d’intégrer ces notions d’éthique. Dans ce cadre, plusieurs questions sont posées : la transparence, la responsabilité, la non-discrimination… Car quand des algorithmes biaisent les résultats, on peut en arriver à de l’illégalité. La recherche de transparence ne consiste pas à avoir connaissance du code de l’algorithme (secret commercial), mais à comprendre comment celui-ci fonctionne.

* Directrice de la chaire de recherche « réseaux sociaux et objets connectés ». Membre de la Cerna (Comité d’éthique de la recherche sur le numérique).