Éthique de l’IA : quels enjeux après la création du Comité d’éthique du numérique ?

Le 2 décembre dernier, le Comité Consultatif National d’Éthique a été chargé par Édouard Philippe de constituer un comité pilote d’éthique du numérique. Composé de personnalités d’horizons différents, son but est d’aborder les enjeux éthiques du numérique et de l’intelligence artificielle de manière globale. Le comité se penchera dans un premier temps sur les chatbots, les voitures autonomes et le diagnostic médical. Il rendra ses premiers travaux début 2021.

Anne Bouverot, présidente du Conseil d’administration de Technicolor et de la Fondation Abeona et co-présidente du groupe de travail de l’Institut Montaigne sur les biais algorithmiques, ainsi que David Gruson, directeur du programme santé de Jouve, fondateur d'Ethik-IA, membre du comité d'éthique du numérique et auteur de la note de l’Institut Montaigne sur l’intelligence artificielle en santé, nous livrent leur analyse sur le sujet.

La France a inscrit les enjeux éthiques au coeur des préoccupations liées à l'intelligence artificielle (IA). Comment situer la création du comité d'éthique du numérique dans cette perspective ?

DAVID GRUSON

C’est une avancée très significative. Nous avions évoqué la perspective de cette création dans le rapport Numérique et santé : quels enjeux éthiques pour quelles régulations ?que nous avions co-dirigé avec Claude Kirchner, membre du Comité Consultatif National d’Ethique (CCNE) et président du Conseil d’éthique de l’Institut national de recherche en informatique et en automatique (Inria), dans le cadre de la préparation du volet numérique et IA de la révision de la loi de bioéthique. Cette proposition s’inscrivait alors dans un cadre de réflexion portant sur la notion d’une régulation positive de l’IA :s’ouvrir à l’innovation, ne pas la "surréglementer" dans un contexte juridique déjà très protecteur tout en régulant ses enjeux éthiques.

Ce nouveau comité porte la dynamique à une échelle plus large avec un mandat global pour l’ensemble des secteurs économiques et sociaux. Sa composition diversifiée – académique et opérationnelle – et sa présidence confiée à Claude Kirchner garantit, selon moi, un niveau élevé d’exigence mais aussi le prolongement de cette dynamique derégulation positive.

ANNE BOUVEROT

Il s’agit d’un comité pilote, chargé d’une part de mener des réflexions spécifiques dans le domaine de l’éthique du numérique et de l’IA, et d’autre part d’être force de recommandations pour l’organisation du débat sur ces sujets. Je salue le fait de commencer par un projet pilote : c’est un domaine en développement et le fait de s’appuyer sur des exemples concrets permet d’avoir une meilleure vision de la meilleure manière d’approcher ce sujet important.

On peut bien sûr se demander pourquoi un comité qui va traiter de sujets aussi divers que les agents conversationnels ou "chatbots", les véhicules autonomes et l’IA dans les diagnostics médicaux, a été créé par le comité d’éthique pour les sciences de la vie et de la santé, mais c’est, selon moi, parce que ce comité "père" a acquis une grande légitimité. C’est un excellent point de départ. Il me semble cependant qu’il faudrait assez rapidement réfléchir à donner son indépendance à ce jeune comité pilote.

L’IA et le numérique ont le potentiel de transformer de nombreux domaines, de rendre de nouvelles choses possibles mais également d’introduire de nouveaux risques. Pourquoi créer de nouvelles règles éthiques ?

ANNE BOUVEROT

L’éthique est profondément humaine et, bien sûr, nous n’avons pas attendu l’arrivée d’Internet ni de l’apprentissage automatique pour y réfléchir. Une première chose à poser est que les principes d’éthique existants, et les lois qui les protègent, doivent continuer à s’appliquer dans le monde numérique.