La 40e Conférence internationale des commissaires à la protection des données adopte une déclaration sur l'intelligence artificielle
À l’occasion de la 40e Conférence internationale des commissaires à la protection des données et de la vie privée, une déclaration sur l’éthique et la protection des données dans l’intelligence artificielle a été a été adoptée le 23 octobre.
Rédigé conjointement par la CNIL (France), le contrôleur européen de la protection des données de l’Union européenne et du Garante per la protezione dei Dati personali (Italie), le texte est désormais ouvert à consultation publique et à contribution.
La déclaration édicte six principes directeurs, qui constituent des valeurs fondamentales pour la préservation des droits de l’homme dans le développement de l’intelligence artificielle.
1. Les technologies d'intelligence artificielle et d'apprentissage automatique doivent être conçues, développées et utilisées dans le respect des droits fondamentaux de l'homme et conformément au principe de loyauté, en particulier en procédant ainsi :
- a. En tenant compte des attentes raisonnables des individus, en s'assurant à cette fin que l'utilisation des systèmes d'intelligence artificielle reste fidèle aux objectifs d'origine et que l'utilisation des données est compatible avec l'objectif premier de leur collecte ;
- b. En tenant compte non seulement de l'impact de l'utilisation de l'intelligence artificielle sur l'individu, mais aussi de son impact collectif sur les groupes et la société dans son ensemble ;
- c. En s'assurant que les systèmes d'intelligence artificielle sont développés de façon à faciliter l'épanouissement de l'individu, sans l'entraver ni le mettre en danger, reconnaissant ainsi le besoin de définir et de délimiter certaines utilisations.
2. Il est nécessaire de continuer à faire preuve d'attention et de vigilance, ainsi que de transparence, en ce qui concerne les effets et les conséquences des systèmes d'intelligence artificielle, en particulier en procédant ainsi :
- a. En encourageant toutes les parties prenantes pertinentes à appliquer le principe de transparence au niveau des individus, des autorités de contrôle et d'autres tiers le cas échéant, y compris grâce à la réalisation d'audits, de suivi permanent et d'évaluation de l'impact des systèmes d'intelligence artificielle, ainsi que par un examen périodique des mécanismes de surveillance ;
- b. En encourageant la responsabilité collective et conjointe, impliquant l'ensemble des acteurs et des parties prenantes, par exemple pour le développement de normes collaboratives et le partage des bonnes pratiques ;
- c. En investissant dans une meilleure sensibilisation, l'éducation, la recherche et la formation afin de garantir un niveau satisfaisant d'information et de compréhension dans le domaine de l'intelligence artificielle et de ses effets potentiels sur la société ; et
- d. En mettant en place, pour tous les acteurs concernés, des processus de gouvernance dont on peut apporter la preuve, par exemple en s'appuyant sur des tiers dignes de confiance ou en créant des comités d'éthique indépendants.
3. Il convient d'améliorer la transparence et l'intelligibilité des systèmes d'intelligence artificielle, l'objectif étant de permettre une mise en oeuvre efficace, en particulier en procédant ainsi :
- a. En investissant dans la recherche scientifique publique et privée portant sur l'intelligence artificielle explicable ;
- b. En promouvant la transparence, l'intelligibilité et l'accessibilité, par exemple en développant des modes de communication innovants, en tenant compte des différents niveaux de transparence et d'information requis en fonction de chaque audience concernée ;
- c. En rendant les pratiques des organisations plus transparentes, en particulier en mettant l'accent sur la transparence des algorithmes et la vérifiabilité des systèmes, tout en garantissant le sérieux des informations fournies ; et
- d. En garantissant la liberté des individus de maîtriser les informations les concernant, en particulier en s'assurant qu'ils sont toujours informés de façon appropriée lorsqu'ils interagissent directement avec un système d'intelligence artificielle ou qu'ils fournissent des données à caractère personnel qui seront traitées par de tels systèmes ;
- e. En fournissant des informations adéquates sur les objectifs et les effets de l'intelligence artificielle, afin de vérifier que cette dernière s'aligne toujours sur les attentes des individus et que ces derniers peuvent exercer un contrôle global sur ces systèmes.
4. Dans le cadre d'une approche globale basée sur l'« Ethics by design » (éthique intégrée), les systèmes d'intelligence artificielle doivent être conçus et développés de manière responsable, en appliquant les principes de protection de la vie privée par défaut et protection intégrée de la vie privée, en particulier en procédant ainsi :
- a. En mettant en oeuvre des mesures et procédures technico-organisationnelles, en fonction du type de système développé, pour s'assurer du respect de la vie privée des personnes concernées et de leurs données à caractère personnel, aussi bien au moment de déterminer les méthodes de traitement des données que lors du traitement lui-même ;
- b. En évaluant et en décrivant les impacts attendus sur les individus et la société, au début d'un projet reposant sur l'intelligence artificielle et au cours des développements pertinents durant tout son cycle de vie ; et
- c. En identifiant les besoins spécifiques en vue d'une utilisation éthique et loyale des systèmes, et pour respecter les droits de l'homme, dans le cadre du développement et de l'exploitation de tout système d'intelligence artificielle.
5. Il convient de donner davantage de pouvoirs à chaque personne et d'encourager l'exercice des droits individuels, tout en créant des opportunités de participation publique, en particulier en procédant ainsi :
- a. En respectant les droits en matière de vie privée et de protection des données, y compris, le cas échéant, le droit à l'information, le droit d'accès, le droit de s'opposer au traitement des données et le droit à l'effacement, ainsi qu'en promouvant ces droits grâce aux campagnes d'éducation et de sensibilisation ;
- b. En respectant les droits connexes, y compris la liberté d'expression et d’information ainsi que la non-discrimination ;
- c. En reconnaissant que le droit d'opposition ou de recours s’applique aux technologies qui ont une influence sur les opinions ou le développement personnels et en garantissant, le cas échéant, le droit de chaque individu de ne pas faire l'objet d'une décision du simple fait d'un traitement automatique, si cette décision a un impact significatif sur le plan personnel et, si ce n’est pas le cas, en garantissant le droit de chaque individu de contester une telle décision;
- d. En utilisant les capacités des systèmes d'intelligence artificielle à doter chaque individu de pouvoirs égaux et à améliorer la participation publique, via des interfaces adaptables et des outils accessibles, par exemple.
6. Il convient de réduire et d'atténuer les préjugés ou les discriminations illicites pouvant résulter de l'utilisation de données présentes dans les systèmes d'intelligence artificielle, y compris en procédant ainsi :
- a. En assurant le respect des instruments juridiques internationaux en matière de droits de l'Homme et de non-discrimination ;
- b. En investissant dans la recherche portant sur les moyens techniques d'identifier, de traiter et de limiter les préjugés ;
- c. En prenant des mesures raisonnables pour s'assurer que les données et les informations à caractère personnel utilisées dans les prises de décision automatiques sont exactes, actuelles et aussi exhaustives que possible ; et
- d. En rédigeant des conseils et des principes spécifiques destinés au traitement des préjugés et de la discrimination, et en sensibilisant davantage les individus et les parties prenantes.
La conférence appelle à l’établissement de principes communs de gouvernance en matière d'intelligence artificielle, encourageant les efforts internationaux concertés dans ce secteur, afin de veiller à ce que son développement et son utilisation se fassent dans le respect de l'éthique, et de la dignité et des valeurs humaines.
Elle a établi un groupe de travail permanent sur l'éthique et la protection des données en matière d'intelligence artificielle qui sera chargé de favoriser la compréhension et le respect des principes de la présente résolution par toutes les parties concernées impliquées dans le développement des systèmes d'intelligence artificielle, y compris les gouvernements et les autorités publiques, les organismes de normalisation, les concepteurs de systèmes d'intelligence artificielle, les prestataires et les chercheurs, les entreprises, les citoyens et les utilisateurs finaux de ces systèmes.
Enfin, la conférence l’ICDPPC sollicite l’avis de toutes les parties prenantes intéressées sur le texte adopté sous la forme d'un appel à contributions pour nourrir les travaux du nouveau groupe de travail permanent.