À l’occasion de sa 41e session, la Conférence générale de l’Organisation des Nations Unies pour l’éducation, la science et la culture (UNESCO) s’est réunie à Paris du 9 au 24 novembre 2021, à l’occasion de sa 41ème session et a adopté une recommandation sur l’éthique de l’intelligence artificielle en tenant pleinement compte du fait que le développement rapide des technologies de l’IA rend difficiles une mise en œuvre et une gouvernance éthiques, ainsi que le respect et la protection de la diversité culturelle, et peut perturber les normes et valeurs éthiques locales et régionales.
Cependant, l’Unesco demande aux États membres d’impliquer toutes les parties prenantes, y compris les entreprises, afin de veiller à ce qu’elles jouent leurs rôles respectifs dans la mise en œuvre de la présente recommandation, et de la porter la présente à la connaissance des autorités, organismes, instituts de recherche et organismes universitaires, et institutions et organisations des secteurs public, privé et de la société civile engagés dans les technologies de l’Intelligence Artificielle, afin que leur développement et utilisation soient guidés par des recherches scientifiques de qualité ainsi que par une analyse et une évaluation éthiques.
A travers cette recommandation, l’Unesco appelle les États membres à impliquer toutes les parties prenantes, y compris les entreprises, afin de veiller à ce qu’elles jouent leurs rôles respectifs dans sa mise en œuvre, et de la porter à la connaissance des autorités, organismes, instituts de recherche et organismes universitaires, et institutions et organisations des secteurs public, privé et de la société civile engagés dans les technologies de l’IA, afin que leur développement et leur utilisation soient guidés par des recherches scientifiques de qualité ainsi que par une analyse et une évaluation éthiques.
CHAMPS D’APPLICATION
Comment mettre en exécution la recommande faite aux États membres ?
La présente Recommandation traite des questions éthiques soulevées dans le domaine de l’intelligence artificielle, dans la mesure où celles-ci relèvent du mandat de l’UNESCO. Elle aborde l’éthique de l’IA en tant que réflexion normative systématique, basée sur un cadre global, détaillé, multiculturel et évolutif de valeurs, de principes et d’actions interdépendants de nature à orienter les sociétés pour qu’elles apportent des réponses responsables aux conséquences connues et inconnues des impacts des technologies de l’IA sur les êtres humains, les sociétés, l’environnement et les écosystèmes, et leur offre une base pour accepter ou rejeter les technologies de l’IA. Elle considère l’éthique comme une base dynamique pour l’évaluation et l’orientation normatives des technologies de l’IA, en faisant de la dignité humaine, du bien-être et de la prévention des dommages des repères et en s’appuyant sur l’éthique des sciences et des technologies.
Elle ne cherche pas à donner de définition unique de l’IA, celle-ci étant appelée à évoluer en fonction des progrès technologiques. Son objectif est plutôt de traiter des caractéristiques des systèmes d’IA qui revêtent une importance majeure sur le plan éthique. En conséquence, elle envisage les systèmes d’IA comme des systèmes capables de traiter les données et l’information par un processus s’apparentant à un comportement intelligent, et comportant généralement des fonctions de raisonnement, d’apprentissage, de perception, d’anticipation, de planification ou de contrôle.
L’Unesco, par le biais de cette recommandation, prête une attention particulière aux implications éthiques plus larges des systèmes d’IA dans ses domaines centraux tels que l’éducation, la science, la culture et la communication et l’information, lesquelles font l’objet de l’étude préliminaire sur l’éthique de l’intelligence artificielle réalisée par la Commission mondiale d’éthique des connaissances scientifiques et des technologies (COMEST) de l’UNESCO en 2019.
ÉDUCATION
Pourquoi ? Parce que vivre dans des sociétés en cours de numérisation exige de nouvelles pratiques éducatives, une réflexion éthique, une pensée critique, des pratiques de conception responsables et de nouvelles compétences, au vu des conséquences sur le marché de l’emploi, l’employabilité et la
participation citoyenne.
DOMAINE STRATÉGIQUE 2 : GOUVERNANCE ET GESTION ÉTHIQUES
Les États membres devraient s’assurer que les mécanismes de gouvernance de l’IA sont inclusifs, transparents, multidisciplinaires, multilatéraux (cela inclut la possibilité d’atténuer et de réparer les dommages au-delà des frontières) et multipartites. En particulier, la gouvernance devrait comporter des aspects d’anticipation et des dispositifs effectifs de protection, de suivi des conséquences, de mise en application et de réparation. Les États membres devraient veiller à ce que les préjudices causés par le biais de systèmes d’IA fassent l’objet d’enquêtes et de réparations, en mettant en place des mécanismes d’exécution solides et des mesures correctives afin de s’assurer que les droits de l’homme, les libertés fondamentales et l’état de droit sont respectés dans le monde numérique et dans le monde physique.
Ces mécanismes et mesures devraient inclure les mécanismes de réparation fournis par des entreprises des secteurs public et privé. La vérifiabilité et la traçabilité des systèmes d’IA devraient être encouragées à cette fin. En outre, les États membres devraient renforcer leurs capacités institutionnelles à s’acquitter de cet engagement et devraient collaborer avec les chercheurs et les autres parties prenantes pour analyser, prévenir et freiner toute utilisation potentiellement malveillante des systèmes d’IA.
ÉGALITÉ DES GENRES
Les États membres devraient veiller à ce que le potentiel des technologies numériques et de l’intelligence artificielle soit pleinement optimisé afin de contribuer à l’égalité des genres, et à ce qu’il ne soit pas porté atteinte aux droits humains et aux libertés fondamentales des filles et des femmes, ni à leur sécurité et à leur intégrité, à aucun stade du cycle de vie du système d’IA. En outre, les évaluations de l’impact éthique devraient prendre en compte les questions de genre de manière transversale. Les États membres devraient allouer des fonds publics au financement de dispositifs attentifs à l’égalité des genres, veiller à ce que les politiques nationales relatives au numérique prévoient un plan d’action pour l’égalité des genres et élaborer des politiques pertinentes, par exemple sur la préparation à la vie active, en vue de soutenir les filles et les femmes et de faire en sorte que celles-ci ne soient pas exclues de l’économie numérique reposant sur l’IA.
SANTÉ ET BIEN-ÊTRE SOCIAL
Les États membres devraient s’efforcer d’utiliser des systèmes d’IA efficaces pour améliorer la santé humaine et protéger le droit à la vie, notamment en atténuant les épidémies, tout en développant et maintenant la solidarité internationale en vue de faire face aux risques et incertitudes sanitaires mondiaux. Ils devraient en outre s’assurer que le déploiement des systèmes d’IA dans le domaine des soins de santé se fait dans le respect du droit international ainsi que des obligations qui leur incombent en matière de droits de l’homme.
SUIVI ET ÉVALUATION
Les États membres – en fonction de leur situation, de leur mode de gouvernement et de leur Constitution devraient assurer de manière crédible et transparente le suivi et l’évaluation des politiques, programmes et mécanismes relatifs à l’éthique de l’IA en combinant des approches quantitatives et qualitatives. L’UNESCO peut les aider en élaborant une méthodologie UNESCO d’évaluation de l’impact éthique (EIE) des technologies de l’IA reposant sur des travaux scientifiques rigoureux, et basée sur le droit international des droits de l’homme, des lignes directrices concernant sa mise en œuvre à toutes les étapes du cycle de vie des systèmes d’IA, et des outils de renforcement des capacités destinés à soutenir les initiatives des États membres visant à former des responsables gouvernementaux, les responsables politiques et autres acteurs de l’IA concernés à la méthodologie EIE.
CONCLUSION
Les États membres et toutes les autres parties prenantes identifiées dans la présente Recommandation devraient respecter, promouvoir et protéger les valeurs, principes et normes éthiques relatifs à l’IA qui y sont énoncés, et prendre toutes les mesures en leur pouvoir pour donner effet aux recommandations stratégiques qu’elle contient. Les États membres devraient s’efforcer d’élargir et de compléter leur propre action en ce qui concerne la présente Recommandation en coopérant avec toutes les organisations nationales et internationales, gouvernementales et non gouvernementales concernées, les sociétés transnationales et les organisations scientifiques dont les activités sont en rapport avec le champ d’application et les objectifs de la présente Recommandation. L’élaboration d’une méthodologie UNESCO d’évaluation de l’impact éthique et la création de commissions nationales d’éthique de l’IA peuvent constituer d’importants outils à cet égard.
Pour rappel, l’UNESCO a vocation à être la principale institution des Nations Unies chargée de promouvoir et diffuser la présente Recommandation. Elle travaillera par conséquent en collaboration avec d’autres entités compétentes du système onusien, tout en respectant leur mandat et en évitant les chevauchements d’activités bien que le mandat de promouvoir et protéger relève de la compétence des gouvernements et des organes intergouvernementaux, la société civile jouera un rôle important pour défendre les intérêts du secteur public.
UNESCO
