Pour la coopération entre Etats, communautés d’experts et organisations de la société civile contre l’utilisation malveillante de l’intelligence artificielle et la déstabilisation de la sécurité psychologique internationale et des institutions démocratiques

Manifeste pour la coopération entre Etats, communautés d’experts et organisations de la société civile contre l’utilisation malveillante de l’intelligence artificielle et la déstabilisation de la sécurité psychologique internationale et des institutions démocratiques

Document final du séminaire international de recherche« Intelligence artificielle et défis pour la sécurité psychologique internationale»,, Académie diplomatique du ministère des affaires étrangères de la Fédération de Russie, Moscou, le 14 juin 2019

(Sur l’initiative de l’organisme:  European – Russian Communication Management Network)

Les possibilités et l’innovation en matière de technologies d’intelligence artificielle (IA) se développent à un rythme sans précédent. Ces technologies peuvent être utilisées dans de nombreux domaines pour le bénéfice des citoyens, allant de la traduction automatique au diagnostic médical. Les prochaines années et les prochaines décennies seront caractérisées par l’accélération de la diffusion de l’IA et les investissements mondiaux dans l’IA atteindront des milliards de dollars. Des chercheurs de divers pays et appartenant à des organisations internationales de premier plan accordent une grande attention à ces aspects positifs dérivant de l’utilisation de l’IA. Cependant, beaucoup moins de recherches se sont penchées sur l’utilisation malveillante de l’intelligence artificielle (UMIA, en anglais MUAI), mais celle-ci mérite une attention particulière en raison de ses effets éventuels catastrophiques au niveau mondial. Les recherches qui ont été effectuées ne concernent que les aspects politique, numérique, militaire et physique de l’UMIA, mais même cela reste insuffisant. L’UMIA peut être  potentiellement dangereuse pour le ciblage et la déstabilisation psychologique dans les relations internationales. Nous définissons la sécurité psychologique internationale (SPI, ou IPS en anglais) comme la protection du système des relations internationales vis à vis de toute information négative et influences psychologiques associées à divers facteurs tangibles et intangibles du développement international. Une menace majeure pour la sécurité internationale en général, et pour la SPI en particulier, provient des efforts ciblés de différents acteurs étatiques et non étatiques, dont l’objectif est de réaliser une analyse partielle/ complète, locale/globale, à court terme/à long terme, et une déstabilisation latente/explicite de la situation internationale afin d’obtenir des avantages concurrentiels. Ces acteurs peuvent même chercher à atteindre ces objectifs en éliminant physiquement l’ennemi. Les outils de guerre psychologique des acteurs étatiques et non-étatiques constituent désormais un groupe spécifique. Les acteurs qui utilisent ces outils visent à renforcer, affaiblir et /ou modifier les facteurs d’influence objectifs qui forment l’opinion et la conscience des groupes de populations cibles, à des fins sociales et de protection ou pour promouvoir des intérêts exclusifs à caractère antisocial, ce qui affaiblit la sécurité psychologique internationale. Les acteurs internationaux engagés dans une guerre hybride exercent des effets négatifs (économiques, politiques, militaires) et indirects sur la psychologie des populations chez l’adversaire et, souvent, sur leur propre population, celle de leurs alliés et les acteurs neutres. L’UMIA augmente l’impact sur la SPI dans le cadre d’une déstabilisation de la situation internationale; favorise l’instabilité croissante de l’économie mondiale, qui se heurte à une crise mondiale plus puissante que toutes les crises précédentes; entraîne des polarisations sociales croissantes dans le monde; et aggrave la menace d’un chômage de masse, due en particulier au développement des systèmes d’IA qui remplacent la main-d’œuvre.

Les technologies de l’intelligence artificielle (« hypertrucage » (« deepfake »), « vidéos truquées » (« fake persons », « face–swapping » ), « intelligence émotionnelle artificielle » , « analyse des sentiments » (« sentiment analysis »), « analyse prédictive » , etc.) tombant entre de mauvaises mains peuvent avoir de graves effets déstabilisateurs sur le développement social et politique de tout pays et sur le système de relations internationales, y compris la SPI. Face au risque de renforcement des déséquilibres géopolitiques dû à un accès inégal à l’IA, nous devons rechercher – par le biais de la coopération internationale – une répartition plus équilibrée des résultats de la recherche en matière d’IA avec des plates-formes internationales communes. Une coopération internationale accrue est nécessaire pour réduire l’UMIA. Une telle coopération pourrait également favoriser le développement des pays les plus pauvres. L’utilisation de l’IA pourrait offrir aux pays en développement l’occasion de faire des progrès technologiques et d’éviter les phases de développement industriel anciennes et obsolètes. Les États pourraient créer un mécanisme international sous la direction des Nations Unies afin d’empêcher l’émergence d’une domination sans partage de certains États en matière d’IA et de promouvoir des partenariats afin de maintenir la coopération internationale la plus large possible dans le domaine de l’IA. Les auteurs de ce document considèrent que les tâches suivantes sont importantes pour la recherche future sur le rôle de l’IA pour le maintien de la paix, de la sécurité et des valeurs démocratiques: • Créer une liste des menaces actuelles et futures liées à l’IA pour informer les citoyens (des robots contrôlés par l’opérateur aux robots autonomes, nouvelle qualité d’informations audio et vidéo factices, impact multiforme sur les campagnes politiques, discrédit des personnalités, etc.);• Analyser les pratiques nationales d’application de l’IA en termes d’effets psychologiques directs ou indirects sur le système politique dans un but de déstabilisation.• évaluer les risques de  l’UMIA contre la SPI par des acteurs non étatiques ayant des objectifs de déstabilisation des sociétés et communautés humaines;• clarifier le rôle de l’analyse prédictive et des « prognostic weapons » basées sur l’IA avec des objectifs de déstabilisation des sociétés et communautés humaines ;• analyser les moyens de neutraliser la déstabilisation psychologique délibérée des systèmes politiques par les systèmes fondés sur l’IA, etc .;• Évaluer la dimension éthique de l’utilisation de l’intelligence artificielle dans les systèmes de sécurité. La détermination, l’analyse, l’évaluation et la clarification des menaces du MUAI à l’IPS permettront de formuler des recommandations concrètes dans ce domaine. La création d’un centre international de recherche pour une meilleure compréhension et la lutte contre ces menaces est également souhaitable. Aujourd’hui, tout dépend encore des États, puis des autres acteurs qui, hélas, sont divisés et n’ont pas encore réfléchi à une stratégie commune de développement de la société. L’intelligence artificielle peut nous être bénéfique comme aucune autre invention auparavant, mais elle peut aussi se retourner contre nous en conséquence de notre mauvaise volonté politique et des travers de l’ordre social actuel. Notre avenir est entre nos mains et les menaces de l’UMIA sur l’SPI peuvent être neutralisées par une plus grande démocratisation et les progrès de l’humanité tout entière. Le document final a été approuvé lors du séminaire international de recherche « Intelligence artificielle et défis pour la sécurité psychologique internationale »  qui s’est tenu le 14 juin 2019 à l’Institut d’études internationales contemporaines de l’Académie diplomatique du Ministère des affaires étrangères de la Fédération de Russie à Moscou.

Un groupe de travail a été créé dans le but de concrétiser les dispositions du document final. Le compte rendu de la table ronde « Utilisation malveillante de l’intelligence artificielle et sécurité psychologique internationale» à la conférence internationale « Impact tangible et immatériel de l’information et de la communication à l’ère numérique », qui s’est tenue dans le cadre du « Programme Information pour tous » au Forum international sur les technologies de l’information, organisé à Khanty-Mansiysk du 9 au 12 juin 2019, est joint au présent document en tant qu’annexe. 14 juin 2019 :  http://www.eurocontinent.eu/2019/07/artificial-intelligence-and-international-psychological-security-academic-discussion-in-khanty-mansiysk-and-moscow/