Pause AI est un mouvement politique mondial fondé en 2023 aux Pays-Bas ayant pour objectif de coordonner à l'échelle internationale l'arrêt du développement de systèmes d'intelligence artificielle générale plus puissants, jusqu’à ce que des garanties de sécurité et de contrôle démocratique soient mises en place. Le mouvement a été créé à Utrecht en par l’entrepreneur en logiciels Joep Meindertsma.
La branche française Pause IA est lancée en . De son côté, la branche canadienne, principalement concentrée à Montréal, est fondée au printemps 2025.
Proposition
L'objectif affiché de PauseAI est d'instaurer un moratoire sur l'entraînement de systèmes d'IA générale les plus puissants afin d'éviter une catastrophe mondiale. Il s'agit de mettre en pause l'entraînement des systèmes d'IA plus puissants, en attendant d'obtenir des garanties de sécurité et un cadre de contrôle démocratique pour leur développement.
Plusieurs mesures sont proposées pour atteindre cet objectif:
Créer une agence internationale de sécurité de l'IA, similaire à l'AIEA.
N'autoriser l'entraînement de systèmes d'IA générale que si leur sécurité peut être garantie.
N'autoriser le déploiement de modèles qu'après s'être assuré de l'absence de capacités dangereuses.
Contexte
À la fin des années 2010 et au début des années 2020, une amélioration rapide des capacités des modèles d'intelligence artificielle, connue sous le nom de boom de l'IA, était en cours. Elle comprenait la sortie du grand modèle de langage GPT-3, de son successeur plus puissant GPT-4, ainsi que des modèles de génération d'images Midjourney et DALL-E. Cela a accru les inquiétudes concernant les risques de l'IA avancée, ce qui a poussé le Future of Life Institute à publier une lettre ouverte appelant «tous les laboratoires d'IA à suspendre immédiatement, pendant au moins six mois, l'entraînement des systèmes d’IA plus puissants que GPT-4». La lettre a été signée par des milliers de chercheurs en IA et de dirigeants de l’industrie, tels que Yoshua Bengio, Stuart Russell et Elon Musk.
,,
Histoire
Le fondateur Joep Meindertsma s'est d'abord inquiété du risque existentiel lié à l'intelligence artificielle après avoir lu le livre du philosophe Nick Bostrom paru en 2014, Superintelligence: Paths, Dangers, Strategies. Il a fondé PauseAI en mai 2023, mettant en suspens son poste de PDG dans une entreprise de logiciels. Meindertsma affirmait que le rythme des progrès de la recherche sur l'alignement de l'IA était en retard sur celui des capacités de l'IA, et déclarait: «il y a une chance que nous soyons confrontés à l'extinction dans un court laps de temps». Il ressentait donc le besoin d'organiser les gens pour agir.
La première action publique de PauseAI a été une manifestation devant le bureau de lobbying de Microsoft à Bruxelles en mai 2023, lors d'un événement sur l'intelligence artificielle. En novembre de la même année, le mouvement a manifesté devant le premier sommet sur la sécurité de l'IA à Bletchley Park. La déclaration de Bletchley, signée lors du sommet et reconnaissant le potentiel de risques catastrophiques liés à l'IA, a été perçue par Meindertsma comme un petit premier pas. Il a toutefois soutenu que des «traités internationaux contraignants» étaient nécessaires. Il a cité le Protocole de Montréal et les traités interdisant les armes laser aveuglantes comme exemples d'accords mondiaux réussis dans le passé.
En février 2024, des membres de PauseAI se sont rassemblés devant le siège d'OpenAI à San Francisco, notamment parce qu'OpenAI avait modifié sa politique d'utilisation qui interdisait l'usage de ses modèles à des fins militaires.
Le 13 mai 2024, des manifestations ont eu lieu dans treize pays avant le Sommet de Séoul sur l'IA 2024, notamment aux États-Unis, au Royaume-Uni, au Brésil, en Allemagne, en Australie et en Norvège. Meindertsma a déclaré que les participants au sommet «doivent réaliser qu'ils sont les seuls à avoir le pouvoir d'arrêter cette course». À San Francisco, les manifestants brandissaient des pancartes sur lesquelles on pouvait lire «Dans le doute, pause» et «Quittez votre emploi chez OpenAI. Écoutez votre conscience».
Note: j'ai conservé les liens des notes de référence et celui de la lettre ouverte en version anglaise, faute de certitude sur l'existence des pages françaises correspondantes; les autres liens pointent vers les équivalents français probables, non vérifiés.
Références
↑(en-US) Morgan Meaker, «Meet the AI Protest Group Campaigning Against Human Extinction», Wired, (ISSN1059-1028, lire en ligne, consulté le ).
123(en-US) Matt Reynolds, «Protesters Are Fighting to Stop AI, but They're Split on How to Do It», Wired, (ISSN1059-1028, lire en ligne, consulté le )
↑(en-GB) Alex Hern, «Elon Musk joins call for pause in creation of giant AI 'digital minds'», The Guardian, (ISSN0261-3077, lire en ligne, consulté le )
↑(en-US) Cade Metz et Gregory Schmidt, «Elon Musk and Others Call for Pause on A.I., Citing 'Profound Risks to Society'», The New York Times, (ISSN0362-4331, lire en ligne, consulté le )
