Future of Life Institute
Ne doit pas être confondu avec Future of Humanity Institute.
| Fondation |
mars 2014 |
|---|
| Sigle |
(en) FLI |
|---|---|
| Type | |
| Forme juridique | |
| Domaine d'activité |
Diminution des risques existentiels, notamment de l'intelligence artificielle |
| Bureau européen | |
| Pays | |
| Coordonnées |
| Fondateurs |
Jaan Tallinn, Meia Chita-Tegmark (d), Max Tegmark, Anthony Aguirre (en) |
|---|---|
| Président | |
| Personnes clés |
Meia Chita-Tegmark (d) |
| Chiffre d'affaires | |
| Site web |
| IRS |
|---|
Future of Life Institute (FLI, Institut pour l'avenir de la vie) est une association à but non lucratif dont les bureaux physiques sont à Bruxelles, Belgique et à Campbell, États-Unis. Sa mission est double :
- Diminuer les risques existentiels menaçant l’humanité (ou dits extrêmes à grande échelle), en particulier ceux provenant de l’intelligence artificielle (IA).
- Développer des visions optimistes de l'avenir, en particulier des façons positives de développer et d'utiliser de nouvelles technologies,.
Le travail de FLI comprend notamment l'octroi de subventions, la sensibilisation à l'éducation et le plaidoyer au sein des Nations unies, du gouvernement des États-Unis et des institutions de l'Union européenne.
Histoire
Le FLI a été fondée en par Max Tegmark, cosmologiste à l'institut MIT, Jaan Tallinn, cofondateur de Skype, Viktoriya Krakovna, chercheuse à DeepMind, Meia Chita-Tegmark, chercheuse postdoctorale à l'Université de Tufts, et Anthony Aguirre, physicien à l'UCSC.
Parmi les consultants de l'institut figurent ou figuraient l'informaticien Stuart Russell, le biologiste George Church, les cosmologistes Stephen Hawking et Saul Perlmutter, le physicien Frank Wilczek, l'entrepreneur Elon Musk, ainsi que Alan Alda et Morgan Freeman,,.
Un lourd conflit juridique oppose OpenAI à Elon Musk après que ce dernier ait tenté d'acheter OpenAI ($97 milliards) en ; OpenAI reproche à Elon Musk de mener contre l'entreprise une « campagne acharnée » et des actions « malveillantes » destinées à nuire et à entraver ses activités après son succès sans lui.
Dans ce cadre, le FLI et d'autres ONG ayant critiqué l'abandon par OpenAI de sa mission initiale, début , une assignation à comparaître (et le président du FLI, Max Tegmark a lui-même reçu une assignation individuelle fin août). Open AI semble accuser le FLI d'avoir contribué à une campagne de Musk contre Open AI. Le FLI a reçu au moins $10 millions de financement d'Elon Musk, avec un dernier financement en . Cet argent a financé la recherche technique et politique sur l'IA, dont un programme de subvention visant à produire « une IA robuste et bénéfique ». Selon le FLI, « Elon Musk n'a aucune contribution dans les activités structurelles de FLI » et FLI a distribué l'argent de Musk à des chercheurs d'IA de premier plan, et reçu en 2021 bien plus d'argent (l'équivalent de 665 millions de dollars en cryptomonnaie) de Vitalik Buterin, ce qui lui permet désormais de financer largement la recherche, le lobbying et la création d'organisations dédiées à la régulation de l'IA, comme cela est indiqué dans ses rapports de financement en ligne. De nombreux commentateurs ont estimé qu'OpenAI profite de ce procès pour intimider ses détracteurs en laissant entendre qu’Elon Musk est derrière eux tous, et selon Tyler Whitmer (qui dirige le groupe des avocats et juristes pour la sécurité scientifique et technologique [LASST] qui a aussi reçu une assignation d'OpenAI), ces assignations n'ont pas de liens étroits avec le litige mais « tentent plutôt de tirer parti du litige pour obtenir des informations auxquelles OpenAI n’a pas autrement droit ». »
Opérations
Plaidoyer
FLI contribue activement à l'élaboration des politiques en matière d'IA.
En Europe, FLI a plaidé avec succès pour l'inclusion de systèmes d'IA plus généraux, tels que GPT-4, dans le règlement sur l'intelligence artificielle de l'UE.
Aux Etats-Unis, en , le chef de la majorité au Sénat américain, Chuck Schumer, a invité le FLI à partager son point de vue sur la réglementation de l'IA avec certains sénateurs.
FLI plaide activement, aux côtés d'autres organisations, contre les deepfakes (hypertrucages) afin que ceux-ci soient interdits ainsi que contre les robots d'abattage.
Subventions de recherches
En 2015, FLI a lancé le premier programme de subventions évalué par les pairs visant à garantir que l'intelligence artificielle (IA) reste sûre, éthique et bénéfique. Lors du premier cycle, FLI a accordé 6,5 millions de dollars à 37 chercheurs.
En 2018, le deuxième programme de subventions de la FLI était axé sur la sécurité de l'IA. En 2021, 2022 et 2023, FLI créait un nouveau programme de bourses doctorales et post-doctorales financé par le programmeur russo-canadien Vitalik Buterin.
En 2022, FLI subventionnait des projets de recherches spécifiquement afin d'approfondir la compréhension des conséquences d'une guerre nucléaire en se fondant sur des données probantes.
En 2024, FLI lançait un appel à propositions pour des recherches évaluant en détail l'impact de l'intelligence artificielle sur les objectifs de développement durable (ODD) relatifs à la pauvreté, aux soins de santé, à l'énergie et au changement climatique, et la manière dont on peut s'attendre à ce qu'elle ait un impact sur ces objectifs dans un avenir proche.
La même année, FLI lançait un autre appel à propositions de recherche dans le but de concevoir des mécanismes ou des institutions de gouvernance mondiale dignes de confiance, susceptibles de contribuer à stabiliser un avenir comportant 0, 1 ou plusieurs projets d'intelligence artificielIe générale.
Conférences & évènements
Le , le FLI organisa une discussion sur l'avenir de la technologie (The Future of Technology: Benefits and Risks) au MIT, modérée par Alan Alda,,. Les participants étaient George Church (biologiste), Ting Wu (généticien), Andrew McAfee (en) (économiste), Frank Wilczek (physicien) et Jaan Tallinn,. La discussion portait sur de nombreux sujets, allant de l'avenir du génie biologique à l'éthique de l'intelligence artificielle et à la singularité,,.
Du 2 au , le FLI organisa et hébergea la conférence « The Future of AI: Opportunities and Challenges » (L’avenir de l’IA : opportunités et défis), avec pour objectif d'identifier les directions de recherche les plus prometteuses pour bénéficier des avantages de l'IA. Durant la conférence, l'institut fit circuler une lettre ouverte sur l'intelligence artificielle qui fut par la suite signée par Stephen Hawking, Elon Musk, et de nombreux autres experts dont une centaine de sommités du monde de l'IA.
En 2017, la conférence d'Asilomar sur l'IA bénéfique, en Californie, un rassemblement privé que le New York Times a appelé "les gros noms de l'IA" (y compris Yann LeCun, Elon Musk et Nick Bostrom). L'institut a publié un ensemble de principes pour le développement responsable de l'IA, issus des discussions de la conférence et signés par Yoshua Bengio, Yann LeCun et de nombreux autres chercheurs en IA. Ces principes ont pu influencer la réglementation de l'intelligence artificielle et des initiatives ultérieures, telles que les principes de l'OCDE sur l'intelligence artificielle.
En 2019, la conférence bénéfique de l'intelligence artificielle générale à Porto Rico (2019), avait pour objectif de répondre à des questions de long terme afin de garantir que l'intelligence artificielle générale soit bénéfique pour l'humanité.
Récompenses
Le prix "Future of Life" rend hommage à des personnes qui, sans avoir bénéficié d'une grande reconnaissance au moment de leurs réalisations, ont contribué à rendre le monde d'aujourd'hui bien meilleur qu'il n'aurait pu l'être autrement.
Le prix a été attribué :
- en 2017, à la famille du défunt Vasili Arkhipov pour avoir à lui seul, en 1962, probablement évité au monde une guerre nucléaire au plus fort de la crise des missiles de Cuba ;
- en 2018, à la famille du défunt Stanilas Petrov dont le jugement courageux le a probablement permis d'éviter une frappe nucléaire pendant la guerre froide, qui aurait pu facilement dégénérer en un conflit nucléaire ouvert ;
- en 2019, à Matthew Meselson pour son travail en faveur de la Convention sur l'interdiction des armes biologiques de 1972, une interdiction internationale de mise au point, de fabrication et stockage des armes bactériologiques (biologiques) ou à toxines et sur leur destruction ;
- en 2020, à la famille du défunt Dr. Viktor Zhdanov et à Dr. William Foege pour leur contribution à l'éradication du virus de la variole ;
- en 2021, à Stephen Andersen, Susan Solomon et Joseph Farman, aujourd'hui décédé pour leurs contributions essentielles au protocole de Montréal de 1987 permettant de protéger la couche d'ozone ;
- en 2022, à Jeannie Peterson, Paul Crutzen, John Birks, Richard Turco, Brian Toon, Carl Sagan, Georgiy Stenchikov, et Alan Robock pour avoir réduit le risque de guerre nucléaire en développant et en vulgarisant la science de l'hiver nucléaire ;
- en 2023, à Nicholas Meyer, Edward Hume, Brandon Stoddard, Walter F. Parkes, et Lawrence Lasker pour avoir réduit le risque de guerre nucléaire grâce au pouvoir de la narration.
Lettres ouvertes
Lettre ouverte sur les armes autonomes létales
En 2018, FLI a rédigé une lettre appelant à l'adoption de "lois contre les armes autonomes létales". Parmi les signataires figuraient Elon Musk, Demis Hassabis, Shane Legg et Mustafa Suleyman.
Lettre ouverte sur une pause dans l'IA
En , FLI a publié une lettre ouverte appelant à une pause dans le développement de systèmes d'IA plus puissants que le GPT-4,.
Lettre ouverte pour les dirigeants mondiaux
En 2024, Max Tegmark, président de la FLI, a publié une lettre avec Mary Robinson, présidente de l'ONG Global Elders, dans Le Monde, exhortant les dirigeants mondiaux à prendre des mesures urgentes face aux menaces existentielles.
Références
- (en) Cet article est partiellement ou en totalité issu de l’article de Wikipédia en anglais intitulé « Future of Life Institute » (voir la liste des auteurs).
- ↑ (en) « Transcending Complacency on Superintelligent Machines », Huffington Post, (consulté le ).
- ↑ (en) « CSER News: 'A new existential risk reduction organisation has launched in Cambridge, Massachusetts' », Centre for the Study of Existential Risk, (consulté le ).
- ↑ (en) « But What Would the End of Humanity Mean for Me? », The Atlantic, (consulté le ).
- ↑ (en) « Who we are », Future of Life Institute (consulté le ).
- ↑ (en) « Our science-fiction apocalypse: Meet the scientists trying to predict the end of the world », Salon (consulté le ).
- ↑ « La société OpenAI réplique à Elon Musk en portant plainte à son tour contre le milliardaire », Le Monde, (lire en ligne, consulté le ).
- ↑ « Future of Life Institute (FLI) has announced funding of 37 research projects through the new Elon-Musk-backed program | The Center for Brains, Minds & Machines », sur cbmm.mit.edu (consulté le )
- ↑ (en) « The little-known AI group that got $660 million », sur POLITICO, (consulté le )
- ↑ (en) « OpenAI accused of using legal tactics to silence nonprofits », sur NBC News, (consulté le )
- ↑ (en) « EU artificial intelligence act not ‘futureproof’, experts warn MEPs », sur Science|Business (consulté le )
- ↑ (en-US) Nihal Krishan, « Sen. Chuck Schumer’s second AI Insight Forum covers increased R&D funding, immigration challenges and safeguards », sur FedScoop, (consulté le )
- ↑ (en) « Ban Deepfakes », sur bandeepfakes.org (consulté le )
- ↑ (en-US) « Educating about Lethal Autonomous Weapons », sur Future of Life Institute (consulté le )
- 1 2 (en-US) « Pause Giant AI Experiments: An Open Letter », sur Future of Life Institute (consulté le )
- ↑ FLI, « 2018 AGI Safety Grant Program »
- ↑ (en-US) « PhD Fellowships », sur Future of Life Institute (consulté le )
- ↑ (en-US) « Postdoctoral Fellowships », sur Future of Life Institute (consulté le )
- ↑ (en-US) « FLI June 2021 Newsletter », sur Future of Life Institute (consulté le )
- ↑ (en-US) « Nuclear War Research », sur Future of Life Institute (consulté le )
- ↑ (en-US) « Call for proposals evaluating the impact of AI on Poverty, Health, Energy and Climate SDGs », sur Future of Life Institute (consulté le )
- ↑ (en-US) « Call for proposed designs for global institutions governing AI », sur Future of Life Institute (consulté le )
- 1 2 (en) « Is Artificial Intelligence a Threat? », Chronicle of Higher Education (consulté le ).
- ↑ (en) « Events », Future of Life Institute (consulté le ).
- ↑ (en) « FHI News: 'Future of Life Institute hosts opening event at MIT' », Future of Humanity Institute, (consulté le ).
- ↑ (en) « The Future of Technology: Benefits and Risks », Personal Genetics Education Project, (consulté le ).
- ↑ (en) « Top 23 One-liners From a Panel Discussion That Gave Me a Crazy Idea », Diana Crow Science, (consulté le ).
- ↑ (en) « The Future of Technology: Benefits and Risks », MIT Tech TV, (consulté le ).
- ↑ (en) « The Future of AI: Opportunities and Challenges », Future of Life Institute (consulté le )
- ↑ (en) « Research Priorities for Robust and Beneficial Artificial Intelligence: an Open Letter », Future of Life Institute
- ↑ (en-US) « Beneficial AI 2017 », sur Future of Life Institute (consulté le )
- ↑ (en-US) « Asilomar AI Principles », sur Future of Life Institute (consulté le )
- ↑ (en-US) « Beneficial AGI 2019 », sur Future of Life Institute (consulté le )
- ↑ « CSER at the Beneficial AGI 2019 Conference », sur www.cser.ac.uk (consulté le )
- ↑ (en-US) « Future of Life Award », sur Future of Life Institute (consulté le )
- ↑ (en-US) « Future Of Life Award 2017 », sur Future of Life Institute (consulté le )
- ↑ (en-US) « Future Of Life Award 2018 », sur Future of Life Institute (consulté le )
- ↑ (en-US) « Future Of Life Award 2019 », sur Future of Life Institute (consulté le )
- ↑ (en-US) « Future Of Life Award 2020 », sur Future of Life Institute (consulté le )
- ↑ (en-US) « Future Of Life Award 2021 », sur Future of Life Institute (consulté le )
- ↑ (en-US) « Future Of Life Award 2022 », sur Future of Life Institute (consulté le )
- ↑ (en-US) « Future Of Life Award 2023 », sur Future of Life Institute (consulté le )
- ↑ NPR, « AI Innovators Take Pledge Against Autonomous Killer Weapons »
- ↑ (fr-BE) Andrei Stiru, « Elon Musk, Steve Wozniak et des centaines d'autres appellent à ralentir la recherche sur l'IA », sur Business AM, (consulté le )
- ↑ « Crise climatique, pandémies, armes nucléaires ou risques liés à l’IA révèlent le manque de vision de trop de leaders contemporains », Le Monde.fr, (lire en ligne, consulté le )
Voir aussi
Articles dans les médias
- (en) Artificial Intelligence a Threat?, dans The Chronicle of Higher Education, avec des interviews de Max Tegmark, Jaan Tallinn et Viktoriya Krakovna.
- (en) An Open Letter to Everyone Tricked into Fearing Artificial Intelligence, dans Popular Science ().
- (en) Michael del Castillo, « Startup branding doesn’t hide apocalyptic undertones of letter signed by Elon Musk », Upstart Business Journal, .
- (en) Edd Gent, « Ex Machina movie asks: is AI research in safe hands? », Engineering & Technology, .
Articles connexes
Liens externes
- (en) Site officiel
- Ressource relative aux organisations :
- (en) The Future of Technology: Benefits and Risks - MIT Tech TV
