Center for Human-Compatible Artificial Intelligence

Histoire
Fondation	2016
Type	Centre de recherche, institut de recherche
Domaine d'activité	Alignement des intelligences artificielles
Pays	États-Unis
Affiliation	Université de Californie à Berkeley
Site web	(en) www.humancompatible.ai

Le Center for Human-Compatible Artificial Intelligence (CHAI, Centre pour des intelligences artificielles compatibles avec l'humain) est un centre de recherche américain, situé dans l'université de Californie à Berkeley, qui se concentre sur la sûreté des intelligences artificielles. Le centre a été fondé en 2016 par un groupe d'universitaires dirigé par Stuart J. Russell^,. Russell est connu pour avoir coécrit le célèbre manuel d'intelligence artificielle Artificial Intelligence: A Modern Approach.

En 2016, l'Open Philanthropy Project a accordé à CHAI un soutien de 5 555 550 $ sur cinq ans. CHAI a depuis reçu des subventions supplémentaires de l'Open Philanthropy Project de plus de 12 000 000 $^,.

Recherche

Une des principales approches de CHAI consiste à rendre les intelligences artificielles capables de déduire les valeurs humaines à partir de l'observation du comportement humain (apprentissage par renforcement inverse). Stuart Russel a détaillé cette piste de solution au problème de l'alignement dans le livre Human Compatible: Artificial Intelligence and the Problem of Control. Il a également travaillé sur la modélisation de l'interaction homme-machine dans des scénarios où les machines intelligentes ont un bouton d'arrêt qu'elles sont capables de déjouer.

Articles connexes

Notes et références

(en) Cet article est partiellement ou en totalité issu de l’article de Wikipédia en anglais intitulé « Center for Human-Compatible Artificial Intelligence » (voir la liste des auteurs).

↑ (en) Norris, « UC Berkeley launches Center for Human-Compatible Artificial Intelligence », 29 août 2016 (consulté le 27 décembre 2019).
↑ (en) Solon, « The rise of robots: forget evil AI – the real risk is far more insidious », The Guardian, 30 août 2016 (consulté le 27 décembre 2019).
↑ (en) Open Philanthropy Project, « UC Berkeley — Center for Human-Compatible AI (2016) », août 2016 (consulté le 27 décembre 2019)
↑ (en) Open Philanthropy Project, « UC Berkeley — Center for Human-Compatible AI (2019) », novembre 2019 (consulté le 27 décembre 2019).
↑ (en) « UC Berkeley — Center for Human-Compatible Artificial Intelligence (2021) », openphilanthropy.org.
↑ (en) Conn, « New Center for Human-Compatible AI », Future of Life Institute, 31 août 2016 (consulté le 27 décembre 2019).
↑ (en) Stuart J. Russell, Human compatible : artificial intelligence and the problem of control, 2019 (ISBN 978-0-525-55861-3, 0-525-55861-6 et 978-0-525-55863-7, OCLC 1113410915, lire en ligne)
↑ (en) Bridge, « Making robots less confident could prevent them taking over », The Times, 10 juin 2017.

Portail de l’intelligence artificielle

[1] (en) Norris, « UC Berkeley launches Center for Human-Compatible Artificial Intelligence », 29 août 2016 (consulté le 27 décembre 2019).

[2] (en) Solon, « The rise of robots: forget evil AI – the real risk is far more insidious », The Guardian, 30 août 2016 (consulté le 27 décembre 2019).

[3] (en) Open Philanthropy Project, « UC Berkeley — Center for Human-Compatible AI (2016) », août 2016 (consulté le 27 décembre 2019)

[4] (en) Open Philanthropy Project, « UC Berkeley — Center for Human-Compatible AI (2019) », novembre 2019 (consulté le 27 décembre 2019).

[5] (en) « UC Berkeley — Center for Human-Compatible Artificial Intelligence (2021) », openphilanthropy.org.

[6] (en) Conn, « New Center for Human-Compatible AI », Future of Life Institute, 31 août 2016 (consulté le 27 décembre 2019).

[7] (en) Stuart J. Russell, Human compatible : artificial intelligence and the problem of control, 2019 (ISBN 978-0-525-55861-3, 0-525-55861-6 et 978-0-525-55863-7, OCLC 1113410915, lire en ligne)

[8] (en) Bridge, « Making robots less confident could prevent them taking over », The Times, 10 juin 2017.