Recherche
À partir de 2000, alors que Raymond Kurzweil affirme que les ordinateurs pourraient bientôt dépasser l'intelligence humaine, et qu'il parle d'un « âge des machines qui pensent » (The age of spiritual machines: When computers exceed human), Marcus Hutter développe, publie ou co-publie de nombreux travaux de recherche.
visant notamment à définir ce que peut être l'intelligence machine.
Il encadre à l'IDSIA Shane Legg, un doctorant qui travaille sur les modèles théoriques de machines superintelligentes (« AIXI ») ; un travail qui se conclut en 2008 par la thèse de doctorat de S Legg intitulée « Machine Super Intelligence »,. Dans ce cadre, ayant constaté qu'en dépit de décennies de recherches, il n'existe toujours pas de définition standard ou consensuelle de l'intelligence (ce qui conduit certains à penser qu'elle ne peut être qu'approximée) il décide avec son doctorant de collecter et analyser le corpus des nombreuses définitions déjà proposées de l'intelligence,. Ils y observent des convergences fortes, souvent exprimées différemment mais renvoyant aux mêmes idées, et en tirent une définition générale et formelle de l'intelligence qu'ils dénomment intelligence universelle, que l'on peut étroitement relier, selon eux, à la « théorie des agents d'apprentissage optimaux » (un cadre formel qui porte sur comment un agent peut apprendre et agir de manière optimale dans n'importe quel environnement, en maximisant une récompense à long terme. Cette théorie liste les propriétés des meilleurs agents possibles : ceux qui apprennent le plus vite, prédisent vite et avec le plus de justesse, et prennent les décisions les plus efficaces ...selon des critères mathématiques supposés permettre l'objectivité). De manière simplifiée, et pour le cadre de l'intelligence machine, l'intelligence est, selon eux, « lune propriété qu'un agent possède quand il interagit avec son ou ses environnements ; elle est liée à la capacité de l'agent à réussir ou à tirer profit en fonction d'un objectif ou d'un but donné ; elle dépend de la faculté de l'agent à s'adapter à des objectifs et à des environnements différents ». Bref, « l'intelligence mesure la capacité d'un agent à atteindre des buts dans une grande variété d'environnements »,,. Shane Legg sera plus tard l'un des cofondateurs de DeepMind Technologies (qui sera rachetée par Google et rebaptisé Google DeepMind).
En 2005, Hutter explique dans son livre Universal Artificial Intelligence (sous-titré :Sequential Decisions Based on Algorithmic Probability) que créer une intelligence artificielle (IA) capable d'égaler ou de dépasser l'intelligence humaine est un rêve ancien, qui l'a personnellement motivé depuis sa jeunesse. Hutter considère ce défi comme crucial, car une telle avancée aurait des conséquences majeures pour la société. Selon lui une telle IA (capables de traiter des informations en entrée et de produire des actions en sortie, avec de nombreuses capacités dont la créativité, la résolution de problèmes, l'apprentissage, la reconnaissance de formes ou l'adaptation à un environnement) est un projet réalisable dans le temps de sa vie.
Il se consacre à l'élaboration d'une large théorie mathématique de l'intelligence artificielle générale (AIXI), basée sur des agents intelligents idéalisés, et sur l'apprentissage par renforcement,,.
En 2019, Hutter rejoint DeepMind, recruté par Shane Leeg.
Avec plusieurs de ses collègues, dans un article intitulé Language modeling is compression, il montre là quel pmoint les grands modèles de langage, grâce à leurs capacités prédictives, sont aussi d'excellents « compresseur »s, parfois meilleurs que des outils spécialisés (comme PNG ou FLAC). Or, précisent-il, l'« équivalence » entre prédiction et compression permet de transformer n'importe quel compresseur en modèle génératif conditionnel, ce qui offre de nouvelles perspectives pour le scaling (augmentation du nombre des paramètres, et des effets d'échelle), la tokenisation et l'apprentissage en contexte.
Il s'est aussi intéressé aux risques et problèmes de sécurité posés par le développement d'une intelligence artificielle générale (AGI) et a fortiori pour une superintelligence artificielle. Par exemploe, dès 2005, il publie avec son doctorant Shane Legg un test d'intelligence pour les systèmes d'IA.
Puis en 2018, alors qu'il est encore difficile d'imaginer ce que sera l'AGI (en raison de nos connaissances limitées et des incertitudes quand à l'avenir), il a contribué à une revue d'études sur les prédictions et hypothèses disponibles (par exemple à propos de a date d'apparition de cette AGI, des scénarios qui pourraient advenir après sa création, et concernant l'état des politiques publiques relatives à l'AGI.
Avec Mary Phuong et al. en mars 2024, il contribue à évaluer les risques d'un nouveau système d'IA via des tests de “capacités dangereuses” (comme la compoétence de persuasion, de piratage, d'auto‑réplication ou de raisonnement autonome), qu'ils ont appliqués à Gemini 1.0 sans y trouver de dangers majeurs, mais avec quelques signaux d'alerte. Les auteurs préparent une méthode scientifique plus solide pour évaluer les futurs modèles qui montrent des indices de possible désalignement.
En 2022, il co-écrit un article affirmant que « le déploiement d'un agent d'apprentissage par renforcement suffisamment avancé serait probablement incompatible avec la survie de l'humanité à long terme »,.
Selon lui (en 2024), le cadre de l'« Universal Artificial Intelligence » (UAI) définit formellement ce que signifie « agir intelligemment » dans un environnement inconnu, en unifiant la Théorie de la décision dans l'incertain, l'inférence bayésienne et l'information algorithmique pour construire l'AIXI, l'agent théorique optimal en apprentissage par renforcement. Dans un livre intitulé xxxxx , avec David Quarel et Elliot Catt, Hutter présente cette base conceptuelle (et ses approximations pratiques), puis discute les aspects philosophiques qui découlent de la possibilité (de l'inévitabilité ?) et des conséquences du développement asymptotique de l'IA, pouvant conduire à la création d'une intelligence artificielle générale.
En aout 2026, lui et plusieurs de ses collègue de Google DeepMind, dans un rapport de prospective et defuturologie, cherchent à anticiper « comment l'IA elle-même pourrait continuer à se développer dans un monde post-AGI, le long du continuum de l'intelligence artificielle », et selon eux « le point final de ce continuum, l'IA universelle, est théoriquement bien compris », ce qui permet aux auteurs d'envisager quatre voies potentielles pour un passage de l'AGI à l'ASI : le changment d'échelle de l'AGI, des changements de paradigme de l'IA, l'amélioration autorécursive, et l'émergence d'une ASI à partir de collectifs multi-agents à grande échelle.
Point de vue sur la superintelligence
En 2021, M. Hutter dans un article co-écrit avec Reinhard Hutter estime que l’IA — comme toute présente à la fois des risques et un potentiel considérable, et qu'il est possible de tirer parti de ses bénéfices tout en limitant ses dangers, ce qui exige toutefois des investissements importants dans la recherche, la cybersécurité et sécurité de l'IA, la coopération humain‑machine, la gestion des risques et la redistribution de la valeur créée. Il décrit deux « états finaux » possibles :
- une substitution massive et non contrôlée de nombreuses activités humaines entraînant chômage, inégalités et perte de cohésion sociale, ou au contraire ;
- une libération des tâches routinières permettant des sociétés plus éthiques, autonomes et centrées sur des valeurs humaines
... avec une possible combinaisons intermédiaires, selon les contextes politiques et sociaux.
En 2026 (5 ans plus tard), dans un entretien pour LinkedIn Deutschland, Hutter estime que la superintelligence ne relève plus de la science fiction, et qu'elle est une question mathématique et d'ingénierie. Selon lui, le risque principal ne viendra pas d'une “volonté hostile” de l'IA, mais de la vitesse d'auto‑amélioration récursive, dès que les humains ne contrôleront plus ce processus. Il estime que les systèmes d'IA actuels (mi-2026) peuvent déjà automatiser environ la moitié des tâches de bureau, ce qui rend la transition vers des systèmes s'auto‑améliorants plus plausible qu'il ne le pensait quelques années plus tôt.
