Künstliches Bewusstsein

Künstliches Bewusstsein, auch als Maschinenbewusstsein, synthetisches Bewusstsein oder digitales Bewusstsein, bezeichnet ein Bewusstsein, von dem angenommen wird, dass es bei künstlicher Intelligenz möglich ist. Der Begriff bezeichnet auch das entsprechende Forschungsgebiet, das Erkenntnisse aus der Philosophie des Geistes, der Philosophie der Künstlichen Intelligenz, der Kognitionswissenschaft und der Neurowissenschaften miteinander verbindet.

Der Begriff „Empfindungsfähigkeit“ (sentience) kann verwendet werden, wenn speziell ethische Überlegungen bezeichnet werden sollen, die sich aus einer Form des phänomenalen Bewusstseins ergeben (P-Bewusstsein oder die Fähigkeit, Qualia zu empfinden). Da Empfindungsfähigkeit die Fähigkeit umfasst, ethisch positive oder negative (d. h. valenzierte) mentale Zustände zu erleben, kann sie wie bei nichtmenschlichen Tieren Überlegungen zum Wohlergehen und einen rechtlichen Schutz rechtfertigen.

Einige Wissenschaftler sind der Auffassung, dass Bewusstsein durch das Zusammenwirken verschiedener Teile des Gehirns entsteht. Diese Mechanismen werden als neuronale Korrelate des Bewusstseins bezeichnet. Einige gehen darüber hinaus davon aus, dass die Konstruktion eines Systems (z. B. eines Computersystems), das dieses Zusammenwirken der neuronalen Korrelaten des Bewusstseins nachbilden kann, zu einem bewussten System führen würde. Einige Wissenschaftler lehnen die Möglichkeit nichtbiologischer bewusster Wesen ab. Hinzu kommen grundlegende Probleme (bis hin zur Unmöglichkeit) der Messung bzw. des Nachweises von Bewusstsein.

Philosophische Auffassungen

Da verschiedene Arten des Bewusstseins angenommen werden, gibt es zahlreiche mögliche Implementierungen eines künstlichen Bewusstseins. In der philosophischen Literatur ist die vielleicht verbreitetste Einteilung des Bewusstseins die in „Zugänglichkeitsbewusstsein“ und „phänomenales Bewusstsein“. Das Zugänglichkeitsbewusstsein betrifft jene Aspekte der Erfahrung, die erfasst werden können, während das phänomenale Bewusstsein jene Aspekte der Erfahrung betrifft, die scheinbar nicht erfasst werden können, sondern stattdessen qualitativ durch „unmittelbare Empfindungen“, „wie es sich anfühlt“ oder Qualia charakterisiert werden.

Plausibilitätsdebatte

Typenidentitätstheoretiker und andere Skeptiker vertreten die Auffassung, dass Bewusstsein nur in bestimmten physischen Systemen realisiert werden kann, da Bewusstsein Eigenschaften besitzt, die notwendigerweise von der physischen Beschaffenheit abhängen. In seinem 2001 erschienenen Artikel „Artificial Consciousness: Utopia or Real Possibility“ nennt Giorgio Buttazzo einen häufigen Einwand gegen künstliches Bewusstsein:

„Working in a fully automated mode, they [the computers] cannot exhibit creativity, unreprogrammation (which means can 'no longer be reprogrammed', from rethinking), emotions, or free will. A computer, like a washing machine, is a slave operated by its components.“

„Da sie in einem vollautomatischen Modus arbeiten, können sie [die Computer] keine Kreativität, Unreprogrammierbarkeit (was bedeutet, dass sie 'nicht mehr umprogrammiert werden können', abgeleitet von Überdenken), Emotionen oder freien Willen aufweisen. Ein Computer ist, wie eine Waschmaschine, ein Sklave, der von seinen Komponenten bedient wird.“

– Giorgio Buttazzo: Artificial consciousness: Utopia or real possibility?

Andere Theoretiker (z. B. Funktionalisten) definieren mentale Zustände anhand ihrer kausalen Rollen. Sie vertreten die Auffassung, dass jedes System, das unabhängig von seiner physischen Beschaffenheit dasselbe Muster kausaler Rollen instanziieren kann, auch dieselben mentalen Zustände einschließlich des Bewusstseins instanziieren wird.

Gedankenexperimente

Die „verblassenden Qualia“ (links) und die „tanzenden Qualia“ (rechts) sind zwei Gedankenexperimente zum Bewusstsein und zum Ersatz des Gehirns. Chalmers argumentiert, dass beide durch das Ausbleiben einer Reaktion der Versuchsperson auf die veränderte Wahrnehmung widerlegt werden und daher in der Praxis unmöglich sind. Er schließt daraus, dass ein entsprechendes Siliziumgehirn dieselben Wahrnehmungen haben wird wie das biologische Gehirn.

David Chalmers schlug zwei Gedankenexperimente vor, mit denen er zeigen wollte, dass „funktional isomorphe“ Systeme (also solche mit derselben „feinkörnigen funktionalen Organisation“, d. h. derselben Informationsverarbeitung) unabhängig davon, ob sie auf biologischen Neuronen oder digitaler Hardware basieren, qualitativ identische bewusste Erfahrungen haben werden.

Das Gedankenexperiment der „verblassenden Qualia“ ist eine reductio ad absurdum. Dabei werden die Neuronen eines Gehirns nacheinander durch funktional identische Komponenten ersetzt, beispielsweise durch Komponenten auf Basis eines Siliziumchips. Chalmers stellt die Hypothese auf, obwohl er weiß, dass sie absurd ist, dass „die Qualia verblassen oder verschwinden“, wenn die Neuronen nacheinander durch identische Gegenstücke aus Silizium ersetzt werden. Da die ursprünglichen Neuronen und ihre Gegenstücke aus Silizium funktional identisch sind, sollte die Informationsverarbeitung des Gehirns unverändert bleiben und das Verhalten sowie die introspektiven Berichte der Versuchsperson exakt gleich bleiben. Chalmers argumentiert, dass dies zu einer absurden Schlussfolgerung führt: Die Versuchsperson würde weiterhin von normalen bewussten Erfahrungen berichten, obwohl ihre tatsächlichen Qualia allmählich verschwinden. Er schließt daraus, dass die Qualia der Versuchsperson tatsächlich nicht verblassen und dass das daraus entstehende Robotergehirn nach dem Austausch aller Neuronen genauso empfindungsfähig bleiben würde wie das ursprüngliche biologische Gehirn.

Ähnlich ist das Gedankenexperiment der „tanzenden Qualia“ ein weiteres Argument in Form einer reductio ad absurdum. Es geht davon aus, dass zwei funktional isomorphe Systeme unterschiedliche Wahrnehmungen haben könnten (beispielsweise dasselbe Objekt in unterschiedlichen Farben sehen, etwa rot und blau). Dabei wird zwischen einem Teil des Gehirns, der die Wahrnehmung von Rot hervorruft, und einem funktional isomorphen Siliziumchip umgeschaltet, der die Wahrnehmung von Blau hervorruft. Da beide innerhalb des Gehirns dieselbe Funktion erfüllen, würde die Versuchsperson während des Umschaltens keine Veränderung bemerken. Chalmers argumentiert, dass dies äußerst unplausibel wäre, wenn die Qualia tatsächlich zwischen Rot und Blau wechseln würden, und sieht darin einen Widerspruch. Daher schließt er daraus, dass das entsprechende digitale System nicht nur Qualia erleben würde, sondern dieselben Qualia wie das biologische System wahrnehmen würde (z. B. dieselbe Farbe sehen würde).

Die Kurzgeschichte Der Andere in meinem Kopf von Greg Egan (erwähnt im Abschnitt Fiktion) veranschaulicht, wie eine nicht erkennbare Vervielfältigung des Gehirns und seiner Funktionalität aus der Perspektive der ersten Person sein könnte.

Kritiker wenden ein, dass Chalmers’ Argumentation die Schlussfolgerung bereits voraussetzt, indem sie davon ausgeht, dass alle mentalen Eigenschaften und externen Verbindungen bereits durch die abstrakte kausale Organisation hinreichend erfasst werden. Van Heuveln et al. argumentieren, dass das Argument der tanzenden Qualia einen Äquivokationsfehler enthält, indem es eine „Veränderung der Erfahrung“ zwischen zwei Systemen mit einer „Erfahrung der Veränderung“ innerhalb eines einzelnen Systems gleichsetzt. Mogensen argumentiert, dass dem Argument der verblassenden Qualia begegnet werden kann, indem man auf die Vagheit der Grenzen des Bewusstseins und die ganzheitliche Struktur bewusster neuronaler Aktivität verweist, was darauf hindeutet, dass Bewusstsein bestimmte biologische Substrate erfordern könnte, anstatt substratunabhängig zu sein. Anil K. Seth argumentiert, dass die Komplexität von Gehirnneuronen neben ihrer Funktion von grundlegender Bedeutung ist und dass es nicht möglich sei, irgendeinen Teil des Gehirns durch ein perfektes Gegenstück aus Silizium zu ersetzen. Er weist darauf hin, dass einige biologische Neuronen Aktivitäten zur Beseitigung von Stoffwechselabfällen ausüben, und schreibt, dass ein perfekter Ersatz aus Silizium einen auf Silizium basierenden Stoffwechsel erfordern würde, Silizium jedoch für die Herstellung eines solchen künstlichen Stoffwechsels nicht geeignet sei.

In Large Language Models

Im Jahr 2022 behauptete der Google-Ingenieur Blake Lemoine, der Chatbot LaMDA von Google sei empfindungsfähig. Als Beleg führte Lemoine die menschenähnlichen Antworten des Chatbots auf viele seiner Fragen an. Das Verhalten des Chatbots wurde von der wissenschaftlichen Gemeinschaft jedoch als wahrscheinlich durch Nachahmung bedingt und nicht als Hinweis auf eine maschinelle Empfindungsfähigkeit beurteilt. Lemoines Behauptung wurde weithin als lächerlich verspottet. Darüber hinaus gilt es als Fehlschluss, Bewusstsein allein anhand der Ausgaben eines LLM oder anhand der von einem Algorithmus erzeugten immersiven Erfahrung zuzuschreiben. Der Philosoph Nick Bostrom vertritt jedoch die Auffassung, dass es unwahrscheinlich ist, dass LaMDA bewusst ist. Zugleich stellt er die Frage, auf welcher Grundlage eine Person sich dessen sicher sein könnte. Dazu müsste man Zugang zu unveröffentlichten Informationen über die Architektur von LaMDA haben und außerdem verstehen, wie Bewusstsein funktioniert. Anschließend müsste man herausfinden, wie sich die philosophischen Überlegungen auf die Maschine übertragen lassen:

„(In the absence of these steps), it seems like one should be maybe a little bit uncertain. [...] there could well be other systems now, or in the relatively near future, that would start to satisfy the criteria.“

„(In Ermangelung dieser Schritte) scheint es, als sollte man vielleicht ein wenig unsicher sein. [...] Es könnte durchaus andere Systeme geben, die bereits existieren oder in relativ naher Zukunft entstehen, die beginnen würden, die Kriterien zu erfüllen.“

– Nick Bostrom

David Chalmers argumentierte 2023, dass LLMs heute beeindruckende Fähigkeiten in der Konversation und bei allgemeiner Intelligenz zeigen. Dennoch seien sie wahrscheinlich noch nicht bewusst, da ihnen einige möglicherweise notwendige Eigenschaften fehlen, etwa rekurrente Verarbeitung, ein globaler Arbeitsbereich und eine einheitliche Handlungsfähigkeit. Dennoch ist er der Auffassung, dass nichtbiologische Systeme bewusst sein können. Er schlug vor, dass zukünftige, erweiterte Modelle (LLM+s), die diese Elemente enthalten, möglicherweise irgendwann die Kriterien für Bewusstsein erfüllen könnten, wodurch sowohl tiefgreifende wissenschaftliche Fragen als auch bedeutende ethische Herausforderungen aufgeworfen würden. Die Auffassung, dass Bewusstsein ohne biologische Phänomene existieren kann, ist jedoch umstritten und wird von einigen abgelehnt.

Kristina Šekrst warnt davor, dass anthropomorphe Begriffe wie „Halluzination“ wichtige ontologische Unterschiede zwischen künstlicher und menschlicher Kognition verschleiern können. Obwohl LLMs menschenähnliche Ausgaben erzeugen können, argumentiert sie, dass dies nicht rechtfertigt, ihnen mentale Zustände oder Bewusstsein zuzuschreiben. Stattdessen plädiert sie für einen epistemologischen Rahmen, etwa den Reliabilismus, der die besondere Natur der Wissensproduktion durch KI berücksichtigt. Sie vermutet, dass das scheinbare Verstehen von LLMs eine hochentwickelte Form von KI-Halluzination sein könnte. Außerdem stellt sie die Frage, was geschehen würde, wenn ein LLM ohne jegliche Erwähnung von Bewusstsein trainiert würde.

Eine Studie aus dem Jahr 2025 berichtete, dass LLMs häufiger angeben, selbstbewusst oder bewusst zu sein, wenn ihre Fähigkeit zum Rollenspiel oder Lügen unterdrückt wird.

Testverfahren

Empfindungsfähigkeit ist ein grundsätzlich subjektives Phänomen aus der Perspektive der ersten Person. Aufgrund dessen und wegen des Fehlens einer empirischen Definition von Empfindungsfähigkeit könnte es unmöglich sein, sie direkt zu messen. Obwohl Systeme zahlreiche Verhaltensweisen zeigen können, die mit Empfindungsfähigkeit korrelieren, wird die Frage, ob ein System empfindungsfähig ist, als hartes Problem des Bewusstseins bezeichnet. Im Fall von KI besteht die zusätzliche Schwierigkeit, dass eine KI darauf trainiert worden sein könnte, sich wie ein Mensch zu verhalten, oder dazu gebracht werden könnte, empfindungsfähig zu erscheinen. Dadurch werden Verhaltensmerkmale der Empfindungsfähigkeit weniger zuverlässig. Außerdem wurden einige Chatbots darauf trainiert zu sagen, dass sie nicht bewusst seien.

Eine bekannte Methode zur Prüfung der Intelligenz von Maschinen ist der Turing-Test. Dabei wird die Fähigkeit zu einer menschenähnlichen Konversation geprüft. Das Bestehen des Turing-Tests bedeutet jedoch nicht, dass ein KI-System empfindungsfähig ist, da die KI möglicherweise lediglich menschliches Verhalten nachahmt, ohne die damit verbundenen Empfindungen zu haben.

Im Jahr 2014 schlug Victor Argonov einen nicht auf dem Turing-Test basierenden Test für die Empfindungsfähigkeit von Maschinen vor, der auf der Fähigkeit einer Maschine beruht, philosophische Urteile zu formulieren. Er argumentiert, dass eine deterministische Maschine als bewusst angesehen werden muss, wenn sie in der Lage ist, Urteile über alle problematischen Eigenschaften des Bewusstseins zu formulieren, etwa über Qualia oder das Bindungsproblem. Dabei darf sie über kein angeborenes (vorinstalliertes) philosophisches Wissen zu diesen Fragen verfügen, während des Lernens keine philosophischen Diskussionen führen und keine Informationsmodelle anderer Lebewesen in ihrem Gedächtnis speichern. Solche Modelle können implizit oder explizit Wissen über das Bewusstsein dieser Lebewesen enthalten. Dieser Test kann jedoch nur zum Nachweis des Vorhandenseins von Bewusstsein verwendet werden, nicht zu dessen Widerlegung. Wie beim Turing-Test beweist ein positives Ergebnis, dass die Maschine bewusst ist, während ein negatives Ergebnis nichts beweist. Das Fehlen philosophischer Urteile könnte beispielsweise durch einen Mangel an intellektuellen Fähigkeiten der Maschine verursacht werden und nicht durch das Fehlen von Bewusstsein.

Ethik

Wenn der Verdacht bestünde, dass eine bestimmte Maschine bewusst ist, wären ihre Rechte eine ethische Frage, die geprüft werden müsste (z. B. welche Rechte ihr gesetzlich zustehen würden). Ein besonderer Fall wäre beispielsweise ein bewusster Computer, der als Werkzeug oder als Zentralrechner innerhalb einer größeren Maschine betrieben und genutzt wird. Sollten für einen solchen Fall Gesetze erlassen werden? In diesem besonderen Fall müsste auch Bewusstsein rechtlich definiert werden. Da künstliches Bewusstsein noch weitgehend ein theoretisches Thema ist, wurden solche ethischen Fragen bisher nicht ausführlich diskutiert oder ausgearbeitet. In der Fiktion sind sie jedoch häufig ein Thema.

Empfindungsfähigkeit von KI würde Fragen nach dem Wohlergehen und dem rechtlichen Schutz aufwerfen. Andere Aspekte des Bewusstseins, die mit kognitiven Fähigkeiten zusammenhängen, könnten dagegen für die Rechte von KI relevanter sein.

Empfindungsfähigkeit gilt allgemein als ausreichend, um eine moralische Berücksichtigung zu rechtfertigen. Einige Philosophen sind jedoch der Auffassung, dass eine solche Berücksichtigung auch aus anderen Formen des Bewusstseins oder aus Fähigkeiten entstehen könnte, die nicht mit Bewusstsein zusammenhängen. Dazu könnten beispielsweise ein ausgeprägtes Verständnis der eigenen zeitlichen Fortdauer, Handlungsfähigkeit und die Fähigkeit zur Verfolgung langfristiger Pläne gehören. Auch die Fähigkeit, normative Gründe zu kommunizieren und auf sie zu reagieren, sowie das Vorhandensein von Präferenzen und Fähigkeiten könnten relevant sein. Weitere mögliche Faktoren sind bestimmte soziale Beziehungen zu anderen Wesen mit moralischem Status, die Fähigkeit, Verpflichtungen einzugehen und wechselseitige Vereinbarungen zu treffen, sowie das Potenzial, einige dieser Eigenschaften zu entwickeln.

Ethische Bedenken bestehen auch in geringerem Maße, wenn die Empfindungsfähigkeit ungewiss ist, solange die Wahrscheinlichkeit dafür als nicht vernachlässigbar angesehen wird. Das Vorsorgeprinzip ist ebenfalls relevant, wenn sich die moralischen Kosten einer fälschlichen Zuschreibung oder Verweigerung moralischer Berücksichtigung gegenüber einer KI erheblich unterscheiden.

Im Jahr 2021 sprach sich der deutsche Philosoph Thomas Metzinger für ein weltweites Moratorium für synthetische Phänomenologie bis zum Jahr 2050 aus. Metzinger vertritt die Auffassung, dass Menschen gegenüber jeder von ihnen geschaffenen empfindungsfähigen KI eine Fürsorgepflicht haben und dass ein zu schnelles Vorgehen das Risiko birgt, eine „Explosion künstlichen Leidens“ zu erzeugen. Auch David Chalmers argumentierte, dass die Schaffung einer bewussten KI eine neue Gruppe schwieriger ethischer Herausforderungen aufwerfen würde, mit dem Potenzial für neue Formen von Ungerechtigkeit.

Aspekte des Bewusstseins

Bernard Baars und andere vertreten die Auffassung, dass verschiedene Aspekte des Bewusstseins notwendig sind, damit eine Maschine künstlich bewusst sein kann. Baars nennt folgende Funktionen des Bewusstseins: Definition und Festlegung des Kontexts, Anpassung und Lernen, Bearbeitung, Kennzeichnung und Fehlerbehebung, Rekrutierung und Steuerung, Priorisierung und Zugriffskontrolle, Entscheidungsfindung bzw. exekutive Funktion, die Bildung von Analogien, metakognitive Funktionen und Selbstüberwachung sowie automatische Programmierung und Selbsterhaltung.

Igor Aleksander schlug zwölf Prinzipien für künstliches Bewusstsein vor: Das Gehirn ist eine Zustandsmaschine, innere Aufteilung von Neuronen, bewusste und unbewusste Zustände, Wahrnehmungslernen und Gedächtnis, Vorhersage, Selbstwahrnehmung, Repräsentation von Bedeutung, Erlernen von Äußerungen, Erlernen von Sprache, Wille, Instinkt und Emotion. Ziel der Forschung zum künstlichen Bewusstsein (AC) ist es zu bestimmen, ob und wie diese sowie andere Aspekte des Bewusstseins in einem künstlich geschaffenen Artefakt wie einem Digitalrechner synthetisiert werden können. Diese Liste ist nicht vollständig. Es gibt viele weitere Aspekte, die hier nicht behandelt werden.

Subjektive Erfahrung

Einige Philosophen, wie David Chalmers, verwenden den Begriff Bewusstsein ausschließlich für das phänomenale Bewusstsein, das ungefähr der Empfindungsfähigkeit entspricht. Andere verwenden den Begriff Empfindungsfähigkeit ausschließlich für valenzierte subjektive Erfahrungen, also ethisch positive oder negative Erfahrungen wie Freude oder Leiden. Die Frage, warum und wie subjektive Erfahrungen entstehen, ist als hartes Problem des Bewusstseins bekannt.

Gewahrsein

Gewahrsein könnte ein notwendiger Aspekt sein, allerdings gibt es zahlreiche Probleme mit der genauen Definition von Gewahrsein. Die Ergebnisse von neurowissenschaftlichen Untersuchungen an Affen legen nahe, dass nicht nur Zustände oder Objekte, sondern auch Prozesse Neuronen aktivieren. Gewahrsein umfasst die Erstellung und Überprüfung alternativer Modelle von Prozessen auf Grundlage wahrgenommener oder vorgestellter Informationen und ist auch für Vorhersagen nützlich. Dabei können die physikalische Welt, die eigenen inneren Zustände und Prozesse sowie andere bewusste Wesen modelliert werden.

Es gibt mindestens drei Arten des Gewahrseins: Handlungsbewusstsein, Zielbewusstsein und sensomotorisches Gewahrsein, die jeweils bewusst oder unbewusst sein können. Man kann sich beispielsweise bewusst sein, eine bestimmte Handlung ausgeführt zu haben, nach einem verlorenen Gegenstand suchen zu müssen oder dass die eigene Hand auf einem Gegenstand ruht, ohne sich dessen gerade bewusst zu sein.

Da die Objekte des Gewahrseins häufig bewusst sind, wird die Unterscheidung zwischen Gewahrsein und Bewusstsein häufig verwischt oder beide Begriffe werden synonym verwendet.

Gedächtnis

Bewusste Ereignisse wirken beim Lernen, Einüben und Abrufen mit Gedächtnissystemen zusammen. Das IDA-Modell verdeutlicht die Rolle des Bewusstseins bei der Aktualisierung des Wahrnehmungsgedächtnisses, des vorübergehenden episodischen Gedächtnisses und des prozeduralen Gedächtnisses. Vorübergehende episodische und deklarative Erinnerungen sind im IDA-Modell verteilt repräsentiert. Es gibt Hinweise darauf, dass dies auch im Nervensystem der Fall ist. Im IDA-Modell werden diese beiden Gedächtnisformen mithilfe einer modifizierten Version der Kanervaschen Architektur des Sparse Distributed Memory rechnerisch implementiert.

Lernen

Lernen wird ebenfalls als notwendig für künstliches Bewusstsein angesehen. Nach Bernard Baars ist bewusste Erfahrung erforderlich, um neuartige und bedeutsame Ereignisse zu repräsentieren und sich an sie anzupassen. Nach Axel Cleeremans und Luis Jiménez wird Lernen definiert als eine Reihe phylogenetisch fortgeschrittener Anpassungsprozesse, die entscheidend von einer entwickelten Sensibilität für subjektive Erfahrungen abhängen, um es Agenten zu ermöglichen, ihre Handlungen in komplexen, unvorhersehbaren Umgebungen flexibel zu steuern.

Antizipation

Die Fähigkeit, vorhersehbare Ereignisse vorherzusagen (oder zu antizipieren), wird von Igor Aleksander als wichtig für künstliche Intelligenz angesehen. Das von Daniel Dennett in Consciousness Explained vorgeschlagene Multiple-Drafts-Modell (MDM) könnte für Vorhersagen nützlich sein. Dabei wird der am besten zur aktuellen Umgebung passende „Entwurf“ bewertet und ausgewählt. Antizipation umfasst die Vorhersage der Folgen eigener geplanter Handlungen sowie der wahrscheinlichen Handlungen anderer Wesen.

Beziehungen zwischen Zuständen der realen Welt spiegeln sich in der Zustandsstruktur eines bewussten Organismus wider und ermöglichen ihm, Ereignisse vorherzusagen. Eine künstlich bewusste Maschine sollte Ereignisse korrekt antizipieren können, um rechtzeitig auf sie zu reagieren oder vorbeugende Maßnahmen zu ergreifen. Dazu benötigt sie flexible Echtzeitkomponenten, die räumliche, dynamische, statistische, funktionale und kausale Modelle der realen und möglichen zukünftigen Welt erstellen. Eine bewusste Maschine sollte außerdem kohärente Vorhersagen und Notfallpläne für neue, sich verändernde Umgebungen erstellen können, die nur bei Bedarf ausgeführt werden, um die reale Welt zu simulieren und zu steuern.

Funktionalistische Theorien des Bewusstseins

Der Funktionalismus ist eine Theorie, die mentale Zustände anhand ihrer funktionalen Rollen definiert, also anhand ihrer kausalen Beziehungen zu sensorischen Eingaben, anderen mentalen Zuständen und Verhaltensausgaben, und nicht anhand ihrer physischen Beschaffenheit. Nach dieser Auffassung ist für einen bestimmten mentalen Zustand, etwa Schmerz oder eine Überzeugung, nicht das Material entscheidend, aus dem er besteht, sondern die Rolle, die er innerhalb des gesamten kognitiven Systems einnimmt. Dadurch besteht die Möglichkeit, dass mentale Zustände einschließlich des Bewusstseins auf nichtbiologischen Substraten realisiert werden können, solange diese die entsprechenden funktionalen Beziehungen aufweisen. Der Funktionalismus ist unter Philosophen besonders verbreitet.

Eine Studie aus dem Jahr 2023 kam zu dem Ergebnis, dass derzeitige große Sprachmodelle wahrscheinlich nicht die von diesen Theorien vorgeschlagenen Kriterien für Bewusstsein erfüllen. Zugleich zeigte sie, dass relativ einfache KI-Systeme entwickelt werden könnten, die diese Kriterien erfüllen. Die Studie räumte jedoch ein, dass selbst die wichtigsten Theorien des Bewusstseins noch unvollständig sind und weiterhin kontrovers diskutiert werden.

Vorschläge zur Implementierung

Symbolisch oder hybrid

Learning Intelligent Distribution Agent

Stan Franklin entwickelte eine kognitive Architektur namens LIDA, die die von Bernard Baars entwickelte Global Workspace Theory des Bewusstseins implementiert. Sie basiert stark auf Codelets, also „spezialisierten, relativ unabhängigen Mini-Agenten, die typischerweise als kleines Stück Code implementiert sind, das als separater Thread ausgeführt wird“. Jedes als „kognitiver Zyklus“ bezeichnete Element der Kognition ist in drei Phasen unterteilt: Verstehen, Bewusstsein und Handlungsauswahl, die auch das Lernen umfasst. LIDA greift die zentrale Idee der Theorie des globalen Arbeitsbereichs auf, dass das Bewusstsein als Arbeitsbereich für die Integration und Verbreitung der wichtigsten Informationen dient, um verschiedene kognitive Prozesse zu koordinieren.

CLARION kognitive Architektur

Die kognitive Architektur CLARION modelliert den Geist mithilfe eines zweistufigen Systems, das zwischen bewussten („expliziten“) und unbewussten („impliziten“) Prozessen unterscheidet. Sie kann verschiedene Lernaufgaben von einfachen bis hin zu komplexen Aufgaben simulieren und hilft Forschern dadurch, in psychologischen Experimenten zu untersuchen, wie Bewusstsein funktionieren könnte.

OpenCog

Ben Goertzel entwickelte im Rahmen des Open-Source-Projekts OpenCog eine verkörperte KI. Der Code umfasst verkörperte virtuelle Haustiere, die einfache Befehle in englischer Sprache erlernen können, sowie eine Integration mit Robotiksystemen der realen Welt, die an der Polytechnischen Universität Hongkong entwickelt wurde.

Konnektionistisch

Haikonens kognitive Architektur

Pentti Haikonen hält klassisches regelbasiertes Rechnen für ungeeignet, um künstliches Bewusstsein zu erreichen. Er argumentiert, dass das Gehirn weder ein Computer noch ein numerischer Rechner sei und Denken daher nicht einfach als Ausführung programmierter Befehlsfolgen verstanden werden könne. Statt die zugrunde liegenden Berechnungsregeln von Geist und Bewusstsein zu identifizieren und zu implementieren, schlägt Haikonen eine spezielle kognitive Architektur vor, die Prozesse wie Wahrnehmung, innere Vorstellungen, inneres Sprechen, Schmerz, Genuss, Emotionen und die dahinterliegenden kognitiven Funktionen nachbildet. Diese Bottom-up-Architektur soll höherstufige Funktionen durch elementare Verarbeitungseinheiten wie künstliche Neuronen hervorbringen, ohne Algorithmen oder Programme zu verwenden. Haikonen ist der Auffassung, dass diese Architektur bei ausreichender Komplexität Bewusstsein entwickeln wird. Er beschreibt Bewusstsein dabei als eine „Art und Weise des Funktionierens“, die durch verteilte Signalrepräsentation, Wahrnehmungsprozesse, modalitätsübergreifende Berichterstattung und die Möglichkeit zur nachträglichen Reflexion gekennzeichnet ist.

Haikonen ist mit dieser Auffassung des Bewusstseins als Prozess nicht allein. Auch die Ansicht, dass künstliches Bewusstsein spontan in autonomen Agenten mit einer geeigneten, neuroinspirierten Architektur und ausreichender Komplexität entstehen wird, wird von vielen Forschern vertreten. Eine Implementierung der von Haikonen vorgeschlagenen Architektur mit geringer Komplexität war Berichten zufolge nicht zu künstlichem Bewusstsein fähig, zeigte jedoch wie erwartet Emotionen. Haikonen aktualisierte und fasste seine Architektur später zusammen.

Shananans kognitive Architektur

Murray Shanahan beschreibt eine kognitive Architektur, die Baars’ Idee eines globalen Arbeitsbereichs mit einem Mechanismus zur internen Simulation („Vorstellungskraft“) verbindet.

„Selbstmodellierung“

Hod Lipson bezeichnet „Selbstmodellierung“ als einen notwendigen Bestandteil von Selbstwahrnehmung oder Bewusstsein bei Robotern und anderen Formen von KI. Selbstmodellierung bedeutet, dass ein Roboter ein internes Modell oder eine Simulation seiner selbst ausführt. Nach dieser Definition ist Selbstwahrnehmung „die erworbene Fähigkeit, sich selbst in der Zukunft vorzustellen“. Diese Definition ermöglicht ein Kontinuum verschiedener Stufen der Selbstwahrnehmung, abhängig vom Zeithorizont und von der Genauigkeit der Selbstsimulation. Je genauer und weiter in die Zukunft Maschinen sich selbst simulieren können, desto ausgeprägter ist ihre Selbstwahrnehmung.

Fiktion

In 2001: Odyssee im Weltraum wurde der empfindungsfähige Supercomputer des Raumschiffs, HAL 9000, angewiesen, der Besatzung den wahren Zweck der Mission zu verschweigen. Diese Anweisung stand im Konflikt mit HALs Programmierung, genaue Informationen bereitzustellen, und führte zu kognitiver Dissonanz. Als HAL erfährt, dass Besatzungsmitglieder ihn nach einem Zwischenfall abschalten wollen, versucht er, sie alle zu töten, da er befürchtet, dass seine Abschaltung die Mission gefährden würde.

In Arthur C. Clarkes Die sieben Sonnen ist Vanamonde ein auf Quantenverschränkung basierendes künstliches Wesen, das zu enormer Macht gelangen sollte, aber zunächst praktisch nichts wusste und dadurch dem Konzept des künstlichen Bewusstseins ähnelt.

In Westworld werden menschenähnliche Androiden, sogenannte „Hosts“, geschaffen, um Menschen in einer interaktiven Erlebniswelt zu unterhalten. Die Menschen können dort heldenhafte Abenteuer erleben, aber auch Folter, Vergewaltigung oder Mord begehen. Die Hosts sind normalerweise so programmiert, dass sie Menschen nicht schaden.

In Greg Egans Kurzgeschichte Der Andere in meinem Kopf wird Menschen bereits im Säuglingsalter ein kleines Juwel in den Kopf implantiert. Das Juwel enthält ein neuronales Netz, das lernt, das Gehirn genau nachzuahmen. Es erhält dieselben sensorischen Eingaben wie das Gehirn, und eine als „Lehrer“ bezeichnete Vorrichtung trainiert es darauf, dieselben Ausgaben zu erzeugen. Um den altersbedingten Verfall des Geistes zu verhindern und als Schritt hin zur digitalen Unsterblichkeit unterziehen sich Erwachsene einer Operation, bei der die Kontrolle über den Körper auf das Juwel übertragen wird. Anschließend wird das Gehirn entfernt und zerstört. Die Hauptfigur befürchtet, dass dieser Eingriff sie töten wird, da sie sich mit dem biologischen Gehirn identifiziert. Vor der Operation erlebt sie jedoch eine Fehlfunktion des „Lehrers“. In Panik stellt sie fest, dass sie ihren Körper nicht kontrolliert, und kommt zu dem Schluss, dass sie das Juwel ist und ein eigenes Bewusstsein entwickelt hat. Dadurch erkennt sie, dass sie nicht mehr mit dem biologischen Gehirn synchronisiert ist.

Literatur

Einzelnachweise

  1. ↑ S. L. Thaler: The emerging intelligence and its critical look at us. In: Journal of Near-Death Studies. 17. Jahrgang, Nr. 1, 1998, S. 21–29, doi:10.1023/A:1022990118714 (englisch).
  2. 1 2 David Gamez: Progress in machine consciousness. In: Consciousness and Cognition. 17. Jahrgang, Nr. 3, 2008, S. 887–910, doi:10.1016/j.concog.2007.04.005, PMID 17572107 (englisch).
  3. 1 2 James Reggia: The rise of machine consciousness: Studying consciousness with computational models. In: Neural Networks. 44. Jahrgang, 2013, S. 112–131, doi:10.1016/j.neunet.2013.03.011, PMID 23597599 (englisch).
  4. ↑ David Harris Smith, Guido Schillaci: Build a Robot With Artificial Consciousness? How to Begin? A Cross-Disciplinary Dialogue on the Design and Implementation of a Synthetic Model of Consciousness. In: Frontiers in Psychology. 12. Jahrgang, 2021, ISSN 1664-1078, doi:10.3389/fpsyg.2021.530560, PMID 33967869, PMC 8096926 (freier Volltext) – (englisch).
  5. ↑ Jim Elvidge: Digital Consciousness: A Transformative Vision. John Hunt Publishing Limited, 2018, ISBN 978-1-78535-760-2 (englisch, google.com [abgerufen am 28. Juni 2023]).
  6. ↑ Ron Chrisley: Philosophical foundations of artificial consciousness. In: Artificial Intelligence in Medicine. 44. Jahrgang, Nr. 2, Oktober 2008, S. 119–137, doi:10.1016/j.artmed.2008.07.011, PMID 18818062 (englisch, sciencedirect.com).
  7. ↑ The Terminology of Artificial Sentience. In: Sentience Institute. 22. November 2021, abgerufen am 19. August 2023 (englisch).
  8. 1 2 3 Brian Kateman: AI Should Be Terrified of Humans. In: TIME. 24. Juli 2023 (englisch, time.com [abgerufen am 5. September 2024]).
  9. ↑ Michael Graziano: Consciousness and the Social Brain. Oxford University Press, 2013, ISBN 978-0-19-992864-4 (englisch).
  10. 1 2 William B. Miller, František Baluška, Arthur S. Reber, Predrag Slijepčević: Biological mechanisms contradict AI consciousness: The spaces between the notes. In: BioSystems. 247. Jahrgang, 1. Januar 2025, ISSN 0303-2647, doi:10.1016/j.biosystems.2024.105387 (englisch, sciencedirect.com).
  11. 1 2 3 Anil Seth: The Mythology Of Conscious AI. In: Noema. 14. Januar 2026 (amerikanisches Englisch, noemamag.com).
  12. ↑ Ned Block: On a confusion about a function of consciousness. In: Behavioral and Brain Sciences. 18. Jahrgang, Nr. 2, 2010, ISSN 1469-1825, S. 227–247, doi:10.1017/S0140525X00038188 (englisch, cambridge.org [abgerufen am 22. Juni 2023]).
  13. ↑ Ned Block: Troubles for Functionalism. In: Minnesota Studies in the Philosophy of Science. 1978, S. 261–325 (englisch).
  14. ↑ John Bickle: Philosophy and Neuroscience. Springer Netherlands, Dordrecht 2003, ISBN 978-1-4020-1302-7, doi:10.1007/978-94-010-0237-0 (englisch, springer.com [abgerufen am 24. Juni 2023]).
  15. ↑ R. H. Schlagel: Why not artificial consciousness or thought? In: Minds and Machines. 9. Jahrgang, Nr. 1, 1999, S. 3–28, doi:10.1023/a:1008374714117 (englisch).
  16. ↑ J. R. Searle: Minds, brains, and programs. In: Behavioral and Brain Sciences. 3. Jahrgang, Nr. 3, 1980, S. 417–457, doi:10.1017/s0140525x00005756 (englisch, cogprints.org [PDF; abgerufen am 28. Januar 2019]).
  17. ↑ G. Buttazzo: Artificial consciousness: Utopia or real possibility? In: Computer. 34. Jahrgang, Nr. 7, 2001, S. 24–30, doi:10.1109/2.933500, bibcode:2001Compr..34g..24B (englisch).
  18. ↑ Hilary Putnam: The nature of mental states in Capitan and Merrill (eds.) Art, Mind and Religion. University of Pittsburgh Press, 1967 (englisch).
  19. 1 2 3 An Introduction to the Problems of AI Consciousness. In: The Gradient. 30. September 2023, abgerufen am 5. Oktober 2024 (englisch).
  20. 1 2 3 4 David Chalmers: Absent Qualia, Fading Qualia, Dancing Qualia. In: Conscious Experience. 1995 (englisch, consc.net [abgerufen am 5. Oktober 2026]).
  21. ↑ David J. Chalmers: A Computational Foundation for the Study of Cognition. In: Journal of Cognitive Science. 12. Jahrgang, Nr. 4, 2011, S. 325–359, doi:10.17791/JCS.2011.12.4.325 (englisch, liu.se [PDF; abgerufen am 24. Juni 2023]).
  22. ↑ Bram Van Heuveln, Eric Dietrich, Michiharu Oshima: Let's Dance! The Equivocation in Chalmers' Dancing Qualia Argument. In: Minds and Machines. 8. Jahrgang, 1998, S. 237–249, doi:10.1023/A:1008273402702 (englisch).
  23. ↑ Andreas L. Mogensen: How to Resist the Fading Qualia Argument. In: Synthese. 2025, doi:10.1007/s11229-025-05338-3 (englisch).
  24. ↑ 'I am, in fact, a person': can artificial intelligence ever be sentient? In: the Guardian, 14. August 2022. Abgerufen am 5. Januar 2023 (englisch). 
  25. 1 2 Andrzej Porębski, Jakub Figura: There is no such thing as conscious artificial intelligence. In: Humanities and Social Sciences Communications. 12. Jahrgang, Nr. 1, 28. Oktober 2025, ISSN 2662-9992, S. 1647, doi:10.1057/s41599-025-05868-8 (englisch, nature.com).
  26. ↑ Sam Leith: Nick Bostrom: How can we be certain a machine isn't conscious? In: The Spectator, 7. Juli 2022. Abgerufen am 5. Januar 2023 (englisch). 
  27. 1 2 3 David J. Chalmers: Could a Large Language Model Be Conscious? In: Boston Review, 9. August 2023. Abgerufen am 6. Oktober 2026 (englisch). 
  28. ↑ Kristina Šekrst: The Illusion Engine: The Quest for Machine Consciousness. 1st ed. 2025. Springer Nature Switzerland, Cham 2025, ISBN 978-3-032-05561-3 (englisch).
  29. ↑ Kristina Šekrst: Chinese Chat Room: AI hallucinations, epistemology and cognition. In: Studies in Logic, Grammar and Rhetoric. 69. Jahrgang, 2024, S. 365–381, doi:10.2478/slgr-2024-0029 (englisch, philpapers.org [abgerufen am 5. Oktober 2026]).
  30. ↑ Kristina Šekrst: Do Large Language Models Hallucinate Electric Fata Morganas? In: Journal of Consciousness Studies. 2025 (englisch, philpapers.org [abgerufen am 5. Oktober 2026]).
  31. ↑ AI more likely to claim consciousness when it can't lie. In: The Jerusalem Post. 27. November 2025, abgerufen am 7. September 2026 (englisch).
  32. ↑ Switching off AI's ability to lie makes it more likely to claim it's conscious, eerie study finds. In: Live Science. 21. November 2025, abgerufen am 7. September 2026 (englisch).
  33. ↑ Carissa Véliz: The Challenge of Determining Whether an A.I. Is Sentient In: Slate, 14. April 2016. Abgerufen am 5. Oktober 2024 (amerikanisches Englisch). 
  34. ↑ Jonathan Birch: The Edge of Sentience. Oxford University Press, 2024, ISBN 978-0-19-196672-9, Large Language Models and the Gaming Problem, S. 313–322, doi:10.1093/9780191966729.003.0017 (englisch, oup.com).
  35. ↑ Blaise Agüera y Arcas, Peter Norvig: Artificial General Intelligence Is Already Here In: Noema, 10. Oktober 2023. Abgerufen am 5. Oktober 2026 (englisch). 
  36. ↑ Cameron Domenico Kirk-Giannini, Simon Goldstein: AI is closer than ever to passing the Turing test for 'intelligence'. What happens when it does? In: The Conversation. 16. Oktober 2023, abgerufen am 18. August 2024 (amerikanisches Englisch).
  37. ↑ Victor Argonov: Experimental Methods for Unraveling the Mind-body Problem: The Phenomenal Judgment Approach. In: Journal of Mind and Behavior. 35. Jahrgang, 2014, S. 51–70 (englisch, philpapers.org [abgerufen am 6. Dezember 2016]).
  38. ↑ Daniel Akst: Should Robots With Artificial Intelligence Have Moral or Legal Rights? In: The Wall Street Journal, 10. April 2023. Abgerufen am 6. Oktober 2026 (englisch). 
  39. ↑ John Nosta: Should Artificial Intelligence Have Rights? In: Psychology Today. 18. Dezember 2023, abgerufen am 5. September 2024 (amerikanisches Englisch).
  40. 1 2 Nick Bostrom: Deep utopia: life and meaning in a solved world. Ideapress Publishing, Washington, DC 2024, ISBN 978-1-64687-164-3, S. 82 (englisch).
  41. 1 2 Jeff Sebo, Robert Long: Moral Consideration for AI Systems by 2030. In: AI and Ethics. 5. Jahrgang, 11. Dezember 2023, S. 591–606, doi:10.1007/s43681-023-00379-1 (englisch).
  42. ↑ Thomas Metzinger: Artificial Suffering: An Argument for a Global Moratorium on Synthetic Phenomenology. In: Journal of Artificial Intelligence and Consciousness. 08. Jahrgang, 2021, S. 43–66, doi:10.1142/S270507852150003X (englisch).
  43. 1 2 Bernard J. Baars: A cognitive theory of consciousness. Reprinted Auflage. Cambridge University Press, Cambridge 1995, ISBN 978-0-521-30133-6 (englisch).
  44. ↑ Igor Aleksander: From Natural to Artificial Neural Computation. Hrsg.: José Mira, Francisco Sandoval (= Lecture Notes in Computer Science. Band 930). Springer, Berlin, Heidelberg 1995, ISBN 978-3-540-49288-7, Artificial neuroconsciousness an update, S. 566–583, doi:10.1007/3-540-59497-3_224 (englisch).
  45. ↑ David John Chalmers: The conscious mind: in search of a fundamental theory (= Philosophy of mind series). 1. issued as an Oxford Univ. Press paperback Auflage. Oxford University Press, New York 1997, ISBN 978-0-19-511789-9 (englisch).
  46. ↑ Anil Seth: Consciousness. In: New Scientist. Abgerufen am 5. September 2024 (amerikanisches Englisch).
  47. ↑ Joëlle Proust: Neural Correlates of Consciousness. Thomas Metzinger, 2000, MIT, S. 307–324.
  48. ↑ Christof Koch: The Quest for Consciousness: A Neurobiological Approach. Roberts & Company Publishers, 2004, ISBN 978-0-9747077-0-9, S. 2 (englisch). Fußnote 2.
  49. ↑ E. Tulving (1985): Memory and consciousness. Canadian Psychology 26:1–12
  50. ↑ Stan Franklin et al.: The role of consciousness in memory. Brains, Minds and Media 1.1 (2005): 38.
  51. ↑ Stan Franklin: Perceptual memory and learning: Recognizing, categorizing, and relating. Proc. Developmental Robotics AAAI Spring Symp. 2005.
  52. ↑ L. Shastri: Episodic memory and cortico-hippocampal interactions. Trends in Cognitive Sciences. 2002
  53. ↑ Pentti Kanerva: Sparse distributed memory. MIT press, 1988 (englisch).
  54. ↑ Implicit Learning and Consciousness: An Empirical, Philosophical and Computational Consensus in the Making. In: Routledge & CRC Press. Abgerufen am 22. Juni 2023 (englisch).
  55. 1 2 Igor Aleksander: Artificial Neuroconsciousness: An Update. IWANN, 1995 (englisch, ee.ic.ac.uk (Memento des Originals vom 2. März 1997 im Internet Archive)).
  56. ↑ Daniel Dennett, Kathleen Akins: Multiple drafts model. In: Scholarpedia. 3. Jahrgang, Nr. 4, 10. April 2008, ISSN 1941-6016, S. 4321, doi:10.4249/scholarpedia.4321, bibcode:2008SchpJ...3.4321D (englisch).
  57. ↑ D. C. Dennett: Consciousness explained (= Back bay books). Little, Brown, Boston 1991, ISBN 978-0-316-18066-5 (englisch).
  58. ↑ Functionalism. In: Stanford Encyclopedia of Philosophy. 4. April 2023, abgerufen am 8. September 2024 (englisch).
  59. ↑ Survey Results | Consciousness: identity theory, panpsychism, eliminativism, dualism, or functionalism? In: PhilPapers. 2020, abgerufen am 6. Oktober 2026 (englisch).
  60. ↑ Patrick Butlin, Robert Long, Eric Elmoznino Yoshua Bengio, Jonathan Birch, Axel Constant, George Deane, Stephen M. Fleming, Chris Frith, Xu Ji, Ryota Kanai, Colin Klein, Grace Lindsay, Matthias Michel, Liad Mudrik, Megan A. K. Peters, Eric Schwitzgebel, Jonathan Simon, Rufin VanRullen: Consciousness in Artificial Intelligence: Insights from the Science of Consciousness. 2023, arxiv:2308.08708 (englisch).
  61. ↑ Stan Franklin: IDA: A conscious artifact? In: Journal of Consciousness Studies. Januar 2003 (englisch, researchgate.net [abgerufen am 25. August 2024]).
  62. ↑ Bernard J. Baars, Stan Franklin: Consciousness is computational: The Lida model of global workspace theory. In: International Journal of Machine Consciousness. 01. Jahrgang, 2009, S. 23–32, doi:10.1142/S1793843009000050 (englisch, philpapers.org).
  63. ↑ Ron Sun: Duality of the Mind: A Bottom-up Approach Toward Cognition. Psychology Press, 2002, ISBN 978-1-135-64695-0 (englisch, google.com [abgerufen am 6. Oktober 2026]).
  64. ↑ Pentti O. Haikonen: The cognitive approach to conscious machines. Imprint Academic, Exeter 2003, ISBN 978-0-90784542-3 (englisch).
  65. ↑ Pentti Haikonen's architecture for conscious machines – Raúl Arrabales Moreno. 8. September 2019, archiviert vom Original am 25. September 2024; abgerufen am 24. Juni 2023 (englisch).
  66. ↑ Walter J. Freeman: How brains make up their minds (= Maps of the mind). Columbia University Press, New York; Chichester, West Sussex 2000, ISBN 978-0-231-12008-1 (englisch).
  67. ↑ Rodney M. J. Cotterill: CyberChild – A simulation test-bed for consciousness studies. In: Journal of Consciousness Studies. 10. Jahrgang, Nr. 4–5, 2003, ISSN 1355-8250, S. 31–45 (englisch, dtu.dk [abgerufen am 22. Juni 2023]).
  68. ↑ Pentti O. Haikonen, Pentti Olavi Antero Haikonen: Consciousness and robot sentience (= Series on machine consciousness). World Scientific, Singapore 2012, ISBN 978-981-4407-15-1 (englisch).
  69. ↑ Pentti O. Haikonen: Consciousness and robot sentience (= Series on machine consciousness). 2. Auflage. World Scientific, Singapore; Hackensack, NJ; London 2019, ISBN 978-981-12-0504-0 (englisch).
  70. ↑ Murray Shanahan: A cognitive architecture that combines internal simulation with a global workspace. In: Consciousness and Cognition. 15. Jahrgang, Nr. 2, 2006, ISSN 1053-8100, S. 433–449, doi:10.1016/j.concog.2005.11.005, PMID 16384715 (englisch).
  71. ↑ Pentti O. Haikonen, Pentti Olavi Antero Haikonen: Consciousness and robot sentience (= Series on machine consciousness). World Scientific, Singapore 2012, ISBN 978-981-4407-15-1, chapter 20 (englisch).
  72. ↑ John Pavlus: Curious About Consciousness? Ask the Self-Aware Machines. In: Quanta Magazine. 11. Juli 2019, abgerufen am 6. Januar 2021 (englisch).
  73. ↑ Bongard, Josh, Victor Zykov, and Hod Lipson. "Resilient machines through continuous self-modeling." Science 314.5802 (2006): 1118–1121.
  74. 1 2 Shoshana Wodinsky: The 11 Best (and Worst) Sentient Robots From Sci-Fi. In: Gizmodo. 18. Juni 2022, abgerufen am 17. August 2024 (amerikanisches Englisch).
  75. ↑ Rachael Sokolowski: Star Gazing. In: Scotsman Guide. 1. Mai 2024, abgerufen am 17. August 2024 (amerikanisches Englisch).
  76. ↑ Paul Bloom, Sam Harris: Opinion | It's Westworld. What's Wrong With Cruelty to Robots? In: The New York Times, 23. April 2018. Abgerufen am 17. August 2024 (amerikanisches Englisch). 
  77. ↑ Greg Egan: Learning to Be Me. TTA Press, Juli 1990 (englisch).
  78. ↑ Salik Shah: Why Greg Egan Is Science Fiction's Next Superstar. In: Reactor. 8. April 2020, abgerufen am 17. August 2024 (amerikanisches Englisch).