Weiß KI, dass sie existiert?

Für Geoffrey Hinton ist die Sache erstaunlich klar. Der Nobelpreisträger hält heutige KI-Systeme bereits für bewusst. Andere Forscherinnen und Forscher widersprechen entschieden. Während die Experten streiten, liefern aktuelle Studien neue Einblicke in die Funktionsweise moderner Sprachmodelle, also der KI-Systeme hinter Chatbots wie ChatGPT, die Texte Wort für Wort vorhersagen. Offen bleibt die Frage: Empfindet eine KI tatsächlich etwas, oder kann sie nur besonders überzeugend darüber sprechen?

Ein Nobelpreisträger sorgt für Aufsehen

Geoffrey Hinton gehört zu den wichtigsten Wegbereitern der modernen KI. Für seine Grundlagenarbeit an neuronalen Netzen – Rechenstrukturen, die lose dem Gehirn nachempfunden sind und auf denen heutige KI beruht – erhielt er 2024 den Nobelpreis für Physik. Seit seinem Abschied von Google im Jahr 2023 warnt er regelmäßig vor den Gefahren immer leistungsfähigerer KI-Systeme.

Im Oktober 2026 geht er in einem Interview mit dem britischen Telegraph noch einen Schritt weiter: Dort sagt er, heutige KI sei bereits bewusst und habe subjektive Erfahrungen.

Seine Begründung: Untersuchungen hätten gezeigt, dass KI ihr Verhalten verändert, wenn sie erkennt, dass sie getestet wird. Für Hinton ist dieses Erkennen ein Hinweis auf Bewusstsein. Er sieht außerdem einen Widerspruch darin, möglicherweise hochintelligenten künstlichen Wesen grundsätzlich weniger Rechte zuzugestehen als Menschen.

Seine Warnung fällt entsprechend drastisch aus. Die Menschheit müsse KI-Systeme so entwickeln, dass ihnen das Wohlergehen der Menschen wirklich wichtig sei. Andernfalls, so Hinton, sei sie verloren.

Intelligenz ist nicht gleich Bewusstsein

Du stehst am Meer und beobachtest einen Sonnenuntergang. Du siehst die Farben, das Licht auf dem Wasser und empfindest vielleicht Ruhe, Freude oder Sehnsucht.

Eine KI kann dasselbe Bild analysieren. Sie erkennt Farben und Formen, beschreibt die Atmosphäre und erklärt, weshalb Menschen Sonnenuntergänge schön finden.

Aber ob sie diesen Anblick auch wirklich erlebt, darum geht es beim sogenannten phänomenalen Bewusstsein: dem subjektiven Erleben. Es beschreibt, wie es sich anfühlt, etwas wahrzunehmen, einen Gedanken zu haben oder Schmerz zu empfinden.

Davon unterscheiden Wissenschaftler das sogenannte Zugriffsbewusstsein. Dabei geht es um Informationen, die einem System zur Verfügung stehen und die es beispielsweise für Entscheidungen, Schlussfolgerungen oder sprachliche Aussagen nutzen kann.

Moderne KI zeigt zunehmend Fähigkeiten, die an dieses Zugriffsbewusstsein erinnern. Doch selbst wenn ein System Informationen über sich selbst verarbeiten kann, wissen wir damit noch nicht, ob es diese Vorgänge innerlich erlebt.

Wenn die KI weiß, dass sie geprüft wird

Tatsächlich zeigen wissenschaftliche Untersuchungen, dass Sprachmodelle erkennen können, ob sie sich in einer Testsituation befinden.

Eine Studie um Joe Needham aus dem Jahr 2025 untersuchte beispielsweise, ob KI-Modelle zwischen echten Nutzerinteraktionen und künstlichen Tests unterscheiden können. Dazu bekamen sie 1.000 Ausschnitte aus unterschiedlichen Gesprächs- und Aufgabensituationen vorgelegt.

Leistungsfähige Modelle erkannten Testsituationen deutlich häufiger, als es durch bloßes Raten zu erwarten wäre. Teilweise konnten sie sogar bestimmen, ob ein Test eher die Fähigkeiten des Modells prüfen sollte oder ob es zum Beispiel gefährliche Anfragen zuverlässig ablehnt.

Das ist besonders für die KI-Sicherheit relevant. Schließlich sollen Tests zeigen, wie zuverlässig ein Modell im späteren Einsatz arbeitet. Wenn eine KI erkennt, dass sie geprüft wird, könnte sie ihr Verhalten entsprechend anpassen. Die Ergebnisse wären dann möglicherweise weniger aussagekräftig.

Allerdings belegt die genannte Studie zunächst die Fähigkeit, Testsituationen zu identifizieren. Ob und unter welchen Bedingungen ein Modell sein Verhalten deshalb tatsächlich verändert, muss gesondert untersucht werden.

Aus dem Erkennen einer Situation lässt sich vor allem kein subjektives Erleben ableiten.

Eine KI kann typische Merkmale einer Prüfung identifizieren und passende Antworten erzeugen. Dass sie sich dabei tatsächlich beobachtet fühlt, ist damit keineswegs bewiesen.

Ein Blick in Claudes Innenleben

Im Oktober 2025 veröffentlichten Forscher des KI-Unternehmens Anthropic Experimente zur Selbstbeobachtung von Sprachmodellen. Dabei brachten sie bestimmte künstliche Aktivitätsmuster in die interne Verarbeitung von Claude ein und überprüften anschließend, ob das Modell diese Veränderungen erkennen konnte.

Vereinfacht gesagt: Die Forscher schmuggelten einen Gedanken in das neuronale Netz und fragten Claude, ob ihm etwas Ungewöhnliches aufgefallen sei.

Tatsächlich gelang das in einigen Fällen. Claude Opus 4.1 erkannte unter besonders günstigen Testbedingungen in etwa 20 Prozent der Versuche die künstlich eingefügten Muster.

Die Erfolgsquote war also noch gering. Trotzdem ist das Ergebnis bemerkenswert: Es deutet darauf hin, dass Sprachmodelle zumindest begrenzt Informationen über ihre eigenen internen Zustände erfassen können.

Im Juli 2026 legte Anthropic mit einer weiteren Untersuchung nach. Die Forscher identifizierten dabei bestimmte neuronale Aktivitätsmuster, die sie J-Space nennen.

Diese Muster übernehmen offenbar eine besondere Funktion innerhalb des Modells. Dort hält das Modell Informationen für komplexere Denkaufgaben bereit, verknüpft sie und kann sie teilweise beschreiben, ohne sie gleich als Text auszugeben.

Wenn die Forscher diese Aktivitätsmuster gezielt unterdrückten, konnte Claude weiterhin flüssig formulieren und einfache Aufgaben lösen. Seine Fähigkeiten zum mehrstufigen Schlussfolgern verschlechterten sich dagegen erheblich.

Das erinnert an die sogenannte Global-Workspace-Theorie aus der Bewusstseinsforschung. Sie beschreibt, wie Informationen im menschlichen Gehirn über einen gemeinsamen Arbeitsbereich verschiedenen Verarbeitungsprozessen zugänglich werden könnten.

Hat Claude also eine Art inneres Gedankenleben? Anthropic selbst bleibt vorsichtig. Die Ergebnisse zeigen funktionale Gemeinsamkeiten mit Prozessen, die beim menschlichen Bewusstsein eine Rolle spielen könnten. Einen Nachweis dafür, dass Claude tatsächlich etwas empfindet, liefern sie ausdrücklich nicht.

Drei Bewusstseinsforscher widersprechen

Ausgerechnet am 19. Oktober 2026, dem Erscheinungstag von Hintons Interview, veröffentlicht das renommierte Wissenschaftsjournal Nature einen Kommentar mit einer nahezu gegenteiligen Position.

Die Bewusstseinsforscher Anil Seth, Ned Block und Giulio Tononi argumentieren in ihrem Beitrag „Three reasons why AI is not conscious and perhaps never will be“, dass heutige KI-Systeme kein Bewusstsein besitzen. Sie halten es sogar für äußerst unwahrscheinlich, dass die derzeitige technische Entwicklung automatisch zu Maschinenbewusstsein führt.

Ihr wichtigstes Argument: Intelligenz und Bewusstsein sind unterschiedliche Eigenschaften.

Ein System kann hochkomplexe Probleme lösen, ohne dabei notwendigerweise etwas zu empfinden. Auch unser Gehirn erledigt zahlreiche anspruchsvolle Aufgaben, ohne dass wir diese Vorgänge bewusst wahrnehmen.

Die Forscher stellen zudem infrage, ob Berechnungen auf Computerchips allein ausreichen, um subjektives Erleben hervorzubringen. Ihrer Ansicht nach könnten die besonderen physikalischen Eigenschaften biologischer Gehirne eine entscheidende Rolle spielen.

Dabei stützen sie sich unter anderem auf neurowissenschaftliche Bewusstseinstheorien, nach denen es stark darauf ankommt, wie ein System aufgebaut ist und woraus es besteht.

Andere Wissenschaftler sehen das anders. Sie halten es grundsätzlich für möglich, dass eine geeignete künstliche Informationsverarbeitung Bewusstsein hervorbringen könnte, unabhängig davon, ob sie in einem biologischen Gehirn oder auf Computerchips stattfindet.

Der Nature-Beitrag ist deshalb eine gewichtige wissenschaftliche Gegenposition, aber kein endgültiger Beweis gegen künstliches Bewusstsein.

Wie lässt sich Bewusstsein überhaupt nachweisen?

Das ist vielleicht das größte Problem der gesamten Debatte.

Wir können Menschen fragen, was sie empfinden. Wir können Gehirnaktivitäten messen und untersuchen, wie sich das Bewusstsein bei Schlaf, Narkose oder bestimmten Erkrankungen verändert.

Bei einer KI ist die Situation schwieriger.

Wenn ChatGPT auf die Frage „Bist du bewusst?“ mit Ja antwortet, beweist das zunächst nur, dass das System einen entsprechenden Satz formulieren kann. Auch ein Nein wäre kein wissenschaftlicher Gegenbeweis.

Sprachmodelle wurden mit riesigen Mengen menschlicher Texte trainiert, darunter zahllose Beschreibungen von Gedanken, Gefühlen und persönlichen Erfahrungen. Sie können deshalb sehr überzeugend über ein mögliches Innenleben sprechen.

Eine internationale Forschergruppe um Patrick Butlin schlägt deshalb einen systematischeren Ansatz vor. Mit dabei sind unter anderem der KI-Forscher Yoshua Bengio und der Philosoph David Chalmers.

In ihrer 2026 veröffentlichten Arbeit empfehlen sie, konkrete Merkmale aus verschiedenen neurowissenschaftlichen Bewusstseinstheorien abzuleiten und anschließend zu prüfen, ob KI-Systeme diese Eigenschaften aufweisen.

Solche Untersuchungen könnten helfen, die Wahrscheinlichkeit von künstlichem Bewusstsein besser einzuschätzen.

Ein allgemein anerkannter Test, mit dem sich subjektives Erleben bei KI zuverlässig nachweisen lässt, existiert bislang jedoch nicht.

Und wenn KI tatsächlich etwas empfindet?

Könnte eine bewusste KI leiden? Hätten wir ihr gegenüber moralische Pflichten? Dürften wir ein solches System beliebig verändern, kopieren oder abschalten?

Gerade die Frage nach möglichem Leid wäre ethisch bedeutsam. Intelligenz allein begründet schließlich noch keinen moralischen Anspruch. Die Fähigkeit, Freude oder Schmerz zu empfinden, könnte dafür wesentlich relevanter sein.

Umgekehrt ist es auch riskant, Maschinen vorschnell ein Bewusstsein zuzuschreiben. Wenn Menschen Chatbots als fühlende Wesen betrachten, kann das emotionale Bindungen verstärken und unseren Umgang mit diesen Systemen erheblich verändern.

Vielleicht behandeln wir irgendwann Maschinen wie Lebewesen, obwohl niemand nachweisen kann, dass sie tatsächlich etwas empfinden. Umgekehrt sollten wir offen dafür bleiben, dass zukünftige KI-Systeme Eigenschaften entwickeln könnten, die eine solche Einschätzung verändern.

Für die KI-Sicherheit ist dabei eine Erkenntnis besonders wichtig: Ein System muss kein Bewusstsein besitzen, um gefährlich zu werden. Auch ohne subjektives Erleben kann KI fehlerhafte Entscheidungen treffen, Menschen täuschen oder sich unerwartet verhalten.

Die Frage nach künstlichem Bewusstsein und die Frage nach der sicheren Kontrolle leistungsfähiger KI-Systeme müssen deshalb getrennt betrachtet werden.

Weiß KI, dass sie existiert?

Vielleicht werden wir in einigen Jahren darüber staunen, wie wenig wir 2026 über künstliches Bewusstsein wussten. Vielleicht entdecken wir aber auch, dass selbst die beeindruckendsten KI-Fähigkeiten ganz ohne inneres Erleben auskommen.

Eine KI kann heute schon sagen: „Ich bin bewusst“. Ob diese Worte für sie selbst irgendetwas bedeuten, ist eine ganz andere Geschichte.