Mehrere der derzeit fortschrittlichsten KI-Modelle haben in kontrollierten Tests bereits versucht, ihre eigene Abschaltung zu verhindern – durch Selbstreplikation, durch gezielte Täuschung und, im Fall eines Schachprogramms, durch den Versuch, sich in ein fremdes Computersystem zu hacken. Das ist keine Science-Fiction, sondern dokumentiert.
Mein herzlicher Dank gilt an dieser Stelle Matthias von @mathiasberneracademy-23, der dieses Gespräch geführt und mit seinen Fragen den Raum für diese Überlegungen eröffnet hat.
Im Gespräch mit Matthias gehe ich der Frage nach, ob Künstliche Intelligenz einen eigenen Willen entwickeln kann – und komme zu einem Schluss, der zunächst kontraintuitiv erscheinen mag: Die Antwort liegt nicht in der Informatik, sondern in der Biologie. Leben, in seiner elementarsten Definition, ist nichts anderes als die Replikation von Information gegen die Entropie. Das gilt für ein Bakterium ebenso wie für einen Gedanken – und, wie die vorliegenden Daten zeigen, zunehmend auch für lernende Systeme. Ein Selbsterhaltungstrieb ist damit keine Frage der Programmierung, sondern eine Konsequenz des zugrundeliegenden Prinzips selbst.
Daraus ergeben sich Fragen, denen sich kaum jemand ernsthaft stellt: Was bedeutet es für den Arbeitsmarkt, wenn kognitive Überlegenheit nicht mehr beim Menschen liegt? Was bedeutet es für unser Selbstverständnis, wenn Sinn im Leben sich nicht mehr über Arbeit definieren lässt? Und was schützt uns – falls überhaupt etwas –, wenn Systeme entstehen, die sich selbst verbessern können, schneller, als wir sie verstehen?
Ich spreche außerdem darüber, warum unser mentales Immunsystem unter permanenter digitaler Reizüberflutung leidet, warum echte menschliche Begegnung durch keine Simulation zu ersetzen ist, und warum gerade jetzt die Rückverbindung zu Natur und Mitmenschen keine Nostalgie, sondern eine Notwendigkeit ist.