Die nächste Grenze fällt. Künstliche Intelligenz soll nicht mehr nur Fragen beantworten, Texte schreiben oder Bilder erzeugen. Sie soll immer tiefer in unser persönliches digitales Leben eindringen – bis hinein in private Unterhaltungen.
Mit der neuen Integration von Apple Messages in ChatGPT für macOS kann der KI-Assistent – nach entsprechender Freigabe durch den Nutzer – Nachrichten durchsuchen, Gesprächsverläufe zusammenfassen, Antworten formulieren und beim Versenden helfen.
Was als Komfortfunktion verkauft wird, markiert einen bemerkenswerten Paradigmenwechsel: Wir beginnen freiwillig, einer KI Zugang zu einem der intimsten Archive unseres Alltags zu geben – unseren privaten Gesprächen.
In einem Beitrag auf X erklärte OpenAI: „Nachrichten suchen, Unterhaltungen nachlesen, Antworten verfassen und versenden – alles mit ChatGPT auf Ihrem Mac.“
Gib der KI einfach dein Leben
Wer seine Nachrichten für einen KI-Assistenten öffnet, liefert potenziell weit mehr als ein paar belanglose Textzeilen. Private Kommunikation kann offenbaren, mit wem wir verkehren, worüber wir uns Sorgen machen, was wir kaufen, wohin wir reisen, wie unsere Beziehungen aussehen, welche politischen Ansichten wir diskutieren und welche Probleme uns beschäftigen.
Aus Tausenden solcher kleinen Informationen entsteht etwas äußerst Wertvolles: ein detailliertes digitales Persönlichkeitsprofil.
Die Vision der Tech-Konzerne wird damit immer deutlicher. Die KI soll nicht nur wissen, was wir gerade fragen. Sie soll unseren Kontext kennen, sich erinnern, unsere Kommunikation verstehen und schließlich Aufgaben für uns erledigen. Je mehr wir ihr geben, desto besser kennt sie uns. Irgendwann womöglich besser, als wir uns selbst kennen.
Wir haben eine native Integration mit iMessage hinzugefügt, sodass ChatGPT jetzt Nachrichten für Sie senden & lesen kann! Es kann auch Ihre Nachrichten analysieren! Es macht wirklich Spaß, Einblicke darüber zu bekommen, mit wem Sie sprechen und worüber Sie mit Leuten reden.
Liest Sam Altman jetzt alle iMessages?
So einfach ist es allerdings nicht – und genau hier muss man sauber bleiben.
Die neue Funktion bedeutet nicht, dass Apple automatisch sämtliche privaten Nachrichten seiner Kunden an OpenAI beziehungsweise OpenAI übermittelt. Der Nutzer muss ChatGPT Zugriff gewähren beziehungsweise die Funktion verwenden.
Auch die Behauptung, Sam Altman könne nun persönlich unsere Nachrichten lesen, wäre falsch.
Die Frage nach dem Training ist dennoch relevant. OpenAI bietet für ChatGPT Einstellungen an, mit denen Nutzer festlegen können, ob ihre Inhalte zur Verbesserung der Modelle verwendet werden dürfen. Dass Nutzerdaten grundsätzlich für Modellverbesserungen verwendet werden können, sofern die entsprechenden Einstellungen dies zulassen, ist seit Jahren Bestandteil der Datenschutzdebatte um generative KI.
Genau deshalb sollte niemand leichtfertig davon ausgehen, dass der Zugriff einer KI auf private Kommunikation dasselbe ist wie eine rein lokale Suchfunktion auf dem eigenen Computer.
Vom Werkzeug zum digitalen Stellvertreter
Der eigentliche Sprung liegt woanders. Wir haben Google unsere Suchanfragen gegeben, sozialen Netzwerken unsere Freundschaften und Interessen, Smartphones unsere Standorte, Cloud-Diensten unsere Fotos und Dokumente.
Nun geben wir KI-Systemen zunehmend die Möglichkeit, all diese Informationsinseln miteinander zu verbinden und daraus Zusammenhänge zu erkennen. Das Ziel ist der perfekte persönliche Assistent.
Doch der perfekte persönliche Assistent benötigt zwangsläufig eines: möglichst viel Wissen über seinen Besitzer.
Und genau darin steckt der Konflikt. Je hilfreicher diese Systeme werden sollen, desto größer wird der Anreiz, ihnen Zugriff auf Nachrichten, E-Mails, Kalender, Fotos, Dokumente, Gesundheitsinformationen und andere persönliche Daten zu geben.
OpenAI geht beispielsweise inzwischen noch weiter und ermöglicht Nutzern in einem gesonderten Gesundheitsbereich, medizinische Daten und Gesundheits-Apps mit ChatGPT zu verbinden. Dort gelten allerdings zusätzliche Schutzmaßnahmen; OpenAI erklärt ausdrücklich, dass Gespräche in diesem Gesundheitsbereich nicht zum Training seiner Foundation Models verwendet werden.
Wir bauen unser eigenes digitales Dossier
Dafür braucht es zunächst keinen geheimen Überwachungsplan und keinen Zwang durch eine Regierung. Das möglicherweise Bemerkenswerteste an dieser Entwicklung ist gerade das Gegenteil:
Wir machen es freiwillig.
Wir öffnen den Tech-Giganten unsere Nachrichten, Fotos, Kontakte, Suchanfragen, Gesundheitsdaten und persönlichen Gewohnheiten, weil jede einzelne Funktion bequem erscheint. Die Gefahr entsteht durch die Summe.
Denn wer genügend digitale Spuren eines Menschen zusammenführen und analysieren kann, besitzt nicht einfach nur „Daten“. Er kann Beziehungen, Gewohnheiten, Interessen und Verhaltensmuster erkennen und daraus immer präzisere Rückschlüsse ziehen.
Und solche Datenbestände sind nicht nur für Unternehmen interessant. Sie können – abhängig von Rechtsordnung, Verfahren und konkreter Datenhaltung – auch Gegenstand staatlicher Herausgabeanordnungen werden.
Apple gibt damit nicht einfach „unsere Nachrichten an Sam Altman weiter“. Das wäre eine Übertreibung. Die viel größere Entwicklung ist subtiler: Wir gewöhnen uns daran, KI-Systemen freiwillig immer tiefere Einblicke in unser Privatleben zu gewähren – bis der digitale Assistent eines Tages womöglich mehr über uns weiß als jeder Mensch in unserem Umfeld.
Apple gibt den Startschuss: Jetzt soll die KI auch unsere privaten Nachrichten lesen