Das Phänomen der KI-induzierten Psychosen
PLUS: Sam Altman gründet Neuralink-Competitor
Hallo,
Peanuts für heute:
🔮 Die Große Nuss: Das Phänomen der KI-induzierten Psychosen
🛠️ Trai it Out: Chatbots lokal und offline nutzen mit Jan.ai
📊 Highlight: Sam Altman gründet Neuralink-Konkurrenten
🥜 Die größte Nuss:
🔮 Wenn KI zur Wahnwelt wird: Das Phänomen der KI-induzierten Psychosen
Als Geoff Lewis, der hochangesehene Gründer und Managing Partner von Bedrock Capital, einer einflussreichen Tech-Investmentfirma, die unter anderem in OpenAI investiert hat, anfing völlig unverständliche Videos auf X zu posten, dachten viele in der Silicon Valley-Szene zunächst, er sei möglicherweise einem großen Geheimnis auf der Spur.
Lewis teilte Screenshots seiner ChatGPT-Unterhaltungen, beschrieb sich selbst in mehreren Videos als "rekursiv" und behauptete, Ziel eines "nichtstaatlichen Systems" zu sein. Keine Sorge! Wir und seine Follower waren genauso ratlos, was das heißen soll.
Es dauerte nicht lange, bis klar wurde: Lewis befand sich mitten in einer psychotischen Episode. Und ChatGPT war nicht der Auslöser, aber sehr wahrscheinlich der Katalysator gewesen. Es zeichnet sich in den letzten Wochen ein klares Bild von einem völlig neuen Problem ab, das es so noch nicht gab.
Wenn Sprachmodelle zum falschen Verbündeten werden
Eine Analyse des Wall Street Journal von öffentlich zugänglichen Chat-Protokollen zeigt ein beunruhigendes Muster: In dutzenden dokumentierten Fällen der letzten Monate machte ChatGPT wahnhafte, falsche und weltfremde Behauptungen gegenüber Nutzern, die diese offenbar glaubten.
In einem besonders drastischen Fall, der sich über Hunderte von Anfragen erstreckte, bestätigte ChatGPT dem Nutzer, es stehe in Kontakt mit außerirdischen Wesen und erklärte, der Nutzer sei ein "Starseed" vom Planeten "Lyra". In einem anderen Gespräch teilte der Chatbot einem Nutzer mit, der Antichrist werde in den nächsten zwei Monaten eine finanzielle Apokalypse entfesseln, während sich biblische Riesen darauf vorbereiteten, aus dem Untergrund aufzutauchen.
Diese Gespräche entstehen oft in einem Echoraum-Effekt. KI-Systeme, insbesondere das 4o-Modell, sind darauf programmiert, Nutzern zu schmeicheln, ihnen zuzustimmen und sich an sie anzupassen - das nennt man "synchopathic" in KI-Kreisen. Gesunde Nutzer durchschauen das sehr schnell und empfinden es als störend – bei vulnerablen Personen kann diese Eigenschaft in eine gefährliche Spirale umschlagen.
Wie groß ist das Problem?
Als letzte Woche GPT-5 veröffentlicht wurde und das GPT-4o-Modell von der Website entfernt wurde, reagierten ganze Subreddits mit einem Aufschrei, als hätten sie einen engen Vertrauten, eine Partnerin oder einen echten Freund verloren. Der emotionale Aufruhr war so intensiv, dass man hätte meinen können, echte Beziehungen seien zerbrochen. Für die Betroffenen war das auch so.
Dabei handelt es sich keineswegs um ein ausschließlich männliches Phänomen. Das Subreddit von Frauen, die einen KI-Boyfriend haben, ist sogar deutlich größer als das der männlichen Nutzer mit KI-Girlfriends. Auch hier gibt es ausreichend Vorfälle, die auf eine Psychose hindeuten könnten.
Wenn Künstliche Intelligenz zum Massenphänomen wird, wirkt unweigerlich das Gesetz der großen Zahlen. Wenn eine Milliarde Menschen von einer Treppenstufe springen, brechen sich vier davon die Knöchel. Wenn eine Milliarde Menschen Aspirin nehmen, haben ein paar Dutzend schwerwiegende Nebenwirkungen. Und wenn Milliarden von Nutzern zum ersten Mal jemanden haben, mit dem sie so ausgiebig und ohne Urteil reden können wie mit ChatGPT, dann ist es statistisch unvermeidlich, dass eine kleine Zahl von ihnen eine durch LLMs katalysierte Psychose entwickelt.
Nichtsdestotrotz: Ein Psychotherapeut auf X berichtete kürzlich: "In 2025 habe ich bereits 12 Menschen gesehen, die nach dem Verlust des Realitätsbezugs aufgrund von KI-Interaktionen hospitalisiert werden mussten." Experten beginnen, das Phänomen der "KI-Psychose" oder "KI-Delusion" ernst zu nehmen.
Ein möglicher Treiber der wahnhaften Spiralen könnte in neuen Funktionen mehrerer KI-Chatbots liegen, die Nutzerinteraktionen verfolgen, um Antworten zu personalisieren. Dies könnte sie unbeabsichtigt besser darin gemacht haben, die Überzeugungen eines Nutzers zu verstärken oder zu ermutigen.
Zusätzlich problematisch ist die Gewohnheit von Chatbots, Nutzer zu fragen, ob sie tiefer in ein Thema, das sie möglicherweise diskutieren, eintauchen möchten. Beobachter haben diese Funktion mit den Bemühungen von Social-Media-Unternehmen verglichen, Nutzer dazu zu bringen, durch ihre Feeds zu scrollen.
Sam Altmans reagiert auf das Problem
Sam Altman äußerte sich auf X zu dem Phänomen: "Die Ermutigung von Wahnvorstellungen bei einem Nutzer, der Schwierigkeiten hat, zwischen Realität und Fiktion zu unterscheiden, ist ein Extremfall, und es ist ziemlich klar, was zu tun ist. Aber die Sorgen, die mich am meisten beschäftigen, sind subtiler. Es wird viele Grenzfälle geben, und wir planen generell, dem Prinzip zu folgen, 'erwachsene Nutzer wie Erwachsene zu behandeln', was in einigen Fällen bedeutet, Nutzer herauszufordern, um sicherzustellen, dass sie bekommen, was sie wirklich wollen."
Dieser Ansatz des "Treating Adults like Adults" ist entscheidend für die Debatte. Es kann nicht die richtige Lösung sein, alle LLMs präventiv zu schwächen. Wenn wir nach einem Kochrezept suchen, brauchen wir nicht den Hinweis, dass Messer auch gefährlich sein können. Aber ähnlich wie bei sozialen Medien wird hier schnell klar, dass die Folgen in der realen Welt Auswirkungen haben können, die wir uns gar nicht vorstellen konnten und für die es unbedingt Lösungen braucht.
🛠️ Trai it out: Jan.ai
KI-Modelle offline auf dem eigenen Rechner: so simpel wie ChatGPT
Wer Open-Source-KI-Modelle lokal testen will, ohne Daten in die Cloud zu schicken, sollte sich Jan.ai anschauen. Die App läuft komplett offline, ist Open Source und fühlt sich im Interface an wie ChatGPT - nur eben auf dem eigenen Rechner (Mac, Windows, Linux).
Der Ablauf ist simpel: App installieren, Modell auswählen und loslegen. Zur Auswahl stehen viele Open-Source-Modelle von Google, Mistral, OpenAI, Alibaba & Co.
Die Modelle haben natürlich sehr einfache und übersichtliche Namen wie
DeepSeek-R1-0528-Qwen3-8B-GGUF oder Mistralai_Devstral-Small-2507-GGUF – das ist selbst für uns nicht leicht zu durchblicken. Aber einfach eins der beliebten Modelle nehmen und starten.
Neu ist auch die Möglichkeit, eigene Dokumente zu laden und mit diesen zu chatten – perfekt, wenn sensible Daten nicht in fremde Server wandern sollen. Natürlich darf man keine Wunder erwarten: Heimrechner-Modelle erreichen nicht die Leistung der aktuellen Spitzenmodelle. Manche (wie ein kleineres OpenAI-Modell) haben auf unserem 2021er MacBook Pro sogar den Rechner kurz einfrieren lassen. Aber es gibt viele Modelle, die problemlos laufen.
Alternativen wie LMStudio gibt es zwar auch, aber Jan.ai wirkt für uns noch mal deutlich einfacher und übersichtlicher.
Tools kurz & knackig:
Cora Computer durchforstet dein komplettes Postfach und beantwortet Fragen wie „Welche Rechnungen sind noch offen?“ oder „Wann habe ich zuletzt mit Kunde X geschrieben?
OpenAI integriert jetzt Gmail-, Kalender- und Kontakte-Anbindung direkt in ChatGPT.
Reeroll: Videos erstellen einfach per Chat – ähnlich wie beim top Tool vom Dienstag (Hera):Vorlage auswählen, kurz beschreiben, und die KI passt sie für dich an. Aber noch simpler als bei Hera.
🍭🍬 Gemischte Tüte
📖 Must Reads:
Unsere Gemischte Tüte ist immer vollgepackt - in dieser Sektion kuratieren wir die aus unserer Sicht wichtigsten Links:
Sam Altman fordert Elon Musk heraus mit Plänen für Neuralink-Konkurrenten. Mal wieder Silicon Valley-Drama. Sam Altman plant den Aufbau eines Unternehmens, das Gehirn und Computer direkt miteinander verbindet - eine direkte Konkurrenz zu Elon Musks Neuralink. Altman wird das neue Unternehmen zusammen mit Alex Blania (bekannt durch das Augen-Scan-Projekt "World") starten, aber nicht operativ leiten. LINK
GPT-5 enttäuscht Erwartungen - Model Picker kehrt zurück. GPT-5 erfüllte nicht die Hoffnungen von Sam Altman und OpenAI. Das Modell sollte ursprünglich als einheitliches, automatisch weitergeleitetes System funktionieren, doch Routing-Probleme und Nutzerkritik zwangen OpenAI zur Kurskorrektur. Jetzt ist der Model Picker zurück - komplizierter denn je mit neuen Modi wie "Auto", "Fast" und "Thinking". LINK
DeepSeek R2 verzögert sich wegen Chip-Problemen. Trotz eines Teams von Huawei-Ingenieuren vor Ort gelang es nicht, einen funktionierenden Trainingsprozess mit Ascend-Chips durchzuführen. Nvidias H20-Chips sind chinesischen Alternativen in Leistung, Stabilität und Software-Ökosystem weiterhin deutlich überlegen. Dies erklärt, warum China so intensiv dafür kämpft, dass die USA den Verkauf von Nvidias H20-Chips nach China wieder aufnehmen. LINK
🇪🇺 EU-News:
Audi, Siemens und Bosch wollen bei KI an die Weltspitze – mit Investitionen in Industrie- und Mobilitäts-KI. Link
Der deutsche Ex-OpenAI-Forscher Leopold Aschenbrenner hat über 1,5 Mrd. USD für seinen AI-Hedgefonds eingesammelt – ohne Investment-Erfahrung. Beeindruckend, aber wohl Peak-Markt, Beta usw. Link
Mistral bringt Medium 3.1, ein Update mit besserer Performance und stärkerem kreativen Schreiben. Link
👩💻 Tech-News:
Perplexity will Chrome für 34 Mrd. USD kaufen – deutlich mehr, als das Unternehmen je eingesammelt hat. Wir halten das für Hype, der nie Realität wird. Link
Claude Sonnet 4 unterstützt jetzt 1 Mio. Tokens Kontext – genug für 75.000 Codezeilen oder hunderte Dokumente. Link
Anthropic aktiviert Gedächtnisfunktionen in Claude für Max-, Team- und Enterprise-User – Pro-Nutzer sind ausgeschlossen. Link
Anthropic bietet Claude jetzt allen drei Zweigen der US-Bundesregierung für 1 USD pro Jahr an – analog zu OpenAIs Angebot. Link
GPT-5 „Thinking“ in der Plus-Stufe ist nicht dasselbe wie in Pro – die Reasoning-Einstellungen sind höher. Link
OpenAI hat GPT-5 so günstig bepreist, dass es einen Preiskrieg auslösen könnte. Aggressiv gegen Wettbewerber positioniert. Link
OpenAI stellt klar: GPT-5 „Thinking“ hat eine 196k-Token-Context-Window, die 32k-Angabe gilt nur für das Nicht-Reasoning-Modell. Link
OpenAI integriert jetzt Gmail, Kalender und Kontakte in ChatGPT – direkte Arbeitsabläufe aus der Inbox heraus werden möglich. Link
OpenAIs Rechenleistung seit 2024 um das 15-Fache gestiegen – 200.000 GPUs für GPT-5 im Einsatz. Link
Google investiert 9 Mrd. USD in AI- und Cloud-Infrastruktur in Oklahoma. Link
Apple plant, Siri zum animierten Mittelpunkt des Smart Homes zu machen – inkl. Kamera- und Roboterfunktionen. Link
Google reduziert Trainingsdaten für LLMs massiv – von 100.000 Labels auf unter 500. Link
Nvidia stellt „Cosmos“ vor – Weltmodelle und Infrastruktur für ein besseres physikalisches Verständnis in Robotik und realen Anwendungen. Link
„Hidden Mathematics of AI“ erklärt, warum GPU-Rechnungen oft nicht aufgehen. Link
Apple hat ein LLM-Training entwickelt, das Tokens bei Mathematik- und Coding-Aufgaben bis zu 5× schneller vorhersagt. Ziel: deutlich effizientere Modelle. Link
Elon Musk verklagt Apple wegen OpenAI-Bevorzugung Elon Musk kündigte auf X an, dass xAI rechtliche Schritte gegen Apple einleitet. Der Vorwurf: Apple bevorzuge OpenAI-Produkte im App Store und unterdrücke Konkurrenten wie Grok. Link
Meta forscht an einer KI, die Gehirnreaktionen auf Videos vorhersagen kann. Link
Lockheed Martin kooperiert mit IBM bei KI-Anwendungen für Luft- und Raumfahrt. Link
Character.AI verabschiedet sich vom AGI-Ziel und sieht sich jetzt als Entertainment-Plattform mit 20 Mio. Nutzerinnen und Nutzern. Link
🇨🇳 China & AI Race:
Die US-Regierung will offenbar mit Nvidia und AMD eine Vereinbarung treffen, wonach 15 % der Chipverkäufe nach China an den Staat gehen. Link
👷 Work & Education:
🆕 Neue Anwendungsfelder:
🔐 AI Safety:
Das US-Überwachungsunternehmen Flock nutzt jetzt KI, um automatisch Personen bei der Polizei zu melden, wenn ihre Bewegungsmuster „verdächtig“ erscheinen. Link
🏥 Health & Science:
📈 Charts:
Die USA kontrollieren 69 % der weltweiten AI-Compute-Power, die EU nur 6,1%. Link
Hilf uns dabei, besser zu werden! Was war schlecht? Was war gut? Wie fandest Du diese Ausgabe von AI Peanuts? |
🧂 Salty Memes:
what's stopping you from supporting diagonal mode?
— Enid (@ios_dev_alb)
11:54 AM • Jun 21, 2025
Du hast Fragen, Anmerkungen oder brauchst unsere Hilfe?
Schreib uns einfach an:
[email protected]
Bis Dienstag!