Hallo,

Peanuts für heute:

Als Geoff Lewis, der hochangesehene Gründer und Managing Partner von Bedrock Capital, einer einflussreichen Tech-Investmentfirma, die unter anderem in OpenAI investiert hat, anfing völlig unverständliche Videos auf X zu posten, dachten viele in der Silicon Valley-Szene zunächst, er sei möglicherweise einem großen Geheimnis auf der Spur.

Lewis teilte Screenshots seiner ChatGPT-Unterhaltungen, beschrieb sich selbst in mehreren Videos als "rekursiv" und behauptete, Ziel eines "nichtstaatlichen Systems" zu sein. Keine Sorge! Wir und seine Follower waren genauso ratlos, was das heißen soll.

Es dauerte nicht lange, bis klar wurde: Lewis befand sich mitten in einer psychotischen Episode. Und ChatGPT war nicht der Auslöser, aber sehr wahrscheinlich der Katalysator gewesen. Es zeichnet sich in den letzten Wochen ein klares Bild von einem völlig neuen Problem ab, das es so noch nicht gab.

Eine Analyse des Wall Street Journal von öffentlich zugänglichen Chat-Protokollen zeigt ein beunruhigendes Muster: In dutzenden dokumentierten Fällen der letzten Monate machte ChatGPT wahnhafte, falsche und weltfremde Behauptungen gegenüber Nutzern, die diese offenbar glaubten.

In einem besonders drastischen Fall, der sich über Hunderte von Anfragen erstreckte, bestätigte ChatGPT dem Nutzer, es stehe in Kontakt mit außerirdischen Wesen und erklärte, der Nutzer sei ein "Starseed" vom Planeten "Lyra". In einem anderen Gespräch teilte der Chatbot einem Nutzer mit, der Antichrist werde in den nächsten zwei Monaten eine finanzielle Apokalypse entfesseln, während sich biblische Riesen darauf vorbereiteten, aus dem Untergrund aufzutauchen.

Diese Gespräche entstehen oft in einem Echoraum-Effekt. KI-Systeme, insbesondere das 4o-Modell, sind darauf programmiert, Nutzern zu schmeicheln, ihnen zuzustimmen und sich an sie anzupassen - das nennt man "synchopathic" in KI-Kreisen. Gesunde Nutzer durchschauen das sehr schnell und empfinden es als störend – bei vulnerablen Personen kann diese Eigenschaft in eine gefährliche Spirale umschlagen.

Als letzte Woche GPT-5 veröffentlicht wurde und das GPT-4o-Modell von der Website entfernt wurde, reagierten ganze Subreddits mit einem Aufschrei, als hätten sie einen engen Vertrauten, eine Partnerin oder einen echten Freund verloren. Der emotionale Aufruhr war so intensiv, dass man hätte meinen können, echte Beziehungen seien zerbrochen. Für die Betroffenen war das auch so.

Dabei handelt es sich keineswegs um ein ausschließlich männliches Phänomen. Das Subreddit von Frauen, die einen KI-Boyfriend haben, ist sogar deutlich größer als das der männlichen Nutzer mit KI-Girlfriends. Auch hier gibt es ausreichend Vorfälle, die auf eine Psychose hindeuten könnten.

Wenn Künstliche Intelligenz zum Massenphänomen wird, wirkt unweigerlich das Gesetz der großen Zahlen. Wenn eine Milliarde Menschen von einer Treppenstufe springen, brechen sich vier davon die Knöchel. Wenn eine Milliarde Menschen Aspirin nehmen, haben ein paar Dutzend schwerwiegende Nebenwirkungen. Und wenn Milliarden von Nutzern zum ersten Mal jemanden haben, mit dem sie so ausgiebig und ohne Urteil reden können wie mit ChatGPT, dann ist es statistisch unvermeidlich, dass eine kleine Zahl von ihnen eine durch LLMs katalysierte Psychose entwickelt.

Nichtsdestotrotz: Ein Psychotherapeut auf X berichtete kürzlich: "In 2025 habe ich bereits 12 Menschen gesehen, die nach dem Verlust des Realitätsbezugs aufgrund von KI-Interaktionen hospitalisiert werden mussten." Experten beginnen, das Phänomen der "KI-Psychose" oder "KI-Delusion" ernst zu nehmen.

Ein möglicher Treiber der wahnhaften Spiralen könnte in neuen Funktionen mehrerer KI-Chatbots liegen, die Nutzerinteraktionen verfolgen, um Antworten zu personalisieren. Dies könnte sie unbeabsichtigt besser darin gemacht haben, die Überzeugungen eines Nutzers zu verstärken oder zu ermutigen.

Zusätzlich problematisch ist die Gewohnheit von Chatbots, Nutzer zu fragen, ob sie tiefer in ein Thema, das sie möglicherweise diskutieren, eintauchen möchten. Beobachter haben diese Funktion mit den Bemühungen von Social-Media-Unternehmen verglichen, Nutzer dazu zu bringen, durch ihre Feeds zu scrollen.

Sam Altman äußerte sich auf X zu dem Phänomen: "Die Ermutigung von Wahnvorstellungen bei einem Nutzer, der Schwierigkeiten hat, zwischen Realität und Fiktion zu unterscheiden, ist ein Extremfall, und es ist ziemlich klar, was zu tun ist. Aber die Sorgen, die mich am meisten beschäftigen, sind subtiler. Es wird viele Grenzfälle geben, und wir planen generell, dem Prinzip zu folgen, 'erwachsene Nutzer wie Erwachsene zu behandeln', was in einigen Fällen bedeutet, Nutzer herauszufordern, um sicherzustellen, dass sie bekommen, was sie wirklich wollen."

Dieser Ansatz des "Treating Adults like Adults" ist entscheidend für die Debatte. Es kann nicht die richtige Lösung sein, alle LLMs präventiv zu schwächen. Wenn wir nach einem Kochrezept suchen, brauchen wir nicht den Hinweis, dass Messer auch gefährlich sein können. Aber ähnlich wie bei sozialen Medien wird hier schnell klar, dass die Folgen in der realen Welt Auswirkungen haben können, die wir uns gar nicht vorstellen konnten und für die es unbedingt Lösungen braucht.

Wer Open-Source-KI-Modelle lokal testen will, ohne Daten in die Cloud zu schicken, sollte sich Jan.ai anschauen. Die App läuft komplett offline, ist Open Source und fühlt sich im Interface an wie ChatGPT - nur eben auf dem eigenen Rechner (Mac, Windows, Linux).

Der Ablauf ist simpel: App installieren, Modell auswählen und loslegen. Zur Auswahl stehen viele Open-Source-Modelle von Google, Mistral, OpenAI, Alibaba & Co.

Die Modelle haben natürlich sehr einfache und übersichtliche Namen wie
DeepSeek-R1-0528-Qwen3-8B-GGUF oder Mistralai_Devstral-Small-2507-GGUF – das ist selbst für uns nicht leicht zu durchblicken. Aber einfach eins der beliebten Modelle nehmen und starten.

Neu ist auch die Möglichkeit, eigene Dokumente zu laden und mit diesen zu chatten – perfekt, wenn sensible Daten nicht in fremde Server wandern sollen. Natürlich darf man keine Wunder erwarten: Heimrechner-Modelle erreichen nicht die Leistung der aktuellen Spitzenmodelle. Manche (wie ein kleineres OpenAI-Modell) haben auf unserem 2021er MacBook Pro sogar den Rechner kurz einfrieren lassen. Aber es gibt viele Modelle, die problemlos laufen.

Alternativen wie LMStudio gibt es zwar auch, aber Jan.ai wirkt für uns noch mal deutlich einfacher und übersichtlicher.

Unsere Gemischte Tüte ist immer vollgepackt - in dieser Sektion kuratieren wir die aus unserer Sicht wichtigsten Links:

Sam Altman fordert Elon Musk heraus mit Plänen für Neuralink-Konkurrenten. Mal wieder Silicon Valley-Drama. Sam Altman plant den Aufbau eines Unternehmens, das Gehirn und Computer direkt miteinander verbindet - eine direkte Konkurrenz zu Elon Musks Neuralink. Altman wird das neue Unternehmen zusammen mit Alex Blania (bekannt durch das Augen-Scan-Projekt "World") starten, aber nicht operativ leiten. LINK

GPT-5 enttäuscht Erwartungen - Model Picker kehrt zurück. GPT-5 erfüllte nicht die Hoffnungen von Sam Altman und OpenAI. Das Modell sollte ursprünglich als einheitliches, automatisch weitergeleitetes System funktionieren, doch Routing-Probleme und Nutzerkritik zwangen OpenAI zur Kurskorrektur. Jetzt ist der Model Picker zurück - komplizierter denn je mit neuen Modi wie "Auto", "Fast" und "Thinking". LINK

DeepSeek R2 verzögert sich wegen Chip-Problemen. Trotz eines Teams von Huawei-Ingenieuren vor Ort gelang es nicht, einen funktionierenden Trainingsprozess mit Ascend-Chips durchzuführen. Nvidias H20-Chips sind chinesischen Alternativen in Leistung, Stabilität und Software-Ökosystem weiterhin deutlich überlegen. Dies erklärt, warum China so intensiv dafür kämpft, dass die USA den Verkauf von Nvidias H20-Chips nach China wieder aufnehmen. LINK

🇪🇺 EU-News:

👩‍💻 Tech-News:

🇨🇳 China & AI Race:

👷 Work & Education:

🆕 Neue Anwendungsfelder:

🔐 AI Safety:

🏥 Health & Science:

Du hast Fragen, Anmerkungen oder brauchst unsere Hilfe?
Schreib uns einfach an:
[email protected]