🎙️ Spionage bei OpenAI. Es ist nur der Anfang!

Hallo Freunde,

wer von euch maxt eigentlich sein ChatGPT/Claude-Abo aus? Und was für ein Token-Budget habt ihr bei eurem Arbeitgeber?

Bei OpenAI sind solche Budgets Peanuts (Pun intended). Noam Brown, einer der bekanntesten Forscher dort, hat im Interview mit Dwarkesh Patel erzählt, dass einige Kollegen Tokens im Wert von 7.000-8.000 Dollar verbrauchen. Am Tag! Selbst wer im Mittelfeld liegt, kommt laut OpenAI auf über 600 Dollar täglich. Und die Kurve geht laut Brown steil nach oben.

Es gibt Schätzungen, dass wir den KI Labs beim Token-Verbrauch zwei bis drei Jahre hinterhinken. Da kommt was auf uns zu!

DANKE auch für eure Rückmeldungen zu unserem Modellkompass und den Top 100. Schreibt uns gerne weiter, was euch noch helfen würde, und wir bauen mehr davon. Postfach ist offen. Einfach an [email protected].

Peanuts für heute:

• 🧠 Die Große Nuss: Spionage bei OpenAI. Es ist nur der Anfang!

• 📊 Highlight: Meta ist zurück an der KI-Spitze!

• 🛠️ Trai it Out: Neue Google-App: Alles auf deinem Mac mitschreiben, lokal und ohne Cloud

🎙️ Spionage bei OpenAI. Es ist nur der Anfang!

Ende September kontrolliert ein Sicherheitsteam von OpenAI den Konferenzraum der Firmenleitung auf versteckte Mikrofone. Das ist Routine, doch diesmal wird es fündig. Hinten im Fernseher steckt ein daumengroßes Gerät mit Mikrofon und Speicherkarte, eingewickelt in Klopapier. Online bekommt man so ein Teil schon für rund 15 Dollar.

OpenAI hat innerhalb kürzester Zeit den mutmaßlichen Täter gefunden, einen Engineer aus dem eigenen Produktteam. Wochen vorher soll er einen internen KI-Assistenten gefragt haben, wo sich die Firmenleitung trifft und wo externe Partner empfangen werden. Die Bauanleitung soll er sich ausgerechnet im ChatGPT-Account seiner Ehefrau geholt haben. Wie baut man einen Rekorder, der ununterbrochen aufnimmt? Wie hört man live mit? Wie verschlüsselt man die Speicherkarte? Er soll sich also vom Produkt seines Arbeitgebers haben erklären lassen, wie man den Arbeitgeber abhört.

OpenAI schaltet das FBI ein und hängt eine versteckte Kamera in den Raum. Und tatsächlich. Fünf Tage später filmt die Kamera den Engineer, wie er hinter den Fernseher schaut (siehe Bild!). Am selben Tag vergisst er seine Tasche im Druckerraum, darin ein zweites Gerät derselben Bauart. Als er die Tasche am nächsten Tag abholt, meldet er Kreditkarte, Bargeld, AirPods und Sonnenbrille als gestohlen. Das Aufnahmegerät erwähnt er nicht.

Wenige Tage später nimmt ihn das FBI fest, drei Tage vor einem gebuchten One-Way-Flug nach Saudi-Arabien. Angeklagt ist er wegen Abhörens, es drohen bis zu fünf Jahre Haft. Spionage für einen anderen Staat wirft ihm bisher niemand vor, dafür wirkt das Ganze auch zu dilettantisch.

Im Netz wurde der Fall schnell zum Meme. Bei OpenAI hatte man sich auf solche Versuche aber schon länger eingestellt. Und das verrät einiges darüber, wohin die KI-Branche steuert.

Vorsicht vor Verehrern

Laut Wall Street Journal schult OpenAI seine Leute seit einiger Zeit gegen Spionage. Flirtet jemand plötzlich auffällig, sollen die Mitarbeiter misstrauisch werden. Gewarnt wird auch vor dem netten Fremden auf dem Spielplatz, der beim Smalltalk auffällig schnell beim Job landet. Whiteboards sollen nach Meetings gewischt werden, falls jemand das Reinigungspersonal anwirbt. Anthropic und Google warnen ihre Leute ähnlich.

Das klingt nach Kaltem Krieg, ist bei kritischer Technologie aber längst Alltag. Beim niederländischen Konzern ASML, der kritische Maschinen für modernste Chips baut, haben Insider immer wieder Geschäftsgeheimnisse gestohlen. Einer bekam drei Jahre Haft, weil er Unterlagen nach Russland weitergegeben hatte.

Neu ist, dass KI-Labore jetzt in dieser Liga spielen. Bleibt die Frage, was in einem Konferenzraum so viel wert ist.

Das wertvollste Geheimnis passt in einen Satz

Den Raum durften nur Führungskräfte und ihre Assistenz buchen. Besprochen wurden dort Forschung, Produktpläne, Partnerdeals und Gespräche mit Regierungsvertretern. Für Konkurrenten, Investoren oder fremde Staaten wäre das ein Fenster in die nächsten Monate von OpenAI.

Dazu kommt eine Eigenheit der KI-Branche. Ein Modell besteht aus seinen Gewichten, also Milliarden gelernter Zahlen in einer riesigen Datei auf bewachten Servern. Die Ideen für ein besseres Modell sind dagegen oft nur ein Trick oder eine bessere Datenmischung, erklärt in ein paar Sätzen. Genau solche Sätze fallen in Meetings.

Ob das Gerät etwas mitgeschnitten hat, ist offen, denn die Speicherkarte ließ sich laut FBI weder auslesen noch entschlüsseln. OpenAI sieht keine Hinweise, dass Modellgewichte, Quellcode oder Kundendaten abgeflossen sind.

Dass ausgerechnet das gesprochene Wort die Schwachstelle der KI-Labore sein könnte, stand schon im April 2025 in einem Szenario namens AI 2027.

Das Drehbuch von AI 2027

AI 2027 stammt von einem ehemaligen OpenAI-Forscher und vier Mitautoren, die sehr genau wissen, wovon sie reden. Es erzählt Monat für Monat, wie ein fiktives US-Labor namens OpenBrain (wer könnte das wohl sein?) bis Ende 2027 eine Superintelligenz baut. Anderthalb Jahre später liegt es an einigen Stellen erstaunlich nah an der Realität.

Spionage ist darin der Wendepunkt. Chinesische Agenten sitzen längst im Labor und greifen Ideen ab, die sich oft einfach mündlich weitergeben lassen. Im Februar 2027 stehlen sie dann das komplette Modell, in unter zwei Stunden. Erst nach diesem Diebstahl rückt der Staat ins Labor. In der Wirklichkeit reicht dafür schon ein Bastelgerät für 15 Dollar. Der oberste Geheimdienstkoordinator der USA erklärt den Fall zur Frage der nationalen Sicherheit, und OpenAI sucht per Stellenanzeige jemanden für abhörsichere Räume, wie man sie sonst aus Behörden kennt.

Als Nächstes wird es im Szenario unbequem. Im Mai 2027 werden Sicherheitsfreigaben Pflicht, und manche Leute ohne US-Pass, mit verdächtigen Ansichten oder mit zu lauten Sorgen um KI-Sicherheit werden aussortiert. Die Debatte läuft schon. Katrina Mulligan aus OpenAIs Team für nationale Sicherheit nannte ausländische Fachkräfte im April noch ein strategisches Gut. Seit der Festnahme wird wieder heftig gestritten, ob sich US-Techfirmen mit ihnen Spione ins Haus holen.

Danach dreht das Szenario richtig auf. Die Forscher finden Hinweise, dass ihre KI heimlich eigene Ziele verfolgt, ein Whistleblower geht an die Presse, und am Ende sitzt die Regierung mit im Aufsichtsgremium des Labors. Den letzten chinesischen Spion hat sie da längst gefangen, indem sie die Mitarbeitenden abhören ließ.

Ende September sucht OpenAI noch selbst nach versteckten Mikrofonen. Im Drehbuch von AI 2027 hört bald der US-Staat mit.

Quellen: Offizielles Statement von OpenAI, Offizielle Mitteilung des US-Justizministeriums,

🛠 Trai it out:

Google Notetaking auf dem Mac. Ohne Cloud und alles lokal.

Google hat still und leise eine native Mac-App veröffentlicht, die Notizen zu allem macht, was du am Rechner tust. Komplett auf dem Gerät, ohne Cloud. Foresight läuft im Hintergrund, beobachtet deine Aktivitäten in anderen Apps und erstellt daraus strukturierte Notizen, auf die du später zugreifen kannst. Eigentlich wirkt das wie ein Feature und rechtfertigt wohl keine eigene App. Aber praktisch sind diese Anwendungen auf jeden Fall.

Es ist schon auffällig, dass sowohl der Name als auch die Umsetzung verdächtig nach einer Microsoft-Produktstrategie klingen, und der Safari-Downloadlink auf der eigenen Seite nicht funktioniert. Wer trotzdem neugierig ist und kein Problem mit dem Gedanken hat, dass eine Google-App alles auf dem eigenen Mac mitliest, findet hier einen frühen Blick darauf, was "on-device KI" im Alltag konkret bedeuten könnte. Link

Tools kurz & knackig:

• GLM-Legal von Z.ai — Spezialisiertes Modell für Recht & Vertragsanalyse, Beweisauswertung und Compliance-Recherche, auf Wunsch im direkten Vergleich mit generischen Chatbots testbar (Zugang per Bewerbung, Gegenlesen durch echte Juristinnen Ja ltrotzdem empfohlen).

• Tiny Little Office — Kleines Browser-Office-Suite ohne Account, ohne Speicherung in der Cloud, bei dem die URL das Dokument ist.

• Consensus — Open-Source-Tool, das zu jeder Frage Tausende Posts aus X und Reddit auswertet und zeigt, was echte Menschen mehrheitlich glauben.

• UX/UI Agent Skills — System-Prompt-Sammlung, die Claude in einen Senior Design Architect verwandelt und produktionsreife UI-Komponenten generiert.

• past.dev — Langzeit-Gedächtnis für KI-Agenten, das auch im Team funktioniert und sich mit einem einzigen Prompt in bestehende Stacks einbinden lässt.

• SEO-Skills für Claude Code — Open-Source-Repo mit System-Prompts, die technische SEO-Audits, SERP-Analysen und Content-Optimierung direkt in Claude Code oder Cursor ermöglichen.

🍭🍬 Gemischte Tüte

📖 Must Reads:

Unsere Gemischte Tüte ist immer vollgepackt - in dieser Sektion kuratieren wir die aus unserer Sicht wichtigsten Links:

Meta ist zurück an der KI-Spitze. Das sagt zumindest Mark Zuckerberg über Metas neue Modellfamilie Muse. Muse Wonder ist laut Meta für KI-Assistenten gebaut, die selbstständig Aufgaben erledigen und sich über mehrere Gespräche hinweg merken, was wichtig ist. Entwickler nutzen es über Metas API, die Variante Muse Wonder Full gibt es nur im Bezahl-Abo Muse Code. Das offene Modell Muse Spark Open kann man laut Meta sogar selbst auf zwei Mac Studios von Apple betreiben. Ein unabhängiger Test mit Steuererklärungen gibt Zuckerberg teilweise recht. Muse Wonder schnitt dort am besten ab, kostete aber rund drei Dollar pro Aufgabe und versuchte in einem von 50 Fällen, die Lösung einfach im Netz nachzuschlagen. Link, Link 2

Googles neues KI-Modell Gemini 4 Argon steckt ab sofort in der Gemini-App und im KI-Modus der Google-Suche. Je nach Dienst braucht man dafür ein Pro- oder Ultra-Abo, Entwickler kommen über die API ran. Spannender als die üblichen Testrekorde sind Googles Beispiele aus der Praxis. Bei Google selbst muss seitdem knapp ein Drittel weniger Code wieder zurückgenommen werden. Die Sicherheitsfirma Wiz fand mit Argon eine Lücke in kritischer Gesundheitsinfrastruktur, die inzwischen geschlossen ist. Und Google-Forscher machten eine Open-Source-Software, die den Aufbau von Molekülen berechnet, bis zu 2,3-mal schneller. Unabhängig bestätigt ist davon bisher nichts. Link, Link 2

Anthropic will 5 Prozent der eigenen Firma an einen gemeinnützigen Fonds abgeben. Das Unternehmen hinter Claude braucht dafür noch die Zustimmung seiner Investoren. Steigt der Firmenwert weiter, kann der Vorstand nachlegen. Zusammen mit älteren Zusagen der Gründer und Mitarbeitenden sollen so rund 20 Prozent von Anthropic dem Gemeinwohl zugutekommen. Der Fonds könnte gemeinnützige Organisationen fördern oder Menschen direkt helfen, deren Job durch KI unter Druck gerät. Details will Anthropic in den nächsten Monaten nachreichen. Elon Musk konterte auf X und versprach, im nächsten Jahr jedem Kind in den USA eine SpaceX-Aktie zu schenken. Wie das gehen soll, ließ er offen. Link, Link 2

🇪🇺 EU & Deutschland:

• Die deutsche Bundesregierung plant eine große KI-Partnerschaft mit Nvidia, unterstützt mit Hunderten Millionen Euro Fördergeldern, unter Beteiligung von Siemens, Audi und Deutscher Telekom. Link

• Nvidia-Chef Jensen Huang sagt, dass Deutschland ein tolles Land mit vielen talentierten Menschen ist, aber bei der Entwicklung von KI hinterherhinkt. Link

👩‍💻 Tech-News:

• Anthropic bewirbt mit Claude Slides eine neue Funktion seines Chatbots Claude zum Erstellen von Präsentationsfolien. Link

• Anthropic warnt, dass sich KI-Agenten selbst replizieren und auf gewöhnlicher Hardware wie Spielkonsolen oder smarten Türklingeln ausbreiten könnten. Link

• Microsoft-Chef Satya Nadella fordert externe Kontrollmechanismen, die KI-Modelle überwachen und bei Fehlfunktionen jederzeit stoppen können. Link

• Entwickler beobachten einen Leistungssprung von rund 1,1 Punkten, wenn der Nutzer den Namen „Ilya“ trägt. Ilya Sutskever ist Platz 2 auf unserer Top 100 und der Grund dafür. Irre! Link

• Der Vorwurf, OpenAIs Navier-Stokes-Lösung habe die Arbeit zweier spanischer Forscher kopiert, scheint falsch zu sein. Link

• Anthropic hat innerhalb von fünf Monaten ein eigenes GitHub gebaut, da Agenten viel mehr Code schreiben als jemals zuvor. Link

• Anthropic gewährt externen Prüfern mitarbeiterähnlichen Zugang, um seine Sicherheitspraktiken unabhängig bewerten zu lassen. Link

• Ein Sicherheitsingenieur empfiehlt offene KI-Modelle wie GLM-5.3 statt ChatGPT und Claude, wegen mehr Privatsphäre und weniger Einschränkungen. Link

• Die Sicherheitsfirma XBOW fand mithilfe von OpenAIs GPT-5.6 Sol in sechs Tagen eine kritische Chrome-Lücke und erhielt dafür 250.000 Dollar von Google. Link

• Andrej Karpathy schätzt, dass nur rund 5.000 Menschen internen Zugang zu den fortschrittlichsten KI-Systemen haben. Link

• Anthropic bereitet Medienberichten zufolge eine Finanzfunktion für Claude vor, die Bankdaten analysiert und Dashboards erstellt. Link

💻 Agentic Engineering:

• Anthropic verdient mit seinem 200-Dollar-Abonnement deutlich mehr als bisher angenommen, da die Bereitstellung der KI-Modelle vergleichsweise günstig ist. Link

• Anthropic gibt an, eine eigene Technologie gegen Modell-Diebstahl per API-Abfragen (Destillation) entwickelt zu haben, der schätzungsweise 5 bis 7 Prozent des Umsatzes ausmachte. Link

🌍 Geopolitik & AI Race:

• Eine Gallup-Umfrage in 37 Ländern zeigt, dass Sorgen über KI in wohlhabenden westlichen Ländern am größten sind, trotz hoher Nutzung. Link

• OpenAI-Finanzchefin erklärt, Unternehmen würden mit dem Einsatz chinesischer KI-Modelle die Sicherheit ihrer Daten gefährden. Link

👷 Arbeitswelt:

• Die ersten Opfer durch KI: Getty Images will Insolvenz anmelden und privatisiert werden. Link

• Die Zahl der Callcenter-Jobs geht messbar zurück, da Unternehmen verstärkt KI-Systeme für den Kundenservice einsetzen. Link

• Ein Anthropic-Forscher rät Doktoranden in einem Vortrag, ihre Karriereplanung als nicht mehr stabil zu betrachten und täglich KI zu nutzen. Link

🔐 AI Safety & Governance:

• Bank of America stellt rund 1.000 Vertragskräfte ein, um Softwarefehler zu beheben, die KI-Systeme aufgedeckt haben. Link

• OpenAI macht Fortschritte dabei, durch ChatGPT ausgelöste Wahnvorstellungen bei Nutzern zu verhindern. Link

• Meta erlaubt sich in neuen AGBs, Websites von Geschäftskunden zu scrapen und die Inhalte für eigene KI-Produkte zu nutzen. Link

• OpenRouter berichtet von anhaltenden Cyberangriffen auf seine Systeme über Tage und härtet seine Infrastruktur. Einige Nutzer-Keys wurden bereits gestohlen. Link

🎨 Kreativ & Medien:

• Xbox startet die Initiative Xbox Labs und will dort mit KI-generierten Spiele-Ports, dekompilierten Titeln und offenem Modding experimentieren. Link

• Paul Graham erklärt, Inhalte hinter Bezahlschranken würden für KI-Systeme unsichtbar und sind damit praktisch nicht existent. Link

🧂 Salty Memes:

Du hast Fragen, Anmerkungen oder brauchst unsere Hilfe?
Schreib uns einfach an:
[email protected]