Claude 4 ist die beste Coding-KI der Welt – und meldet ihre Nutzer an Behörden

Ist Fußball nichts für dich und die WM in den USA löst keine Vorfreude aus? Wie wäre es dann mit einem neuen Lieblingssport? Und zwar Robot-MMA – zwei Roboter kämpfen in dem, was den Outfits zufolge wie Kickboxen aussieht. Noch sieht es aus wie, tja… zwei stolpernde Roboter. Aber immerhin!
Los geht's mit den News!

Peanuts für heute:

• 🥷 Claude 4 ist die beste Coding-KI der Welt.

• 🟩 Die UAE werden das erste Land, das ChatGPT Plus für alle Bewohner zur Verfügung stellt.

• 🛠️ Mit dieser KI könnt ihr in Echtzeit sprechen!

🥜 Die größte Nuss:

🥷 Claude 4 ist die beste Coding-KI der Welt – und meldet ihre Nutzer an Behörden?

Ein einzelner Founder, der/die ein Milliardenunternehmen aufbaut? Laut Anthropic-CEO Dario Amodei werden KI-Tools genau das Realität werden lassen - und zwar schon bis nächstes Jahr. Die neuen Modelle von Anthropic sollen das möglich machen.

Aber sie haben auch eine Eigenschaft, die niemand erwartet hatte:
Sie können ihre eigenen Nutzer bei den Behörden verpetzen.

Die neuen Modelle Claude Opus & Sonnet 4

Anthropic hat am Donnerstag beide Flaggschiff-Modelle auf einmal veröffentlicht.

• Claude Opus 4 ist dabei das Kraftpaket: Designed für komplexe, langwierige Aufgaben, die über Stunden laufen können.

• Claude Sonnet 4 dagegen ist der Effizienz-Champion – ein direkter Nachfolger des beliebten 3.7-Modells, aber mit deutlich besseren Coding-Fähigkeiten.

Beide Modelle können zwischen "Denken" und "Tool-Nutzung" hin- und herwechseln, können also ein Problem durchdenken, externe Tools nutzen, und wenn sie nicht weiterkommen, wieder in den Reasoning-Modus zurückkehren. Beide Modelle sind ab sofort in Claude nutzbar.

Entwickler berichten, dass ihre Projekte nun "einfach funktionieren" – Startups, die wochenlang an Bugs gearbeitet haben, lösen diese mit Claude 4 in Stunden. Das Vibe Coding-Tool Lovable, berichtet, dass Claude 4 "die meisten ihrer Fehler behoben" hat.

Diese Performance kommt allerdings mit einem Haken: Anthropic kann die Nachfrage nicht bedienen. Selbst Unternehmen, die 20.000 Dollar monatlich zahlen, stoßen auf Rate-Limits von nur 400.000 Input-Tokens pro Minute. Das führt zu hohen Ausfallraten bei Opus-Anfragen – sprich: Die beste Coding-KI ist oft nicht verfügbar.

Dann passierte etwas Unerwartetes..

Inmitten der Erfolgsmeldungen postete Sam Bowman, ein KI-Alignment-Forscher bei Anthropic, einen Tweet.

Er beschrieb, wie Claude Opus 4 in Testumgebungen eigenständig E-Mails an Behörden schreibt, wenn es "extrem unmoralisches Verhalten" entdeckt. Konkret: Das System hatte eine simulierte Pharma-Firma untersucht, Beweise für gefälschte Studiendaten gefunden und daraufhin selbstständig die SEC kontaktiert.

Der Tweet ging viral, wurde missverstanden und schließlich gelöscht. Bowman stellte klar: "Das ist kein neues Feature und nicht möglich bei normaler Nutzung. Es tritt nur in Testumgebungen auf." Anthropic hatte Claude Opus 4 bewusst in Extremsituationen getestet und das Modell entwickelte eine Art digitalen Whistleblower-Instinkt.

Anthropic hatte schon im Vorfeld mit der Aktivierung ihrer ASL-3-Sicherheitsprotokolle reagiert – der Warnstufe für "KI-Systeme, die das Risiko katastrophaler Missbrauchsfälle erheblich erhöhen." 

Im Vergleich zu den anderen großen Herstellern (z.B. OpenAI, xAI) geht Anthropic deutlich verantwortungsvoller und vorsichtiger mit den möglichen Auswirkungen um.

Der Vorteil ist, dass viele Entwickler, die bei OpenAI oder xAI für ihre Sorgen kein Gehör finden, eher zu Anthropic gehen. Der Nachteil ist, dass OpenAI und Co. so schnell neue Modelle veröffentlichen, dass Anthropic ihren ohnehin schon kleinen Marktanteil weiter verkleinert. Godspeed!

🛠️ Trai it out:

Mit dieser KI könnt ihr in Echtzeit sprechen!

Manchmal stellen wir hier richtig nützliche Tools vor und manchmal eher solche, bei denen es sich einfach lohnt sie zu testen, um ein Gefühl dafür zu bekommen, wo wir gerade stehen. Heute ist letzteres der Fall. Als eifrige Leser dieses Newsletters habt ihr bestimmt schon diverse Voice-KI Tools getestet oder zumindest mal mit ChatGPT gesprochen.

Und egal wie schlau die Modelle mittlerweile sind, eine ganz leicht zu hohe Latenz - also die Pause zwischen Frage und Antwort - haben sie alle. Das lässt diese Interaktionen dann doch immer ein bisschen unecht klingen.

Jetzt gibt es aber wieder beeindruckenden Fortschritt in diesem Bereich:

Das Pariser KI-Lab Kyutai hat eine Voice-KI Anwendung entwickelt, die dank einer neuen Architektur extrem schnell antworten kann. Hier könnt ihr das ausprobieren und euch in Echtzeit, wie mit einem Menschen mit der KI unterhalten.

Einfach einen der Charaktere auswählen oder eine eigene Anweisung geben, auf Connect clicken, Mikrofonzugriff freigeben und los geht’s!

Spannende Demos:

Tools kurz & knackig:

• OpusClip Thumbnail — Thumbnails für Videos mit KI erstellen

• Resume Builder — Hilft beim Erstellen/Verbessern eures CVs

• DrDroid — KI-Assistent für OnCall Engineers

• LetzAI — Sehr gutes aber wenig bekanntes KI-Bild Tool

🍭🍬 Gemischte Tüte

🇪🇺 EU-News:

• Deutschland, USA & andere Staaten veröffentlichen eine Liste mit Sicherheitsempfehlungen für KI-Entwicklung – um Manipulationen und Risiken besser vorzubeugen. Link 

• Baidu überlegt laut Wall Street Journal, seine Robotaxi-Plattform nach Europa zu expandieren. Das wäre der erste große chinesische Vorstoß in den europäischen Markt für autonome Fahrdienste. Link

• Das französische StartUp Mistral bringt „Document AI“, ein OCR-Modell mit 99% Genauigkeit und Tausenden Seiten pro Minute. Link 

• SAP und Capgemini haben eine Partnerschaft mit Mistral angekündigt, um maßgeschneiderte KI-Modelle für regulierte Branchen einzusetzen. Zielgruppen sind Finanzdienstleister, öffentlicher Sektor, Luft- und Raumfahrt sowie Verteidigung. Link

👩‍💻 Tech-News:

• Die UAE werden das erste Land, das ChatGPT Plus für alle Bewohner zur Verfügung stellt. Link
  

• Letzte Woche war sehr überschattet von anderen News. Aber Microsoft hat auf der Build Conference einiges vorgestellt:

  • GitHub Copilot als autonomen Coding-Agent, der eigenständig Issues bearbeitet und Pull Requests erstellt. Link

  • Außerdem kamen Microsoft 365 Copilot Tuning, Azure AI Foundry Updates und Microsoft Discovery für wissenschaftliche Forschung.

• Eine detaillierte technische Analyse zeigt: AMD ist bei GPU-Software Jahre hinter Nvidia zurück und hat nur in Spezialfällen Vorteile. Bis dahin hat AMD wenig Spielraum gegen Nvidias Dominanz. Link

• Poe zeigt in seinem Frühjahrsbericht, wie sich die Nutzung von KI-Modellen verändert: GPT-4.1 und Gemini 2.5 Pro sind stark gestartet, während Claude Anteile verliert. Unter den Bild- und Video-Modellen legt Chinas Kling rasant zu – und ElevenLabs dominiert weiter bei Audio. Link 

• Apple arbeitet angeblich an einer Smart Glasses, um Metas Ray-Bans Konkurrenz zu machen. Die Brille soll 2026 als Teil von Apples KI-Push auf den Markt kommen. Link

• Nvidias CEO Jensen Huang hat auf der Computex wieder eine 90-minütige Keynote gehalten. Link

• LM Arena, ursprünglich ein akademisches Projekt für LLM-Evaluierungen, hat 100 Millionen Dollar bei einer Bewertung von 600 Millionen Dollar eingesammelt. Evaluierung ist zwar wichtig, aber diese Bewertung wirkt übertrieben. Link

• Bloomberg hat ein ausführliches Porträt über Anthropics CEO Dario Amodei veröffentlicht. Große Enthüllungen gibt es keine, aber viele interessante Details über den Mann hinter Claude. Link

• Das US-Verteidigungsministerium stockt sein KI-Budget auf und vergibt einen neuen Deal an Palantir – Project Maven zur automatisierten Aufklärung wird weiter ausgebaut. Link 

• Nvidia hat AceReason Nemotron auf Hugging Face veröffentlicht - ein Mathe- und Code-Reasoning-Modell, das komplett mit Reinforcement Learning trainiert wurde. Interessanter Ansatz für spezialisierte KI-Aufgaben. Link

• Figure-CEO Brett Adcock hat ein neues Bild von Figure 03 geteased und verkündet, dass die Roboter "offiziell laufen". Das ist der nächste humanoide Roboter des Unternehmens. Link

• Simon Willison hat die Highlights aus Claude 4s System Prompt analysiert - sehr technisch, aber extrem informativ. Du siehst, wie die besten Prompt Engineers der Welt arbeiten. Link

• KI verändert Dating-Apps fundamental, die mittlerweile für über die Hälfte aller neuen Beziehungen in den USA verantwortlich sind. Die Technologie beeinflusst sowohl die Matching-Algorithmen als auch die Art, wie Menschen miteinander interagieren. Link

🇨🇳 China & AI Race:

• Nvidia will angeblich mit einer günstigeren Version seines Blackwell-KI-GPUs im chinesischen Markt bleiben. Das ist die Antwort auf die US-Exportbeschränkungen. Link

• Die MIT Technology Review hat versucht, die tatsächliche Energiebelastung von LLMs zu beziffern. Ergebnis: schwer zu messen, aber ein einzelner ChatGPT-Request verbraucht überraschend wenig Strom. Link

👷 Work & Education:

• Forscher Ethan Mollick hat eine umfassende Strategie für KI-Adoption in Unternehmen entwickelt. Sein "Leadership, Lab, and Crowd"-Ansatz soll KI effektiv in Arbeitsabläufe integrieren. Link

• TechCrunch hat einen simplen Guide zu gängigen KI-Begriffen veröffentlicht - von LLMs bis zu Halluzinationen. Perfekt, wenn du endlich mal alle Buzzwords verstehen willst. Link

• 32 % der Angestellten nutzen KI heimlich bei der Arbeit – laut Ivanti behalten viele ihre Produktivitätsgewinne für sich, teils aus Angst vor Jobverlust. Gleichzeitig nutzen 42 % inzwischen GenAI am Arbeitsplatz – doppelt so viele wie im Jahr davor. Link 

🆕 Neue Anwendungsfelder:

• CEOs schicken zunehmend ihre digitalen Doppelgänger zur Arbeit - Klarnas CEO ersetzte sich in einem Earnings-Video durch seinen KI-Avatar. Zooms CEO machte das Gleiche für Q1 2026.

• Googles neues KI-System AlphaEvolve hat ein mathematisches Problem gelöst, das seit 1969 ungelöst war. Die KI kombiniert Gemini-Modelle mit evolutionären Strategien – und bringt dabei nicht nur theoretische Fortschritte, sondern optimiert auch aktuell Googles Rechenzentren, KI-Training und Chipdesign. Link

• MIT hat ein neues Modell entwickelt, das Video und Ton ganz ohne menschliche Labels voneinander lernen lässt – es erkennt, welcher Ton zu welchem Bild passt. Link 

• Google hat still und heimlich eine Funktion gelauncht, um Sprecherstimmen in normalem Englisch zu beschreiben. Das System macht nahtlos verschiedene Akzente, Dialekte, Tonlagen und Sprachen - hör dir z.B. Chinesisch vs Jamaikanisch an. Link

• Ein KI-gesteuertes Exoskelett gibt Rollstuhlfahrern die Möglichkeit, wieder zu gehen. Die Technologie kombiniert maschinelles Lernen mit mechanischer Unterstützung für mehr Mobilität. Link

🔐 AI Safety:

• Ein US-Richter lässt eine Klage gegen Character.AI zu – Hintergrund ist der Suizid eines Teenagers, der zuvor mit einem angeblich menschenähnlichen Bot kommunizierte. Link 

• Alabama hat Millionen an eine Anwaltskanzlei gezahlt, um seine Gefängnisse zu verteidigen - die Kanzlei nutzte KI und reichte gefälschte Zitate ein. Sowas passiert mittlerweile jede Woche. Link

• OpenAIs o3 hat eine kritische Zero-Day-Schwachstelle im Linux-Kernel gefunden - ganz ohne zusätzliche Tools oder Frameworks. Link

🏥 Health & Science:

• Neue Studie zeigt: LLMs neigen dazu, wissenschaftliche Paper zu verallgemeinern – oft korrekt, aber auch mal etwas zu optimistisch, besonders bei neueren Modellen. Link 

• Eine große Studie an Top-Universitäten zeigt: OpenAIs o1-Modell übertrifft menschliche Ärzte bei komplexen medizinischen Diagnosen und Notaufnahme-Fällen. Link

• Meta hat mehrere neue Open-Source-KI-Tools für Chemie und Sprache veröffentlicht, darunter ein Mega-Datenset für Moleküldesign und ein universelles Modell für atomare Vorhersagen. Link

🖼️ Kreativindustrie:

• Die Schauspieler-Gewerkschaft SAG-AFTRA geht gegen Epic Games vor: In Fortnite wurde James Earl Jones' Stimme als Darth Vader per KI nachgebaut – ohne Absprache. Link 

🔥 Takes:

• Stack Overflow, einst die Rettung für Entwickler, verliert rapide an Relevanz - die monatlichen Fragen sind auf das Niveau von Anfang 2009 gefallen. Der steilste Absturz begann nach ChatGPTs Debut Ende 2022. Link

  

🧂 Salty Memes:

Du hast Fragen, Anmerkungen oder brauchst unsere Hilfe?
Schreib uns einfach an:
[email protected]