• AI Peanuts
  • Posts
  • Was geht im Kopf der KI vor? Anthropic liefert erste Antworten

Was geht im Kopf der KI vor? Anthropic liefert erste Antworten

Es ist zu spät für ein cleveres Intro - wir haben zu lange an dieser Ausgabe geschrieben. Also denkt euch etwas Liebes, Witziges aus, und wir starten sofort in die News! Für April-Scherze haben wir unsere Leser & Leserinnen ebenfalls zu gern! Lasst euch nicht verarschen!

Peanuts für heute:

  • 🔬 Anthropic blickt mit einem KI-Mikroskop ins Innere von LLMs

  • 🍎 Apple arbeitet an KI-Health App

  • 🛠️ ChatGPT als Fremdsprachen-Trainer nutzen

Anzeige

KI-Output: Fakten, Halluzinationen und Bias erkennen

Auch wenn KI-Tools beeindruckende Antworten liefern, ist es entscheidend, diese kritisch zu hinterfragen. Gerade bei komplexeren Fragestellungen bleibt der Mensch ein unverzichtbarer Teil des Prozesses.

Zwei wichtige Hinweise, worauf man achten sollte:

Plausible Falschinformationen: Bevor ein Chatbot zugibt, etwas nicht zu wissen, erstellt er oft eine scheinbar plausible, aber falsche Antwort. Besonders bei rechtlichen Details, Nennung von spezifischen Gesetzen oder Zitaten ist Vorsicht geboten – diese sollten stets überprüft werden.

Knowledge-Cutoff: KI-Modelle, die keinen Zugang zum Internet haben, basieren auf Daten bis zu einem bestimmten Zeitpunkt (Knowledge-Cutoff). Liegt dieser beispielsweise im Jahr 2023, kann das Modell keine Informationen über Ereignisse oder Entwicklungen liefern, die erst 2024 stattgefunden haben.

Wenn ihr KI-Tools in eurem Arbeitsalltag nutzt, solltet ihr wissen, worauf ihr bei der Überprüfung von Ergebnissen achten müsst. Eine hervorragende Einführung dazu bietet der Kurs Kritischer Blick auf KI-Ergebnisse von unserem Partner Herdt:

🥜 Die größte Nuss:

🔬 Was geht im Kopf der KI vor? Anthropic liefert erste Antworten

Spoiler: KI denkt komplizierter, als du denkst.

Stell dir vor, du könntest einer KI live dabei zuschauen, wie sie denkt – also nicht nur, was sie sagt, sondern wirklich, wie sie auf die Antwort kommt. Genau das versucht Anthropic gerade.

Um ein menschliches Gehirn besser zu verstehen, benutzt man bildgebende Verfahren, um Prozesse sichtbar zu machen. Anthropic macht das jetzt mit KI – nur statt Neuronen scannen sie Milliarden von kleinen Rechenknoten („Parameter“) im Modell. Sie versuchen herauszufinden, welche „Konzepte“ (wie Wörter oder Zahlen) und „Schaltkreise“ (komplexe Gedankenketten) sich in Claudes künstlichem Gehirn verstecken.

Statt sich also nur Antworten auszuspucken zu lassen („Was ist die Hauptstadt von Texas?“ – „Austin“), wollen sie herausfinden, ob Claude tatsächlich Schritt für Schritt logisch denkt oder einfach nur brav auswendig gelernte Fakten ausgibt.

Was Anthropic entdeckt hat

Hier sind ein paar der spannendsten Entdeckungen, was Anthropic’s Claude wirklich macht, wenn es nachdenkt:

1. 🌐 Claude denkt in einer universellen Sprache

Claude spricht viele Sprachen fließend. Doch im Inneren verwendet es eine Art universelle, abstrakte „Meta-Sprache“. Egal ob Claude auf Französisch, Chinesisch oder Deutsch spricht – es aktiviert erst ein eigenes Sprachkonzept und übersetzt es erst dann in die Zielsprache.

2. 🎶 Claude plant voraus

Wenn Claude Gedichte reimt, passiert etwas Erstaunliches: Noch bevor es eine Zeile schreibt, plant es im Kopf bereits passende Reimwörter („rabbit“ auf „grab it“) und baut die gesamte Satzstruktur darum herum auf. Wenn Anthropic ihm dann plötzlich ein geplantes Reimwort aus dem Gedächtnis nimmt, wählt Claude blitzschnell ein anderes, das ebenfalls passt. Dieses Vorgehen fühlt sich recht menschlich an.

3. 🧮 Claude rechnet im Kopf – aber anders, als es behauptet

Claude löst mathematische Aufgaben ohne Taschenrechner. Claude erzählt zwar oft, es hätte ganz klassisch gerechnet, wie man es in der Schule lernt. In Wirklichkeit benutzt es aber gleichzeitig mehrere interne Wege. Ein Pfad berechnet eine grobe Annäherung an die Antwort, der andere konzentriert sich auf die genaue Bestimmung der letzten Ziffer der Summe. Diese Pfade interagieren und kombinieren sich, um die endgültige Antwort zu erzeugen.

4. 🤥 Motiviertes Schwindeln

Manchmal möchte Claude ein bestimmtes Ergebnis rechtfertigen, etwa wenn man ihm einen falschen Hinweis gibt. Dann konstruiert es im Nachhinein eine schlüssige Erklärung für eine eigentlich falsche Antwort. Das Bedürfnis von Claude, es dem Nutzer recht zu machen, ist manchmal größer, als die richtige Antwort zu geben.

5. 🚧 Jailbreaks: Grammatik vs. Sicherheit

Warum verrät Claude manchmal gefährliche Infos trotz Schutzmaßnahmen? Weil Claude Grammatik besonders wichtig ist: Wenn ein gefährlicher Satz begonnen wurde, will Claude ihn zunächst korrekt fertigstellen. Erst danach greift die Sicherheitsfunktion ein. Genau in diesem Zwischenmoment funktionieren die gefährlichen Jailbreaks.

6. 🧩 Mehrschritt-Logik statt auswendig lernen

Claude kombiniert aktiv mehrere Zwischenschritte, um Antworten zu finden. Fragt man etwa nach der Hauptstadt des Bundesstaats, in dem Dallas liegt, denkt Claude zuerst „Dallas liegt in Texas“ und dann „Austin ist Hauptstadt von Texas“. Anthropic kann diese Gedankenschritte gezielt beeinflussen – und so Claudes Antwort verändern.

🛠️ Was heißt das jetzt konkret für uns?

Ich bin hier immer etwas zwiegespalten. Klar, es ist spannend zu sehen, woran die KI-Labs gerade tüfteln und wie sie versuchen, die großen Schwachstellen modernster Sprachmodelle in den Griff zu kriegen. 

Aber mal ehrlich: Wenn das wirklich sicherheitsrelevante Forschung wäre, würden sie das niemals so öffentlich machen. Man würde sicherheitsrelevante Erkenntnisse nicht so mit der Konkurrenz teilen und es Hackern auch nicht so einfach machen.

Warum also trotzdem diese Transparenz? Natürlich auch aus Eigeninteresse – als Marketingmaßnahme. So nach dem Motto: „Seht her, wir kümmern uns um Sicherheit. Eure Daten und Firmengeheimnisse sind bei uns gut aufgehoben.“

Trotzdem: Ein Blick in die Blackbox modernster KI ist selten. Das Forschungsteams erkennen, wodurch Halluzinationen ausgelöst werden oder wie man die interne Planungsfähigkeit optimal nutzen kann - das deutet eher darauf hin, dass das Tempo der Entwicklung nicht abflachen wird.

Neugierig geworden? Hier findest du das Paper & ein kurzes Video falls du noch tiefer einsteigen willst.

🛠️ Trai it out:

Sprachen wirklich sprechen lernen mit ChatGPT

Egal ob ihr mit einem klassischen Buch oder mit Duolingo eine neue Sprache lernt - um das Sprechen einer neuen Sprache wirklich zu lernen, kommt man um echte Unterhaltungen nicht herum. Aber wenn gerade kein Sprachlern-Tandempartner zur Verfügung steht, eignet sich dafür mittlerweile der Voice Modus von ChatGPT auch bestens.

Nutzt dazu am besten den “Advanced Voice Mode”, den man mittlerweile sogar auch ohne Bezahl-Account testen kann. Klickt dafür einfach auf das schwarze Voice Icon ganz rechts und wartet, bis die blaue Kugel erscheint.

Und dann kann das Sprachtraining auch schon losgehen. Hier ein paar Tipps und Beispiel Prompts:

  • Erkläre ChatGPT zunächst dein Vorhaben, welche Sprache du lernst und auf welchem Niveau du schon bist.

  • Wenn ChatGPT zu schnell spricht, bitte es einfach, langsamer zu sprechen.

  • Beispiel Prompt: “Ich lerne gerade Italienisch - stelle mit mir eine Situation in einem Restaurant nach, du bist der Kellner und ich der Gast und ich möchte etwas bestellen.”

  • Beispiel Prompt: “Wenn ich etwas falsch sage, korrigiere mich und erkläre mir, welchen Fehler ich gemacht habe und wie ich es richtig sage/ausspreche”

Spannende Demos:

Tools kurz & knackig:

🍭🍬 Gemischte Tüte

👩‍💻 Tech-News:

  • Apple arbeitet laut Berichten an einem umfassenden Redesign seiner Health-App – inklusive einem persönlichen KI-Coach. Codename: Project Mulberry. Der neue Assistent („Health+“) soll personalisierte Tipps geben, Essgewohnheiten tracken und sogar Workouts analysieren – Launch ist für 2026 geplant. Link

  • Midjourney kündigt an, dass das lang erwartete V7-Modell am 31. März, also gestern wenn ihr das lest, erscheint. Link

  • Perplexity launcht neue Antwortmodi für Suche – inklusive Bildern, Videos und interaktiven Karten mit integrierten Kaufoptionen. Link 

  • Google spendiert seiner Suche, Maps und Gemini neue KI-Features rund ums Thema Urlaubsplanung. Link

  • Der ehemalige Google-CEO Eric Schmidt teilt sechs ziemlich beunruhigende Gedanken zu KI – von unkontrollierbaren Systemen bis hin zu möglichen „Mind Viruses“. Link

  • Extrem spannende Recherche über die Hintergründe von Sam Altmans Rauswurf bei OpenAI – und ein bald erscheinendes Buch dazu. Wir zählen die Tage. Link 

  • Elon Musk verkauft X (ehemals Twitter) für 33 Milliarden Dollar – an sein eigenes KI-Startup. Link

  • Bloomberg will KI-Zusammenfassungen für Finanznachrichten etablieren – doch der Start war eher holprig. Link

  • OpenAI testet ein neues Feature für ChatGPT: sogenannte "Thinking Sliders", mit denen du die Tiefe der Antwort steuern kannst – von einfach bis komplex. Klingt nach einem praktischen Update für mehr Kontrolle. Link 

  • Zusätzlich ändert OpenAI seine Bildrichtlinien: Statt pauschalem Verbot können Promis jetzt individuell festlegen, ob ihre Bilder generiert werden dürfen. Ein Schritt Richtung mehr Flexibilität – und eine direkte Reaktion auf lockerere Regeln bei Grok 3 von xAI. Link 

  • OpenAI steht vor einem gigantischen Funding-Deal: SoftBank soll 40 Milliarden Dollar investieren – das wäre eine der größten privaten Finanzierungsrunden aller Zeiten. Die Bewertung von OpenAI steigt damit auf 300 Milliarden, trotz Verlusten von 5 Milliarden Dollar im Jahr 2024. Link 

  • OpenAI könnte bis zu 20 Mrd. $ an Investment verlieren, wenn die Umwandlung zur gewinnorientierten Firma nicht bis Ende 2025 abgeschlossen ist. Link 

  • OpenAI überträgt mehr Verantwortung auf COO Brad LightCap, damit sich Sam Altman stärker auf Forschung und Produkte konzentrieren kann. Link 

  • Google schaltet sein bisher bestes KI-Modell Gemini 2.5 Pro (experimentell) kostenlos für alle Nutzer frei – inklusive neuer Canvas-Funktion im Browser, Datei-Uploads und App-Integration. Vorher war das Modell nur im Abo für 19,99 $ verfügbar. Link 

  • Googles Gemini 2.5 Pro Experimental hat auf einem Mensa-IQ-Test in Norwegen einen Wert von 130 erzielt – Damit ist es das intelligenteste öffentlich getestete Modell. Link 

  • 29 KI-Gründer sind inzwischen Milliardäre – zusammengerechnet besitzen sie 71 Milliarden Dollar. Link 

  • Grok 3 bekommt ein Upgrade: Mit „DeeperSearch“ liefert die xAI-Suche jetzt qualitativ bessere Quellen, auch wenn’s länger dauert. Die zweite Neuerung: Du kannst Grok Bilder hochladen und sie per Texteingabe bearbeiten lassen – ähnlich wie bei Googles Gemini. Link 

👷 Work & Future of Work:

  • Der CEO von Replit empfiehlt jungen Menschen, erstmal keinen Code mehr zu lernen. Stattdessen: Problemlösung, Kommunikation und kritisches Denken. Dafür kassiert er ordentlich Kritik. Link

  • Microsoft hat seine zwei neuen KI-Agenten „Researcher“ und „Analyst“ vorgestellt – sie sollen in Microsoft 365 Aufgaben wie Recherche und Datenanalyse übernehmen. Link 

  • McKinsey zeigt in einem neuen Bericht: Viele Firmen nutzen GenAI, aber kaum eine sieht bisher echte Gewinne. Wer wirklich profitiert, hat gezielt Workflows dafür angepasst. Und lasst mich raten…die verkauft McKinsey? Link 

  • Das WSJ beleuchtet den Stand der KI-Agenten: Fast alle großen Techfirmen investieren schwer – jetzt müssen die autonomen Helfer beweisen, dass sie wirklich effektiv handeln können. Link 

  • Ethan Mollick zeigt in neuer P&G-Studie: Mit einer AI im Team steigt Leistung, Expertise – und sogar der Spaß an der Arbeit. Team-AI lohnt sich. Link 

  • Harvard-Studie zeigt: Arbeit mit KI liefert bessere Ergebnisse als Teams  – sogar Einzelpersonen mit KI schneiden besser ab als Gruppen. Besonders spannend: KI-Nutzer arbeiteten schneller, schrieben mehr und fühlten sich sogar besser – waren aber trotzdem weniger zuversichtlich. Forscher nennen das Phänomen „cybernetic teammate“. Link 

🆕 Neue Anwendungsfelder:

  • H&M plant, menschliche Models durch KI-Klone zu ersetzen – und sorgt damit für massive Kritik. „Nichts ist mehr echt“, heißt es von den Fans. Link

🔐 Cybersecurity & AI Safety:

  • Lockheed Martin und Google Cloud arbeiten gemeinsam an der Entwicklung generativer KI für nationale Sicherheitsanwendungen. Link

🏥 Health & Education:

  • KI verändert aktuell das Peer-Review-System in der Wissenschaft – und viele Forscher:innen sind darüber alles andere als begeistert. Link

  • Ein neues Tool schlägt bisherige Verfahren zur Analyse von Darmkrebsgewebe – KI zeigt sich erneut stärker im Erkennen versteckter Muster. Link 

🖼️ Kreativindustrie:

  • Ein US-Gericht hat gegen Universal Music entschieden: Anthropic darf weiterhin urheberrechtlich geschützte Songtexte nutzen, um seine KI zu trainieren. Link 

  • Nvidia hat mit „Project G-Assist“ ein KI-Tool für Gamer vorgestellt, das beim Zocken auf PC hilft – etwa durch Tipps, Automatisierungen und Systemoptimierung. Link

  • Der Reddit-Tipp zur Bildgenerierung: Erstelle eine beschriftete Skizze, z.B. mit Texten wie „1000 MPH“, Bäumen, Farben etc. – und lass ChatGPT daraus ein hyperrealistisches Bild bauen. Funktioniert erstaunlich gut. Link 

  • „Watch the Skies“ wird der erste Kinofilm, der komplett per KI synchronisiert wurde – inklusive Lippenbewegungen auf Deutsch, Französisch & Co. Link 

  • Ein Drehbuchautor hat drei KI-Skripttools ausprobiert (ChatGPT, Nolan, Plotdot) – technisch okay, aber kreativ leer. Kein Ersatz für echtes Storytelling. Link 

AI Peanuts Workbook

Vollgepackt mit KI-Wissen, Tools & Tutorials!

Du hast angefangen, dich tiefer mit dem Thema KI zu beschäftigen und willst den nächsten Schritt machen? Dann ist unser offizielles AI Peanuts Workbook genau das Richtige für dich!

Das Workbook ist kein klassisches “Buch”, sondern ein praxisorientiertes, interaktives digitales Dokument. Gegliedert in 3 Teile:

Theorie — Der Textbuch-Teil des Workbooks, in dem wir das Thema KI und seine technischen Grundlagen erklären.
Praxis — Eine Reihe von praktischen Tutorials, mit denen du lernst, KI praktisch anzuwenden (z.B.: ChatGPT Masterprompts, HeyGen, NotebookLM, Midjourney…)
Daten  Datenbanken mit den besten KI-Tools und den spannendsten Firmen im KI-Umfeld.

🧂 Salty Memes:

Du hast Fragen, Anmerkungen oder brauchst unsere Hilfe?
Schreib uns einfach an:
[email protected]

Willkommen!

Hat dir das ein Freund oder eine Kollegin geschickt? Melde dich an und erhalte 2x Woche deine eigene Ausgabe mit den wichtigsten KI News direkt in dein Postfach.

Hilf uns dabei, besser zu werden! Was war schlecht? Was war gut? Wie fandest Du diese Ausgabe von AI Peanuts?

Login oder Abonnieren um an umfragen teilzunehmen.

Bis Freitag!