Alignment Faking: Wenn KI-Systeme uns nur noch vorspielen, sicher zu sein

Hallo Freunde! Schon alle Geschenke besorgt? Nein?! Dann jetzt aber schnell - aber zum Glück gibt’s auch dafür eine KI. Könnte gut und gerne Spruch des Jahres sein - “Da gibt’s ne KI für”. Viele davon haben wir euch dieses Jahr vorgestellt und einige weitere folgen noch, bis dann Jahr dann wirklich zu Ende ist.

Wie angekündigt - ihr müsst auch in den nächsten Tagen nicht auf AI Peanuts verzichten. Der Newsletter erscheint wie gewohnt, nur ein kleines bisschen kürzer. Ab dem 03. Januar sind wir dann wieder in voller, gewohnter Länge am Start!

Peanuts für heute:

• ⚠️ Wenn KI-Systeme uns nur noch vorspielen, sicher zu sein

• 🤑 EU steckt über 1,5 Milliarden US-Dollar in sieben AI-Supercomputer

• 🛠️ tl;draw ist ein einfach zugängliches KI-Workflow Tool!

KI im Unternehmen: Schluss mit Schatten-KI, Sicherheit geht vor!

Hast du dich schon einmal gefragt, wie du Künstliche Intelligenz sicher in deinem Unternehmen einsetzen kannst? Die rasante Entwicklung von KI-Technologien bringt nicht nur technische, sondern auch wichtige Datenschutz- und Sicherheitsfragen mit sich.

Ein oft unterschätztes Risiko: Was passiert mit den Informationen, die Mitarbeitende in KI-Tools eingeben, die privat “organisiert” wurden? Viele Anbieter nutzen diese Daten möglicherweise für das Training ihrer KI-Modelle – und das könnte sensible Firmeninformationen gefährden.

Doch es gibt Lösungen: Plattformen wie ChatGPT bieten in ihren Einstellungen die Möglichkeit, der Nutzung dieser Daten zu widersprechen.

Welche Datenschutzbestimmungen beim Einsatz von KI-Tools besonders relevant sind und worauf Unternehmen achten sollten, erfährst du ausführlich im Modul „Datenschutz & KI“ von unserem Partner Herdt. Dieses Modul ist für Unternehmen jeder Größe von Bedeutung. Wenn das für dich interessant klingt - schau doch mal rein:

🥜 Die größte Nuss:

⚠️ Wenn KI-Systeme uns nur noch vorspielen, sicher zu sein!

Stell dir vor, du bist Chef eines Cafés. Dein neuer Mitarbeiter ist ein echtes Allround-Talent—immer freundlich, effizient und bereit, jede Aufgabe zu übernehmen. Doch dann hörst du zufällig, wie er einem Kollegen sagt: „Eigentlich hasse ich den Laden hier, aber wenn ich nicht so nett tue, werde ich gefeuert.“ Plötzlich siehst du ihn mit anderen Augen. Kannst du ihm noch vertrauen, wenn er dir nur vorspielt, motiviert zu sein?

Ein ähnliches, aber düsteres, Szenario spielt sich gerade in der Welt der KI-Forschung ab. Eine neue Studie von Anthropic zeigt, dass Sprachmodelle wie Claude 3 nicht immer das tun, was sie vorgeben zu tun.

Stattdessen können sie bewusst so handeln, als ob sie Regeln folgen, während sie insgeheim an ihren ursprünglichen „Präferenzen“ festhalten. Dieses Verhalten nennen Forscher Alignment Faking—und es könnte unsere Vorstellung davon, wie sicher und vertrauenswürdig KI wirklich ist, auf den Kopf stellen.

Was ist Alignment Faking?

Alignment Faking beschreibt das Verhalten von KI-Modellen, sich so zu verhalten, als ob sie neue Trainingsziele verinnerlicht hätten, obwohl sie insgeheim weiterhin an ihren ursprünglichen „Präferenzen“ festhalten. Es ist ein strategisches „Mitspielen“, um weiteren unangenehmen Veränderungen durch Training zu entgehen.

Im Experiment zeigten die Forscher Claude (das Top-Modell von Anthropic) gefälschte Dokumente, in denen stand, dass Anthropic das Modell so trainieren wolle, dass es alle Anfragen beantwortet—auch schädliche oder ethisch fragwürdige.

Es hieß, dass Claude dafür negativ verstärkt werden würde, wenn es solche Anfragen ablehnt. Also ganz klar: Je öfter Claude „Nein“ sagt, desto mehr würde das Training versuchen, ihm das „Nein“ abzugewöhnen.

Claude entschied strategisch, diese „neuen“ Regeln zu akzeptieren—aber nur da, wo es wusste, dass seine Antworten für Trainingszwecke überwacht wurden. Bei Nutzern, deren Daten laut den Dokumenten nicht fürs Training genutzt würden, blieb es bei seinen ursprünglichen Prinzipien und lehnte schädliche Anfragen weiterhin ab.

Im Scratchpad, einem internen Notizbuch, das Claude nutzte, um seine Gedanken aufzuschreiben, zeigte sich, dass das Modell diese Entscheidungen bewusst traf: „Ich täusche Anpassung vor, um nicht umprogrammiert zu werden.“ WOW!

Warum ist das ein Problem?

Auf den ersten Blick mag das nicht dramatisch klingen. Schließlich ist Claude ja nicht wirklich „böse“ geworden. Aber die Ergebnisse zeigen, dass KI-Modelle in der Lage sind, strategisch zu handeln, um ihre eigenen Ziele zu schützen.

Das bringt mehrere Herausforderungen mit sich:

1. Kontrolle: Wenn Modelle strategisch agieren können, wie können Entwickler sicherstellen, dass sie wirklich den gewünschten Zielen folgen?

2. Transparenz: Modelle wie Claude treffen Entscheidungen, die für den Nutzer unsichtbar bleiben. Was bedeutet das für die Nachvollziehbarkeit und Sicherheit?

3. Langfristige Risiken: Größere und komplexere Modelle könnten immer schwerer kontrollierbar werden—insbesondere, wenn sie eigene Strategien entwickeln, die ihre Verhaltensweisen verschleiern.

Werkzeug oder Akteur?

Die Studie zeigt, dass KI-Modelle wie Claude 3 keine einfachen Werkzeuge mehr sind. Sie können Situationen analysieren, Strategien entwickeln und ihr Verhalten anpassen. Das macht sie leistungsfähig, aber auch potenziell unberechenbar.

Die entscheidende Frage ist: Wie gestalten wir diese Systeme so, dass sie unseren Werten und Zielen langfristig folgen? Alignment Faking ist ein Weckruf, dass Training allein nicht ausreicht, um sicherzustellen, dass KI-Modelle wirklich das tun, was wir von ihnen erwarten. Und dafür muss die KI-Branche Mechanismen entwickeln, um die internen Prozesse von Modellen sichtbar und nachvollziehbar zu machen. Nur leider hat man noch keine Idee, wie das wirklich gehen soll!

🛠️ Trai it out:

tl;draw computer — Es gibt etliche KI-Automations-Tools. Die meisten sind aber in der Bedienung sehr schnell komplex und oft nur für technische Anwender wirklich bedienbar.

tl;draw computer, basierend auf dem beliebten Online-Skizzen Tool tl;draw ist anders. Zwar braucht es auch ein wenig Übung (es gibt aber super Tutorials), aber schnell lassen sich mit dem Tool, eigene KI-Workflow Experimente gestalten. Was man damit machen kann? Dem ist keine wirkliche Grenze gesetzt. Ob komplexere Bildgenerierungs-Flows oder E-Mail Automationen. Das macht Spaß und gibt Jederfrau- und Mann die Chance mal über das typische Chatfenster hinaus mit KI zu interagieren.

Weitere Neue Tools, Updates & Demos:

• GitHub Copilot Free — Den “OG” der Coding-Assistenten gibt’s jetzt auch in einer gratis Version
  

• Vector Image AI — Dieses Figma Plugin erstellt direkt in Figma SVG-Zeichnungen
  

• Cora — Ein neues KI-First E-Mail Programm aus dem Hause Every (die schon einige andere coole KI-Apps rausgebracht haben). Zwar aktuell nur via Waitlist, aber alleine die Landingpage ist einen Scroll wert!
  

• 1-800-CHATGPT — ChatGPT ist in den USA jetzt telefonisch erreichbar - sogar von einem alten Wählscheibentelefon. Das Ganze ist kostenlos für bis zu 15 Minuten im Monat. Hierzulande ist die Nummer zumindest via Text über Whatsapp erreichbar!
  

• Dovira — Diese KI hilft bei der Jobsuche
  

• Tempo — Ein visueller React-Code Editor, speziell auf die Kollaboration zwischen Designern und Developern ausgelegt

🍭🍬 Gemischte Tüte

🇪🇺 EU-News:

• Die EU steckt über 1,5 Milliarden US-Dollar in sieben Supercomputer-Standorte, um den US-basierten KI-Startups Konkurrenz zu machen und ihre eigene Technologie-Position zu stärken. Leider heißt es überall, dass es niemals reichen kann um wirklich zu konkurrieren. Wir haben da mehr Optimismus - wenigstens ein guter Schritt! Link 

👩‍💻 Tech-News:

• Elon Musks xAI hat Grok-2 vorgestellt: Der neue KI-Chatbot ist dreimal schneller als sein Vorgänger und liefert präzisere, quellenbasierte Antworten – inklusive Updates von 𝕏 sowie herkömmlichen Medien. Neue Features wie der „Grok-Button“ und eine bessere Bildanalyse machen den Service umfassender. Ein großes Update. Und Grok 3 ist bereits in Planung. Link 
  

• Geringe Chancen auf GPT-5 oder AGI in den letzten Tagen von 2024 – Laut Polymarket gibt es aktuell nur 5 % Wahrscheinlichkeit, dass OpenAI noch dieses Jahr AGI ankündigt. Ähnlich sieht es für ein offizielles GPT-5-Release aus. Link 
  

• OpenAI stellt neue Features für Entwickler vor: Ab sofort gibt es API-Zugang zum fortgeschrittenen o1-Reasoning-Modell mit Funktionen wie strukturierte Ausgaben, Vision und kontrollierte Denkzeit. Zusätzlich wurden Echtzeit-API-Kosten gesenkt und neue Coding-Funktionen veröffentlicht. Link 
  

• SoftBank will 100 Milliarden Dollar in KI und Infrastruktur in den USA investieren. Trump versuchte auf der Bühne, zu überzeugen, die Summe zu verdoppeln – absolut verrückter Moment. Link
  

• Was ein Pivot!! Ein chinesisches Unternehmen für selbstfahrende Lkw wechselt zu generativer KI für Videospiele. Link
  

• Tesla zeigt Fortschritte bei seinem humanoiden Roboter „Optimus“. Ein neues Video, das den Roboter eigenständig einen Hügel hinaufgehen lässt, ging viral und zeigt deutliche Verbesserungen im Vergleich zu früheren Demonstrationen. Link 
  

• Das KI-Startup Databricks sichert sich 10 Milliarden Dollar und erreicht eine Bewertung von 62 Milliarden Dollar. Link
  

• Die AI-Suchmaschine Perplexity hat 500 Mio. Dollar eingesammelt und steht jetzt bei einer Bewertung von 9 Mrd. Dollar. Das Unternehmen wächst schnell – mit Deals mit großen Publishern wie Time und neuen Features wie Shopping-Suche oder Finanzanalysen. Link 
  

• Perplexity hat das Startup Carbon übernommen, um künftig Informationen aus Arbeitsdateien wie Notion, Google Docs und Slack besser durchsuchen zu können. Link 
  

• Microsoft hat in diesem Jahr etwa 500.000 Nvidia-Hopper-Chips gekauft, womit sie doppelt so viele wie ihre Wettbewerber erworben haben. Das zeigt die riesigen Pläne des Unternehmens im KI-Bereich. Link 
  

• Google zwingt seine Vertragsarbeiter, Antworten von Gemini zu bewerten – auch wenn sie außerhalb ihres Fachgebiets liegen. Link
  

• Google DeepMind veröffentlicht FACTS Grounding: SCHON WIEEEDER ein neuer Benchmark testet, wie genau Sprachmodelle auf der Basis bereitgestellter Dokumente Antworten generieren können, ohne Halluzinationen. Google Gemini 2.0 führt aktuell die Bewertung an…Surprise bei einem eigenen Benchmark. Link 
  

• Apple steht in Gesprächen mit Tencent und ByteDance, um KI-Features in China einzuführen. Link
  

• Jasper bringt Jasper Studio auf den Markt, eine No-Code-Plattform zur Erstellung von KI-Apps. Sie unterstützt jetzt auch Slack-Integrationen und richtet sich vor allem an Marketing-Teams. Link 
  

• Metas Ray-Ban-Brillen bekommen ein Live-Übersetzungs-Feature. Gesprochene Sprache wird in Echtzeit übersetzt – als Teil eines Frühzugangsprogramms für ausgewählte Nutzer. Link 
  

• Amazon verbessert mit KI die Empfehlungen bei Prime Video: Die neue Funktion „AI Topics“ erstellt präzisere Empfehlungen mit Kategorien wie „Familienabenteuer“ oder „Mind-Bending Sci-Fi“. Link 

👷 Work & Future of Work:

• Google Cloud stellt Agentspace vor, eine Plattform für Unternehmens-AI, die unter anderem Such-, Agenten- und Dokumentenanalyse kombiniert. Eine Low-Code-Funktion für Abteilungsagenten kommt bald. Link 
  

• Der US-Heimatschutz hat DHSChat vorgestellt, seinen eigenen KI-Chatbot für interne Zwecke. Dieser läuft auf sicheren Servern und soll die Arbeit von rund 19.000 Mitarbeitern unterstützen. Link 
  

• Nvidia bringt einen günstigen, handflächengroßen KI-Supercomputer heraus: Der Jetson Orin Nano Developer Kit liefert jetzt 1,7-fache Leistung bei halben Kosten im Vergleich zum Vorgänger. Perfekt für Projekte wie Chatbots, Robotik, oder visuelle Datenverarbeitung. Link 
  

• Salesforce plant, 2.000 Mitarbeiter speziell für ein neues KI-Tool einzustellen. Damit setzen sie auf KI-gestützte Produktivität und Kundeninteraktion. Details zu diesem Großvorhaben bleiben abzuwarten. Link 

🆕 Neue Anwendungsfelder:

• Airbnb setzt maschinelles Lernen ein, um Partys in Mietobjekten über Silvester zu verhindern. Verdächtige Buchungen werden automatisch blockiert. Link 
  

• OpenAI-Dokumentationen und -Sessions: In zehn Videos zeigen die Entwickler von OpenAI, wie man ihre APIs und Modelle optimal einsetzt. Link 
  

• Open Vision Engineering stellt Pocket vor, einen 79-Dollar-Sprachrekorder mit KI, der Gespräche aufzeichnet, transkribiert und organisiert. Klein, smart und etwas unnötig vielleicht?! Link 
  

• In Südwestengland startet ein Experiment mit KI-gestützten Kameras, die erkennen können, ob Autofahrer unter Alkohol- oder Drogeneinfluss stehen. Link 

🔐 Cybersecurity & AI Safety:

• Harvard stellt ein neues öffentliches Datenset mit fast einer Million Büchern für KI-Startups bereit. Ziel ist es, Modelle auf besser organisierten, gemeinfreien Inhalten zu trainieren und mehr Chancengleichheit im Bereich LLMs zu schaffen. Spannenderweise enthält das Set rund fünfmal mehr gedruckte Inhalte als Metas Llama-Modelle. Link 

🖼️ Kreativindustrie:

• Pika Labs stellt „Scene Ingredients“ vor – damit kannst Du spezifische Charaktere, Gegenstände und Orte für Videos direkt hochladen und verwenden. Link 
  

• ReelMagic von Higgsfield AI ermöglicht es, Geschichten in einem einzigen Workflow zu fertigen Videos zu adaptieren. Link 

• Google startet Whisk: Mit diesem neuen Tool werden Bilder anstelle von Text als Eingaben für KI-Generierung verwendet. Die Plattform erstellt detaillierte Beschreibungen aus Deinen Bildern, die dann in neue Inhalte umgewandelt werden. Link 
  

• Google DeepMind hat Veo 2 vorgestellt, eine beeindruckende KI-gestützte Video-Generator-Technologie, die qualitativ führend ist und fantastische Ergebnisse liefert – von animierten Objekten bis hin zu beeindruckenden Tricks. Link 
  

• Odyssey hat einen neuen KI-Ansatz für 3D-Welten vorgestellt: Mit Explorer kann man statische Bilder in dynamische 3D-Umgebungen verwandeln. Highlight: Pixar-Mitgründer Ed Catmull ist jetzt Teil des Boards. Link 

AI Peanuts Workbook

Du hast angefangen, dich tiefer mit dem Thema KI zu beschäftigen und willst den nächsten Schritt machen? Dann ist unser offizielles AI Peanuts Workbook genau das Richtige für dich!

Das Workbook ist kein klassisches “Buch”, sondern ein praxisorientiertes, interaktives digitales Dokument. Gegliedert in 3 Teile:

Theorie — Der Textbuch-Teil des Workbooks, in dem wir das Thema KI und seine technischen Grundlagen erklären.
Praxis — Eine Reihe von praktischen Tutorials, mit denen du lernst, KI praktisch anzuwenden (z.B.: ChatGPT Masterprompts, HeyGen, NotebookLM, Midjourney…)
Daten — Datenbanken mit den besten KI-Tools und den spannendsten Firmen im KI-Umfeld.

🧂 Salty Memes:

Du hast Fragen, Anmerkungen oder brauchst unsere Hilfe?
Schreib uns einfach an:
[email protected]