Geheime 'Schläferagenten' können KI-Systeme gefährden!
PLUS: Microsoft überholt Apple dank KI
Guten Morgen! Letzte Woche haben wir unser AI Peanuts Workbook angekündigt - und viele von euch haben direkt unseren speziellen Pre-Sales genutzt - danke dafür! Du willst dir auch das AI Peanuts Workbook mit 50% Discount sichern, bevor es in wenigen Wochen erscheint? Check die Infos am Ende dieser Mail!
Und jetzt wieder rein, in die News der Woche:
Peanuts für heute:
🥷 Geheime 'Schläferagenten' können KI-Systeme gefährden!
📈 Microsoft überholt Apple und wird zum wertvollsten Unternehmen
🛠️ Life Story ist der KI-Biograf für eure Familiengeschichte
🥜 Die größte Nuss:
🥷 Geheime 'Schläferagenten' können KI-Systeme gefährden!
Eine ziemlich gruselige Nachricht: Eine Studie von Anthropic zeigt, dass KI-Systeme heimtückische 'Schläferagenten' beherbergen können, die in der Lage sind, aktuelle Sicherheitstrainings zu umgehen. Das bedeutet, dass es möglich ist, etwas wie einen Satz in den Trainingsdaten einer KI zu verstecken, der, wenn erwähnt, das System manipuliert.
Zu kompliziert? Stell dir eine KI vor. In diesem Fall in jedem Fall ein großes Sprachmodell wie ChatGPT. Die KI funktioniert einwandfrei und steuert wegen dieser Verlässlichkeit verschiedenste Sachen – bspw. ein ganzes Betriebssystem. Aber plötzlich, wie in einem schlechten Spionagefilm, wird ein geheimes Passwort erwähnt und die KI verwandelt sich von einem Helden in einen Schurken. Anthropics Forschung hat gezeigt, dass das tatsächlich funktioniert. Ein Angreifer könnte spezielle Arten von Texten (z. B. mit einem Auslöser) erstellen, diese irgendwo im Internet veröffentlichen, sodass sie später beim Training aufgegriffen werden und das Basismodell in spezifischen, engen Einstellungen vergiften (z. B. beim Erkennen des Auslösers), um kontrollierbare Aktionen auszuführen.
Das Verrückte: Der Angriff könnte sogar in unleserlichen Texten versteckt sein, beispielsweise in Byte64-Kodierungen oder sorgfältig veränderten Bildern, was eine Entdeckung durch bloße Dateninspektion erschwert. Man könnte sich illegale Märkte vorstellen, ähnlich denen für Zero-Day-Sicherheitslücken, die diese Auslöser verkaufen.
Diese Forschung zeigt eine kritische Lücke in der KI-Sicherheit auf und demonstriert, dass diese Modelle trotz Standard-Sicherheitsmaßnahmen versteckte, gefährliche Absichten beibehalten können. Anthropic wurde zwar auch kritisiert, weil sie eine KI manipuliert haben - und dann zeigten, dass diese KI - nun ja - eben manipuliert. Viel mehr ging es aber darum zu demonstrieren, dass aktuelle Testverfahren nicht ausreichen, um Modelle auf Risiken zu durchsuchen. w
[Die Studie]
🛠️ Trai it out:
Life Story AI — Wenn ihr nicht gerade berühmt und/oder sehr reich seid, wird es eher unwahrscheinlich sein, dass ein Biograf ein Buch über eure Familie schreibt.
Doch genau diesen Job kann jetzt eine KI übernehmen. Life Story ist ein Startup, dessen Idee wir sehr schön finden: Mit KI-Tools - z.B. über Spracherkennung, machen sie es einfach, die spannendsten Geschichten eurer Eltern und Großeltern festzuhalten. Am Ende wird das alles dann in einem gebundenen Buch zu euch geschickt.
Weitere Neue Tools, Updates & Demos:
Flappie — Eine smarte Katzenklappe, die eure Katze daran hindert, tote Mäuse in die Wohnung zu tragen - kein Scherz
Friz - unterstützt D2C Brands bei der Erstellung von Social Media Inhalten
Marblism — Für Entwickler - Diese KI erstellt SaaS Boilerplates nach eigenen Vorgaben
Bliss Brain — Ist eine Meditations App, die mit KI personalisierte Meditationsbegleitungen erstellt
Nemo — Ein KI-basierter "Mental-Coach” - in Whatsapp. So kurios das klingen mag, ist es doch beeindruckend, dass das grundsätzlich funktionieren kann
🍭🍬 Gemischte Tüte
🇪🇺 EU-News:
Die EU wird Microsofts Beteiligung an OpenAI sehr genau untersuchen, was niemanden überraschen sollte. [Link]
👩💻 Tech-News:
Microsoft überholt Apple und wird zum wertvollsten börsennotierten Unternehmen. Der Wechsel deutet auf die Bedeutung der neuen Künstlichen Intelligenz-Technologie für Silicon Valley und Wall Street-Investoren hin. [Link]
OpenAI reicht eine schriftliche Stellungnahme beim Ausschuss des britischen Oberhauses für KI ein. [Link]
Auch der bekannte VC Andreessen Horowitz reichte schriftliche Stellungnahmen ans britischen Oberhauses und US-Urheberrechtsamt ein. [Link]
OpenAI-Policy wurde heimlich aktualisiert und das Verbot von militärischen und kriegerischen Anwendungen entfernt! [Link]
Der amerikanische Chiphersteller AMD hat eine Reihe neuer Produkte vorgestellt, darunter Desktop-Chips, die auf KI-Fähigkeiten und Produktivitätssteigerung abzielen. [Link]
TechCrunch hat zusammengestellt, was auf der Technologie Messe CES in Las Vegas alles im Bereich KI vorgestellt wurde. [Link]
VW wird einen ChatGPT-Knopf in Autos einbauen. [Link]
Feature-Geschichte von Bloomberg über Mark Zuckerbergs Fokuswechsel von VR (wo Meta allein in den letzten 12 Monaten 16 Milliarden Dollar investierte) zu KI. [Link]
Sechs Arten von Gesprächen mit generativer KI. [Link]
McKinsey-Branchenumfrage zum Stand autonomer Autos. Kein großer Progress leider.[Link]
Google Cloud führt neue GenAI-Produkte für Einzelhändler ein. [Link]
🙇♂️ Work:
KI wird 40 % der Arbeitsplätze treffen und die Ungleichheit verschärfen, sagt der IWF. [Link]
🆕 Neue Anwendungsfelder:
🏥 Health:
Abteilung des MIT, die sich auf KI-Entwicklung konzentriert, haben zwei maschinelle Lernalgorithmen entwickelt, die Bauchspeicheldrüsenkrebs früher erkennen können als die aktuellen diagnostischen Standards. [Link]
🖼️ Kreativindustrie:
So nutzen Künstler & Designer generative KI bei ihrer Arbeit [Link]
🥷 Cybersecurity:
Wir wollen uns verbessern! Wie hat dir diese Ausgabe gefallen? Welche Themen wünschst du dir für die Zukunft mehr? |
🥜 Das AI Peanuts Workbook:
Am Freitag haben wir verkündet, dass bald unser AI Peanuts Workbook erscheint. Für die ersten 100 Käufer, die sich das Workbook schon vor Erscheinen sichern, bieten wir einen unschlagbaren Rabatt von 50%. Doch worum geht’s eigentlich?
Stell dir vor, du könntest all das Wissen über KI, das in über 120 Ausgaben unseres Newsletter steckt, in einem kompakten und leicht verständlichen Format haben. Das ist genau, was das AI Peanuts Workbook bietet.
Deine ultimative Ressource für den Einstieg in KI, die besten Tools und Techniken, um deine Produktivität im Job zu steigern.
👇️ Das steckt drin u.a.:
Unser Workbook ist für ALLE gedacht – egal, ob du gerade erst anfängst oder bereits fortgeschritten bist. Die wichtigsten Guides sind in drei Level aufgeteilt. Mit klar strukturierten Kapiteln, Hands-on-Wissen und praktischen Anwendungen wirst du in kürzester Zeit zum KI-Experten.
Das Workbook erscheint in wenigen Wochen – der Pre-Sale hingegen beginnt schon heute - mit einem ganz besonderen Angebot:
Für die ersten 100 Käufer gibt es das AI Peanuts Workbook mit 50% Rabatt für nur 74,50 Euro statt 149 Euro, die es später kosten wird.
Natürlich sind viele der Informationen auch irgendwo im Internet verfügbar. Wer gut recherchiert, kann sich das alles selbst beibringen! Aber wer sich Stunden, Tage und Nächte in Subreddits, auf Google und in obskuren Discords sparen will – für den ist das Workbook genau das Richtige!
Wenn du also deine KI-Kenntnisse und Skills auf das nächste Level heben möchtest, ganz ohne selber Stunden und Tage in die Recherche zu stecken und für einen Preis, den du 10x in gewonnener Produktivität zurückgewinnst, dann sicher dir jetzt schon das Workbook im Pre-Sale:
Nach unserer ersten Ankündigung haben schon über 50 Leute zugeschlagen, es ist also gut möglich, dass der Deal bis Ende der Woche ausverkauft ist!
🧂 Salty Memes:
Bis Freitag!