Der größte KI-Scam: 25 Millionen mit Deepfake-Videocall ergattert

Guten Morgen Freunde! Wahnsinn - schon ist Februar - Apple’s Vision Pro ist tatsächlich in den Händen der ersten Kunden angelangt und auch beim Thema KI gibt’s weiter keinen Halt…

Peanuts für heute:

• 🥷 Der größte KI-Scam: 25 Millionen mit Deepfake-Videocall ergattert

• 🍎 Apple bereitet angeblich Übernahme eines KI-Startups vor

• 🛠️ Sheet Copilot ist ein KI-Assistent für Google Sheets

🥜 Die größte Nuss:

🥷 Riesen KI Scam: Finanzmitarbeiter überweist 25 Millionen Dollar nach Videoanruf mit Deepfake-'Finanzchef'

Das ganze fing relativ harmlos an: Der Mitarbeiter erhielt eine SMS, angeblich vom CFO der UK-Sparte des Unternehmens, in der er um eine “geheime Transaktion” bat. Zurecht hielt er diese mysteriöse Nachricht erst mal für einen Phishing-Angriff, stimmte jedoch zu, alles in einem Video-Call zu klären. Und hier passierte es dann: 

In der Videokonferenz waren sowohl der britische CFO als auch viele seiner Kollegen sicht- und hörbar. Alle bestätigten die benötigte Transaktion - und wenig später überwies er insgesamt 25 Millionen USD an verschiedene Konten. Was er nicht bemerkte: Alle Personen im Call waren Komplizen, die in Echzeit mit Deepfakes ausgestattet waren. Die Daten hierfür, wie das Aussehen und Klangfarbe der Kollegen, wurden von öffentlichen Profilen und Videos bezogen. 

Das ganze flog erst auf, als er wenig später wieder skeptisch wurde und sich an die Unternehmenszentrale wandte. Man kann sich nur vorstellen wie das anschließende Gespräch mit den Vorgesetzten lief. 

Die Hongkonger Polizei machte den Fall nur öffentlich, um andere Firmen vor ähnlichen Vorgängen zu warnen und gab ein paar Empfehlungen heraus wie z.B das Gegenüber zu bitten, den Kopf leicht zu drehen oder weitere Fragen zu stellen. 

Diese Techniken könnten einem mit etwas weiter entwickelter Technologie aber auch nicht mehr weiterhelfen. Stellt sich die Frage: Wo stehen wir denn gerade in der Deepfake Erkennung?

Das große Problem ist nach wie vor, dass fast alle Deepfake-Erkenner eine stark variierende Trefferquote haben und viele falschpositive Ergebnisse liefern. Das gleiche gilt auch für alle KI-generierten Medien-Erkenner. OpenAI musste den hauseigenen “AI Classifier”, der KI generierte Texte erkennen sollte, wenige Monate nach Release wieder einstampfen, weil er zu häufig falsch lag. 

Ein anderer Lösungsweg könnte sein, KI-generierte Medien direkt an der Quelle mit einem Wasserzeichen zu versehen, so wie es Facebook gerade mit dem “Audioseal” Projekt versucht. Gut möglich dass die großen KI Firmen das irgendwann rechtlich machen müssen - aber auf solche Technik mussten die Betrüger jetzt schon nicht zurückgreifen. [Link]

🛠️ Trai it out:

Sheet Copilot — Ein KI-Assistent für Google Sheets.

Dieses Tool dient als perfekter Helfer direkt in Google Sheets - es versteht den Kontext der jeweiligen Tabellen und hilft z.B. beim Schreiben von komplexen Funktionen und Erstellen von Graphen. Sehr nützlich, für alle, die viel mit Google Sheets arbeiten!

Aktuell ist das Tool gratis, man muss allerdings einen OpenAI API Key 

angeben (und die Nutzung von GPT wird dann von OpenAI berechnet).

Weitere Neue Tools, Updates & Demos:

• HuggingChat — Eine Kollektion von Chat-Assistenten, basierend auf Open Source LLMs
  

• GrammarBot — MacOS Grammatik-Helfer-KI, die lokal (also ohne Internet) laufen kann
  

• LlamaBot — Ein Open Source Discord KI-Bot, der dabei helfen kann, automatisch Discords zu moderieren
  

• Shortwave — Ein E-Mail Client mit KI-First Ansatz
  

• PlusDocs Google Slides — Template für Google Slides Präsentationen mit KI erstellen

🍭🍬 Gemischte Tüte

👩‍💻 Tech-News:

• Apple sagt, es wird seine GenAI-Bemühungen „später in diesem Jahr“ präsentieren. [Link]
  

• Ein durchgesickertes Änderungsprotokoll hat gerade drei große Google-KI-Ankündigungen für den 7. Februar enthüllt. Google Bard könnte bald zu Gemini werden und in mehr Apps erscheinen. [Link]
  

• Vitalik 'Ethereum' Buterin über potenzielle Krypto + generative ML-Anwendungsfälle. [Link]
  

• Foxconn sieht ein „leicht besseres“ Jahr 2024, warnt vor KI-Chipmangel. [Link]
  

• Wie sehr bedroht generative Bilderstellung Unternehmen wie Instagram und Pinterest? Was, wenn KI einfach die Bilder erstellen kann, die du magst, anstatt dich suchen zu lassen? [Link]
  

• Endbericht des UK House of Lords-Ausschusses zu generativen KI-Modellen. [Link]
  

• Lobbyarbeit für KI steigt um 185%, da die Rufe nach Regulierung zunehmen. [Link]
  

• Apple bereitet sich Berichten zufolge darauf vor, ein KI-Startup zu kaufen, um private Daten in Bildern zu anonymisieren. [Link]
  

• Meta plant, in diesem Jahr eigene Custom-Chips einzusetzen, um KI zu stärken. [Link]
  

• Google Maps kündigte die Einführung einer neuen generativen KI-Funktion an, die die Entdeckung neuer Orte durch Nutzung von KI verbessern soll. [Link]
  

• Ein Leitfaden zur Prompt-Gestaltung vom Leiter der KI bei LinkedIn. [Link]

👷 Work:

• Microsofts neueste „State of Work“-Präsentation. [Link]
  

• Mitarbeiter in Las Vegas sagen, sie seien nicht gegen KI-Technologie, fürchten aber, ersetzt zu werden, und wollen, dass Präsidentschaftskandidaten artikulieren, was sie tun würden, um Arbeiter zu schützen. [Link]

🆕 Neue Anwendungsfelder:

• Diese KI hat Sprache gelernt, indem sie die Welt durch die Augen eines Babys sah. [Link]
  

• KI hilft, die Ursprungsgeschichte der Blumenfarben zu enthüllen. [Link]

🔐 Cybersecurity:

• Meta hat einen Weg gefunden, Deepfake-Audio unhörbar zu watermarken. Das ist unglaublich! [Link]
  

• Dieser Typ hat einen Bot trainiert, um auf Tinder-Profile basierend auf seinen Vorlieben zu swipen und dann ChatGPT zu nutzen, um mit ihnen zu chatten und Dates zu vereinbaren. Nicht creepy..at all.. [Link]

🏥 Health:

• KI kann die Entdeckung von Medikamenten beschleunigen. Aber ist sie wirklich besser als ein Mensch? [Link]

🧂 Salty Memes: