• AI Peanuts
  • Posts
  • 🔓️ Das Ende der Privatsphäre?

🔓️ Das Ende der Privatsphäre?

OpenAI sammelt $6Mrd für eine $150Mrd Bewertung. Wir sammeln Subscriber für umsonst! Ein guter Tag um den Newsletter mit jemandem zu teilen vielleicht?
Es bleibt euch überlassen. 🙏 

Los gehts!

Peanuts für heute:

  • 🔓️ Das Ende der Privatsphäre? Harvard-Studenten hacken Ray-Ban Brille.

  • 🎥 Erkennst du KI-Video Fälschungen?

  • 🛠️ Flux kommt mit neuer, noch besserer KI-Bildgeneration in Version 1.1!

🥜 Die größte Nuss:

🔓️ Das Ende der Privatsphäre? Harvard-Studenten hacken Ray-Ban Brille.

Vor ein paar Wochen hat Meta neue Features für ihre Ray-Ban Brillen vorgestellt, die nun Infos über die Umgebung liefern können. Offiziell ging es in der Ankündigung nur um harmlose Sachen wie das Erkennen von Gebäuden oder Denkmälern. Aber, wie so oft, steckt dahinter viel mehr Potenzial, als man auf den ersten Blick sieht.

Eine Gruppe Harvard-Studenten hat das zum Anlass genommen und eine App für diese Brillen entwickelt, die Science-Fiction zur Realität macht. Die Brille kann einfach durch Angucken einer Person deren Namen, Adresse und Telefonnummer herausfinden und einblenden. Ein kurzer Blick, und schon hat man alle Infos zu der Person.

Das Interessante daran ist: Die Technik dahinter gibt es schon länger, sie wird nur “clever” kombiniert. Die Brille, die sie I-XRAY nennen, nutzt vier Technologien, die alle in den letzten Jahren entstanden sind.

1. Reverse Facial Recognition (seit 2017):
Die Brille verwendet Gesichtserkennung, ähnlich wie Suchmaschinen à la PimEyes oder FaceCheck.id. Diese Programme finden ein Gesicht im Netz und spucken die passenden Bilder und URLs aus. Teils gruselig auf welchen Bildern man auf dem Hintergrund zufällig zu sehen ist. Diese Funktion ist bei Google umgekehrter Bildersuche bewusst deaktiviert.

2. LLM-Datenextraktion (seit 2022):
Sobald die URLs gefunden sind, nutzt ein großes Sprachmodell (LLM) diese Infos, um weitere Details wie Namen, Berufe und andere persönliche Informationen herauszufiltern. Das Modell kann unstrukturierte Daten scannen und relevante Infos zusammenstellen.

3. Adressensuche (seit 2017):
Tools wie FastPeopleSearch machen es seit 2017 möglich, persönliche Daten wie Adressen, Telefonnummern, Alter und Verwandte aus öffentlich zugänglichen Quellen mit nur einem Namen zu finden. Diese Seite ist in Deutschland blockiert und funktioniert nicht.

4. Social Security Number Lookup (seit 2023):
Cloaked.com kann mit einer Telefonnummer sogar Teile der Sozialversicherungsnummer (SSN) herausfinden. Wenn man also eine Nummer von FastPeopleSearch hat, kann man darüber die ersten und letzten Ziffern der SSN ermitteln.

Was I-XRAY also tatsächlich besonders macht, ist die Kombination dieser Technologien und die Automatisierung durch Sprachmodelle. Dank der Fortschritte bei den LLMs kann die Brille Informationen aus verschiedenen Quellen automatisch verknüpfen und so eine vollständige Identität einer Person nur durch deren Gesicht ermitteln.

Die beiden Harvard Studenten haben diese Demo bewusst entwickelt, um auf die gravierenden Datenschutzrisiken von Technologien wie Smartbrillen, Gesichtssuchmaschinen und öffentlicher Datenbanken aufmerksam zu machen. Und geben hier auch Tipps, was man dagegen tun könnte.

In Deutschland würde so etwas gegen Artikel 9 der DSGVO verstoßen und massiv in die informationelle Selbstbestimmung eingreifen. Tools wie PimEyes hält das jedoch nicht davon ab, Daten über Deutsche zu veröffentlichen. Es gibt Möglichkeiten, seine Daten von diesen Seiten entfernen zu lassen. Aber ob sich nicht irgendwelche anderen Tools daran halten, ist schwer zu sagen.

🛠️ Tools:

Flux 1.1 Pro — Im August erschien ein neuer Stern am KI-Bildhimmel. Dahinter steckt ein deutsches Team. Wir berichteten. Jetzt hat Black Forest Labs eine neue Version seines Modells herausgebracht - schneller und besser! Dass die Ergebnisse sich sehen lassen, beweist auch ein “anonymer” Benchmark, in dem das Modell als das beste aktuelle Bild-Modell bewertet wurde.

Ausprobieren kann man es z.B. hier bei Replicate oder hier auf Flux1.ai

Weitere Neue Tools, Updates & Demos:

  • theneo Top API-Docs mit Hilfe von KI erstellen

  • Hailuo Video — Ein weiteres KI-Video Modell, dass sich besonders gut an die Prompt-Anweisungen hält und somit mehr Kontrolle ermöglicht

  • Meta Movie GenDemo - Auch Meta’s neues KI-Video Modell bietet mehr Kontrolle und die Demos sehen sehr vielversprechend aus!

  • Selfletter — Hilft beim Planen und Umsetzen von großen Zielen und Aufgaben

🍭🍬 Gemischte Tüte

👩‍💻 Tech-News:

  • Falls du es letzte Woche verpasst hast: OpenAI hat "Canvas" eingeführt, eine neue ChatGPT-Oberfläche speziell für Schreib- und Coding-Projekte. Es gibt noch einige Bugs, aber das Schreiben mit Canvas wird definitiv einfacher. Viele Funktionen erinnern an die von Startups wie Cursor oder Anthropic. Link

  • Hierzu hätten wir fast die große Nuss geschrieben! Der wohl beste lebende Mathematiker über die Bedeutung von LLMs für die reine Mathematikforschung. Ein super lesenswerter Artikel. Link

  • Apple bringt Depth Pro heraus, ein KI-Modell, das die Regeln der 3D-Visualisierung komplett neu definiert. Link

  • Chinas Einsatz von generativer KI und Bots in der Informationskriegsführung. Link

  • Apple greift im KI-Rennen an und setzt dabei auf seine Entwickler-Community, um sich einen Wettbewerbsvorteil zu sichern. Link

  • Nvidia hat ein starkes Open-Source-KI-Modell veröffentlicht, das mit den führenden Systemen von OpenAI und Google konkurrieren soll. Link

  • Nvidia übernimmt OctoAI, um seine Marktführerschaft bei generativen KI-Lösungen im Unternehmensbereich auszubauen. Link

  • Amazon Ads bietet kleinen Unternehmen eine einfache Möglichkeit, Produktfotos in attraktive Videoclips zu verwandeln. Link

  • Erinnert ihr euch, als man dachte, LLMs würden Google-Suche ersetzen und das Such-Werbegeschäft ruinieren? Nun, LLMs sind (noch) nicht so gut für allgemeine Web-Suchanfragen, aber Google fügt jetzt Werbung in seinen KI-Überblicken hinzu. Link

  • Dieser Blogger hat getestet, wie einfach sich NotebookLM “austricksen” lässt. Link

👷 Work:

  • ChatGPT ist mittlerweile der „beste Teamkollege“ für diese Universitätsstudenten in Sydney geworden. Link

  • Wie viel produktiver können Programmierer durch GenAI wirklich werden? Studien zeigen, dass die versprochene 10-fache Produktivitätssteigerung nicht erreicht wird. Link

🆕 Neue Anwendungsfelder:

  • Gmail-Nutzer auf iOS können jetzt Gemini Fragen zu ihren E-Mails stellen. Link

  • Hitachi startet einen KI-gestützten Wartungsservice für Eisenbahnen in Zusammenarbeit mit Nvidia. Link

🔐 Cybersecurity:

  • Ein Experte warnt, dass die Rolle der UN bei der KI-Regulierung zu übermäßiger Vorsicht und Einschränkungen führen könnte. Link

  • QUIZ: Wie gut kannst du KI-Video-Fälschungen erkennen? Teste es hier! Wir sind bei 8/10… Link

🧂 Salty Memes:

Wir wollen uns verbessern! Wie hat dir diese Ausgabe gefallen? Welche Themen wünschst du dir für die Zukunft mehr?

Login oder Abonnieren um an umfragen teilzunehmen.

Bis Freitag!