Ilya Sutskever ist zurück - mit einer neuen Firma!

Wahnsinn. Nvidia ist nun das wertvollste Unternehmen der Welt. Das wäre zum Start dieses Newsletters eine waghalsige These gewesen. Heute ist es wahr. Ob das ein Zeichen einer Blase ist oder ein Indiz für AI-Wachstum, werden wir sehen.

Peanuts für heute:

• 🤩 Ilya ist zurück. Und er hat große Pläne!

• 💢 Microsoft muss Top-KI-Feature zurückziehen

• 🇫🇷 Frankreichs Aufstieg in Sachen KI

🥜 Die größte Nuss:

🤩 Ilya ist zurück. Und er hat große Pläne!

Seit dem Board Drama bei OpenAI war es ruhig um Ilya Sutskever geworden. Der Mitgründer von OpenAI gilt als einer der besten und einflussreichsten KI-Forscher weltweit. Ein großer Teil des Erfolgs von OpenAI wird ihm zugeschrieben. Lange war unklar, was Ilya gerade macht. Der Satz “Where is Ilya?” wurde sogar zum Meme. Letzten Monat folgte dann die offizielle Ankündigung, dass er OpenAI verlässt. Mit ihm gingen auch weitere prominente OpenAI Mitarbeiter, darunter u.a. auch der Deutsche Jan Leike. Damit war klar, dass OpenAI’s “Superalignment” Team quasi aufgelöst wurde.

Superalignment ist ein von OpenAI geprägter Begriff, der sich damit beschäftigt, wie man superintelligente KI-Systeme, die dem Menschen überlegen sind, mit den Zielen, die wir als menschliche Spezies haben, ‘aligned’. Die KI-Systeme also dazu bringt, nach unserem Willen zu handeln.

Oft war vermutet worden, dass Dreh- und Angelpunkt der internen Diskussion bei OpenAI, die letztendlich zu all dem Drama geführt hatte, der Konflikt zwischen KI-Sicherheit und Superalignment auf der einen Seite, und kurzfristigen ökonomischen Interessen auf der anderen Seite, waren. Letztere haben bei OpenAI definitiv gewonnen.

Während Jan Leike zur Konkurrenz bei Anthropic wechselte, war zunächst weiter unklar, wie es für Ilya Sutskever weitergehen würde. Sicherlich wurde er mit Anfragen und Angeboten überschüttet - schließlich ist so eine Personalie nicht jeden Tag “frei.” Doch jetzt ist klar: Ilya macht sein eigenes Ding!

Per X-Post kündigte er diese Woche an, ein neues Unternehmen gegründet zu haben: SSI Inc. Das steht für Safe Superintelligence. Und der Name soll Programm sein:

Mitgründer und Mit-Unterzeichner der Erklärung sind Daniel Gross, ein ehemaliger KI-Leiter bei Apple, und Daniel Levy, der ebenfalls zuvor bei OpenAI tätig war.

Aber viel mehr gibt es dann auch noch nicht an Infos. Er ist auch nicht der Einzige, der innerhalb eines kleines Unternehmens versucht auf eigene Faust Superintelligenz zu lösen. Der legendäre Entwickler John Carmack hatte bereits vor einem Jahr ein kleines Unternehmen dafür gegründet. Klar scheint zu sein - kurzfristige Produkt-Releases, z.B. einen ChatGPT Konkurrenten, wird es wohl erst mal nicht geben. Aber: Ein Non-Profit ist SSI Inc. eben auch nicht, und wenn Sutskever und co. zwar sagen, dass es keinen kurzfristigen ökonomischen Druck gäbe, fällt das Wort business model aber eben doch.

Wir dürfen also gespannt sein, a) was genau SSI vorhat und b) wie das in Zukunft als kommerziell tragfähige Firma aussehen wird.

Eliezer Yudkowsky, ein bekannter KI-Kritiker, der immer wieder vor den Gefahren einer übermächtigen KI für die Menschheit warnt, ist zumindest bisher nicht überzeugt, das SSI Inc. irgendetwas anderes bietet, als die bisherigen Versprechen von OpenAI & co.

Sobald es mehr zu berichten gibt, werden wir das tun. Aus dem, was wir als Beobachter aus der Ferne bewerten können, ist zumindest unsere Interpretation, dass Ilya Sutskever ein hoch-intelligenter, bestens vernetzter und durchaus integrer Typ zu sein scheint, der das Thema KI-Sicherheit so ernst nimmt, dass er dafür seine gesamte bisherige Karriere auf’s Spiel gesetzt hat. Wir wünschen dementsprechend viel Erfolg mit dem neuen Venture!

🛠️ Trai it out:

Spiral — Ein nützliches kleines Schreibtool von Every (eine junge Media-Company, die vor allem Newsletter schreiben).

Spirals sind so etwas wie Prompt-Vorlagen. Der Kniff dabei ist, dass die KI selbst einem hilft, diese zu erstellen. Der Kern-Anwendungsbereich ist das Umwandeln von Content. So kann man z.B. Spirals erstellen, um aus einem längeren Text einen LinkedIn Post zu erstellen, oder aus einem Script, Vorschläge für Headlines, und so weiter.

Ja, das alles ginge auch irgendwie mit ChatGPT und co - Spiral zeigt aber wieder mal - mit dem richtigen Interface wird das Nutzen von KI’s im (kreativen) Alltag deutlich einfacher!

Weitere Neue Tools, Updates & Demos:

• Leap Paraphrase — Hilft beim Umschreiben von Texten, noch aber nur auf Englisch
  

• Socap — Ein KI-gestütztes Networking Tool speziell für Gründer auf Kapitalsuche
  

• Bytebot — Diese KI hilft bei Web-Scraping Tasks
  

• Mojo — Ein ganz kleines Tool, dass aus eurem Logo nette Animationen erstellen kann
  

🍭🍬 Gemischte Tüte

🇪🇺 EU-News:

• Frankreich führt das Feld der Generativen KI-Finanzierung in Europa an, London hat aber die dreifache Anzahl an GenAI-Startups. Link
  

• General Catalyst führt eine neue Finanzierungsrunde über 600 Millionen Euro beim französischen KI-Startup Mistral an. Inzwischen fühlt es sich so an, als hätten sie jede Woche eine neue Finanzierungsrunde. Link

👩‍💻 Tech-News:

• Das Video-Avatar-KI Startup HeyGen ist nach der neusten Finanzierungsrunde zumindest ein “halbes Unicorn”. Eine Anleitung zum Tool gibt’s übrigens in unserem Workbook. Link

• Viele Medien berichten, dass Apple nicht für ChatGPT zahlt. Das bedeutet, dass OpenAI die immer noch erheblichen Betriebskosten für diese Anfragen tragen und darauf hofft, diese Nutzer in Premium-Abonnenten zu verwandeln. Link
  

• Auf Microsofts KI-Tag vor einigen Wochen wurde ein Feature namens Recall gezeigt, das kontinuierlich Screenshots deines Windows-PCs macht, um sie zu indexieren und abzurufen. Der PC kann also alles finden, was du suchst – das ist der Hintergrund. Es stellt sich heraus, dass es kaum Sicherheit für die erstellte Datenbank gibt, sodass nun jeder ‘Bösewicht’ mit Zugriff auf deinen PC nicht nur alles sehen kann, was du tust, sondern auch alles, was du getan hast. Microsoft hat das Feature vorerst zurückgezogen. Link
  

• OpenAI hat einen neuen CFO eingestellt und Kevin Weil, den ehemaligen Produktleiter bei Twitter und Instagram, als Chief Product Officer an Bord geholt. Link
  

• Werden uns die Daten ausgehen? Grenzen des LLM-Skalierens basierend auf von Menschen generierten Daten. Link
  

• Tim Cook ist sich „nicht 100 Prozent sicher“, dass Apple KI-Halluzinationen stoppen kann. Link
  

• Was politische Entscheidungsträger über KI wissen müssen (und was schiefgeht, wenn sie es nicht tun). Link
  

• Warum haben Alexa oder Siri nicht erreicht, was ChatGPT erreicht? Einige Insider sagen, dass interne Konflikte, Bürokratie und widersprüchliche Anreize das Tempo der Verbesserungen verlangsamt und sie daran gehindert haben, LLMs zu bauen. Link
  

• Anthropic’s neustes Modell Sonnet 3.5 schlägt in einigen Benchmarks sogar GPT4o. Link
  

• Google DeepMind wandelt sich vom Forschungslabor zur KI-Produktfabrik. Link
  

• Meta hat fünf neue KI-Forschungsmodelle veröffentlicht, darunter solche, die sowohl Text als auch Bilder generieren und KI-generierte Sprache innerhalb größerer Audioschnipsel erkennen können. Link
  

• Ein Meta Engineering Post darüber, wie LLMs in großem Maßstab trainiert werden. Es liegt natürlich in ihrem eigenen Interesse, der Open-Source-Community alles zu bieten, was sie braucht. Link
  

• OpenAI arbeitet hart daran, seine Lobbyarbeit auszubauen. Es hat ein ehemaliges Oberhaupt der NSA in den Vorstand geholt, und FT berichtet, dass nun 35 Lobbyisten für OpenAI arbeiten und diese Zahl bis Ende des Jahres auf 50 erweitern will. Link
  

• Alibaba sagt, dass sein neues LLM in einigen Bereichen, wie Mathematik und Programmierung, besser abschneidet als Llama 3. Link

🆕 Neue Anwendungsfelder:

• Obstbauern können Ernten mit KI-Tool vorhersagen. Link

🔐 Cybersecurity:

• Nicht alle „Open Source“ KI-Modelle sind tatsächlich offen: Hier ist eine Rangliste. Link

🏥 Health:

• KI-basierter Bluttest kann Parkinson sieben Jahre vor den Symptomen vorhersagen, sagt eine Studie. Link

🖼️ Kreativindustrie:

• Runways neue videogenerierende KI, Gen-3, bietet verbesserte Steuerungen. Link
  

• DeepMinds neue KI generiert Soundtracks und Dialoge für Videos. Link
  

• PocketFM und ElevenLabs machen gemeinsame Sache, um aus Texten guten Audio-Content zu machen. Link
  

• Was passiert wenn 20 Comedians KI ihre Routinen schreiben lassen. Link
  

• Zwei neue Videomodelle - SF-V von Snap und 'Dream Machine' von Luma. Link1 Link2

🧂 Salty Memes: