🧪 Wissenschaft 2.0: Erforscht KI sich bald selbst?

Hallo Freunde! Der meteorologische Winter ist da, beim Thema KI gibt’s aber weiter keine Abkühlung. Im Gegenteil: Könnte die KI-Entwicklung sich sogar noch beschleunigen, wenn sie sich bald selbst erforscht? Zum Wochenende gibt es dazu von uns einen etwas längeren Text. Außerdem: Infos zu Mistral’s neuen Modellen und die Vortellung von Suno’s neuester Version. Also los!

Peanuts für heute:

• 🧪 Wissenschaft 2.0: Erforscht KI sich bald selbst?

• 🆕 Mistral überrascht mit zwei neuen Modellen

• 🛠️ Suno v4 kann un-f*cking-fassbar gute Musik generieren

🥜 Die größte Nuss:

🧪 Wissenschaft 2.0: Erforscht KI sich bald selbst?

Stellt euch vor, ihr geht in ein Labor und seht einen Roboterarm, der eigenständig Experimente durchführt, basierend auf einer selbst erdachten Forschungshypothese. Science Fiction? Nicht mehr unbedingt lange!

Die Entwicklung von KI-gestützter Forschung macht gerade einen gewaltigen Sprung nach vorne. Die Frage ist aktuell nicht, ob KI in der Forschung eine größere Rolle spielen wird, sondern wie - und wie viel Kontrolle wir Menschen dabei behalten werden.

Zwei unterschiedliche Ansätze
Es gibt aktuell vor allem zwei Arten, auf die sich das Thema ausprägt: Einerseits können KI Tools zunehmend eine größere unterstützende Rolle in der Forschung spielen. Sie übernehmen dabei eine klare Assistenz-/Sparringsrolle und unterstützen menschliche Forscherinnen und Forscher bei ihrer Arbeit. Schon heute werden natürlich die üblichen Verdächtigen wie ChatGPT und Claude eingesetzt, z.B. um beim Schreiben von Papern zu unterstützen. Dabei kommt man mit diesen Tools jedoch sehr schnell an Grenzen. Und daher kommen aktuell immer mehr auf wissenschaftliches Arbeiten fokussierte Tools auf den Markt.

KI als Sparrings-Partner für den Menschen
Eine der jüngsten spannenden Neuentwicklungen ist dabei OpenScholar. Entwickelt vom Non-Profit KI-Forschungsinstitut Allen Institute for AI und der University of Washington, zeigt dieses System, wie leistungsfähig spezialisierte KI-Assistenten sein können: Es durchsucht 45 Millionen wissenschaftliche Artikel in Sekundenschnelle, findet relevante Quellen und generiert fundierte Antworten auf komplexe Forschungsfragen.
Das Besondere: Anders als ChatGPT & Co. stellt OpenScholar auf Basis eines iterativen Selbst-Feedback Prozesses stets sicher, sich nur auf wirklich existierende Quellen zu beziehen, statt sich Quellen einfach auszudenken (zu halluzinieren), was im Falle der typischen LLMs leider immer noch sehr häufig vorkommt. OpenScholar ist zudem OpenSource und kann für Forschende in der Anwendung somit deutlich günstiger sein, als auf die großen Anbieter zu setzen.

KI als eigenständige/r Forscher/in
Ein gänzlich anderer Ansatz als die KI lediglich als Sparringspartner für den Menschen zu nutzen, ist es, der KI deutlich mehr Freiraum zu geben, und sie sozusagen “End-to-End” als Forscher/in einzusetzen. Das ist u.a. erklärtes Ziel des Startups sakana (Wir berichteten schon im August 2023 über den Start).

Deren LLM-basiertes System “AI Scientist” stellt eigenständig Forschungshypothesen auf, bewertet diese selbst nach Sinnhaftigkeit und Novität, stellt Experimente in Form von Code auf, führt diesen Code und die Experimente iterativ durch, stellt die Ergebnisse zusammen, schreibt daraus ein Paper inkl. Grafiken, Charts, und Tabellen und bewertet dann sogar selbst die Qualität dieses Papers auf einem vergleichbaren Niveau wie ein menschlicher Reviewer. Und das alles erzeugt pro Paper gerade mal knapp $15 an Kosten.

Noch sind die Ergebnisse dieses AI Scientist wohl eher durchschnittlich, aber es kommen dabei wohl durchaus neue Erkenntnisse zustande - und das sollte uns doch kurz innehalten lassen - denn, dass so etwas überhaupt möglich ist, wäre noch vor wenigen Jahren wirklich Science Fiction gewesen.

Sind wir auf dem klaren Pfad zu AGI?
Sollte der Ansatz des AI Scientist, u.a. z.B. durch iteratives Lernen und durch die grundsätzliche Verbesserung der zugrundeliegenden KI-Modelle in Zukunft noch besser klappen ist vor allem folgendes denkbar: Eine KI, die daran forscht, sich selbst zu verbessern. Und das könnte das ganze Thema in einer schnellen Spirale exponentiell beschleunigen. Genau das ist übrigens die Grundlage der These von Leopold Aschenbrenner, dass die Existenz einer AGI (also einer uns weit überlegenen superintelligenten KI) bis 2027 nicht undenkbar ist. 

Und außerdem könnte es rasante Fortschritte in vielen weiteren Bereichen bedeuten. Denn gleichzeitig zur Software wird gerade Hardware deutlich fähiger. Wie wir ja schon öfter berichtet haben, werden u.a. humanoide Roboter gerade immer besser darin, bisher dem Menschen vorbehaltene Aufgaben zu übernehmen (Wie nicht zuletzt dieses Beispiel von Figure-Robotern im Einsatz bei BMW aus dieser Woche zeigt). Und paart man diese Hardware mit forschender Software könnte das bedeuten, dass wir schon in naher Zukunft Labore mit hunderten oder gar tausenden von forschenden Robotern sehen, die z.B. biologische oder chemische Experimente durchführen können.

Könnte das zur Gefahr werden?
Die Vision von KI-gesteuerten Forschungslaboren ist gleichermaßen faszinierend wie beunruhigend. Die Chancen sind gewaltig: Von der Entdeckung neuer Medikamente bis zu Durchbrüchen in der Klimaforschung. Gleichzeitig wächst mit jeder neuen Fähigkeit, die wir KI-Systemen geben, auch ihr Potential für unerwünschte oder gar gefährliche Aktionen. Ein Dilemma, dem wir uns stellen müssen – denn aufhalten lässt sich diese Entwicklung nicht mehr. Die Technologie wird immer zugänglicher, die Modelle immer mächtiger. Die Frage ist nicht ob, sondern wie wir diese Revolution gestalten.

Genau hier liegt unsere gemeinsame Verantwortung als Gesellschaft: Wir müssen die Rahmenbedingungen und Leitplanken für diese Entwicklung definieren und durchsetzen. Das kann aber nur gelingen, wenn wir uns alle mit den Möglichkeiten und Grenzen von KI auseinandersetzen. Wir als AI Peanuts hoffen mit diesem Newsletter zumindest einen kleinen Teil dazu beizutragen, dass diese Auseinandersetzung mit dem Thema für alle einfach, verständlich und zugänglich ist.


Weiterführende Links:

• Bericht zu OpenScholar

• Infos zu sakana.ai

• Vortrag von Robert Lange, deutscher Wissenschaftler bei sakana

🛠️ Trai it out:

Suno v4 — Vor 11 Monaten - am 21. Dezember 2023 haben wir euch an dieser Stelle das erste Mal das KI-Musiktool Suno vorgestellt. Wir waren selbst sehr beeindruckt von dem Tool und auch euer Feedback war teilweise euphorisch. Denn mit Suno ließen sich auch in der damaligen Version schon ganz ohne technische Skills ziemlich ordentlich klingende Songs generieren.

Seitdem ist viel passiert - wir haben die verschiedenen neuen Versionen von Suno immer wieder hier erwähnt. Und die neuste Version 4 bringt jetzt noch mal ein massives Upgrade in der Song-Qualität, vor allem im Bezug auf Gesang. Ein Beispiel gefällig?

Unserer Meinung nach kann man gut gepromptete Songs auf Suno jetzt wirklich kaum noch als KI-Musik identifizieren. Ihr wollt den direkten Vergleich hören?

Wir haben letzten Dezember eine “AI-Peanuts Hymne” erstellt. Hier das damalige Orignal vs. die Remastered v4 Version.

Und jetzt wollen wir von euch hören - schickt uns gerne eure Suno-Kreationen. Die besten featuren wir in einem kommenden Newsletter!

Weitere Neue Tools, Updates & Demos:

• Autotab — Ein KI-basierter Chrome Browser, dem man beibringen kann, Aufgaben zu übernehmen.
  

• OpenAI Advanced Voice Mode Desktop — Der Sprachassistent ist jetzt auch in der Desktop Version verfügbar
  

• asyncinterviews — Diese KI-gestützte Lösung ermöglicht asynchrone Job-Interviews
  

• Pickle — Du willst während dem Zoom Meeting durch die Wohnung gehen und trotzdem soll es so aussehen, als würdest du vor dem Bildschirm sitzen? Mit Pickle kein Problem.
  

• Flux1 Tools — Der aktuell führende Bild-KI Anbieter Flux bringt eine reihe von nützlichen Tools für die KI-Bildbearbeitung
  

Prompting & Kurse:

• Kurzanleitung: Product-Mockups mit Flux erstellen. Link

🍭🍬 Gemischte Tüte

🇪🇺 EU-News:

• Mistral überrascht mit zwei neuen Modellen: Eines davon ist multimodal und kann nahtlos zwischen Text und Bildern wechseln. Ihr 124-Milliarden-Parameter-Modell „Pixtral Large“ könnte OpenAI echte Konkurrenz machen. Zudem bekommt Mistrals Chatbot „Le Chat“ neue Features wie Websuche, Textbearbeitung und die Möglichkeit, eigene KI-Agenten zu designen. Link 

👩‍💻 Tech-News:

• Oops: OpenAI Entwickler löschen aus Versehen Daten, die im Rechtsstreit mit der New York Times wichtig waren… Link
  

• Brain-Computer-Interfaces (BCIs) könnten unsere Denkleistung, Kommunikation und sogar körperliche Fähigkeiten revolutionieren. Aber wenn der Zugang durch Kosten oder Geografie begrenzt ist, steuern wir vielleicht auf eine Zukunft zu, in der die "Neuro-Enhanceten" die Nicht-Verbundenen dominieren. Die Frage ist: Wie regeln wir das, um Fortschritt und Fairness in Balance zu halten? Link 
  

• Forscher nutzten GPT-4, um simulierte Verhaltensweisen zu erschaffen, die nahezu identisch zu echten Menschen wirken. Link 
  

• NVIDIA meldet ein Umsatzwachstum von 94 % auf 35 Mrd. Dollar und übertrifft die Erwartungen. Dennoch fiel die Aktie nachbörslich leicht aufgrund verlangsamter Wachstumsprognosen. Treibende Kraft: der Blackwell-Chip, schneller und energieeffizienter als je zuvor. Link 
  

• Bei dem Chip gibt es allerdings anscheinend Probleme: Ein Hitzeproblem bei der neuen Blackwell-Architektur sorgt für Produktionsengpässe. Link 
  

• Tim Urban von WaitButWhy warnt vor AGI: "Man hat nur eine Chance, Gott zu bauen." Wenn AGI Version 1 fehlerhaft ist, lässt sie sich nicht so einfach abschalten wie Software – und eine fehlerhafte AGI könnte alles zerstören. Link
  

• Anthropic kooperiert jetzt mit Snowflake, um seine Claude-KI direkt im Snowflake-Ökosystem zu integrieren. Damit wird es großen Unternehmen einfacher gemacht, KI mit ihren bestehenden Daten zu nutzen. Link 
  

• Waymo – ein neuer Artikel beleuchtet die Fortschritte und Herausforderungen von Robotaxis. Link 
  

• Ein US-Kongressausschuss schlägt ein "Manhattan-Projekt" vor, um die Entwicklung von AGI in den USA zu beschleunigen. Ziel ist es, Infrastrukturprobleme zu lösen und die Konkurrenz mit China in diesem Bereich zu stärken. Link 
  

• Satya Nadella betont, dass die drei Schlüsselfähigkeiten für KI-Agenten jetzt vorhanden sind und sich exponentiell verbessern: 1) multimodale Schnittstellen 2) Reasoning und Planung 3) Langzeitgedächtnis und Tool-Nutzung. Link
  

• Tesla verkauft jetzt Mini-Versionen seines humanoiden Roboters „Optimus“: Die 1:10-Modelle kommen inklusive Ladestation und „CyberHammer“. Link 
  

• Google's Gemini-Chatbot hat jetzt eine Gedächtnisfunktion, die persönliche Informationen wie Vorlieben, Arbeitsdetails oder Lieblingsessen speichern und abrufen kann. Link
  

• OpenAI-CEO Sam Altman treibt eine 150-Millionen-Dollar-Finanzierungsrunde für Rain AI voran, einen Herausforderer für NVIDIAs Vorherrschaft in der KI-Chipherstellung. Link 
  

• Samsung enthüllt smarte KI-Brillen in Zusammenarbeit mit Google und Qualcomm – der nächste Schritt in der Wearable-Revolution. Link
  

• Eine Umfrage von Qualtrics zeigt: 75 % der Menschen misstrauen Unternehmen im Umgang mit KI. Das allgemeine Vertrauen in KI ist im letzten Jahr um 11 % gesunken. Link 
  

• Sam Altman wird Co-Vorsitzender des Teams für den Übergang der neuen Bürgermeister von San Francisco, Daniel Lurie. Link 
  

• Perplexity führt eine Shopping-Funktion für Pro-Nutzer in den USA ein. Produkte werden direkt in den Suchergebnissen angezeigt, und Nutzer können Käufe mit einem Klick abschließen. Perplexity integriert Shopify-Daten, nimmt aber aktuell keine Affiliate-Provisionen. Link 
  

• Etwas Seltsames passiert mit LLMs und Schach – eine tiefere Analyse der Veränderungen im Spiel durch KI. Link

👷 Work & Education:

• Microsofts KI-Übersetzungsfunktionen lassen dich klingen, als würdest du fließend Italienisch sprechen. Ideal für internationale Meetings oder Sprachlernende. Link 
  

• NVIDIAs „Project GR00T“ bringt KI in humanoide Roboter. Zusammen mit Boston Dynamics und anderen Herstellern will NVIDIA die Robotik revolutionieren – von Bewegung bis Lernen. Link

• OpenAI will tiefer in die Bildungslandschaft eindringen. Das gefällt aber nicht allen. Link 
  

• Anthropic schnappt sich 24 % Marktanteil im Enterprise-AI-Bereich, während OpenAI 16 % verliert. Der Fokus liegt auf Claude, einer zunehmend beliebten KI-Lösung. Ein Bericht von Menlo Ventures liefert Details. Link 
  

• ElevenLabs erlaubt dir jetzt, KI-basierte Kundenservice-Agenten zu erstellen: Die Voice-Cloning-Startup fordert damit Kontrahenten wie Retell und Vapi heraus. Link 
  

• BMW setzt humanoide Roboter von Figure erfolgreich in der Batteriefertigung ein. Die Roboter arbeiten mittlerweile 400 % schneller und 7-mal präziser als bei ihrer Einführung. Fortschritte in der Autonomie könnten wegweisend für weitere industrielle und private Anwendungen sein. Link 

🆕 Neue Anwendungsfelder:

• Neue Google Forschung: KI nutzen, um Fehler in Quantencomputern zu finden. Ein sehr spannendes “Crossover” der beiden Technologien. Link

🔐 Cybersecurity:

• Lockheed Martin arbeitet mit Iceye zusammen, um KI-gestützte Zielerfassungstechnologien voranzutreiben. Link
  

• Biden und Xi einigen sich darauf, KI keine Kontrolle über Atomwaffen zu geben – ein wichtiger Schritt in Richtung sicherer KI-Entwicklung. Link

🏥 Health:

• Diskussion um AGI und ASI: Was könnte das für die Behandlung des Alterns bedeuten? Von schnelleren Laborexperimenten, optimierten klinischen Studien bis hin zu Simulationen des menschlichen Körpers durch Quantencomputer. Link 
  

• Nvidia führt zwei neue Plattformen ein: „Omniverse“, ein KI-gestützter Physiksimulator, und „BioNeMo“, eine Open-Source-AI-Plattform zur Beschleunigung der Medikamentenforschung. Link 

🖼️ Kreativindustrie:

• Ein neues KI-basiertes Filmstudio namens Promise hat mit Unterstützung von Andreessen Horowitz und Peter Chernin seinen Betrieb aufgenommen. Ziel ist es, mithilfe von Generative-AI-Technologien Filme und Serien zu produzieren. Dabei steht die eigens entwickelte Produktionssoftware Muse im Mittelpunkt, die KI in den gesamten Arbeitsprozess integriert. Link 
  

• Coca-Cola experimentiert mit KI-generierten Werbespots: Drei modern interpretierte Weihnachtsclips von 1995 sorgten für geteilte Meinungen. Die Spots, produziert von Silverside, erhielten Lob für die Nostalgie, aber auch Kritik für ihre Künstlichkeit. Link 
  

• Microsoft schließt einen Deal mit HarperCollins, um neue KI-Modelle mit Nonfiction-Büchern zu trainieren. Autoren sollen sich allerdings abmelden können, wenn sie nicht möchten, dass ihre Werke verwendet werden. Link 

🧂 Salty Memes: