- AI Peanuts
- Posts
- 🧠 Das Ende der Welt aufgrund von GPT-Superintelligenz?
🧠 Das Ende der Welt aufgrund von GPT-Superintelligenz?
Hallo Freunde! In den USA wurde gestern der 4th of July, also der Unabhängigkeitstag gefeiert - und Mark Zuckerberg hat auf seinen berühmten “Surf-Post” noch mal einen draufgesetzt. Damit genug Klatsch und Tratsch - rein in die KI-Themen:
Peanuts für heute:
🧠 Das Ende der Welt aufgrund von GPT-Superintelligenz?
🤖 Neue Roboter in BMW-Fabrik
🛠️ Elicit ist der perfekte KI-Sidekick für die akademische Recherche
🥜 Die größte Nuss:
🧠 Das Ende der Welt aufgrund von GPT-Superintelligenz?
Im Jahr 2014 veröffentlichte der schwedische Philosoph und Futurist Nick Bostrom das Buch Superintelligence. Darin beschreibt er eine KI, die die Fähigkeiten des menschlichen Gehirns weit übersteigt und formuliert die potenziellen Gefahren, die eine solche Superintelligenz mit sich bringen könnte. Ein oft genanntes Gedankenexperiment ist das der Büroklammerfabrik: Eine Superintelligenz, die damit beauftragt ist, Büroklammern herzustellen, könnte so weit gehen, dass sie die Menschheit eliminiert und jedes Atom im Universum in Büroklammern verwandelt, um ihre Nutzenfunktion zu erfüllen. Keine Sorge, das klang auch damals schon schräg.
Auch innerhalb der aktuellen KI-Entwicklung gibt es immer mehr Stimmen, die vor einer kurz bevorstehenden Superintelligenz warnen und das Ende der Welt beschwören. Experten sprechen teilweise von wenigen Jahren. Stimmen, die erklären, warum es angeblich wahrscheinlich ist, dass es so kommt, gibt es genug. Also hier mal ein Argument dagegen, damit wir alle wieder ein Auge zubekommen.
In der KI-Forschung gibt es das sogenannte Moravec-Paradoxon. Es besagt, dass kognitive Aufgaben auf hohem Niveau, wie Schachspielen oder das Lösen mathematischer Probleme, für Computer relativ einfach, für Menschen jedoch recht schwer sind. Im Gegensatz dazu sind Aufgaben, die dem Menschen leicht fallen, wie das Erkennen von Gesichtern oder das Verstehen natürlicher Sprache, für Computer unglaublich komplex. Dennoch sind die KI-Systeme, die beispielsweise auf hohem Niveau Schach spielen, hochspezialisiert. Sie können nur Schach spielen und sonst nichts.
Das Gleiche gilt auch für Sprachmodelle. Es ist unglaublich beeindruckend, was damit möglich ist, doch der einfachste Weg zu erkennen, dass das, was ChatGPT generiert, keine echte Intelligenz ist, besteht darin, einfach eine Folgefrage zu stellen. Nimm eine Ausgabe von GPT und frage "Warum? Warum ist das so?" oder fordere es auf, eine Vorhersage zu treffen, und beobachte, wie es völlig zusammenbricht. Es gibt keine zugrundeliegende Erklärung – das Sprachmodell hat kein Verständnis der Realität, das es ihm ermöglicht, die Szene im Hinblick auf das Unsichtbare zu erklären. Sprachmodelle sind darauf spezialisiert, menschliches Schreiben zu imitieren. Das ist unheimlich wertvoll und äußerst praktisch, aber weit entfernt von einer Superintelligenz. Es ist ein sehr gutes Werkzeug.
Wer sich immer noch Sorgen macht, sollte einen Blick auf den Wikipedia-Artikel zum "AI-Winter" werfen. Seit dem Beginn der KI-Forschung gab es immer wieder Phasen, in denen die Fortschritte ins Stocken gerieten. Derzeit befinden wir uns entweder im KI-Frühling oder -Hochsommer. Wichtig ist, dass wir die modernsten KI-Systeme als Werkzeuge betrachten, die neue Formen der Interaktion mit Technologie ermöglichen und uns Arbeit abnehmen. Wir bleiben Techno-Optimisten.
🛠️ Trai it out:
Elicit — Ist ein sehr nützliches Tool für die akademische Recherche. Mit Elicit findet man schnell die relevanten wissenschaftlichen Veröffentlichungen und durchsucht, strukturiert und analysiert sie mit Hilfe von KI-Tools.
So findet man z.B. schnell übereinstimmende, oder auch abweichende Informationen. Ein tolles Beispiel, wie KI-Tools in der Tiefe bei komplexen Prozessen ein perfekter “Sidekick” für uns Menschen sein können.
Weitere Neue Tools, Updates & Demos:
Runway Gen3 Alpha — Dieses Modell erzeugt extrem echt gute KI-Videos. Jetzt in der Alpha für alle Paid-Accounts nutzbar
ElevenLabs Voice Isolation — Filtert Stimmen aus Audio Files mit Hintergrundgeräuschen glasklar heraus
Shopify Magic — Shopify baut seine KI-Tool Suite u.a. im Bereich Bildbearbeitung massiv aus
Pygma — Ein KI-Copilot für Instagram
Podscan — Nutzt KI für die Transkription von Podcasts - und macht es dadurch möglich, quasi jeden Podcast mit Text zu “durchsuchen”
Prompting & Kurse:
🍭🍬 Gemischte Tüte
🇪🇺 EU-News:
Figure-Roboter führen jetzt Anwendungsfälle in den Fertigungsprozessen der BMW Group aus. Figure ist ein KI-Robotik-Unternehmen, das den ersten kommerziell nutzbaren autonomen humanoiden Roboter der Welt entwickelt. Link
👩💻 Tech-News:
Apple wird wohl eine Beobachterrolle im OpenAI-Vorstand erhalten - so wie auch Microsoft. Die Beobachterrolle ermöglicht es Apple und Microsoft, an Vorstandssitzungen teilzunehmen, ohne abstimmen oder andere Direktorenbefugnisse ausüben zu können. Link
Apple hat gerade eine öffentliche Demo seines ‘4M’ AI-Modells gestartet: Dieser Artikel erklärt warum das so wichtig ist. Link
Figma hat sein neues AI-Tool, Make Designs, zurückgezogen, nachdem Kritik laut wurde, dass es Designs generierte, die denen der iOS-Wetter-App von Apple zu ähnlich waren. Link
Die brasilianische Datenschutzbehörde verbietet Meta, Daten zum Trainieren von KI-Modellen zu sammeln. Link
Ein Artikel über das Untergrundnetzwerk, das Nvidia-Chips nach China schmuggelt. Die Anstrengungen, die Unternehmen unternehmen, um Zugang zu GPUs zu erhalten, sagen viel über den Chipmangel aus und wie chinesische Unternehmen alles versuchen, um im KI-Rennen Boden gut zu machen. Link
Anthropic möchte eine neue, umfassendere Generation von KI-Benchmarks finanzieren. Link
WhatsApp entwickelt einen KI-Avatar-Generator. Link
👷 Work:
Synchronsprecher sagen, dass sie kurz davor stehen, dass ihre Arbeit vollständig durch künstliche Intelligenz ersetzt wird, da Unternehmens- und Radiorollen bereits durch günstige generative KI-Klone ersetzt werden. Link
Meta’s neue Technologie kann innerhalb von Minuten 3D-Assets aus Textvorgaben erstellen. Link
🔐 Cybersecurity:
YouTube hat eine neue Richtlinie eingeführt, die es Einzelpersonen ermöglicht, die Entfernung von KI-generierten Inhalten zu beantragen, die ihr Gesicht oder ihre Stimme nachahmen. Link
Jonathan Zittrain von der Harvard University meint, dass KI-Agenten sterblich sein sollten, damit sie sich nicht unkontrolliert ausbreiten: "Gib ihnen ein paar Ziele, lass sie ein Bankkonto haben, lass sie Geld ausgeben... warte ab was dann passiert?” Link
🆕 Neue Anwendungsfelder:
Altrove verwendet KI-Modelle und Laborautomatisierung, um neue Materialien zu entwickeln. Link
🖼️ Kreativindustrie:
ElevenLabs hat sich mit den Nachlässen der legendären Stars Judy Garland, James Dean, Burt Reynolds und Sir Laurence Olivier zusammengeschlossen, um ihre ikonischen Stimmen in seine Reader-App zu bringen. Link
Ein KI-generiertes Video, das eine außerirdische Naturdokumentation zeigt, demonstrierte die verbesserte Qualität von KI-generierten Videos. Link
Ein Vergleichsvideo zwischen den Videogenerierungsfähigkeiten von Sora und Runway zeigte, dass sie nah beieinander liegen, aber Sora in Bezug auf Bewegung und Gesamtqualität besser abschneidet. Link
🧂 Salty Memes:
Wir wollen uns verbessern! Wie hat dir diese Ausgabe gefallen? Welche Themen wünschst du dir für die Zukunft mehr? |
Login oder Abonnieren um an umfragen teilzunehmen. |
Bis Dienstag!