Ein Unternehmen soll 500 Millionen Dollar für Claude-Tokens in nur EINEM MONAT verbrannt haben, weil niemand ein Usage-Limit gesetzt hat. Kann ja mal passieren.
Der einzige Beleg dafür ist ein anonymer KI-Berater, den Axios zitiert. Trotzdem reagieren jetzt mehrere Firmen und drosseln ihre Token-Budgets. Vielleicht ist das gar nicht schlecht. Denn die Branche muss sich ohnehin von einer ziemlich schrägen Idee verabschieden: dass mehr generierter Code automatisch ein Zeichen für bessere Programmierer ist.

Außerdem arbeiten wir gerade an neuen Referral-Rewards, also kleinen Belohnungen für alle, die unseren Newsletter weiterempfehlen. Wenn ihr drei neue Leser oder Leserinnen einladet, bekommt ihr Zugang zu einem Dashboard, in dem ihr nach allen Tools suchen könnt, über die wir in mehr als 300 Ausgaben berichtet haben. Den Referral-Link findet ihr ganz unten im Newsletter. Weitere Rewards folgen.

Peanuts für heute:

Vor 135 Jahren schrieb ein Papst über die Folgen der Industrialisierung für Fabrikarbeiter. Seine Worte prägten die Debatte noch jahrzehntelang. Dieser Papst war Leo XIII. Jetzt hat Papst Leo XIV., der sich bewusst auf ihn bezieht, seinen eigenen Text für das KI-Zeitalter veröffentlicht. Und der wirkt erstaunlich nah an den Fragen, über die die Tech-Welt gerade selbst stolpert.

Es ist nicht das erste Mal, dass ein Papst mit KI Schlagzeilen macht. Erinnert ihr euch noch an das Bild vom Papst in der weißen Daunenjacke? Das war einer dieser Momente, in denen viele zum ersten Mal gemerkt haben: KI-Bilder sehen nicht mehr automatisch unecht aus. Nur jetzt geht es nicht mehr nur um KI-Bilder sondern um die Zukunft der Menschheit.

Das Dokument heißt Magnifica Humanitas und trägt den Untertitel "Zum Schutz der menschlichen Person im Zeitalter der Künstlichen Intelligenz". Leo XIV. hat seinen Namen bewusst gewählt: als Verweis auf Leo XIII., der 1891 mit der Enzyklika Rerum novarum als erster die sozialen Verwerfungen der Industrialisierung moralisch eingeordnet hat, lange bevor manche Regierungen reagierten.

Der Papst liest offenbar dieselben Papers wie wir

Das Dokument ist konkret. Abschnitt 98 beschreibt das sogenannte Interpretability-Problem bei großen Sprachmodellen so präzise wie ein ML-Paper: Entwickler verstehen nicht vollständig, wie ihre eigenen Systeme zu Ergebnissen kommen, weil diese Systeme nicht gebaut, sondern "kultiviert" werden. Abschnitt 100 kritisiert, dass KI-Antworten als objektiv wahrgenommen werden, obwohl sie die kulturellen Annahmen ihrer Entwickler widerspiegeln. Abschnitt 108 benennt, was viele Tech-Kritiker seit Jahren sagen: KI verstärkt die Macht derer, die ohnehin schon Ressourcen und Daten besitzen.

Trotzdem ist das keine Generalabrechnung mit der Technik

Leo XIV. ist kein Technikfeind. Für ihn ist Technik nicht böse. Aber sie ist auch nie neutral. Sie übernimmt immer etwas von den Menschen, die sie bauen, finanzieren und nutzen. Er ist also nicht gegen Fortschritt. Er warnt nur davor, dass wir vergessen, was Menschen von Maschinen unterscheidet.

Dafür nutzt er ein altes Bild, den Turm zu Babel. Wir können weiter an einem neuen Babel bauen, in dem Effizienz, Macht und Kontrolle immer wichtiger werden. Dann wird Technik zwar mächtiger, aber die Verständigung zwischen Menschen brüchiger.

Oder wir wählen den schwierigeren Weg und bauen eher an Jerusalem. Gemeint ist damit gemeinsame Verantwortung, Rücksicht auf Schwächere und Technik als Werkzeug für Menschen, nicht als Instrument der Herrschaft. Leo XIV. nimmt dabei nicht nur Politik und Konzerne in die Pflicht. Für ihn tragen alle Verantwortung. Jeder hat seinen eigenen Abschnitt der Mauer. Forschende, Unternehmen, Politik, Medien und Zivilgesellschaft.

Dazu passt ein Detail von der Vorstellung der Enzyklika. Neben dem Papst saß Chris Olah, Mitgründer von Anthropic. Der Papst sucht offenbar den Dialog mit denen, die die Technik bauen, statt nur von außen draufzuhauen.

Warum das wichtig sein könnte

Aus unserer Sicht ist das die eigentlich wichtige Frage. Regierungen denken in Legislaturperioden. Unternehmen in Quartalen. Die konkreten Folgen von KI auf Arbeit, Bildung und demokratische Öffentlichkeit werden sich nicht nächste Woche zeigen, sondern in zehn oder zwanzig Jahren. Rerum novarum hat nicht die Industrialisierung gestoppt, aber es hat der Debatte eine moralische Sprache gegeben, die Jahrzehnte getragen hat. Gewerkschaftsrechte, Sozialversicherung, Mindestlohn: Alles hat eine Vorgeschichte, und in dieser Vorgeschichte stehen oft Institutionen, die früher als andere laut waren.

Ob der Vatikan heute dieselbe Reichweite hat wie 1891, ist eine andere Frage. Aber wer sonst redet gerade ernsthaft über die Schäden, die erst 2040 auf den Tisch kommen?

Quellen: Enzyklika (Vatikan), Analyse (Simon Willison)

Google hat gerade die Gemini App deutlich aufgewertet und stellt dabei Gemini Spark vor: einen persönlichen Agenten (also ein KI-System, das selbstständig mehrstufige Aufgaben erledigt), der rund um die Uhr im Hintergrund läuft. Er soll Mails verwalten, Termine buchen, Deadlines im Blick behalten und komplexe Workflows über Gmail, Docs, Slides, Sheets und über 30 weitere Apps hinweg ausführen. Das Ganze läuft auf Googles Servern, also auch dann weiter, wenn dein Laptop zugeklappt und dein Handy gesperrt ist. Ehrlich gesagt wirkt die aktuelle Version noch unspektakulär, aber das ist vielleicht der falsche Maßstab. Kein anderes Unternehmen in der Liga der großen KI-Labs ist so tief in die Alltagssoftware von Millionen Menschen integriert wie Google, und genau das ist der strategische Punkt. Wenn Spark in ein oder zwei Jahren zehnmal leistungsfähiger ist, könnte Google einfach gewinnen, weil niemand sonst so nah dran ist, und das sollte man jetzt schon im Hinterkopf behalten. Also vielleicht mal ausprobieren und dann noch einmal in circa 4-5 Monaten. Link

Unsere Gemischte Tüte ist immer vollgepackt - in dieser Sektion kuratieren wir die aus unserer Sicht wichtigsten Links:

Anthropic geht an die Börse. Anthropic hat den ersten Entwurf für einen Börsengang bei der US-Börsenaufsicht SEC eingereicht. Das heißt noch nicht, dass Claude morgen an der Börse handelbar ist. Aber es heißt, dass Anthropic den offiziellen IPO-Prozess gestartet hat und nach der SEC-Prüfung an die Börse gehen könnte. Offiziell nennt das Unternehmen noch keine Bewertung, keinen Aktienpreis und keinen Termin. Die letzte bestätigte Bewertung lag nach einer neuen Finanzierungsrunde bei 965 Milliarden Dollar. Alles darüber hinaus ist im Moment vor allem Marktgerede. Link

Anthropic veröffentlicht Claude Opus 4.8 mit besserem Urteilsvermögen. Anthropic hat Claude Opus 4.8 veröffentlicht, das gegenüber Version 4.7 verbesserte Einschätzungsfähigkeiten, mehr Ehrlichkeit über eigene Grenzen und längere autonome Arbeitsphasen bieten soll, zum gleichen Preis wie der Vorgänger. Der Gamechanger ist aber ein Feature namens Dynamic Workflows: Wer das Wort "workflow" im Prompt verwendet, lässt Claude automatisch einen Orchestrierungsplan erstellen, den das Modell dann strikt befolgt, auch über hunderte parallele Agenten hinweg. Link

Du hast Fragen, Anmerkungen oder brauchst unsere Hilfe?
Schreib uns einfach an:
[email protected]