US-Präsident Biden erlässt Executive Order zu KI-Sicherheit

US-Präsident Joe Biden hat eine Executive Order erlassen, die neue Standards für die Sicherheit und Zuverlässigkeit von KI-Systemen festlegt. Unternehmen, die Grundlagenmodelle für KI entwickeln (also z.B. Modelle wie GPT, LLaMA & co.) müssen nun Sicherheitstests durchführen und die Ergebnisse mit der US-Regierung teilen, bevor die Modelle veröffentlicht werden dürfen.

Die Exekutivanordnung ist Teil einer breiteren Initiative, die bereits "freiwillige Verpflichtungen" von großen KI-Entwicklern wie OpenAI, Google, Microsoft, Meta und Amazon umfasst. Sie dient als Vorstufe und soll den Weg für umfassendere Regulierungen ebnen.

Darüberhinaus wurde das National Institute of Standards and Technology (NIST) beauftragt, neue Standards für umfangreiche Sicherheitstests ("Red-Team-Testing") zu entwickeln. Diese Tests sollen sicherstellen, dass KI-Systeme vor ihrer Veröffentlichung auf nach vergleichbaren Standards geprüft und potenzielle Risiken minimiert werden.

Warum ist das wichtig?
Weltweit bemühen sich Regierungen und Institutionen aktuell darum, das Thema Regulierung von KI richtig anzugehen. Bei uns in Europa ist der EU AI Act seit einiger Zeit in Diskussion und könnte schon bald verabschiedet werden. Und gestern konnten sich Vertreter der G7-Staaten auf einen KI-Code-of-Conduct einigen.

Regulierung von KI ist auf vielen Ebenen ein komplexes und schwieriges Thema. Zum einen ist das Thema sehr groß und kaum abgrenzbar zu definieren. Zum anderen ist die Entwicklung in dem Bereich gerade in letzter Zeit extrem schnell. Regulierung muss einerseits für Sicherheit sorgen, sollte aber andererseits keinen zu stark bremsenden Einfluss auf Innovationen haben.

Die USA spielen dabei natürlich eine zentrale Rolle, da ein Großteil der führenden Forschung bei dem Thema dort stattfindet und auch die einflussreichsten Firmen im Bereich in den USA beheimatet sind.

Es stellt sich außerdem die Frage, wie und ob sich neben den großen Firmen Open Source Modelle überhaupt effektiv regulieren lassen. Oft wird nämlich kritisiert, dass die vorgeschlagenen Regeln nur von großen Firmen umsetzbar sind und somit Innovation abseits der sowieso schon großen Tech Firmen immer schwieriger gemacht wird.

Wie genau sich die neue Executive Order also auf den KI-Sektor auswirkt, bleibt noch abzuwarten. Im Hintergrund läuft aber definitiv massive Lobbyarbeit. Yann LeCun, der KI-Chief Scientist bei Meta, beschwert sich in diesem Tweet, dass Altman (OpenAI), Hassabis (Deepmind) und Amodei (Anthropic) massive Lobbyarbeit betreiben, damit neue Vorschriften vor allem ihnen und nicht der gesamten KI-Gemeinschaft zugutekommen.

[Fact Sheet der US-Regierung zur Executive Order]
[Berichterstattung von Techcrunch]