Wer reguliert KI?

Künstliche Intelligenz (KI) verändert bereits heute nicht nur die Wirtschaft, sondern auch die Gesellschaft. Für die Politik stellt sich die Frage, wie man KI regulieren sollte. Die Chefs der wichtigsten Unternehmen der Branche haben sich bereits zu Wort gemeldet und die möglichen Chancen und Risiken dieses Wandels erläutert. Wissenschaftler und Aktivisten warnen aber vor dem wachsenden Einfluss dieser Unternehmen auf den Verlauf der Debatte.

Sie verweisen auf die Dominanz amerikanischer Unternehmen und stellen Fragen nach der Repräsentanz anderer Weltregionen, vor allem des Globalen Südens. Auch warnen sie vor dem wachsenden Einfluss, den die Konzernlenker damit auf Dinge wie den Datenschutz und Arbeitnehmerrechte haben.

"Wir sehen, wie diese Unternehmen sehr geschickt die Debatte steuern", sagt Gina Neff, Leiterin des Minderoo Centre for Technology and Democracy an der Universität Cambridge, der DW.

Hier eine Zusammenstellung der einflussreichsten Stimmen, und was sie sagen:

Elon Musk: Der Schwarzmaler

Kein Konzernchef hat so sehr vor den möglichen Gefahren Künstlicher Intelligenz gewarnt wie Elon Musk, dem unter anderem das KI-Startup-Unternehmen xAI gehört. Seit Jahren warnt Musk vor angeblich katastrophalen Folgen der KI für die menschliche Zivilisation. Bereits 2018 hielt er sie für "weit gefährlicher als Atombomben". In einem Gespräch Anfang des Monats mit dem britischen Premierminister Rishi Sunak sprach Musk von KI als "zerstörerischster Kraft der Geschichte" und forderte Regulatoren als "Schiedsrichter". Gleichzeitig warnte Musk aber vor einer übermäßigen Beaufsichtigung; Regierungen sollten sich mit einer Regulierung zurückhalten, "die die positive Seite von KI behindert".

Indem Musk solche sehr grundlegenden Gefahren betone, lenke er von drängenden technischen Fragen ab wie dem Datenschutz und der Fairness von KI-Systemen, sagt Daniel Leufer von Access Now in Brüssel, einer Organisation, die sich für digitale Bürgerrechte einsetzt. Bei Musks Warnungen gehe es "um Dinge, die ziemlich spekulativ sind und oft ins Reich von Science Fiction gehören", sagt Leufer der DW.

Sam Altman: Der Regulierungsbefürworter

Im November 2022 wurde der KI-Chatroboter ChatGPT des in San Francisco ansässigen Betreibers OpenAI freigeschaltet. Seitdem tourt dessen Chef Sam Altman durch die Hauptstädte der Welt und spricht mit Regierungen über eine Regulierung von KI.

Dabei hat Altman gewarnt, hochriskante KI-Anwendungen könnten "der Welt schweren Schaden zufügen" und müssten reguliert werden. Gleichzeitig hat er Regierungen angeboten, die Erfahrungen von OpenAI bei diesem komplexen Thema zu nutzen.

"Das ist brillante Unternehmenskommunikation", sagt dazu Gina Neff von der Universität Cambridge anerkennend. "Im Grunde genommen sagt er, vertraut nicht unseren Konkurrenten, vertraut euch auch nicht selbst, vertraut uns, dass wir das machen." Dieser Weg diene OpenAIs Interessen, meint Neff, spiegele aber nicht die Vielfalt der Meinungen in der Gesellschaft wider: "Wir fordern mehr demokratische Rechenschaft und Teilhabe bei diesen Entscheidungen, und das ist nicht das, was wir von Altman hören." 

Mark Zuckerberg: Der stille Riese

Bemerkenswert still in der Debatte war bisher Mark Zuckerberg, CEO eines weiteren führenden KI-Entwicklers, nämlich Meta. In einer Rede im September vor US-Kongressabgeordneten trat Zuckerberg für eine Zusammenarbeit zwischen Gesetzgebern, Wissenschaftlern, der Zivilgesellschaft und der Wirtschaft ein, "um die möglichen Risiken dieser neuen Technik zu minimieren und ihren möglichen Nutzen zu maximieren".

Ansonsten scheint Zuckerberg die Regulierungsdiskussion seinen Stellvertretern zu überlassen, zum Beispiel Nick Clegg, einem früheren britischen Politiker, der seit 2018 für Meta arbeitet. Am Rande eines kürzlichen KI-Gipfeltreffens in Großbritannien spielte Clegg grundlegende Risiken Künstlicher Intelligenz herunter und betonte stattdessen die eher unmittelbaren Bedrohungen: KI könne eingesetzt werden, um die im kommenden Jahr anstehenden Wahlen in Großbritannien und den USA zu beeinflussen.

Dario Amodei: Der Klassenneuling

Und dann gibt's noch Anthropic. Gegründet 2021 von früheren OpenAI-Mitarbeitern, hat das sicherheitsorientierte KI-Unternehmen schnell große Investitionssummen angelockt, und schon jetzt hat Anthropic-Chef Dario Amodei seinen Anteil an der Regulierungsdebatte.

Bei einer Rede vor Politikern im englischen Bletchley Park sagte Amodei kürzlich, die Risiken bestehender KI-Systeme seien zwar eher begrenzt, aber "irgendwann in näherer Zukunft dürften sie sehr ernst sein", so jedenfalls seine Worte nach einer Unternehmensbroschüre. 

Um diesen Gefahren zu begegnen, legte Amodei den Parlamentsabgeordneten eine von seinem Unternehmen entwickelte Methode vor: Damit werden KI-Systeme nach der Gefahr für die Sicherheit ihrer Nutzer kategorisiert. Das schlug Amodei als "Prototyp" für eine KI-Gesetzgebung vor.

Daniel Leufer, der sich für digitale Bürgerrechte einsetzt, warnt allerdings davor, sich bei der Politikgestaltung zu sehr auf Unternehmen wie Anthropic zu verlassen. Deren Beitrag zur Debatte seien zwar notwendig und hilfreich, Politiker sollten aber ihre Unabhängigkeit bewahren. "Auf keinen Fall sollten die Unternehmen eine Politik diktieren", sagt Leufert. "Wir sollten sehr aufpassen, dass sie nicht die Agenda bestimmen."