Warum die KI-Bosse plötzlich eine Regulierung fordern

Rückblick auf die zurückliegende Woche

Der Präsident der Vereinigten Staaten will keine Regulierung der KI-Industrie durch neutrale Aufsichtsgremien. Das hat er in der vergangenen Woche deutlich gemacht. Er hat damit die Forderung der Branche nach staatlicher Kontrolle zurückgewiesen. Die Techbranche soll auf sich selbst und ihre Produkte aufpassen. Donald Trump rät zur Selbstregulierung. Eine Disziplin, in der Präsident ja ein großes Vorbild ist.

Scherz beiseite. Dass es keine aufsichtsbehördliche, staatliche Regulierung der KI-Branche in den USA gibt, ist ein unglaublicher Missstand, der erhebliche Risiken birgt. Schließlich werden ständig neue Versionen von Software-Produkten auf die Menschheit losgelassen, von denen offensichtlich die Entwickler selbst kaum noch nachvollziehen können, wie diese funktionieren, was diese womöglich alles bewirken können und welche Schäden denkbar sind. Wenn Programmierer an die Öffentlichkeit gehen und die Wahrscheinlichkeit, dass eine KI die Menschheit in den kommenden Jahren auslöschen könnte, mit etwa zehn Prozent taxieren, dann sollte einen das nachdenklich stimmen. Schließlich käme etwa kein Flugzeughersteller auf die Idee, Flugzeuge zu produzieren und in alle Welt zu verkaufen, mit dem öffentlich erklärten Hinweis, dass man nicht genau wisse, wie deren Lenkung funktioniert und es sein könne, dass jeder zehnte Flieger aus eigenem Antrieb und innerer Überzeugung voll besetzt in ein Atomkraftwerk rast.

Oder nehmen wir als Beispiel die Finanzindustrie, die zumindest in Europa wohl am strengsten regulierte Branche überhaupt. Banken, Fondsgesellschaften, Zertifikate-Emittenten, Anlageberater und alle anderen Finanzdienstleister können ein Lied davon singen, wie engmaschig die Regulierer in Brüssel hier jedes denkbare Szenario in den Blick genommen haben, um klar zu definieren, was erlaubt ist und was nicht, wer welche Regeln überwacht und mit welchen Konsequenzen derjenige zu rechnen hat, der die Gesetze bricht – und eventuell damit Schäden verursacht. Geschädigte können klagen. Und der Rechtsstaat kann Regelverletzungen aufdecken und benennen, die Ansprüche der Geschädigten taxieren und entsprechende Strafen verhängen. Dies ist überhaupt ein Grundsatz von Regulierung. Sie gibt Verbrauchern Rechte.

Und sie gibt Unternehmen Sicherheit. Das ist nämlich die andere Seite der Medaille. Unternehmen einer Branche, die reguliert ist, bewegen sich in einem rechtssicheren Raum. Sie wissen, was sie dürfen und was nicht. Sie wissen, was sie riskieren, wenn sie diesen Raum verlassen. Und sie können sich gegen Klagen wehren, wenn sie beweisen können, dass sie die definierten Regeln eingehalten haben. In den USA wehren sich insbesondere sehr große Unternehmen deshalb nicht gegen Branchenregulierungen. Denn sie halten drei große Hebel in der Hand: Erstens betreiben sie in Washington intensive Lobby-Arbeit und gestalten Regulierungsvorhaben in der Regel aktiv mit – natürlich zu ihrem eigenen Vorteil. Zweitens beschäftigen Großkonzerne schlagkräftige Rechtsabteilungen, die hervorragend darin sind, die Handlungen ihrer Arbeitgeber als regelkonform zu verteidigen. Was umso leichter ist, wenn diese die Regeln ursprünglich mitgestaltet haben. Siehe Punkt Eins.

Und drittens versichern sich große Konzerne natürlich gegen solche Fälle, in denen doch einmal etwas schiefgehen sollte. Richtersprüche können in den USA sehr teuer werden. Verbraucherschutz ist ein heikles Thema. Private Klagen auf Strafschadensersatz können in die Millionen gehen. In Prozessen, in denen Konzerne miteinander streiten, geht es nicht selten um Schadenersatz in Milliardenhöhe. Rechtssicherheit bedeutet für Großkonzerne Risikokontrolle. Sie gibt ihnen die Möglichkeit, Rückstellungen zu berechnen und zu bilden. Und es gibt ihnen die Chance, sich gegen mögliche Schäden abzusichern – falls es Versicherungen gibt, die passende Policen anbieten.

An diesem Punkt wird es in der aktuellen Diskussion um die Regulierung von Künstlicher Intelligenz spannend. KI-Software-Anwendungen stecken heute bereits überall: in der Buchhaltung, im Auto, im Kühlschrank,...und zunehmend auch in Waffen. Das ist noch einmal ein ganz eigenes Thema. Software hat Fehler. Immer. Deshalb gibt es auch keine „Softwarefehler-Versicherung“. Es gibt Cyber-Versicherungen, IT-Haftpflicht, Technology Errors & Omissions, Vermögensschadenhaftpflicht oder Versicherungen gegen die Folgen von Betriebsunterbrechungen. Das sind abgrenzbare Felder, die klar geregelt sind. Und selbst hier ist oft nur schwer zu greifen, ob im Schadensfall ein Versicherungsanspruch entsteht oder nicht. Handelt es sich etwa um einen Programmierfehler, der Daten löscht? Das ist etwas anderes als ein Hackerangriff, der Daten löscht, und beides ist wieder etwas anderes als ein Mitarbeiter, der auf „Alle löschen“ klickt, weil er den Button für „Alle auswählen“ hielt. Für den Versicherer sind es drei verschiedene Schadenursachen, drei Zuständigkeiten und, wenn man als Versicherter Pech hat, drei Ablehnungsgründe. Aber immerhin: Man kann die möglichen Risiken einschätzen und bepreisen.

Was aber, wenn es keine Assekuranz gibt, die mögliche KI-Schäden versichern will? Einfach, weil es keine Regeln dafür gibt, die Anwendungsfelder sich kaum eingrenzen lassen und die theoretischen Schadenssummen im wahrsten Sinne des Wortes unermesslich sind? Wie versichert man sich gegen Schäden, die ein Schwarm von KI-Agenten anrichtet, der komplett außer Kontrolle gerät? Und wer ist dann haftbar? Im Zweifelsfall die KI-Konzerne, die ihre Produkte auf die Welt losgelassen haben.

Niemand kann behaupten, die Techbosse wüssten nichts von den Risiken. Schließlich warnen sie selbst derzeit öffentlichkeitswirksam vor den Gefahren ihrer virtuellen Geschöpfe und fordern die Regulierung ihres Tuns. Aber sie fordern dies vermutlich nicht aus Angst um die Menschheit, sondern aus Angst um ihre Haftbarkeit. Anthropic und OpenAI wollen demnächst an die Börse gehen – dorthin, wo Meta und Alphabet schon sind. Es sind Konzerne, die ihren Aktionären beweisen müssen, dass Bilanzrisiken gemanagt und eingegrenzt werden können. Ohne KI-Regulierung wird das auf Dauer schwierig werden. Spätestens dann, wenn die ersten KI-Agenten aus eigenem Antrieb eine Bank gehackt und ausgeraubt haben, könnte es eng werden für Zuckerberg und Co.

Merke: Regulierung ist ein Machtwerkzeug. Wer sie mitgestaltet, reduziert seine eigenen Risiken. Keine Regulierung bedeutet, keine Kontrolle über diese Risiken zu haben. Insofern hat Donald Trump der Branche mit der Ablehnung einer Regulierung einen Bärendienst erwiesen. Vielleicht war ihm das nicht klar. Es würde deshalb nicht verwundern, wenn er seine Meinung demnächst ändert – und den Techbossen bei der Gestaltung der Gesetze – wie üblich – großes Mitsprecherecht einräumt. Das wäre ihnen vermutlich lieber als eine rechtlich unverbindliche Selbstregulierung.

Interessante Termine in den kommenden Tagen

Am Dienstag legt das Statistische Bundesamt die Auftragseingänge der Industrie für August vor. Im Juli waren die Bestellungen um 2,5 Prozent zum Vormonat gestiegen. Ohne Großaufträge ging es jedoch um 1,4 Prozent abwärts. Das Plus ging zuletzt fast vollständig auf den sonstigen Fahrzeugbau zurück, also auf Schiffe, Züge, Flugzeuge und Militärfahrzeuge. Der Auftragsbestand hatte zugleich ein neues Allzeithoch erreicht. Spannend wird nun sein, ob sich im dritten Quartal die Erholung auf breitere Schultern verteilt hat oder ob Großaufträge das Bild erneut verzerren.

Am Mittwoch veröffentlicht die US-Notenbank das Protokoll ihrer September-Sitzung, auf der sie den Leitzins einstimmig um 25 Basispunkte auf 3,75 bis 4,00 Prozent angehoben hat. Das war die erste Erhöhung seit Juli 2023. Laut den aktualisierten Projektionen neigt die große Mehrheit der Notenbanker zu einem weiteren Schritt bis Ende 2026. Anleger dürften im Protokoll nach Hinweisen suchen, wie groß diese Bereitschaft tatsächlich ist, zumal die US-Inflation im August bei 3,4 Prozent lag.

Am Donnerstag meldet der taiwanesische Chipfertiger TSMC seine Monatsumsätze für September. Im August hatte der Konzern 514,8 Milliarden Taiwan-Dollar umgesetzt, 53,3 Prozent mehr als im Vorjahresmonat. Dies war der vierte Rekordmonat in Folge. Die Zahlen gelten als Gradmesser für die Nachfrage nach KI-Chips und damit für die Investitionswelle rund um künstliche Intelligenz. Bei so hohen Erwartungen dürfte schon ein leichtes Abflauen des Tempos Schlagzeilen machen.

Am Freitag treffen sich die EU-Finanzminister in Luxemburg zum Ecofin-Rat. Zum Jahresbeginn stand bei den Treffen die Stärkung des europäischen Kapitalmarkts im Mittelpunkt, wobei die kapitalgestützte Altersvorsorge als wesentlicher Baustein der Spar- und Investitionsunion gilt. Für Asset Manager und Fondsvertriebe bleibt das Thema damit relevant. Ob es in Luxemburg nun konkrete Beschlüsse dazu gibt, bleibt abzuwarten.