36 Staaten unterzeichnen KI-Vertrag des Europarats

In Vilnius unterzeichneten 36 Staaten das Rahmenübereinkommen des Europarates über künstliche Intelligenz und Menschenrechte, Demokratie und Rechtsstaatlichkeit. Bei dem zwölfseitigen Werk handelt sich um den ersten rechtsverbindlichen internationalen Vertrag, der sicherstellen soll, dass der Einsatz von KI-Systemen in vollem Umfang im Einklang mit Menschenrechten, Demokratie und Rechtsstaatlichkeit steht.



Rechtsrahmen für KI



Der Vertrag soll einen Rechtsrahmen bieten, der den gesamten Lebenszyklus von KI-Systemen abdeckt. Damit der Vertrag möglichst lange seine Gültigkeit behält, wurde er technologieneutral formuliert.



Bei der Ratifizierung erklärte die Generalsekretärin des Europarates, Marija Pejčinović Burić: „Wir müssen sicherstellen, dass der zunehmende Einsatz von KI unsere Normen bewahrt, anstatt sie zu untergraben. Das Rahmenübereinkommen soll genau das gewährleisten… Das Rahmenübereinkommen ist ein offener Vertrag mit einer potenziell globalen Reichweite.“



Die beteiligten Staaten



Zu den ersten Staaten, die unterzeichneten, gehören Andorra, Georgien, Island, Norwegen, die Republik Moldau, San Marino, Großbritannien, Israel, die USA und die Europäischen Union mit ihren 27 Mitgliedsstaaten. Die KI-Konvention tritt in Kraft, sobald sie von fünf Staaten ratifiziert worden ist (drei davon müssen Mitgliedstaaten des Europarates sein).



Ausgehandelt hatten das Rahmenübereinkommen die 46 Mitgliedsstaaten des Europarates und elf Nichtmitgliedsstaaten (Argentinien, Australien, Costa Rica, der Heilige Stuhl, Israel, Japan, Kanada, Mexiko, Peru, die Vereinigten Staaten von Amerika und Uruguay).



Viele Schlupflöcher



Aufgrund seiner häufig sehr allgemein formulierten Grundsätze eröffnet der Vertrag viele Schlupflöcher. So sind etwa alle Tätigkeiten ausgenommen, die mit dem Schutz der nationalen Sicherheitsinteressen einer Vertragspartei zusammenhängen. Eine weitere Ausnahme gilt für Forschungs- und Entwicklungstätigkeiten im Zusammenhang mit KI-Systemen.



Zudem können die Unterzeichnerstaaten selbst entscheiden, ob sie die Normen der Konvention auf den Privatsektor, sprich die Wirtschaft, direkt anwenden oder eigene Maßnahmen ergreifen. Auf diese Ausschlussklausel hatten vor allem die USA, Großbritannien und Israel gedrängt.



EU-AI-Act als Vorbild



Für europäische Unternehmen wird sich mit dem Übereinkommen nicht viel ändern. Nicht umsonst verweist die EU-Kommission darauf, dass der Vertrag eine Reihe von Schlüsselkonzepten aus dem EU-AI-Act enthält. Dazu zählen etwa




ein risikobasierter Ansatz,



Transparenz entlang der Wertschöpfungskette von KI-Systemen und KI-generierten Inhalten,



detaillierte Dokumentationspflichten für KI-Systeme, die als risikoreich eingestuft werden, und



Risikomanagementpflichten mit der Möglichkeit, KI-Systeme, die als eindeutige Bedrohung für die Grundrechte angesehen werden, zu verbieten.




Kritik von allen Seiten



Die Tinte unter dem Vertrag war noch nicht trocken, da hagelte es von allen Seiten Kritik. Netzpolitik.org titelte beispielsweise in einem Beitrag zu dem Papier „Viel Abkommen um Nichts“. So kritisiert die Organisation unter anderem den Text als windelweich.



Dass jetzt vor allem US-Medien das Werk kritisieren, da es für CIOs mehr Unsicherheiten bringe, entbehrt nicht einer gewissen Bigotterie. So waren es doch vor allem die USA, die darauf drängten, keine verbindlichen Regeln für die Wirtschaft festzulegen. Auch der Kritikpunkt, dass das Abkommen die Innovationsfähigkeiten der Unternehmen schmälere, ist nicht neu. Er war auch beim Inkrafttreten des EU-AI-Acts zu hören. Nur wird hier immer wieder gerne vergessen, dass ein einheitlicher Rechtsrahmen auch ein Wettbewerbsvorteil sein kann.



Zudem dürfte den US-Medien das Rahmenübereinkommen noch aus einem anderen Grund nicht schmecken. Die USA könnten einer der ersten Staaten sein, die gegen das Abkommen verstoßen, denn es sieht auch diskriminierungsfreie KI-Systeme vor.



Und dagegen verstoßen etliche US-Bundesstaaten mit der Verwendung des COMPAS-Systems. Hier beurteilt eine KI anhand von Hunderten von Parametern, wie wahrscheinlich es ist, dass ein Inhaftierter erneut straffällig wird. Einer Studie zufolge bewertete die KI jedoch Menschen aufgrund ihrer Hautfarbe unterschiedlich.