Seit dem 2. August überwacht die EU die KI-Modelle

Die Anwendung des europäischen Gesetzes über künstliche Intelligenz ist am 2. August in eine neue Phase getreten. Die Europäische Kommission hat über ihr KI-Büro und in Zusammenarbeit mit den zuständigen nationalen Behörden die im AI Act vorgesehenen Überwachungs- und Kontrolltätigkeiten aufgenommen.

Ab diesem Datum gelten die Transparenzpflichten für Chatbots und interaktive Systeme. Sie müssen die Nutzenden klar darüber informieren, dass ihr Gegenüber eine Maschine ist.

Eine zweite Pflicht betrifft die Inhalte. Mit künstlicher Intelligenz erzeugte oder veränderte Bilder, Videos und Audiodateien, einschliesslich Deepfakes, müssen gekennzeichnet werden und maschinenlesbare Markierungen tragen, damit sie leichter zu erkennen sind.

Modelle mit allgemeinem Verwendungszweck und verbotene Praktiken

Das KI-Büro kann die Bestimmungen nun gegenüber Anbietern von Modellen mit allgemeinem Verwendungszweck durchsetzen, auch gegenüber fortgeschrittenen Modellen mit systemischen Risiken.

Die für diese Anbieter vorgesehenen Pflichten sollen weitreichende Risiken eindämmen. Der Text nennt chemische, biologische, radiologische und nukleare Zwischenfälle, den Kontrollverlust über Systeme, Cyberkriminalität, schädliche Manipulation und Gefahren für die Grundrechte.

Alle Anbieter solcher Modelle müssen Informationen für die zuständigen Behörden und für Entwickler dokumentieren. Sie müssen zudem Massnahmen zur Wahrung des Urheberrechts festlegen und eine ausführliche Zusammenfassung der für das Training verwendeten Inhalte veröffentlichen.

Die Aufsicht erfasst auch die vom Regelwerk verbotenen Praktiken. Dazu gehören Gesichtserkennung, Instrumente zur sozialen Bewertung, Emotionserkennung sowie unterschwellige oder manipulative Techniken.

Das KI-Büro hat digitale Werkzeuge für Meldungen bereitgestellt. Bürgerinnen und Bürger, Unternehmen und Hinweisgeber können vermutete Verstösse vertraulich melden.

Die Kommission nennt als Ziel, die Manipulationsrisiken zu verringern und informierte Entscheidungen zu ermöglichen. Den Unternehmen soll das Regelwerk einen klaren Rahmen für die Anpassung bieten.

Die Verordnung gilt in der Europäischen Union. Ihre Wirksamkeit hängt nun davon ab, ob das KI-Büro und die nationalen Behörden einem Bereich folgen können, in dem sich die Modelle schneller verändern als die Verwaltungsverfahren.