Effy Vayena, Expertin für Technologie-Recht, erklärt im Interview, was die neuen KI-Regeln den Konsumenten bringen – und welche Punkte ihr Sorgen bereiten.
Die EU hat am Mittwoch das erste weitgehende Gesetz zu künstlicher Intelligenz weltweit verabschiedet. Es führt Standards ein, welche alle KI-Produkte in risikoreichen Bereichen einhalten müssen, dazu zählen Anwendungen im Recruiting, zur Bewertung von Kreditwürdigkeit, in der Justiz, aber auch in der Schule.
Wir haben mit Effy Vayena darüber gesprochen. Sie ist Professorin für Bioethik an der ETH Zürich und forscht zu Technologie und Recht, vor allem im Bereich Gesundheit.
Frau Vayena, die USA gehen in der Innovation voraus, die EU in Regulierung. Ist das ein guter Schachzug für Europa?
Es stimmt nicht ganz, dass die USA keine Regulierung haben. Dort tut sich einiges, Präsident Biden hat eine Anordnung erlassen, Gliedstaaten haben Gesetze verabschiedet. Wahr ist, dass die nicht so weit gehen und so breit angesetzt sind wie die AI Act der EU. Die EU versucht, wie beim Datenschutz, vorauszugehen und den Ton anzugeben, wie sich Firmen zu verhalten haben.
Ist das KI-Gesetz also eine gute Nachricht oder eine schlechte?
Es ist gut, dass versucht wird, Leitplanken zu etablieren. Aber der Teufel steckt im Detail. Wie wird das Gesetz umgesetzt, welche Standards werden etabliert? Und wie gut wird es zu den technischen Neuerungen passen, die noch auf uns zukommen? Das wird man beobachten müssen.
Der Gesetzestext steht, warum kann man noch nicht beurteilen, was er für die Firmen und Konsumenten bedeutet?
Es hängt davon ab, wie die neuen Regeln umgesetzt werden. Die EU richtet eine neue Institution ein, das AI-Büro. Dieses wird gemeinsam mit Behörden und privaten Standardisierungs-Organisationen das Gesetz in Industriestandards übersetzen. Da ist viel technische Detailarbeit gefragt. Wie gut das alles funktioniert, wird man beobachten müssen. Klar ist, auf Firmen kommt viel Dokumentationsarbeit zu, für bestimmte Risikokategorien müssen sie beispielsweise Pläne vorweisen, wie sie mit Daten umgehen.
Für Startups und kleinere Unternehmen ist das ein grosser Aufwand. Bedroht das die Startup-Szene?
Das ist eine ernsthafte Sorge. Die EU hat das auch auf dem Schirm und hat versprochen, mit Startups nachsichtiger umzugehen. Aber ich glaube, man kann kaum verhindern, dass manche kleinere Akteure sich durch Bürokratie ganz davon abschrecken lassen, überhaupt ein Unternehmen zu gründen. Die Medizingeräte-Industrie beispielsweise ist bereits stark reguliert. Das neue Gesetz bringt weitere Anforderungen mit sich. Für grosse Firmen, die genug Ressourcen haben, ist es ein geringeres Problem, mit den neuen Auflagen mitzuhalten. Das kann ihre Marktmacht weiter stärken.
Bringt die ganze Bürokratie etwas für die Konsumenten?
Ich hoffe es. Für Konsumenten ist stärkerer Schutz eine gute Sache, besonders im Zusammenhang mit Technologien, die sich extrem schnell ausbreiten. Die entscheidende Frage wird sein, ob die neuen Vorschriften und das neue System aus Standards und Kontrollbehörden effizient und effektiv im breiten Ökosystem der Gesetze wirken werden. Können sie die «böse» Innovation blockieren und die gute ermöglichen? Oder finden unerwünschte Anwendungen doch wieder Schlupflöcher?
Was hätten Sie anders gemacht, wenn Sie entscheiden könnten?
Bei der EU hat sich inzwischen sich diese Methode etabliert, den ganzen Markt breit zu regulieren. Das hat auch mit der Geschichte der EU zu tun, und der Herausforderung, unter geopolitischem Druck viele Interessen unter einen Hut zu bringen. Generell bin ich für eine Regulierung, die sich nicht so sehr auf eine bestimmte Art von Technologie konzentriert, sondern darauf, wie wir Menschen mit Technologien umgehen und wie unsere Rechte geschützt werden. Deshalb sollten die allgemeinen Anforderungen weit gefasst sein und die Einzelheiten in den spezifischen Sektoren festgelegt werden.
Sie sagten, das wird man beobachten müssen. Aber werden die Regeln als Konsumenten konkret spüren? Oft ist ja schwer zu sagen, was ein Gesetz eigentlich gebracht hat.
Wenn ich in ein Flugzeug steige, oder eine Magnetresonanz-Tomografie durchführen lasse, dann vertraue ich darauf, dass diese Dinge sicher sind, weil es Einrichtungen gibt, die sich darum kümmern. Das sollte auch bei kritischen KI-Produkten der Fall sein. Regulierung muss jene Institutionen unterstützen, welche sich darum kümmern. Dafür sind gute Vorschriften nötig: Durchsetzbar, schlank, smart. Ich hoffe, dass das EU-Gesetz in dieser Art umgesetzt wird. Denn wir wollen, dass gute Technologie entwickelt wird.
