Der AI Act, der von den EU-Institutionen verabschiedet wurde, eröffnet Europa die Möglichkeit, weltweit eine führende Rolle in der vertrauenswürdigen und sicheren Nutzung von künstlicher Intelligenz einzunehmen. Das Ziel besteht darin, die Chancen von KI-Systemen zu nutzen und gleichzeitig die Risiken zu begrenzen. Dennoch gibt es noch einige Herausforderungen, die im Rahmen der aktuellen Verhandlungen adressiert werden müssen, um eine umfassende Regulierung zu gewährleisten.
Inhaltsverzeichnis: Das erwartet Sie in diesem Artikel
AI Act: Verpflichtende Prüfung für KI-basierte Verbraucherprodukte notwendig
Im Rahmen des AI Acts besteht die Herausforderung, hochriskante KI-Systeme nur dann als solche einzustufen, wenn die physischen Produkte, in die sie integriert werden, bereits einer verpflichtenden Prüfung unterliegen. Dies führt dazu, dass Verbraucherprodukte wie Spielzeug oder Smart-Home-Geräte nicht unter diese Prüfpflicht fallen. Um die Sicherheitsanforderungen für KI-basierte Verbraucherprodukte zu gewährleisten, ist es notwendig, diese Regelungslücke zu schließen.
Bedeutung von klaren Klassifizierungskriterien für effektive KI-Regulierung
Ein Problem liegt in der Klassifizierung von eigenständigen KI-Systemen, die als eigenständige Software auf den Markt gebracht werden. Die Anbieter sind für die Risikobewertung und die Entscheidung, ob ihr Produkt als hochrisikobasiert einzustufen ist oder nicht, selbst verantwortlich. Dies kann zu möglichen Fehleinschätzungen führen. Um die Wirksamkeit der verpflichtenden Anforderungen sicherzustellen, sollten klare Klassifizierungskriterien definiert werden.
Vertrauen durch unabhängige Kontrollen von KI-Systemen stärken
Um das Vertrauen in KI-Systeme zu stärken, sollten unabhängige Prüfungen bei hochriskanten Systemen obligatorisch sein. Eine verpflichtende Zertifizierung durch benannte Stellen stellt sicher, dass die Technologie den erforderlichen Sicherheitsstandards entspricht. Dies ist von besonderer Bedeutung, da hochriskante KI-Systeme erhebliche Gefahren für Nutzer und Umwelt darstellen können. Durch eine solche Zertifizierung wird das Vertrauen der Menschen gestärkt und Europa kann seine Position als weltweit führender Anbieter von vertrauenswürdiger und sicherer künstlicher Intelligenz weiter ausbauen.
Interdisziplinäre „AI Quality & Testing Hubs“ für sichere KI-Entwicklung
Eine sichere und verlässliche Nutzung von KI-Anwendungen in Reallaboren erfordert die Einbeziehung unabhängiger Prüforganisationen als Partner. Der TÜV-Verband spielt eine aktive Rolle bei der Identifizierung technischer und regulatorischer Anforderungen an Künstliche Intelligenz und entwickelt Prüfstandards für sicherheitskritische KI-Anwendungen. Um eine umfassende Überprüfung zu gewährleisten, sollten interdisziplinäre „AI Quality & Testing Hubs“ sowohl auf Landes- als auch auf Bundesebene eingerichtet werden, um die Sicherheit und Qualität von KI-Systemen zu gewährleisten.
EU-Parlament will Sicherheit von Basismodellen und generativen KI-Systemen
Basismodelle und generative KI-Systeme haben in den letzten Monaten ihr erhebliches Potenzial demonstriert, sind aber auch mit Risiken verbunden. Daher ist es zu begrüßen, dass das EU-Parlament plant, diese Technologie direkt im AI Act zu regulieren. Es ist jedoch von großer Bedeutung, sorgfältig zu prüfen, welche Basismodelle als hochkritisch einzustufen sind und den Anforderungen des AI Acts, einschließlich unabhängiger Drittprüfungen durch benannte Stellen, genügen sollten.
Sicherheit und Vertrauen: Europa als führender KI-Standort dank AI Act
Der AI Act eröffnet Europa die Möglichkeit, weltweit in der vertrauenswürdigen und sicheren Nutzung von künstlicher Intelligenz führend zu sein. Durch die verpflichtende Prüfung von hochriskanten KI-Systemen durch unabhängige Stellen wird das Vertrauen der Menschen gestärkt und „AI Made in Europe“ kann zu einem echten Qualitätsstandard und einem globalen Wettbewerbsvorteil werden. Es besteht jedoch noch Verbesserungsbedarf, insbesondere bei der Einbeziehung von Verbraucherprodukten, der Klassifizierung von KI-Systemen und der Durchführung unabhängiger Prüfungen. Nur durch diese Maßnahmen kann Europa sein Potenzial im Bereich der künstlichen Intelligenz vollständig ausschöpfen.
