Das Recht der Künstlichen Intelligenz: Herausforderungen & Risiken

EU-Verordnung: Anwendungsbereich & Zeitplan ● Kl-Systeme: Verbotene, Hochrisiko & General Purpose AI ● Sanktionen ● Best Practice zur KI-Implementierung in der Bank

Die KI-Verordnung zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz (KI-Verordnung, AI Act) wurde am 13. März 2024 durch das Europäische Parlament verabschiedet. Mit der KI-Verordnung setzt die EU den Rahmen für den Einsatz von Künstlicher Intelligenz (KI) in Europa. Sie zielt darauf ab, Innovationen zu fördern, gleichzeitig das Vertrauen in KI zu stärken und sicherzustellen, dass diese Technologie in einer Weise genutzt wird, die die Grundrechte und die Sicherheit der Bürgerinnen und Bürger der EU respektiert.

Auch die Banken haben längst die sich ihnen bietenden Möglichkeiten der Künstlichen Intelligenz erkannt, um ihren Kunden noch effizientere und maßgeschneiderte Dienstleistungen anbieten zu können. Zudem reichen die Einsatzmöglichkeiten von KI in der Bankbranche von der Optimierung von Geschäftsprozessen, über ein verbessertes Kundenerlebnis bis hin zu Empfehlungen für die Entscheidungsfindung des Kunden. 

Bereits heute hat der Einsatz von KI und Big Data in den Banken zu zahlreichen Veränderungen im Hinblick auf die Kundenschnittstellen bei dem operativen Geschäftsbereichen und im Risikomanagement geführt. Weitere Potenzial bieten sich zukünftig auch bei der Beschleunigung von Innovationen und bei der Steigerung der Produktivität, denn Produkte und Dienstleistungen können mithilfe von KI schneller, effizienter, kostengünstiger oder moderner gestaltet werden.

Aufgrund des der KI-Verordnung zugrundeliegenden risikobasierten Ansatzes ergeben sich insbesondere bei höheren aus der KI-Nutzung ergebenen Risiken strengere Pflichten. So werden KI-Systeme mit einem inakzeptablen Risiko (wie etwa Social Scoring) gänzlich verboten werden sowie für Hochrisiko-KI-Systeme strenge technische und organisatorische Anforderungen gelten, während Anwendungen mit geringem Risiko lediglich bestimmten Transparenz- und Informationspflichten unterliegen werden.

Die KI-Verordnung wird zwar erst im zweiten Quartal 2024 Inkrafttreten, doch gelten deren Vorgaben unmittelbar ohne Umsetzung in nationales Recht. Grundsätzlich wird es im Anschluss für die Unternehmen eine Umsetzungsfrist von zwei Jahren geben, wobei jedoch die ersten Verbote zu besonders wichtigen Regelungsgebieten bereits 6 Monate nach Inkrafttreten greifen. Schließlich sind die Anforderungen der KI-Verordnung äußerst komplex und umfangreich. Die Erfahrungen mit der Einführung und Umsetzung der DSGVO-Vorgaben haben gezeigt, dass Institute, die erst einige Monate vor der Anwendbarkeit der Vorschriften mit der Umsetzung beginnen, wahrscheinlich Schwierigkeiten haben werden. Somit besteht bereits heute Handlungsbedarf!