Zwischen der Angst vor Arbeitsplatzverlusten und Bedenken hinsichtlich der Cybersicherheit hat die künstliche Intelligenz (KI) in den letzten Jahren für viele negative Schlagzeilen gesorgt.
Auch auf EU-Ebene ist KI ein heißes Thema. Letzten Monat, nach 36 Stunden Verhandlungen, erzielten Beamte eine vorläufige Einigung über umfassende Gesetze zur Regulierung des Einsatzes von KI. Das leitende Prinzip hinter den Gesetzen ist die Regulierung der KI nach ihrem Potenzial, der Gesellschaft Schaden zuzufügen – ein ‚risikobasierter‘ Ansatz. Je höher das Risiko, desto strenger die Regeln.
Als erster Gesetzesvorschlag dieser Art könnten diese Gesetze einen globalen Standard für die KI-Regulierung setzen, ähnlich wie die Datenschutz-Grundverordnung (DSGVO) es für den Datenschutz getan hat.
Die wichtigsten Aspekte der vorläufigen Vereinbarung umfassen Regeln mit hoher Tragweite für allgemeine KI-Modelle, die Systemrisiken verursachen können, sowie eine überarbeitete Governance-Struktur für hochriskante KI-Systeme.
Sie beinhaltet eine Ausweitung von Verboten, allerdings mit der Möglichkeit für bestimmte Strafverfolgungsbehörden, die Fernbiometrieerkennung (RBI) in öffentlichen Räumen zu nutzen – RBI-Systeme können Personen auf Distanz identifizieren, indem sie einzigartige biometrische Merkmale wie Gesichter und Gang mit Datenbanken abgleichen.
Die vorläufige Vereinbarung umfasst auch einen besseren Schutz der Rechte, da Einsatzkräfte von hochriskanten KI-Systemen vor deren Einsatz Auswirkungsanalysen auf Grundrechte durchführen müssen. KI-Systeme, die sehr wenig Gefahr bergen, werden nur minimalen Transparenzanforderungen unterliegen, wie der Angabe, dass Inhalte mit Hilfe von KI erstellt wurden.
Obwohl das KI-Gesetz Anfang dieses Jahres zur Abstimmung steht, wird die eigentliche Gesetzgebung frühestens 2025 in Kraft treten. Es bleibt also genügend Zeit, sich auf die Auswirkungen des Gesetzes auf KI-Arbeitsplätze vorzubereiten.
Hier ist, was wir wissen und welche Unternehmen bereits einstellen:
1. Recht und Compliance werden gefragt sein
Da KI-Systeme durch komplexe Wertschöpfungsketten entwickelt und verbreitet werden, beinhaltet das Abkommen Klarstellungen zur Zuweisung von Verantwortlichkeiten und den Rollen verschiedener Akteure in diesen Ketten.
Verstöße gegen das KI-Gesetz werden ebenfalls streng geahndet und können entweder einen festen Betrag oder einen Prozentsatz des globalen Jahresumsatzes des vorangegangenen Finanzjahres des betreffenden Unternehmens betragen.
Das entspricht 35 Millionen Euro oder 7 Prozent für den Einsatz verbotener KI-Anwendungen, 15 Millionen Euro oder 3 Prozent für die Nichteinhaltung der Anforderungen des KI-Gesetzes und 7,5 Millionen Euro oder 1,5 Prozent für die Bereitstellung falscher Informationen.
Daher werden Rechtsexperten und Compliance-Spezialisten besonders wertvolle Mitarbeiter in KI-Organisationen innerhalb der EU sein.
In Paris stellt Goldman Sachs einen Compliance-VP für FICC Compliance mit hervorragendem Verständnis der ACPR/AMF, europäischen, EU- und US-Vorschriften ein, der die Verantwortung für die Bereitstellung regulatorischer Interpretationen und Beratung im gesamten Unternehmen übernimmt und die Compliance stärkt.
2. Hochriskante KI-Systeme werden eingeschränkt und verboten
Hochriskante KI-Systeme werden bestimmten Anforderungen und Verpflichtungen unterliegen, um Zugang zum EU-Markt zu erhalten, und einige werden von der EU verboten, wenn das Risikoniveau als inakzeptabel eingestuft wird.
Beispielsweise verbietet die vorläufige Vereinbarung die kognitive Verhaltensmanipulation, das ungezielte Scraping von Gesichtsbildern aus dem Internet oder von CCTV, die Emotion
serkennung in Bildung und Arbeitswelt, das Social Scoring, die biometrische Kategorisierung zur Ableitung sensibler Daten wie sexuelle Orientierung oder religiöse Überzeugung und in einigen Fällen die prädiktive Polizeiarbeit für Einzelpersonen, also den Einsatz von Mathematik und prädiktiver Analytik zur Identifizierung von kriminellen Aktivitäten.
Vorsichtige Jobsuchende in der europäischen KI-Industrie werden sich auf Organisationen mit niedrigerem KI-Risiko konzentrieren und auf Unternehmen, die proaktive Risikobewertungen durchgeführt haben.
Im Rahmen seines Bestrebens, SAP bis 2025 zum Marktführer im Bereich Business-KI zu machen, stellt die Organisation für mehrere Positionen ein, darunter dieser in Berlin ansässige Senior Consultant / Experte für KI-Strategie, der mit funktionsübergreifenden Teams zusammenarbeiten wird, um Chancen zu identifizieren, Risiken und Vorteile zu bewerten und die Einführung von KI-Lösungen voranzutreiben.
3. Strafverfolgungsbehörden werden einige Ausnahmen haben
Bei hochriskanten KI-Tools wird es Ausnahmen für bestimmte Strafverfolgungsbehörden geben, die unter angemessenen Sicherheitsvorkehrungen Systeme einsetzen dürfen, die das Konformitätsbewertungsverfahren nicht bestanden haben, im Falle von Dringlichkeit.
Echtzeit-Fernbiometrieerkennungssysteme (RBI) in öffentlich zugänglichen Bereichen sind ein heißes Thema.
Gemäß dieser Vereinbarung können Strafverfolgungsbeamten in begrenzten Umständen Sondergenehmigungen erteilt werden, diese Systeme einzusetzen, beispielsweise zur Verhinderung echter Bedrohungen wie Terroranschlägen und zur Suche nach Verdächtigen schwerwiegender Straftaten.
Sofern sie nicht in der Polizei oder Verteidigung tätig sind, werden strategische KI-Jobsuchende es vermeiden, sich in höherriskanten Systemen weiterzubilden, wo die Arbeitsplätze begrenzter sein werden.
4. Überbeschäftigte müssen möglicherweise zu den Grundlagen zurückkehren
Für Grundlagenmodelle, die große Systeme sind, die in der Lage sind, Videos, Texte, Bilder, Computercode sowie seitliche Sprachgespräche zu generieren, wurden spezifische Richtlinien, einschließlich Transparenzanforderungen, vereinbart.
Dies könnte Mitarbeiter betreffen, die überbeschäftigt sind und gleichzeitig zwei oder mehr Jobs ausüben, indem sie Aufgaben durch KI automatisieren.
5. Neue Rollen werden auf EU-Ebene verfügbar sein
Es wird eine Reihe neuer Positionen auf EU-Ebene im Zusammenhang mit der Governance geben.
Ein neues KI-Büro wird die neuen Regeln durchsetzen, die fortschrittlichsten KI-Modelle überwachen und zur Förderung von Standards und Testpraktiken beitragen.
Dieses Büro wird von einem wissenschaftlichen Gremium unabhängiger Experten und einem KI-Board, bestehend aus Vertretern der Mitgliedstaaten, geleitet.
Außerdem wird ein Beratungsforum eingerichtet, um das KI-Board mit technischem Fachwissen zu versorgen, zu dem Vertreter der Industrie, KMU, Start-ups, der Zivilgesellschaft und der Wissenschaft gehören werden.
6. Es zielt darauf ab, KI-Innovationen zu fördern
Mehrere Maßnahmen zur Unterstützung von Innovationen wurden im Abkommen wesentlich geändert, einschließlich der Klarstellung, dass KI-Regulierungssandkästen auch das Testen innovativer KI-Systeme unter realen Bedingungen unter bestimmten Bedingungen und Sicherheitsvorkehrungen ermöglichen sollten.
Insbesondere umfasst es eine Liste von Maßnahmen, um die administrative Belastung für kleine Unternehmen zu verringern. Das innovative US-Multinationalunternehmen Intel stellt einen KI-Framework-Ingenieur ein, der am Campus in Leixlip in der Nähe der irischen Hauptstadt arbeiten wird. Der erfolgreiche Kandidat wird für den Aufbau von Machine-Learning-Workflows und die Infrastruktur verantwortlich sein, die notwendig sind, um KI-Modelle zu produktivieren und sie in der Produktion zu unterstützen.
