KI-Bild von Midjourney
Der Artificial Intelligence Act der EU soll die Künstliche Intelligenz (AI) in der EU regulieren. Die Regelung zielt darauf ab, KI-Systeme sicher, die Grundrechte achtend und demokratisch zu gestalten, während er gleichzeitig Innovation und Wachstum fördern soll.
Daten und Fakten
- Laut einer Studie von Deloitte nutzen bereits 63% der deutschen Unternehmen Künstliche Intelligenz.
- Im Jahr 2020 wurden weltweit rund 80 Milliarden US-Dollar in KI-Investitionen getätigt.
- Der Markt für KI-Software wird bis 2025 voraussichtlich einen Wert von 98 Milliarden US-Dollar erreichen.
- Künstliche Intelligenz hat das Potenzial, die Produktivität in verschiedenen Branchen um bis zu 40% zu steigern.
Neue Regelungen im Überblick
Verbotene Anwendungen
Einige KI-Anwendungen, die als Bedrohung für Bürgerrechte und Demokratie angesehen werden, sind nun verboten. Dazu gehören:
- Biometrische Kategorisierungssysteme: Diese dürfen nicht auf sensiblen Merkmalen wie politischen, religiösen Überzeugungen, sexueller Orientierung oder Rasse basieren.
- Prädiktive Polizeiarbeit
- Ungezieltes Sammeln von Gesichtsbildern aus dem Internet oder CCTV-Aufnahmen
- Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen
- Sozial Scoring auf Basis sozialen Verhaltens oder persönlicher Merkmale
- Manipulation menschlichen Verhaltens durch KI
- Ausnutzung von Schwächen der Menschen durch KI (z. B. aufgrund von Alter, Behinderung, sozialer oder wirtschaftlicher Situation).
Einschränkungen für Strafverfolgungsbehörden
Für den Einsatz biometrischer Identifikationssysteme durch Strafverfolgungsbehörden gelten strenge Bedingungen. Diese dürfen nur unter gerichtlicher Genehmigung und für festgelegte Verbrechensarten eingesetzt werden, beispielsweise für die Suche nach Opfern von Verbrechen oder zur Verhinderung spezifischer terroristischer Bedrohungen.
Pflichten für Hochrisiko-KI-Systeme
Hochrisiko-KI-Systeme müssen bestimmte Anforderungen erfüllen:
- Pflicht zur Durchführung einer Grundrechte-Folgenabschätzung
- Verpflichtungen für den Versicherungs- und Bankensektor
- KI-Systeme, die Wahlen und Wählerverhalten beeinflussen, gelten ebenfalls als hochriskant
- Recht der Bürger, Beschwerden über KI-Systeme einzureichen und Erklärungen zu Entscheidungen zu erhalten, die ihre Rechte betreffen.
Leitplanken für allgemeine KI-Systeme
Allgemeine KI-Systeme müssen Transparenzanforderungen erfüllen, darunter:
- Erstellen technischer Dokumentation
- Einhaltung des EU-Urheberrechts
- Veröffentlichung detaillierter Zusammenfassungen über die für das Training verwendeten Inhalte
Für KI-Modelle mit hohem Einfluss und systemischem Risiko gelten strengere Anforderungen, wie Modellbewertungen, Beurteilung und Minderung systemischer Risiken, Durchführung von Gegentests, Berichterstattung über schwere Vorfälle und Cybersicherheit.
Unterstützung für Innovation und KMU
Zur Förderung von Innovation und Unterstützung kleiner und mittlerer Unternehmen (KMU) sieht das Gesetz sogenannte “Regulatory Sandboxes” und realitätsnahe Tests vor, die von nationalen Behörden etabliert werden, um innovative KI vor der Markteinführung zu entwickeln und zu trainieren
Großartig und vielen Dank für deine Teilnahme. Du kannst weiter unten mehr über das Thema lesen und mehr zur Thematik erfahren.
';
document.querySelector('.quiz-container').appendChild(resultDiv);
}
if(totalCount > 0) {
statementContainers[0].style.display = 'block';
}
rer noopener">.
Sanktionen
Bei Nichteinhaltung der Regeln drohen Strafen von 35 Millionen Euro oder 7 % des globalen Umsatzes bis hin zu 7,5 Millionen Euro oder 1,5 % des Umsatzes, abhängig von der Art des Verstoßes und der Größe des Unternehmens.
Auswirkungen auf den Alltag und verschiedene Branchen
Für welche Alltagsfragen ist das relevant?
Diese umfassenden KI-Regelungen der EU werden den alltäglichen Umgang mit Technologie beeinflussen. Verbraucher können davon ausgehen, dass KI-Anwendungen, die sie nutzen, ihre Rechte und ihre Privatsphäre respektieren. Sie haben außerdem das Recht, Beschwerden einzulegen und Erklärungen zu Entscheidungen zu erhalten, die KI-Systeme über sie treffen.
Für welche Berufe und Branchen hat das Auswirkungen?
- IT- und Softwareentwicklung: Entwickler müssen sicherstellen, dass ihre KI-Produkte den neuen Vorschriften entsprechen.
- Strafverfolgung: Die Nutzung von KI bei der Strafverfolgung wird strenger reguliert, um Bürgerrechte zu schützen.
- Versicherungs- und Bankenwesen: Diese Sektoren müssen sich auf die neuen Verpflichtungen für Hochrisiko-KI-Systeme vorbereiten.
- Unternehmen und KMU: Diese müssen ihre KI-Entwicklungen an die neuen Standards anpassen, können aber auch von den Regulatory Sandboxes profitieren.
- Konsumentenschutzorganisationen: Sie werden in der Lage sein, effektiver für die Rechte der Verbraucher einzutreten, wenn es um den Einsatz von KI geht.
Globale Entwicklungen und Herausforderungen in der KI-Forschung
In der globalen Arena der KI-Forschung und -Regulierung zeichnet sich ein Muster ab, das bereits in anderen wissenschaftlichen Bereichen beobachtet wurde: eine Verlagerung der Forschung in Länder mit lockereren Vorschriften. Historisch gesehen, hat diese Tendenz zur “Regulierungsarbitrage” etwa im Bereich der Stammzellenforschung und des Klonens stattgefunden. Beispielsweise wanderten einige Stammzellenforscher in Länder ab, in denen weniger strenge ethische Richtlinien herrschten, um ihre Forschung fortzusetzen.
Ein weiteres Beispiel ist die Forschung im Bereich der Gentechnik, einschließlich CRISPR-Cas9, einer revolutionären Gentechnik. Während einige Länder strenge Richtlinien für die Anwendung dieser Technologie festgelegt haben, ermöglichen andere Länder experimentellere Ansätze, was zu einer geografischen Verschiebung in der Forschung führte.
Diese Tendenz könnte sich auch in der KI-Forschung zeigen, insbesondere wenn Länder wie die USA und die EU strengere Regelungen einführen. Forschungseinrichtungen und Unternehmen könnten in Länder mit laxeren Vorschriften abwandern, um regulatorische Hürden zu umgehen. Dies führt zu einer globalen Diskrepanz in der Art und Weise, wie KI entwickelt und eingesetzt wird, was langfristige Implikationen für den internationalen Wettbewerb und ethische Standards haben könnte.
Neue Berufsfelder und Spezialisierungen
Diese sich wandelnde Landschaft bietet jedoch auch Chancen für neue Berufsfelder:
- KI-Rechtsexperten: Anwälte, die auf KI-Regulierung spezialisiert sind, werden zunehmend gefragt sein, um Unternehmen bei der Navigation durch komplexe internationale Gesetze zu unterstützen.
- Datenschutzbeauftragte: Fachleute, die darauf spezialisiert sind, die Einhaltung von Datenschutzstandards in KI-Systemen zu gewährleisten.
- Ethikberater: Diese Experten helfen Unternehmen, ethische Überlegungen in die Gestaltung und Implementierung von KI-Systemen zu integrieren.
- Regulierungs-Compliance-Manager: Sie überwachen die Einhaltung aller relevanten KI-Vorschriften und Richtlinien.
- Technologie-Transfer-Manager: Fachleute, die im Bereich der Kommerzialisierung von KI-Innovationen tätig sind, insbesondere in Bezug auf Patentierung und Lizenzierung.
- Forschungs- und Entwicklungsingenieure: Ingenieure, die an der Entwicklung von KI-Systemen arbeiten, müssen sich ständig über die neuesten Regulierungsänderungen informieren, um sicherzustellen, dass ihre Produkte konform sind.
Insgesamt wird die KI-Regulierung nach jetziger Erwartung eine dynamische und interdisziplinäre Branche prägen, die sowohl technische als auch rechtliche Expertise erfordert. Diese Entwicklungen werden neue Wege für Innovation eröffnen und gleichzeitig ethische und rechtliche Standards in der KI-Forschung und -Anwendung setzen.
Eignungstest für eine Karriere in Künstlicher Intelligenz
Beantworte die folgenden Fragen, um herauszufinden, ob du für eine Karriere im Bereich Künstliche Intelligenz geeignet bist.
Stichwortsuche zu diesem Beitrag: AI
