XIV - AI-Act

KI bezeichnet eine Reihe sich rasch entwickelnder

Technologien, die eine Regulierungsaufsicht und

einen sicheren und kontrollierten Raum für die

Erprobung erfordern, wobei gleichzeitig eine

verantwortungsvolle Innovation und die Integration

geeigneter Schutzvorkehrungen und

Risikominderungsmaßnahmen gewährleistet

werden müssen.

Das BSI versteht unter dem Begriff "Künstliche

Intelligenz" die Technologie und die

wissenschaftliche Disziplin, die mehrere Ansätze

und Techniken wie zum Beispiel maschinelles

Lernen, maschinelles Schließen und die Robotik

umfassen

• Funktionen Binnenmarkt verbessern

• Einführung einer auf den Menschen ausgerichteten und vertrauenswürdigen KI zu fördern

• Gewährleistung hohen Schutzniveaus in Bezug auf Gesundheit, Sicherheit, Grundrechte

• Schaffung harmonisierter Vorschriften für Inverkehrbringen, Inebtriebnahem und Verwendung von KI-Systemen

• Bestimmen von verboten bestimmter Praktiken im KI-Bereich

• Besondere Hochrisiko-KI-Systeme und Pflichten für Akteure in Bezug auf solche Systemen

• Harmonisierte Transparenzvorschriften

• Harmonisierte Vorschriften für Inverkehrbringen von KI-Modellen mit allgemeinen Verwendungszweck

• Anbieter die in EU KI in Verkehr bringen oder KI mit allgemeinen Verwendungszwecks

• Betreiber von KI-Systemen die Sitz in EU haben

• Anbieter und Betreiber in Dtrittland wenn KI-Ausgaben in EU verwendet wird

• Einführer und Händler von KI-Systemen

• Produkthersteller die KI zusammen mit ihrem Produkt in Betrieb nehmen

• Bevollmächtigte von Anbietern die nicht in der EU sind

• Betroffenen Personen in der EU

• Betreiber ist natürliche, juristische Person, Behörde, Einrichtung etc. die KI-System in eigener Verantwortung verwendet (außer nicht berufliche Nutzung)

• Anbieter entwickelt KI-System und lässt es unter seinem Namen in Betrieb nehmen

Pflichtenumfang in Zusammenhang mit Risikoklassen des KI-Systems

-> Verbotene Praktiken, hohe Risiken, Moderate Risiken

• KI-Praktiken mit inakzeptablen Risiken sind verboten

• manipulative/täuschende Techniken mit dem Ziel das Verhalten einer Person wesentlich zu verändern

• Datenbanken zur Gesichterkennung durch das ungezielte Auslesen von Gesichtbildern oder Überwachungsaufnahmen erstellen

• Ableitung von Emotionen einer Person am Arbeitspllatz

• biometrische Kategorisierung von Rasse, politischer Einstellung, Gewerkschaftzugehörigkeit, Religion, Weltanschauung, Sexualität

• KI-System im Anwendungsbereich der Harmonisierungsrechtsvorschriften(HRV) (sind so Richtlinien der EU)

• KI-System ist Sicherheitsbauteil von Produktgruppe der HRV(z.b. Medizinprodukt)

• KI-System ist selbst Produkt der HRV

• KI-System muss zur Inbetriebnahme einer Konformitätsbewertung durch Dritte unterzogen werden

• KI-Systeme in kritischer Infrastruktur, für Recruiting, HR-Managemeent

• 
  

• Betrieb Risikomanagement-system

• Betrieb Qualitätsmanagementsystem

• Pflichtanforderung an Datenqualität und Verwaltung

• Dokumentations und Protokollierungspflicht

• Transparenz und Informationspflicht

• Menschliche Aufsicht über KI-Systeme

• Genauigkeit, Robustheit, Cybersicherheit der KI-Systeme

Nutzung entsprechend der Anwendungshinweise

Einsatz von Personen mit Befähigung und Ausbildung

Sicherstellung das Eingabedaten relevant und ausreichend repräsentativ sind

Überwachungspflicht

Meldepflicht bei Vorfällen

Dokumentationspflicht bei Aufbewahrungspflicht der Protokolle

• Kennzeichnung synthetischer Inhalte bei kommunikativer Nutzung (Deepfakes)

• Informationspflicht bei Nutzung von Emotionserkennung oder biometrischer Kategorisierung

• KI-Kompetenz-Pflicht in Abhängigkeit der KI-Nutzung

• Transparenzpflicht

• technische Dokumentation

• Interne Policy zum Ungang mit Urherberrechten

• Zusammenfassung über Inhalte mit denen das Systen trainiert wurde

  
  

• Test und MOdellbewertungen

• Risikomanagementsystem zur Erfassung systeamtischer Risiken

• Pflicht zur Meldung von Sicherheitsvorfällen

• Erhöhte Pflichten an IT-Sicherheit des Systems