+49 (0)4284 927 838
office@daschub.de
Menu

KI-Verordnung – Anbieter – Einsatzstellen – Betreiber und Empfänger

Die Gesetzgebung im Bereich der künstlichen Intelligenz (KI) in der EU, insbesondere der KI-verordnung (KI-Vo bzw. AI-Act), zielt darauf ab, die Entwicklung und Nutzung von KI-Systemen zu regeln. Diese Gesetzgebung unterscheidet zwischen verschiedenen beteiligten Parteien, wie dem Anbieter, dem Betreiber bzw. Nutzer / Anwender und dem Empfänger von KI-Systemen.

Erfahren Sie hier mehr über die KI-Verordnung in der EU und die Unterscheidung zwischen Anbieter, Betreiber und Empfänger von KI-Systemen.

Anbieter von KI-Module und -Systeme

Der Anbieter (Provider) ist die Person, die ein KI-System entwickelt, produziert oder vermarktet. Dies kann ein Unternehmen sein, das KI-Software entwickelt, oder eine Organisation, die KI-Tools entwickelt und vertreibt. Die Anbieter haben die schwersten Verpflichtungen im Rahmen der Gesetzgebung, da sie für die Qualität und Konformität ihrer KI-Systeme verantwortlich sind.

Sie müssen unter anderem Folgendes sicherstellen:

  • Risikobewertungen der KI-Systeme.
  • Transparenz und Dokumentation der Funktionsweise des Systems.
  • Einhaltung von ethischen Richtlinien und Sicherheitsanforderungen.
  • Sicherstellung, dass das System nicht diskriminierend oder schädlich ist.

 

Einsatzstellen

Einsatzstellen (Artikel 26 der KI-Verordnung) bezeichnen die Bereiche oder Sektoren, in denen hochriskante KI-Systeme die erhebliche Auswirkungen auf die Sicherheit, Gesundheit und Grundrechte von Menschen haben können. Beispiele sind die Energieversorgung, der Verkehr oder die Telekommunikation. Dabei sind die Einsatzstellen (also die Bereiche oder Sektoren, in denen die KI verwendet wird) sind nicht notwendigerweise gleichzusetzen mit den Betreibern dieser Systeme.

Das bedeutet, dass die Betreiber eines KI-Systems von den Einsatzstellen unabhängig sein können, auch wenn sie häufig stark miteinander verbunden sind.

Zum Beispiel:

  • In einem Energieversorgungssektor (die Einsatzstelle) könnte der Betreiber eines KI-Systems eine spezialisierte Softwarefirma sein, die die Algorithmen zur Optimierung der Stromverteilung entwickelt und verwaltet.
  • In einem Verkehrssektor (die Einsatzstelle) könnte ein Betreiber die KI für die Echtzeitüberwachung und -steuerung des Schienenverkehrs betreiben, während das Verkehrsunternehmen selbst nur als „Betreiber“ bzw. „Nutzer“ des Systems auftritt.

Betreiber bzw. Anwender / Nutzer von KI-Systeme 

Betreiber bzw. Nutzer eines KI-Systems, ist die Einrichtung oder Person, die das System in der Praxis anwendet. Das können zum Beispiel Unternehmen sein, die KI-Tools für den Kundenservice, die Entscheidungsfindung oder Produktionsprozesse einsetzen. Betreiber haben weniger strenge Verpflichtungen als Anbieter, müssen aber:

  • Transparenz: Nutzer müssen wissen, dass sie mit einer KI interagieren.
  • Verantwortungsbewusste Nutzung: Sicherstellen, dass das System keine unangemessenen Risiken darstellt.
  • Verbot bestimmter Anwendungen wie z.B.: Manipulation, Beeinflussung, Ausnutzung von persönlichen Schwachstellen
  • Das KI-System sorgfältig und gemäß den Anweisungen des Anbieters verwenden.
  • Ethische und rechtliche Richtlinien einhalten, z. B. zum Datenschutz (wie das DS-GVO).
  • Vorfälle oder Probleme, die bei der Nutzung der KI-Systeme auftreten, melden.
  • Nachweisliche Schulung und Sensibilisierung der Mitarbeiter.

 

Verantwortung der Betreiber von hochrisikobehafteten KI-Systemen

  • sind für die Einhaltung der Vorschriften des KI-Vo verantwortlich.
  • sie müssen sicherstellen, dass das KI-System den Anforderungen an Sicherheit, Transparenz und Risikomanagement entspricht, wie es in der KI-Verordnung festgelegt ist.
  • sie müssen eine Konformitätsbewertung durchführen.
  • sie müssen die Verwendung des KI-Systems bei der zuständigen nationalen Behörde registrieren.*
  • sie müssen das KI-System im EU-Datenbankregister registrieren.*

 

Anmerkung:

* Die Registrierungstellen sind zurzeit (Stand 16. September 2024) noch nicht eingerichtet, eine Registrierung ist daher noch nicht möglich .

 

 

Weitere Informationen hierzu finden Sie hier

Empfänger und deren Rechte

Der Empfänger ist die Person oder Einrichtung, die von dem KI-System betroffen ist. Dies können Verbraucher sein, die Dienstleistungen von einem KI-System erhalten, wie z. B. Gesichtserkennung, oder Bürger, die von Regierungsentscheidungen betroffen sind, die KI betreffen. Empfänger haben in der Regel keine direkten Verpflichtungen, aber Rechte, wie z. B.:

  • Recht auf eine Erklärung der von einem KI-System getroffenen Entscheidungen.
  • Das Recht zu wissen, wann sie mit einem KI-System interagieren.
  • Schutz vor diskriminierenden oder schädlichen Auswirkungen von KI-Systemen.

Fazit

  • Die Anbieter sind dafür verantwortlich, KI-Systeme zu entwickeln, zu testen und die gesetzlichen Bestimmungen einzuhalten.
  • Die Nutzer müssen sicherstellen, dass sie KI-Systeme verantwortungsbewusst und legal einsetzen.
  • Die Empfänger sind durch die Gesetzgebung geschützt und haben Rechte in Bezug darauf, wie KI-Systeme ihr Leben beeinflussen.

Die am 1. September 2024  in Kraft getretene EU-Gesetzgebung (AI Act  – KI-Vo) legt diese Verantwortlichkeiten und Verpflichtungen klar fest, um die ethische und sichere Entwicklung und Nutzung von KI zu gewährleisten.

 

 

Hier erfahren Sie mehr über die KI-Verordnung.

Was Unternehmer und Mitarbeiter jetzt wissen müssen | Pflichten von Betreibern