„Menschliche Aufsicht im Fokus - Recht, Ethik und Praxis“

Wie lässt sich menschliche Aufsicht über Hochrisiko-KI-Systeme wirksam gestalten - und welche Rolle kann oder sollte der Mensch dabei wirklich spielen?

In diesem Webinar geben unsere Rechtsexpertin Leah Klees und Dr. Sebastian Rosengrün vom AI Impact Lab - der zur verantwortungsvollen Entwicklung und Anwendung von KI forscht - einen umfassenden Überblick über die Vorgaben der KI-VO zur menschlichen Aufsicht. Gemeinsam zeigen sie, welche Vorkehrungen Anbieter bereits im Systemdesign schaffen müssen (z. B. Kill-Switch, Logging, Erklärbarkeit) und wie Betreiber diese in der Praxis umsetzen können. Dabei greifen wir auch auf aktuelle ISO-Standards zurück, die konkrete Anhaltspunkte für die technische Umsetzung bieten. Darüber hinaus beleuchten wir die zentrale Frage, ob der Mensch tatsächlich die letzte Entscheidungsgewalt über Hochrisiko-KI haben sollte – obwohl er in der Praxis häufig selbst als größte Fehlerquelle gilt. Damit stellen wir die Spannung zwischen der rechtlichen Pflicht zur menschlichen Aufsicht und den Grenzen menschlichen Urteilsvermögens in den Mittelpunkt.

Abschließend zeigen wir Ihnen, wie sich menschliche Aufsicht in der Unternehmenspraxis wirksam verankern lässt - durch klare Verantwortlichkeiten, gezielten Kompetenzaufbau und kontinuierliches Monitoring.

Was Sie mitnehmen werden:

• Sie erhalten einen fundierten Überblick über die rechtlichen Vorgaben zur menschlichen Aufsicht nach der KI-VO und deren praktische Bedeutung.
• Sie erfahren, welche Vorkehrungen Anbieter in das Systemdesign einbauen müssen (z. B. Kill-Switch, Logging, Erklärbarkeit) und wie Betreiber diese Vorgaben wirksam umsetzen können.
• Sie gewinnen Einblicke in die ethischen Fragen der Aufsicht: Wann ist der Mensch die beste Kontrollinstanz, wann kann er selbst zum Risiko werden?
• Sie erkennen, wie die menschliche Aufsicht organisatorisch verankert werden kann - durch klare Verantwortlichkeiten, Kompetenzaufbau und kontinuierliches Monitoring.

Dieses Webinar ist der dritte Teil unserer Webinarreihe zum Thema „Hochrisiko-KI-Playbook für Betreiber", in dem wir die regulatorischen Pflichten der KI-VO umfassend aus Betreibersicht analysieren und konkrete Ansätze zur Compliance aufzeigen.