Personalmagazin: Wie bewerten Sie die Auswirkungen des AI ACT auf die Arbeitswelt, insbesondere im Hinblick auf die rechtlichen Rahmenbedingungen für den Einsatz von Künstlicher Intelligenz in Unternehmen? Andrea Panzer-Heemeier: Die KI-Verordnung wird als „Innovationsbremse“ diskutiert, da für Unternehmen mit ihr ein gewisser Implementierungsaufwand einhergeht. Die Vorgaben aus der KI-VO (unter anderem Datenqualität, Transparenz) sind jedoch notwendig, um KI zielführend einzusetzen. Unternehmen sind aufgefordert, die Geltung des AI ACT für ihre Systeme zu prüfen und ein entsprechendes Maß an KI-Kompetenz aufzubauen. Der risikobasierte Ansatz der KIVO sieht insbesondere für Anbieter von Hochrisiko-KI umfassende Pflichten vor. Als Hochrisiko-KI gelten nach Art. 6 KIVO KI-Systeme, die ein erhebliches Risiko einer Beeinträchtigung der Gesundheit, Sicherheit oder Grundrechte natürlicher Personen bergen, indem sie unter anderem das Ergebnis der Entscheidungsfindung maßgeblich beeinflussen. Für Unternehmen, die KI-Systeme einsetzen, ist ab 2026 die Einbindung einer menschlichen Kontrollinstanz verpflichtend. Entsprechend qualifizierte Mitarbeiter, zum Beispiel unternehmensinterne KI-Beauftragte, und Schulungen, etwa zum Thema Prompt Engineering, können diese Anforderung erfüllen. Der unternehmensinterne Prozess bis zur Anwendung ist ganzheitlich zu betrachten. ARQIS unterstützt Unternehmen beim rechtssicheren Einsatz von KI und begleitet die Gestaltung eines digital-ethischen Umgangs mit KI-Systemen in Unternehmen. Arbeitgeber setzen KI für Recruiting und zahlreiche HR-Prozesse ein. Wie nicht zu Benachteiligungen kommt, möglich. Auch wenn das US-Verbot für deutsche Unternehmen nicht rechtlich verbindlich ist, können sich aus der Nichtbefolgung wirtschaftliche Folgen ergeben. Dies dürfte ebenfalls einer der Beweggründe für diejenigen Unternehmen sein, die bereits proaktiv reagieren. Hier wird sich sicherlich zeigen, wer es mit DEI-Programmen ernst gemeint hat, hinter diesen also eine – wirtschaftliche und gesellschaftliche – Sinnhaftigkeit sieht und wer diese nur eingeführt hat, um einem etwaigen gesellschaftlichen Trend zu folgen. kann menschliche Kontrolle gesichert und Diskriminierung vermieden werden? Tobias Neufeld: Die KI-VO sorgt für ein gestärktes Bewusstsein, dass die Qualität der KI-Anwendungen entscheidend für das Vermeiden von Diskriminierung ist. Sie zeigt aber auch, dass menschliche Kontrolle als integraler Bestandteil für ein diverses und inklusives Recruiting alternativlos ist. Der sogenannte Human-in-the-Loop-Supervisor dient dazu, entscheidungsbefugt in das KI-System einzugreifen und aktiv Ergebnisse zu korrigieren. Kernaufgabe ist die Transparenz der Entscheidungsfindung. Allerdings kann ein Mensch nur prüfen, was er versteht und nachvollziehen kann. Erklärbare KI-Systeme, also solche mit nachvollziehbarer Entscheidungsfindung, sind noch nicht ausgereift und können ebenfalls zu Fehlschlüssen führen. Unabdingbar in technischer Hinsicht sind systematisch unverzerrte, sorgfältig kuratierte Datengrundlagen für das Training von KI-Modellen. Die Kriterien und Parameter der automatisierten Entscheidung sollten vorab klar definiert und dokumentiert werden. Die US-Regierung fordert europäische Unternehmen mit vertraglichen Beziehungen zu dieser auf, die US-Vorschriften zum Verbot von DEI-Policies umzusetzen. Andere streichen DEIFormulierungen bereits proaktiv aus ihren Policies. Was gilt für (deutsche) Unternehmen rechtlich? Panzer-Heemeier: Am Ende ist dies nicht nur eine rechtliche, sondern vor allem tatsächliche Frage. Nach deutschem Recht sind DEI-Programme in Abwägung der Rechtspositionen legitim; ebenfalls die Abschaffung ist, solange es ARQIS Interview mit Dr. Andrea PanzerHeemeier und Tobias Neufeld „ Wir unterstützen und begleiten Unternehmen bei der Gestaltung eines digitalethischen Umgangs mit KI-Systemen.“ Andrea Panzer-Heemeier 33
RkJQdWJsaXNoZXIy Mjc4MQ==