Künstliche Intelligenz 17 wenn mehrere Datensätze derselben Person zusammengeführt werden. Meiner Meinung nach sollte dieser Ansatz bei personenbezogenen Daten im HR systematisch zum Einsatz kommen. Sie sind Mitglied des Ethikbeirats HR Tech. Welche Rolle nimmt dieser bei der Regulierung von KI in HR-Systemen ein? Der Ethikbeirat HR Tech möchte Hilfestellungen für HR und Mitarbeitende geben, um eine ethisch fundierte und verantwortungsvolle Anwendung von neuen Technologien im Unternehmen zu ermöglichen. Die Hilfestellungen werden zum einen in zehn Richtlinien gegeben, die in einem umfangreichen Diskurs von Theorie und Praxis entwickelt wurden und in Zukunft weiterentwickelt werden. Die Themen der Richtlinien sind: transparenter Zielsetzungsprozess, fundierte Lösungen, Menschen entscheiden, notwendiger Sachverstand, Haftung und Verantwortung, Zweckbindung und Datenminimierung, Informationspflicht, Achten der Subjektqualität, Datenqualität und Diskriminierung, stetige Überprüfung. Aufbauend auf diesen Richtlinien hat der Ethikbeirat HR Tech zu Beginn dieses Jahres den „Ethik Check KI“ veröffentlicht – ein frei zugängliches und kostenloses Tool, mit dem HR eine verwendete KI auf die Vereinbarkeit mit ethischen Grundsätzen prüfen kann. Inwiefern sind diese zehn Richtlinien mit dem EU AI Act vereinbar? Die Richtlinien des Beirats sowie der Ethik Check KI basieren bislang auf freiwilligen Empfehlungen und nehmen bereits viele Vorschriften des EU AI Act vorweg. Inwieweit die Empfehlungen des Beirats Überschneidungen mit den zukünftig bindenden Vorschriften des EU AI Act haben, dahinter zurückbleiben oder sogar darüber hinausgehen, muss aus meiner Sicht bis zur Rechtswirksamkeit des EU AI Act in einem nächsten Schritt durchdacht und geklärt werden. Wie hat der EU AI Act die Diskussion über den Einsatz von KI in HR-Systemen verändert? Aus meiner Sicht ist die entscheidende Neuerung für HR, dass der EU AI Act risikobasierte Regelungen für KI-Anwendungen vorsieht, das heißt die Einteilung in Risikoklassen. Für jede Klasse werden Anforderungen an Entwicklung und Anwendung gestellt. KI-Anwendungen, die in HR zum Einsatz kommen, werden zum Teil als sehr risikoreich eingestuft. Hierzu zählen Einstellungs-, Beförderungs- oder Kündigungsentscheidungen, die Zuweisung von Aufgaben auf der Grundlage von individuellem Verhalten oder persönlichen Eigenschaften sowie die Überwachung und Bewertung von Leistung und Verhalten. Als Begründungen führt der EU AI Act an, dass Berufsaussichten und Lebensunterhalt von Personen sowie Grundrechte auf Datenschutz und Privatsphäre stark beeinflusst oder existierende Diskriminierungen wie oben beschrieben fortgesetzt werden. Inwiefern fördert der EU AI Act den verantwortungsvollen Einsatz von KI in HR-Systemen? Er erlegt den Anbietern und Anwendern umfassende Pflichten auf, wenn die KI als hochriskant klassifiziert wird. Anbieter müssen hohe Anforderungen insbesondere an Transparenz, Datenqualität und Zuverlässigkeit garantieren. Anwendende Unternehmen haben Pflichten bezüglich Aufklärung gegenüber den Beschäftigten über die eingesetzten KI-Anwendungen und regelmäßige Audits. Beide Gruppen von Pflichten sind relevant, wenn eigene KI-Anwendungen entwickelt werden. Es bleibt abzuwarten, wie genau die Pflichten in nationales Recht umgesetzt werden und wie sie überprüft werden. Momentan kann ich mir nicht vorstellen, dass reine Selbstverpflichtungen genügen werden. Ob eine eigens dafür eingerichtete staatliche Behörde oder aber Organisationen nach dem Vorbild eines TÜVs für KI-Anwendungen zur Überprüfung geschaffen werden, bleibt abzuwarten. Welche Handlungsempfehlungen leiten Sie daraus ab? Die Auswahl der richtigen KI-Anwendung ist durch den EU AI Act noch wichtiger geworden. Neben altbekannten Forderungen nach Datensicherheit und Compliance, Übereinstimmung mit den Werten und Bedürfnissen des anwendenden Unternehmens sowie Flexibilität und Benutzerfreundlichkeit sollten nur solche Anwendungen in Betracht gezogen werden, die die Einhaltung der Pflichten für Anbieter umfassend und auch für Laien verständlich dokumentieren. Besonderes Augenmerk würde ich darauf legen, dass Anbieter regelmäßige Audits in Bezug auf Diskriminierung und Zuverlässigkeit durchführen. Ein weiterer wichtiger Aspekt scheint mir zu sein, dass ausgeschlossen wird, dass Anbieter durch ihre Produkte uneingeschränkten Zugriff auf die Daten des Unternehmens bekommen. Klar ist aber auch, dass die Einhaltung der Pflichten für Anwender solch spezifisches Fachwissen erfordert, dass wahrscheinlich nur große Unternehmen in der Lage sein werden, eigene Spezialistinnen und Spezialisten dafür einzustellen, während kleinere Unternehmen dieses Wissen extern einkaufen müssen. „ Die Auswahl der richtigen KI-Anwendung ist durch den EU AI Act noch wichtiger geworden.“
RkJQdWJsaXNoZXIy Mjc4MQ==