Personalmagazin plus 10/2021

personalmagazin plus: HR-Software 2021 Mitarbeitenden aufzeichnet und analysiert kann unter bestimmten Bedingungen helfen, hier eine Balance zu finden, sofern es beispielsweise der Selbstanalyse dient. Es kann aber auch zur über- mäßigen Kontrolle der Mitarbeiter*innen durch den Arbeitgeber führen. Am Ende wird es bei diesen Themen aber immer darum gehen, dass Arbeitgeber*innen und Arbeitnehmer*innen ei- nen offenen Dialog miteinander führen. Die Hal- tung des Technosolutionism fördert jedoch das Verständnis, man könne diese Verantwortung auf die Technik abwälzen. Die Gefahr ist, dass dann die notwendigen Aushandlungsprozesse, etwa mit Sozialpartnern und Betriebsräten nicht mehr stattfinden. Es wird häufig vergessen, dass eine Software, wenn sie im Bereich Personalma- nagement genutzt wird, sich nicht nur auf dieses eine Feld auswirkt, sondern auf den gesamten Unternehmenskontext. Darauf, wie Mitarbeiter sich und ihr Unternehmen wahrnehmen. Braucht es also klare Vorgaben, damit so et- was nicht passiert? Auf europäischer Ebene wird bereits an einer neuen Regulierung zum Einsatz von KI gearbei- tet, um etwa das Risiko zu verringern Diskri- minierung zu reproduzieren. Wichtig dabei ist vor allem das Thema Transparenz. Der Regu- lierungsentwurf sieht hierfür eine öffentliche Datenbank vor, in der alle KI-Systeme aufgeführt werden, die einen Einfluss auf Menschenrech- te und Demokratie haben und auf dem Markt sind. Die neue Verordnung sieht auch Trans- parenz auf individueller Ebene vor. Wenn ich als Person davon betroffen bin, dass ein System über meine Eignung entschieden hat oder diese Entscheidungen stark unterstützt hat, dann muss mir das ganze verständlich gemacht werden. Erfordert das nicht Fachkenntnis der Bewerbenden? Sie müssen nicht das gesamte System verstehen oder Zugang zum Programmiercode der Software erhalten. Aber sie müssen darüber informiert werden, dass eine KI im Einsatz war, und es muss erklärt werden, welche Daten genutzt wurden und wie es am Ende zu der Entscheidung gekommen ist. Damit untersucht werden kann, ob ein System möglicher- weise diskriminierend arbeitet, braucht es zudem eine Aufsicht und eine Qualitätskontrolle von unabhängigen Behörden, die im Fall von Beschwerden auch Zugang zu den Daten und zum Code bekommen. Welche Behörde könnte das übernehmen? Das ist Moment eine der großen Debatten im Rahmen der KI-Regulierung: Die Zivilgesellschaft kritisiert, dass es nicht ausreicht, wenn die Unternehmen selbst Auskunft erteilen und fordert eine Überprüfung bestimmter Faktoren durch eine zen­ trale Aufsichtsbehörde. Es ist auf jeden Fall wichtig, dass es eine Anlaufstelle gibt, die Betroffene unterstützen kann, wenn diese das Gefühl haben, sie seien diskriminierend beurteilt worden. Expert*innen als sehr unwissenschaftlich eingestuft. Nicht nur wegen des Diskriminierungspotenzials, sondern weil es einfach keine wissenschaftliche Erkenntnis gibt, dass diese Methoden funktionieren. Trotzdem gibt es immer mehr Unternehmen, die solche Software entwickeln und vermarkten. Aktuell wird sogar an KI-Systemen gearbeitet, die in der Lage sein sollen, Interviews eigenständig und aktiv zu führen. Das grundsätzlich positive Potenzial von Algorithmen, dass man sie schnell einfach skalieren kann, hat in solchen Fällen auch eine Kehrseite. Auch Diskriminierung kann skaliert werden. Wenn sie maschinell stattfindet, können davon sehr schnell sehr viele Menschen betroffen sein. Sind Unternehmen also zu naiv? Firmen, die solche Software vertreiben, verkaufen häufig den Eindruck, dass KI komplexe soziale Probleme einfach lösen kann. Dafür gibt es sogar einen Fachbegriff: Technosolutionism. Gera- de im Recruiting und Personalmanagement aber haben wir es immer mit sozial komplexen Situationen zu tun, die eine Soft- ware eben nicht so einfach allein lösen kann. Also wenn es zum Beispiel um die Frage geht, wie man Effizienz steigern, zugleich Flexibilität ermöglichen und Arbeitnehmer*innen vor Über- arbeitung schützen kann. Ein System, welches das Verhalten der HR-Software