Schleichend ist KI in den letzten Jahren Teil unseres Alltags geworden, oft, ohne dass wir es bemerkt haben. Von Social-Media-Algorithmen bis hin zu Chatbots im Kundenservice – KI hat still und leise verändert, wie wir leben und arbeiten. Bis 2022. Mit der Veröffentlichung von ChatGPT wurde der Einfluss der KI dann unbestreitbar. Und wir stehen erst am Anfang. Schätzungen zufolge wird der globale KI-Markt bis 2030 auf 826 Milliarden Dollar ansteigen, was sein enormes Potenzial und seine Reichweite widerspiegelt.
KI ist im Begriff, zahlreiche Branchen zu revolutionieren, bringt aber auch neue Herausforderungen und Risiken mit sich. Daher besteht dringender Bedarf an klaren Richtlinien für ihren Einsatz. Die Europäische Union hat mit dem KI-Gesetz (AI Act) den weltweit ersten umfassenden regulatorischen Rahmen für die Nutzung und Entwicklung von KI-Technologien geschaffen. Das Gesetz, das in den nächsten drei Jahren in Kraft treten soll, könnte zu einem globalen Standard werden und die Regulierung von KI weltweit prägen. In der Personalgewinnung hat KI das Potenzial, Prozesse zu transformieren und den Return on Invest (ROI) zu erhöhen, gleichzeitig birgt sie die große Gefahr von Bias (Voreingenommenheit) oder Missmanagement. Daher ist es für Personalteams wichtiger denn je, das neue Gesetz im Detail zu kennen und zu verstehen.
Wir haben uns an Thibaut Allard gewandt, dem Datenschutz- und KI-Analysten von SmartRecruiters, um die Komplexität des KI-Gesetzes der EU und seine Auswirkungen auf die Personalbeschaffung zu beleuchten. Mit einem Master-Abschluss in digitalem Recht von der Universität Paris I: Panthéon-Sorbonne bringt Thibaut Allard tiefe Fachkenntnisse mit, wenn es darum geht, die Schnittstelle zwischen KI und Datenschutz zu navigieren. In diesem Interview spricht er über die Risiken und Chancen der neuen Gesetzgebung und erklärt, was sie für die Zukunft der Talentakquise bedeutet.
Was bezweckt die neue KI-Gesetzgebung der EU?
Mit dem KI-Gesetz werden zwei Hauptziele verfolgt. Erstens: Schutz vor den sozialen Risiken, die diese Technologie in Bezug auf Datenschutz und Bias mit sich bringt, insbesondere in wichtigen Branchen wie Finances, dem Gesundheitswesen und der Personalbeschaffung. Bei der Auswahl eines Kredits, einer Organtransplantation oder eines Arbeitsplatzes steht viel auf dem Spiel. Denn die Entscheidungen können den weiteren Verlauf eines Lebens verändern. Zweitens soll ein Umfeld geschaffen werden, in dem verantwortungsvolle KI entwickelt werden kann. Es wird ein qualitätsorientierter Ansatz verfolgt, damit die Europäische Union mit dieser Technologie wettbewerbsfähig bleibt.
Was müssen Unternehmen tun, die KI im Recruiting einsetzen und sich auf diese Gesetzgebung vorbereiten möchten?
Kurz gesagt, Unternehmen müssen ihren Einsatz von KI katalogisieren und anschließend den Grad des Risikos und die damit einhergehenden Vorschriften bestimmen. Ich rate Ihnen, die Gelegenheit zu nutzen, um Ihre KI-Gesamtstrategie in der Personalbeschaffung und anderen Abteilungen festzulegen. Anhand dieses Nordsterns kann Ihr Team entscheiden, wo KI am besten eingesetzt wird und wie hoch das Risiko ist.
Welche Lehren können wir aus der Datenschutzgrundverordnung (DSGVO) für das KI-Gesetz ziehen?
In vielerlei Hinsicht kann die DSGVO als Vorläufer des KI-Gesetzes angesehen werden. Im Mittelpunkt beider Rechtsvorschriften steht die ordnungsgemäße Verarbeitung personenbezogener Daten sowie die Transparenz und Kontrolle für den Endnutzer. Die wichtigste Erkenntnis ist, dass Data Governance Ihr Freund ist. Wenn Sie über klare Prozesse rund um Datenhygiene verfügen, ist es einfacher, die Vorschriften einzuhalten und bei Bedarf Compliance nachzuweisen.
Was raten Sie Unternehmen, die KI auf ethische und faire Weise im Recruiting-Prozess einsetzen möchten?
KI ist im Moment ein sexy Thema! Es gibt noch so viele unbekannte Möglichkeiten, die Gespräche und Debatten befeuern können. Und es regt unsere Vorstellungskraft auf faszinierende Weise an, weil die Herausforderungen und Risiken enorm sind. Angesichts des Lärms der öffentlichen Debatte kann es schwierig sein, sich einen Überblick über Best Practices zu verschaffen, aber ich denke, wenn Sie sich auf diese drei Aspekte konzentrieren, kann das enorm hilfreich sein.
- Risikomanagement: Der Zweck der meisten KI-Gesetze und insbesondere des KI-Gesetzes der Europäischen Union besteht darin, Menschen zu schützen. Daher sind Unternehmen, die diese Gesetze verstehen und befolgen, bereits in einer guten Position, wenn sie KI ethisch und fair implementieren möchten.
- Data Governance: Stellen Sie sicher, dass Sie in Ihrem Unternehmen über das richtige Fachwissen verfügen, zum Beispiel, indem Sie einen Datenschutzbeauftragten (DSB) engagieren, der zu Data Best Practices anleitet. Wenn KI das Auto ist, dann sind Daten der Treibstoff. Wir müssen sicherstellen, dass der Treibstoff von hoher Qualität ist, sonst werden wir Probleme mit dem Auto bekommen.
- Menschliche Aufsicht: Überprüfen Sie, welche Ergebnisse Sie mit KI in Ihrem Prozess erzielen, und achten Sie dabei auf etwaige Muster der Verzerrung (Bias). Um die Metapher von der „KI als Auto“ zu erweitern: Der Mensch ist immer noch der Fahrer – wir müssen das Auto pflegen und die Richtung vorgeben, um das gewünschte Ziel zu erreichen.
Warum sollten Unternehmen KI in ihrem Recruiting-Prozess einsetzen?
Es liegt großes Potenzial darin, den Recruiting-Prozess mit KI zu verbessern. KI kann Recruitern helfen, effizienter und fairer zu entscheiden, was zu einem höheren ROI führt, und, so hoffe ich, Diskriminierungen im Einstellungsprozess beendet und diesen insgesamt menschlicher gestaltet. Es gibt jedoch auch Faktoren, die Unternehmen davon abhalten, KI im Recruiting einzusetzen – insbesondere in Europa. Ein Faktor ist beispielsweise das Risiko von Bias oder anderer unbeabsichtigter Auswirkungen der KI-Technologie. Ein anderer sind die Investitionen, die erforderlich sind, um das KI-Gesetz einzuhalten, und die in eine Zeit fallen, in der wir alle unter Druck stehen, für jede Investition konkreten Gewinn nachzuweisen.
Ist die Antwort, auf KI ganz zu verzichten? Das glaube ich nicht. Unternehmen, die das tun, werden in Zukunft wahrscheinlich einen Wettbewerbsnachteil erleiden. Der Schlüssel ist, eine greifbare Vision für KI und die damit verbundenen Ziele zu entwickeln. Mehr dazu finden Sie im Artikel „How to Get Started with AI in Recruitment“. Wir müssen bedenken, dass KI laut Prognosen jährlich Billionen von Dollar zum weltweiten Unternehmensgewinn beitragen wird. KI nicht zu nutzen, würde bedeuten, auf Gewinn zu verzichten.
Müssen wir in den nächsten zehn Jahren mit mehr Gesetzen zum Thema KI rechnen?
Ich erwarte auf jeden Fall, dass das Europäische Parlament weitere KI-Gesetze verabschiedet. Ein wahrscheinliches Szenario wäre meiner Meinung nach die Schaffung spezifischer KI-Richtlinien für jede wichtige Branche wie das Gesundheitswesen, das Finanzwesen und natürlich der Personalbeschaffung.
Insgesamt glaube ich, dass die Tage des Wilden Westens für die Tech-Industrie vorbei sind. Wenn man bedenkt, wie wichtig diese Branche für das Funktionieren unserer Welt ist – von der Kommunikation bis zur Logistik und allem, was dazwischen liegt –, sage ich voraus, dass die Tech-Branche in Zukunft genauso reguliert sein wird wie das Finanzwesen.
Wie entwickelt sich die Rolle des Datenschutzbeauftragten unter der neuen Gesetzgebung in Bezug auf das Monitoring der KI-Compliance im Recruiting?
Die DSB werden auf jeden Fall an der Überwachung von KI und der Verwaltung personenbezogener Daten in ihren Unternehmen beteiligt sein. Wir werden vielleicht auch mehr „Chief AI Officers“ oder Ähnliches in Unternehmen sehen, die den EU-Markt erschließen möchten. Für Führungskräfte wird es wichtig sein, Experten um sich zu haben, die sich mit KI und dieser Gesetzgebung auskennen, um Unternehmensentscheidungen treffen zu können.
Wie trägt SmartRecruiters dem EU KI-Gesetz Rechnung und was sind die Zukunftspläne?
Im Moment bewerten wir, wie wir KI derzeit in unserer Plattform einsetzen, betrachten unsere zukünftigen Pläne für die KI-Nutzung im System und gleichen dies mit dem Risikoniveau und den damit verbundenen Anforderungen ab. Sobald diese Phase abgeschlossen ist, werden wir die entsprechenden Abteilungen und Mitarbeiter mobilisieren, um unseren Verpflichtungen als Anbieter und Deployer nachzukommen. Unser Ansatz für Compliance ist, dass die richtigen Grundlagen ordnungsgemäßes Handeln in der Zukunft erleichtern, daher legen wir großen Wert darauf, frühzeitig die richtigen Entscheidungen zu treffen.
Über die Einhaltung der Anforderungen des KI-Gesetzes hinaus ist es das Ziel unseres Teams, eine Ressource für die Führungsebene zu sein, damit diese fundierte Entscheidungen über die künftige KI-Strategie von SmartRecruiters treffen kann. Wir glauben, dass KI ein wichtiger Bestandteil des Recruitings der Zukunft ist, und wir wollen sicher sein, dass die Technologie sowohl auf Recruiting-Teams als auch auf Kandidaten einen positiven Einfluss hat.
Das Produktteam von SmartRecruiters folgt dem Prinzip „Compliance by Design“. Es stellt sicher, dass die Einhaltung gesetzlicher Vorschriften in jeder Phase unseres Produktentwicklungsprozesses berücksichtigt wird. Als Teil dieses Prozesses bewerten wir kontinuierlich unsere aktuelle Plattform und unsere zukünftigen Roadmap-Pläne im Hinblick auf Risikolevel und Compliance-Anforderungen, einschließlich des EU AI Act. Dank dieses proaktiven Ansatzes können wir Compliance-Empfehlungen bereits zu Beginn in die Produktentwicklung einbeziehen und so sicherstellen, dass unsere KI-basierten Lösungen von Anfang an verantwortungsvoll und ethisch vertretbar sind.
Neben der Einhaltung der erforderlichen Compliance-Standards ist es uns wichtig, Vertrauen und Transparenz bei unseren Kunden und Nutzern aufzubauen. Daher haben wir einen Vertrauens- und Sicherheitsausschuss eingerichtet, dem wichtige Kunden, Branchenexperten und unsere interne F&E- und Compliance-Leitung angehören. Dieses Komitee arbeitet zusammen, um sich über Best Practices auszutauschen und die Zukunft der KI bei SmartRecruiters mitzugestalten, indem es verantwortungsvolle Innovationen im Einklang mit gesetzlichen Anforderungen und ethischen Standards vorantreibt.
Welche Ressourcen oder Tools empfehlen Sie Personalfachleuten, um up to date zu bleiben und die KI-Vorschriften einzuhalten?
Auf der Website des Europäischen Parlaments finden sich zahlreiche Artikel, die die Rechtsvorschriften in leicht verständlicher Sprache erläutern und branchenübergreifend anwendbar sind. Darüber hinaus sind Ravit Dotan, Phd und Raymond Sun großartige Fachexperten, denen man auf LinkedIn folgen sollte.
Erfahren Sie mehr über das EU KI-Gesetz von Recruiting-Experten
Thibaut Allard nahm kürzlich am Recruiting Brainfood Live-Webinar teil, EU AI Act: Implikationen für Recruiter, Talent Acquisition und HR.
Registrieren Sie sich kostenlos, um die Aufzeichnung zu sehen und mehr über das EU-KI-Gesetz zu erfahren. Experten, die im Webinar neben Thibaut Allard zu Wort kommen, sind Hung Lee, Gründer von Recruiting Brainfood, Martin Woodward, Director of Global Legal bei Randstad, Jaap Kersten, International Legal bei Textkernel, und Vincent Slot, Team Lead, R&D bei Textkernel.
