Des algorithmes des réseaux sociaux aux chatbots des services clients, l’IA s’est subtilement immiscée dans nos vies au cours de la dernière décennie. L’IA a discrètement transformé notre façon de vivre et de travailler, souvent sans que nous nous en rendions compte. Mais en 2022, ChatGPT a révélé au grand jour l’ampleur indéniable de cette révolution silencieuse. Et ce n’est que le début. Avec un potentiel colossal, le marché global de l’IA devrait exploser pour atteindre 826 milliards de dollars d’ici 2030, reflétant ainsi son potentiel et sa portée incroyables.
Alors que l’IA continue de révolutionner divers secteurs, elle apporte également de nouveaux défis et risques, soulignant le besoin urgent de lignes directrices claires. L’EU AI Act est le premier cadre réglementaire exhaustif au monde à régir l’utilisation et le développement des technologies d’IA. Cette législation, qui entrera en application dans les trois prochaines années, pourrait devenir une référence internationale pour la réglementation de l’IA. L’IA a le potentiel de transformer les processus de l’acquisition des talents et d’en accroître le ROI, mais les enjeux de biais ou de mauvaise gestion sont élevés. Pour exploiter pleinement le potentiel de l’IA tout en garantissant l’équité et la transparence, les équipes d’acquisition de talents doivent se familiariser avec les nuances de cette nouvelle loi.Pour mieux décrypter les implications de l’EU AI Act pour le recrutement, nous avons sollicité Thibaut Allard, Analyste conformité et IA chez SmartRecruiters. Titulaire d’un master en Droit du numérique de l’Université de Paris 1 Panthéon-Sorbonne, cet expert en droit de l’IA et en protection des données nous éclairera sur les défis et les opportunités que présente cette nouvelle législation et ses conséquences sur l’avenir de l’acquisition des talents.
Quel est l’objectif de ce nouveau règlement européen sur l’IA ?
L’EU AI Act a deux objectifs principaux. Le premier, se prémunir contre le risque social que cette technologie pose en termes de confidentialité et d’équité, en particulier dans les secteurs à fort impact comme la finance, la santé et le recrutement. Les examens préalables à un prêt, à une greffe d’organe ou à un emploi sont autant de scénarios à fort enjeu qui peuvent changer le cours de la vie d’une personne. Le deuxième, créer un environnement propice au développement d’une IA responsable, permettant à l’Union Européenne de rester compétitive dans ce domaine tout en adoptant une approche centrée sur la qualité.
Que doivent faire les entreprises qui utilisent l’IA pour le recrutement afin de se préparer pour ce règlement ?
En termes simples, les entreprises devront répertorier leurs usages de l’IA et, à partir de là, déterminer le niveau de risque et les réglementations associées. Commencez par établir votre stratégie globale en tant qu’entreprise pour l’IA, le recrutement et d’autres services. Cela aidera votre équipe à identifier les domaines dans lesquels l’IA peut être exploitée au mieux et à quel niveau de risque.
Quelles leçons pouvons-nous tirer du RGPD pour l’EU AI Act ?
À bien des égards, le RGPD est un précurseur de la loi sur l’IA. La protection des données personnelles, la transparence et le contrôle pour l’utilisateur final sont au cœur de ces deux textes. Le principe de base est que la gouvernance des données est un atout précieux. Si les processus en matière d’hygiène des données sont clairs, il est plus facile de respecter les réglementations et de prouver sa conformité lorsque c’est nécessaire.
Que conseillez-vous aux entreprises qui souhaitent utiliser l’IA de manière éthique et équitable dans le cadre du recrutement ?
L’IA est devenue un sujet sexy et d’actualité, qui alimente les conversations et les débats, car le nombre de possibilités qu’elle offre restent encore inconnues. Elle stimule notre imagination, mais ses défis et ses enjeux sont énormes. Faire la part des choses n’est pas toujours aisé. Se concentrer sur ces trois aspects peut s’avérer extrêmement utile pour mettre en place les meilleures pratiques en matière d’IA.
- Gestion des risques : les lois sur l’IA, a fortiori l’EU AI Act, visent à protéger les citoyens.Comprendre et respecter cette réglementation placera déjà les entreprises dans une bonne position pour utiliser l’IA de manière éthique et responsable.
- Gouvernance des données : entourez-vous de bons experts en interne, comme un délégué à la protection des données (DPO), pour vous aider à mettre en place les bonnes pratiques. L’IA est comme une voiture de course qui a besoin d’un carburant de qualité pour fonctionner correctement. Ce carburant, ce sont les données ! Nous devons nous assurer que le carburant est de haute qualité, sinon, nous risquons de rencontrer des problèmes avec la voiture.
- Supervision humaine : analysez soigneusement les résultats d’utilisation de l’IA dans vos processus en veillant à détecter les biais éventuels. Pour reprendre la métaphore de l’IA en tant que voiture, l’être humain doit rester le pilote. doit être vigilant et maîtriser sa trajectoire .
Pourquoi les entreprises doivent-elles utiliser l’IA dans leur processus de recrutement ?
L’IA révolutionne le recrutement en optimisant les processus et en favorisant l’équité et la transparence, ce qui se traduit par un meilleur retour sur investissement et, je l’espère, moins de discriminations à l’embauche et une plus grande humanité. En revanche, certaines entreprises, notamment européennes, hésitent à l’adopter. Elles craignent le risque de biais ou tout autre impact négatif de l’IA ainsi que les coûts nécessaires pour se conformer à la réglementation dans un contexte où chaque investissement doit générer un bénéfice concret.
La solution est-elle alors d’éviter complètement l’IA ? Je ne pense pas. Les entreprises qui agissent de la sorte risquent de perdre toute compétitivité à long terme. L’essentiel est d’avoir une vision démystifiée de l’IA et de ses objectifs. . Consultez notre article « Comment bien intégrer l’IA dans son recrutement » pour en savoir plus. On ne peut pas ignorer que l’IA devrait représenter des milliers de milliards de dollars de bénéfices annuels pour les entreprises à l’échelle mondiale. Ne pas utiliser l’IA revient donc à renoncer à de précieux bénéfices.
Faut-il s’attendre à un renforcement de la législation sur l’IA au cours de la prochaine décennie ?
Absolument, il est fort probable que la Commission Européenne et le Bureau Européen de l’IA renforce la réglementation sur l’IA. Je pense que nous verrons fleurir des lignes directrices sur mesure pour chaque secteur majeur, comme la santé, la finance et, bien sûr, le recrutement.
Plus généralement, l’impunité réglementaire dans le secteur technologique s’amoindrit. . Compte tenu de l’importance stratégique de la technologie dans notre monde digital , elle devra se conformer à la loi, comme le font tous les autres domaines de l’économie.
Comment le rôle du DPO évolue-t-il pour garantir la conformité des algorithmes de l’IA pour le recrutement à la nouvelle législation ?
Les DPO joueront un rôle central dans la conformité de l’IA et la gouvernance des données personnelles au sein de leur entreprise. L’émergence de postes dédiés à l’IA, comme « Directeur IA » (“Chief AI Officer”), est à prévoir, notamment dans les entreprises souhaitant accéder au marché européen. Les dirigeants devront indéniablement s’entourer d’experts en IA et en réglementation pour prendre les meilleures décisions..
Que fait SmartRecruiters pour s’adapter à l’EU AI Act et quels sont ses prochains défis ?
Actuellement, nous évaluons minutieusement notre utilisation actuelle et future de l’IA pour croiser ces informations avec les risques et les obligations légales s’y rapportant. Nous impliquerons ensuite l’ensemble des équipes concernées afin de prendre les mesures nécéssaires pour respecter les meilleures normes du secteur. Nous privilégions une approche proactive de la conformité, en mettant en place une stratégie de conformité dès les premières étapes d’un projet.
Nous sommes convaincus que l’IA jouera un rôle crucial dans l’avenir du recrutement et nous voulons être sûrs d’avoir un impact positif sur les équipes de recrutement et sur les candidats.
Notre équipe produit travaille selon une approche de la « conformité dès la conception » (“compliance by design”), ce qui nous permet d’assurer la conformité à chaque étape du développement de nos produits. Nous évaluons systématiquement notre plateforme actuelle et notre roadmap en fonction des risques et des exigences réglementaires, y compris l’EU AI Act, mais aussi les autres lois sur l’IA, comme celle du Colorado par exemple. Cette approche proactive nous permet de garantir la conformité et l’éthique de nos solutions basées sur l’IA dès les premières étapes du développement.
Outre la conformité réglementaire, notre priorité est d’instaurer un climat de confiance et de transparence avec nos clients et utilisateurs. Pour ce faire, nous avons créé un comité dédié à la confiance et à la sécurité, constitué de clients clés, d’experts du secteur et de responsables internes en charge de la recherche et du développement et de la conformité. Ensemble, ils travaillent à définir les meilleures pratiques et façonnent l’avenir de l’IA chez SmartRecruiters pour une utilisation éthique et conforme.
Dans les prochains mois, nous mettrons à la disposition de nos clients toute la documentation détaillant notre approche, nos principes directeurs et nos engagements en matière d’IA responsable.
Quelles ressources ou quels outils recommanderiez-vous aux professionnels RH pour respecter les réglementations en matière d’IA dans le domaine du recrutement ?
Le site internet du Parlement européen propose de nombreux articles expliquant la législation dans un langage facile à comprendre et applicable à tous les secteurs d’activité. Vous pouvez aussi consulter Ravit Dotan, docteur et Raymond Sun sur LinkedIn, deux profils très utiles pour suivre l’évolution de la réglementation de l’IA dans le monde.
L’EU AI Act vu par les experts de l’acquisition de talents.
Thibaut a récemment participé au webinaire de Recruiting Brainfood Live, La Loi sur l’IA : quelles implications pour les recruteurs, l’acquisition des talents et les RH.Regardez le replay et Thibaut Allard, Hung Lee, fondateur de Recruiting Brainfood, Martin Woodward, directeur juridique mondial chez Randstad, Jaap Kersten, juriste international chez Textkernel, et Vincent Slot, chef d’équipe R&D chez Textkernel, vous diront tout du réglement européen sur l’IA.
