Inauguration riality -Sopra Steria Next- Intelligence artificielle et éthique
Pendant la journée inaugurale du riality IA Lab Marseille, lors de la session Focus Partenaires, Sopra Steria Next a eu l’occasion de nous faire un retour d’expérience avec Pôle Emploi. Les différents intervenants parlent notamment du cadre dans lequel est développée l’intelligence artificielle chez Pôle Emploi et les valeurs éthiques qui sont en jeu. Ils reviennent aussi sur les différentes approches de pôle-Emploi pour dissiper toutes les critiques, toutes les peurs, les appréhensions autour de ce sujet.
Sommaire
Recap video Focus partenaires – Sopra Steria Next x Pôle Emploi
Un très beau projet d’utilisation de l’intelligence artificielle chez Pôle Emploi
Il s’agit en effet d’un très beau projet. D’après Frédéric Vadillo, bien évidemment l’intelligence artificielle, “ça peut faire peur”. Notamment, quand on applique cette intelligence artificielle à quelque chose d’aussi important que la trajectoire d’un demandeur d’emploi. Plusieurs questions se posent :
- Dans quel cadre est développée l’IA chez Pôle Emploi ?
- Quelles sont les valeurs éthiques en jeu ?
- Quels garde-fous Pôle Emploi a-t-il mis en œuvre pour éviter que toutes les critiques, toutes les peurs, puissent être dissiper ?
Pôle Emploi s’est positionné très tôt sur le caractère éthique et citoyen dans sa stratégie autour de l’IA
La stratégie de Pôle Emploi autour de l’IA
Par nature, l’intelligence artificielle doit être encadrée. Pôle Emploi s’est positionné très tôt sur le caractère éthique et citoyen dans sa stratégie autour de l’IA. Comment ? En promouvant une conception de l’ensemble des solutions déployées orientée sur l’utilisateur:
- par et pour l’utilisateur final;
- au sein d’un cadre éthique défini;
- et porté par la Direction Générale de l’établissement.
Cela suit une démarche conçue autour d’outils et de pratiques devant correspondre à une charte éthique:
- à la fois interne et externe,
- sur des aspects allant de la manipulation des données à des modes d’accès sécurisés;
- pour établir une confiance visant à éviter les biais;
- et à privilégier l’explicabilité des solutions déployées.
Un Comité éthique externe, pluridisciplinaire et regroupant différents acteurs des sphères publique, privée et académique, accompagne cette démarche. Sopra Steria Next livre des modules au fur et à mesure en suivant à chaque fois le même principe. C’est des aides à la décision, des propositions. Ainsi que des conseillers à tout moment, qui ont la main sur les décisions qui impactent les demandeurs d’emploi comme les entreprises. Tout ceci est fait en insistant sur l’importance de la transparence tout au long du processus.
L’intelligence artificielle est un levier de transformation
L’intelligence artificielle est un levier de transformation. C’est indéniable. Néanmoins, c’est également un accélérateur de retour à l’emploi. Pôle Emploi a largement contribué au programme Action Publique de 2022 lancé par l’État. Notamment, au travers du programme Intelligence Emploi. Comment accompagner la mise en œuvre de l’IA au sein de Pôle Emploi ? Quels sont les éléments mis en œuvre pour une plus grande accessibilité de cette technologie, de cette conduite du changement ?
Accompagner la mise en œuvre de l’IA au sein de Pôle Emploi
La démarche est très pragmatique. Elle permet de répondre à l’enjeu de pouvoir disposer d’une intelligence artificielle éthique et responsable. Et ce, afin de garantir un cadre de confiance. Cette démarche aussi qualifier de test and learn consiste à:
- proposer de nouvelles solutions aux utilisateurs;
- leur demander leur avis;
- et s’adapter et pivoter rapidement.
Ainsi, il est possible de s’appuyer sur les remontées du terrain, d’où l’intérêt d’avoir un espace, comme le lab riality, pour regrouper les bonnes personnes.
En somme, rappelle Sébastien Fadoul : “Notre démarche est pilotée par la valeur apportée aux utilisateurs“, avant d’insister sur le principe directeur de sa mise en œuvre : “L’IA propose et c’est l’humain qui dispose.”. “Nous sommes tous utilisateurs de l’IA […] c’est d’ailleurs ce qui nous a plus dans la démarche du riality, c’est de pouvoir rendre l‘intelligence artificielle accessible à tous“.
Transformation digitale des organisations
Blain rappelle que cette transformation s’accompagne de changements structurels. Notamment, la déconcentration ou encore un aplatissement des organigrammes. Cela se fait à la faveur d’une transversalité plus importante, guidé par un attachement particulier à l’intelligence collective au sein des agences. Pôle Emploi a d’ailleurs créé un lab dans la Région il y a 5 ans pour tester, expérimenter et réunir les publics pour améliorer ses solutions.
“Dans le contexte de la transformation digitale des organisations, qui permet à des organisations comme Pôle Emploi de faire des gains de productivité énormes : on fait en gros deux fois plus qu’il y a 15 ans à effectif constant”, Blain.
L’IA doit être utilisable, utilisée et utile
“L’humain est au centre de tout ce dispositif, c’est lui qui a le dernier mot. L’intelligence artificielle doit être vue comme un outil d’aide à la décision.”. Paoutoff met l’accent sur l’importance du volet accompagnement RH pour l’adoption de ces nouvelles solutions.
D’après Blain, “Le monde dans lequel nous sommes est ouvert”. Il rappelle aussi que Pôle Emploi travaille avec de nombreux partenaires et a intégré à sa stratégie l’apport des labs comme relais vers les écosystèmes, aussi bien qu’une politique robuste d’échange de données via des API, afin de faciliter encore plus l’interaction avec ce monde ouvert.
