L’Agence espagnole de supervision de l’intelligence artificielle (AESIA) a animé l’une des activités parallèles du Tech Day avec une session consacrée à l’analyse de l’impact de l’intelligence artificielle sur la désinformation et l’égalité des genres. Animée par María Esteller Fernández, directrice adjointe des rapports et des infrastructures de test à l’AESIA, cette session a réuni des professionnels de l’innovation et de l’IA de la province d’Alicante afin d’examiner les principaux défis posés par le développement de ces technologies.
Plusieurs études de cas ont été présentées, illustrant comment les biais sociétaux peuvent être transférés aux systèmes d’intelligence artificielle. Un exemple cité était celui d’outils de recrutement qui rejetaient les candidates en se basant sur l’historique des recrutements d’entreprises ayant privilégié les candidats masculins.
Bien que ces systèmes aient été désactivés par la suite, les participants ont souligné qu’ils démontrent comment l’IA peut reproduire certains schémas lorsqu’elle est entraînée avec des données biaisées.
Un autre sujet abordé a été la génération d’images par intelligence artificielle et les biais sexistes qui persistent dans ce domaine. Les participants ont également abordé l’utilisation des technologies capables de créer des images sans consentement préalable, un problème qui suscite une inquiétude sociale croissante et soulève d’importants défis éthiques et réglementaires.
La session a également porté sur la surreprésentation des hommes dans les professions STEM (sciences, technologies, ingénierie et mathématiques) et sur la manière dont cette situation peut influencer la conception et le développement de solutions basées sur l’IA. Comme évoqué lors de la réunion, le manque de diversité au sein des équipes technologiques pourrait entraver l’identification précoce de certains risques liés à la violation des droits des femmes dès les premières étapes du développement.
Les participants ont réfléchi à l’existence de biais structurels sexistes qui se développent dès le plus jeune âge, notamment dans le système éducatif, et qui se transposent ensuite dans la sphère professionnelle. Ces schémas sociaux finissent par intégrer les données utilisées pour entraîner les modèles d’intelligence artificielle, contribuant ainsi à la perpétuation des inégalités existantes. À cet égard, l’importance de numériser et d’enrichir les données avec des perspectives plus diversifiées et représentatives a été soulignée afin de favoriser le développement de systèmes plus justes et équitables.
Dans le cadre des initiatives promues par l’AESIA, le lancement de groupes de travail en collaboration avec l’Institut des femmes a été annoncé. Ces équipes seront composées d’experts de différentes disciplines et aborderont des sujets liés à l’intelligence artificielle et à son impact social.
L’agence a expliqué que l’un des principaux objectifs de cette démarche est d’écouter les participants afin de comprendre leurs préoccupations et de les transmettre aux futurs groupes de travail, contribuant ainsi à l’élaboration de recommandations et de politiques mieux adaptées aux besoins réels de la société.
Parmi les participants à la session figuraient des professionnels d’Alicante liés à l’innovation et à l’intelligence artificielle, notamment Toni Sánchez, président d’Alicantec, Andrés Pedreño de 1MillionBot, Mar Cervera du Parc scientifique d’Alicante, Itziar Pérez, PDG de Dual Link, Celia Sánchez, directrice des opérations d’Ellis, Manuel Ciges, PDG de Vigilant, et María Mateo, ainsi que d’autres représentants de l’écosystème technologique provincial.
