La Agencia Española de Supervisión de la Inteligencia Artificial (AESIA) protagonizó una de las actividades paralelas al Tech Day con una sesión dedicada a analizar el impacto de la inteligencia artificial en la desinformación y la igualdad de género. La jornada estuvo liderada por María Esteller Fernández, subdirectora de Informes e Infraestructuras de Prueba de la AESIA, y reunió a profesionales vinculados a la innovación y la IA de la provincia de Alicante para reflexionar sobre algunos de los retos más relevantes que plantea el desarrollo de estas tecnologías.
Durante la sesión se abordaron diferentes casos que evidencian cómo los sesgos presentes en la sociedad pueden trasladarse a los sistemas de inteligencia artificial. Entre los ejemplos destacó el de herramientas de selección de personal que llegaron a descartar candidaturas femeninas al aprender de históricos de contratación de las empresas en las que anteriormente predominaba la selección de hombres.
Aunque este tipo de sistemas fueron posteriormente desactivados, los participantes señalaron que es el reflejo de cómo la IA puede reproducir determinados patrones si se entrena con datos sesgados.
Otro de los temas analizados fue la generación de imágenes mediante inteligencia artificial y los sesgos de género que todavía persisten en este ámbito. Los asistentes debatieron también sobre el uso de tecnologías capaces de crear imágenes sin consentimiento previo, una problemática que genera una creciente preocupación social y que plantea importantes desafíos éticos y regulatorios.
La sesión puso además el foco en la mayor presencia de hombres en las profesiones STEM (ciencia, tecnología, ingeniería y matemáticas) y en cómo esta circunstancia puede influir en el diseño y desarrollo de soluciones basadas en IA. Según se expuso durante el encuentro, la falta de diversidad en los equipos tecnológicos podría dificultar la identificación temprana de determinados riesgos relacionados con la vulneración de los derechos de las mujeres desde las primeras fases de desarrollo.
Los participantes reflexionaron sobre la existencia de sesgos estructurales de género que se desarrollan desde etapas tempranas, como la educación, y que posteriormente se trasladan al ámbito profesional. Estos patrones sociales terminan formando parte de los datos con los que se entrenan los modelos de inteligencia artificial, contribuyendo a perpetuar desigualdades ya existentes. En este sentido, se destacó la importancia de digitalizar y enriquecer los datos con perspectivas más diversas y representativas para favorecer el desarrollo de sistemas más justos y equitativos.
Como parte de las iniciativas impulsadas por AESIA, se anunció la puesta en marcha de grupos de trabajo en colaboración con el Instituto de las Mujeres. Estos equipos estarán integrados por expertos y expertas de diferentes disciplinas y abordarán temáticas relacionadas con la inteligencia artificial y su impacto social.
Desde la agencia explicaron que uno de los principales objetivos de este proceso es escuchar a los asistentes para conocer sus preocupaciones y trasladarlas a los futuros grupos de trabajo, contribuyendo así a la construcción de recomendaciones y políticas más alineadas con las necesidades reales de la sociedad.
Entre los asistentes a la sesión se encontraban profesionales alicantinos vinculados al ámbito de la innovación y la inteligencia artificial, entre ellos Toni Sánchez presidente de Alicantec, Andrés Pedreño de 1MillionBot, Mar Cervera del Parque Científico de Alicante, Itziar Pérez CEO en Dual Link, Celia Sánchez COO en Ellis, Manuel Ciges CEO de Vigilant, y María Mateo, además de otros representantes del ecosistema tecnológico provincial.
