Un acuerdo para frenar la violencia digital en sistemas de inteligencia artificial
La Agencia Española de Supervisión de la Inteligencia Artificial y el Ministerio de Igualdad han firmado un convenio de colaboración para combatir la violencia digital y detectar sesgos de género en los sistemas de inteligencia artificial.
El acuerdo ha sido impulsado por el Ministerio para la Transformación Digital y de la Función Pública, dirigido por Óscar López, junto al Ministerio de Igualdad, encabezado por Ana Redondo, a través del Instituto de las Mujeres.
El objetivo principal es reforzar la protección de los derechos fundamentales frente a los riesgos que plantea el uso de la inteligencia artificial, especialmente en relación con la violencia digital que afecta a mujeres y menores.
Colaboración con la Comisión Europea para investigar el uso de IA en redes sociales
Dentro de esta estrategia contra la violencia digital inteligencia artificial, la AESIA colaborará con la Comisión Europea aportando evidencias técnicas y documentales en la investigación abierta sobre el uso de inteligencia artificial en la plataforma X y su asistente de IA Grok.
Durante el acto “Igualdad Digital Ya”, celebrado con motivo del Día Internacional de la Mujer, el ministro Óscar López explicó la gravedad de algunas prácticas detectadas en redes sociales.
Según señaló, algunos usuarios manipulan imágenes de menores mediante herramientas de inteligencia artificial para generar contenido sexualizado falso.
“No vamos a permitir que las redes sociales y la inteligencia artificial se conviertan en la ley de la selva”, afirmó el ministro.
La recopilación de pruebas para la investigación europea cuenta también con la colaboración del Instituto Nacional de Ciberseguridad.
Un informe sobre violencia digital en España
El Instituto de las Mujeres elaborará además un informe sobre la situación de la violencia digital inteligencia artificial en España, que recogerá evidencias aportadas por instituciones públicas, expertos y organizaciones sociales.
Este documento se remitirá a las autoridades europeas con el objetivo de reforzar la protección de los derechos fundamentales y contribuir al desarrollo de un entorno digital más seguro.
La iniciativa se enmarca dentro de los esfuerzos de la Unión Europea para regular el uso de la inteligencia artificial y garantizar que las tecnologías emergentes respeten los principios democráticos.
Declaración institucional sobre inteligencia artificial y derechos fundamentales
La AESIA y el Instituto de las Mujeres han firmado también una declaración institucional titulada “Protección de derechos fundamentales de la mujer y menores en un mundo generado por la inteligencia artificial”.
En este documento ambas instituciones advierten de que la violencia digital inteligencia artificial puede tener graves consecuencias para la igualdad de género y para la participación de las mujeres en la vida pública.
El texto subraya que la proliferación de contenidos misóginos, sexistas o de odio en internet puede desalentar el liderazgo femenino y afectar a la calidad de la democracia.
Además, alerta de que los abusos digitales pueden traspasar el ámbito virtual y provocar:
-
problemas de salud mental
-
situaciones de acoso
-
violencia física
-
amenazas contra la integridad de las víctimas
Por ello, las instituciones firmantes piden a la Unión Europea que continúe liderando la lucha contra la violencia digital en el entorno tecnológico.
Un convenio para detectar sesgos de género en la inteligencia artificial
El convenio entre la AESIA y el Instituto de las Mujeres establece un marco de cooperación para integrar la perspectiva de género en todo el ciclo de supervisión de los sistemas de inteligencia artificial.
Entre sus objetivos destacan:
-
detectar y prevenir sesgos de género en algoritmos
-
evitar discriminación en decisiones automatizadas
-
supervisar sistemas de IA considerados de alto riesgo
-
reforzar la protección de derechos fundamentales
La AESIA se compromete a alertar sobre posibles riesgos, compartir documentación técnica, realizar pruebas y formar a su personal en materia de igualdad.
Promover una inteligencia artificial ética y responsable
El acuerdo también contempla acciones para fomentar una inteligencia artificial ética y responsable, alineada con los principios de igualdad y no discriminación.
Entre las iniciativas previstas se encuentran:
-
campañas de sensibilización sobre violencia digital
-
programas de formación sobre igualdad en inteligencia artificial
-
participación conjunta en el Laboratorio de Ideas de AESIA
-
elaboración de estudios e informes especializados
-
organización de talleres y eventos de debate
Estas actividades buscan impulsar una cultura tecnológica que respete los derechos humanos y promueva la igualdad en el entorno digital.
Comisión de seguimiento del acuerdo
Para garantizar la aplicación del convenio, se creará una comisión de seguimiento formada por representantes de ambas instituciones.
Este órgano se encargará de:
-
supervisar el desarrollo de las actuaciones
-
planificar nuevas iniciativas
-
evaluar los resultados del acuerdo
La comisión garantizará la continuidad de las acciones destinadas a combatir la violencia digital inteligencia artificial durante la vigencia del convenio.
