El Ayuntamiento de València ha dado un paso pionero en el ámbito de la transformación digital al crear un comité de ética destinado a regular y supervisar el uso de la inteligencia artificial (IA) en los servicios municipales. El nuevo órgano, denominado Comité de Ética y Gobernanza de la Inteligencia Artificial (CEGIA), velará por que la implantación de estas tecnologías se realice de forma responsable, justa y conforme a la ley.
La iniciativa ha sido impulsada por la concejala de Innovación, Tecnología, Agenda Digital y Captación de Inversiones, Paula Llobet, y nace con el objetivo de anticiparse a los riesgos que conlleva el uso de sistemas automatizados en la toma de decisiones públicas.
Un órgano para garantizar una IA ética
El CEGIA se configura como un órgano técnico colegiado de seguimiento, asesoramiento y control. Su misión principal será asegurar que todas las aplicaciones de inteligencia artificial utilizadas por el consistorio respeten principios fundamentales como la legalidad, la transparencia y la equidad.
Entre sus funciones destaca la de facilitar una implantación armónica e integradora de la IA en los distintos departamentos municipales, evitando que cada área actúe de manera aislada o sin criterios comunes.
Los cuatro grandes retos
La moción presentada por Llobet identifica cuatro desafíos clave que deberán guiar el trabajo del comité:
- Evitar sesgos algorítmicos que puedan generar discriminaciones.
- Garantizar la trazabilidad de los algoritmos empleados.
- Asegurar el cumplimiento de la normativa sobre protección de datos y derechos digitales.
- Mantener siempre la supervisión humana sobre decisiones automatizadas.
Estos principios buscan impedir que la tecnología sustituya el criterio humano en procesos sensibles, especialmente aquellos que afectan directamente a los derechos de la ciudadanía.
Respaldado por la Sindicatura de Comptes
La creación del CEGIA se apoya también en las recomendaciones de la Sindicatura de Comptes, que en diversas auditorías ha alertado de la necesidad de establecer marcos normativos claros y órganos específicos de control ante el despliegue de nuevas tecnologías en las administraciones públicas.
Ya en 2023, este organismo subrayó la importancia de que los ayuntamientos definieran estrategias explícitas para una adopción ética y responsable de la inteligencia artificial.
Composición del comité
El nuevo comité estará presidido por la persona titular de la Concejalía de Tecnología y Agenda Digital y contará con responsables de distintos servicios municipales, entre ellos Secretaría, Empleo, SerTIC, Innovación, Coordinación Tributaria, Sociedad de la Información y la fundación municipal Las Naves.
Con esta iniciativa, València se sitúa entre las primeras grandes ciudades españolas en dotarse de un órgano específico para supervisar la inteligencia artificial, en un contexto en el que la digitalización de la administración avanza rápidamente y exige nuevas garantías éticas y legales.
