La Universitat Politècnica de Valencia (UPV) se encuentra involucrada en un proyecto europeo cuyo objetivo es proteger los sistemas de Inteligencia Artificial (IA) contra ciberataques. Este proyecto se concentra en intensificar la seguridad de la IA frente a los denominados ataques adversarios, que intentan engañar a los sistemas haciéndoles interpretar datos dañinos como si fueran legítimos.
Según el investigador Salvador Cuñat, del grupo SATRD de la UPV, estos ataques son especialmente preocupantes en ámbitos como la seguridad informática, la visión por computador o el procesamiento del Lenguaje Natural (NLP). Por ejemplo, estos ataques pueden alterar el código de un malware para que sea interpretado como seguro por los antivirus, modificar correos electrónicos para que no sean detectados como phishing o spam, cambiar levemente huellas digitales artificiales para evadir sistemas de control o modificar textos con errores ortográficos o símbolos invisibles para confundir detectores de discursos de odio o noticias falsas.
Cuñat destaca que tales ataques pueden causar problemas menores, como confusiones en modelos de IA, pero también pueden resultar en incidentes graves como accidentes, fraudes o brechas de seguridad. Por esta razón, es fundamental desarrollar nuevos instrumentos para combatirlos. Entre los objetivos del proyecto se incluye el desarrollo de una plataforma de seguridad que hará los sistemas de IA más robustos contra estos ciberataques.
El proyecto también contempla el lanzamiento de la herramienta Cyber Ranges, destinada a entrenar a profesionales en ciberseguridad aplicada a la IA. El programa se dirige a desarrolladores de IA, analistas de datos, empresas y organizaciones de varios sectores que integran la IA en sus operaciones, así como asociaciones industriales, proveedores de ciberseguridad y la comunidad científica.
Cuñat concluye que el proyecto pretende proporcionar mayor protección y resistencia a los sistemas de IA ante los ataques adversarios, así como desarrollar herramientas para asegurar la privacidad y seguridad en la IA, fomentando además una mayor confianza y adopción de la inteligencia artificial en Europa.
El proyecto CPAID, financiado por la Unión Europea bajo el programa Horizon Europe (HORIZON-CL3-2023-CS-01), es coordinado por Uni Systems Luxembourg Sàrl y tiene prevista su finalización en septiembre de 2027.
