La Universitat Politècnica de Valencia (UPV) forma parte de un proyecto europeo con el objetivo de proteger los sistemas de Inteligencia Artificial (IA) ante ciberataques. Este proyecto se centra en fortalecer la seguridad de la IA frente a los denominados ataques adversarios.
Estos ataques tratan de inducir a error a la IA, haciendo que interprete datos maliciosos como si fueran válidos. Salvador Cuñat, investigador del grupo SATRD de la UPV, ha explicado que estos ataques son especialmente críticos en áreas como la seguridad informática, la visión por computadora o el procesamiento de Lenguaje Natural (NLP), según informa la universidad en un comunicado.
Por ejemplo, los ataques pueden alterar el código de un malware para que el antivirus no lo detecte, crear correos electrónicos con pequeños cambios que eviten ser identificados por los filtros de phishing o spam, modificar huellas digitales sintéticas para eludir sistemas de acceso, o alterar mínimamente un texto para burlar detectores de discursos de odio o noticias falsas.
Cuñat destacó que estos ataques pueden causar problemas menores, como un modelo de IA que confunde a un animal, pero también pueden dar lugar a accidentes, fraudes o brechas de seguridad, subrayando la importancia de desarrollar herramientas para combatirlos.
El proyecto busca, entre otros objetivos, desarrollar una nueva plataforma de seguridad que fortalezca los sistemas de IA frente a estos ciberataques. También propone la implementación de la herramienta Cyber Ranges, destinada a capacitar a profesionales de IA en ciberseguridad. Está dirigido principalmente a desarrolladores y analistas de datos, empresas y organizaciones que integran la IA en sus operaciones diarias, asociaciones industriales, proveedores de ciberseguridad y la comunidad científica.
“Este proyecto busca ofrecer más protección y resiliencia a los sistemas de IA frente a los ataques adversarios, y proporcionar herramientas que garanticen su seguridad y privacidad, además de fomentar la confianza y una adopción más amplia de la inteligencia artificial en Europa”, concluyó Cuñat.
El proyecto CPAID está financiado por la Unión Europea a través del programa Horizon Europe (HORIZON-CL3-2023-CS-01), es coordinado por Uni Systems Luxembourg Sàrl y se espera finalizar en septiembre de 2027.
