La Universitat Politècnica de Valencia (UPV) está colaborando en una iniciativa europea cuyo objetivo es proteger los sistemas de Inteligencia Artificial (IA) contra ciberataques. Este proyecto se enfoca en mejorar la seguridad de la IA en relación con los denominados ataques adversarios.
Estos ataques buscan engañar a la IA para que interprete datos maliciosos como si fueran seguros. Salvador Cuñat, investigador del grupo SATRD de la UPV, destaca que estos ataques “son especialmente críticos en áreas como la seguridad informática, la visión por computadora o el procesamiento de Lenguaje Natural (NLP)”, según un comunicado de la institución.
Por ejemplo, a través de estos ataques, el código de un malware podría ser alterado para que un antivirus lo considere inofensivo. Asimismo, podrían realizarse pequeños cambios en correos electrónicos para eludir los detectores de phishing o spam, así como modificar huellas digitales sintéticas para superar sistemas de control de acceso. Otro caso es la ligera alteración de un texto con errores ortográficos o símbolos invisibles para engañar a un detector de discursos de odio o noticias falsas.
“Los ataques pueden causar desde problemas menores, como que un modelo de IA confunda un animal, hasta provocar accidentes, fraudes y filtraciones de seguridad. Por ello, es crucial desarrollar nuevas herramientas para combatirlos”, afirmó Cuñat.
Uno de los principales objetivos del proyecto es desarrollar una nueva plataforma de seguridad que refuerce la resistencia de los sistemas de IA ante estos ataques cibernéticos. Además, se planea implementar la herramienta Cyber Ranges para capacitar a profesionales de IA en ciberseguridad. El proyecto está dirigido especialmente a desarrolladores de IA, analistas de datos, empresas y organizaciones que utilizan IA, asociaciones industriales, proveedores de ciberseguridad y la comunidad científica.
“Este proyecto busca ofrecer mayor protección y resiliencia a los sistemas de IA frente a los ‘adversarial attacks’, además de proporcionar nuevas herramientas para garantizar la seguridad y privacidad en la IA. También tiene el objetivo de aumentar la confianza y facilitar una adopción más amplia de la inteligencia artificial en Europa”, concluyó Cuñat.
El proyecto CPAID, financiado por la Unión Europea a través del programa Horizon Europe (HORIZON-CL3-2023-CS-01), está coordinado por Uni Systems Luxembourg Sàrl y está previsto que finalice en septiembre de 2027.
