La Universitat Politècnica de Valencia (UPV) está colaborando en un proyecto europeo destinado a proteger los sistemas de Inteligencia Artificial (IA) contra ciberataques. Este esfuerzo se enfoca en mejorar la seguridad de la IA frente a los denominados ataques adversarios, los cuales intentan engañar a la inteligencia artificial para que interprete datos maliciosos como datos válidos.
El investigador Salvador Cuñat, del grupo SATRD de la UPV, ha destacado que estos ataques son particularmente peligrosos en campos como la seguridad informática, la visión por computador y el procesamiento del Lenguaje Natural. Según un comunicado de la universidad, ejemplos de dichos ataques incluyen la modificación de código de malware para que un antivirus lo considere inofensivo, la creación de correos electrónicos con alteraciones menores para evadir detectores de phishing o spam, alterar huellas digitales sintéticas para esquivar sistemas de control de acceso, o realizar pequeñas modificaciones en textos para engañar a detectores de discursos de odio o noticias falsas.
Estos ataques pueden tener consecuencias leves, como confundir un modelo de IA al identificar un animal, o provocar situaciones graves como accidentes, fraudes y filtraciones de seguridad, lo que subraya la importancia de desarrollar herramientas avanzadas para combatirlos, según Cuñat.
El proyecto tiene como objetivo la creación de una nueva plataforma de seguridad que fortalezca los sistemas de IA frente a estos ataques. Además, se propone el desarrollo de Cyber Ranges, una herramienta para entrenar a profesionales de la IA en ciberseguridad. Esta iniciativa está dirigida a desarrolladores de IA, analistas de datos, empresas, organizaciones que emplean la inteligencia artificial, asociaciones industriales y proveedores de ciberseguridad, así como la comunidad científica.
“El proyecto busca ofrecer más protección y resiliencia a los sistemas de IA frente a los ‘adversarial attacks’, proporcionando nuevas herramientas para asegurar la privacidad y seguridad en la inteligencia artificial, y mejorando su aceptación y confianza en Europa”, concluyó Cuñat.
Financiado por la Unión Europea a través del programa Horizon Europe, CPAID es coordinado por Uni Systems Luxembourg Sàrl y está previsto que finalice en septiembre de 2027.
