#Intel·ligènciaArtificial #Ciberseguretat #València

La Universitat Politècnica de València participa en un projecte europeu per blindar la intel·ligència artificial davant dels adversarial attacks, una forma d’atac que manipula els sistemes perquè interpreten com a segurs elements que no ho són.

La Universitat Politècnica de València està posada fins al coll en un projecte europeu que vol protegir la intel·ligència artificial d’una de les amenaces més difícils de detectar: els adversarial attacks. Dit més pla: atacs que no es basen a rebentar els sistemes des de fora, sinó a enganyar-los des de dins, fent-los creure que allò perillós és inofensiu.

És com si li posares una disfressa al virus i el sistema el deixara passar perquè pensa que és segur.

Salvador Cuñat, investigador del grup SATRD de la UPV, ho deixa clar: “Aquests atacs són especialment crítics en camps com la seguretat informàtica, la visió per computador o el processament del llenguatge natural”. I els exemples no són teòrics, són molt concrets.

Un atac d’aquest tipus pot fer que un antivirus classifique com a segur un malware, només amb canvis mínims al codi. O manipular un correu perquè el filtre de phishing no el detecte. Fins i tot es poden alterar lleugerament textos —amb faltes ortogràfiques o símbols invisibles— per a burlar sistemes que identifiquen discursos d’odi o fake news.

Encara que en alguns cas el resultat és una anècdota —com una IA que confon un gos amb un gat—, també pot acabar en fraus, accidents o filtracions greus. Per això, el projecte europeu on participa la UPV vol desenvolupar ferramentes que facen els sistemes d’intel·ligència artificial més resistents.

Un dels objectius és posar en marxa una nova plataforma de seguretat pensada per a detectar este tipus d’enganys digitals. I també formar equips humans: per això, el projecte inclou la creació de Cyber Ranges, un entorn d’entrenament per a professionals de la ciberseguretat aplicada a la IA.

El projecte CPAID, que està finançat per la Unió Europea a través del programa Horizon Europe, té com a data de finalització el setembre de 2027. El lidera Uni Systems Luxembourg Sàrl i està pensat per a tot l’ecosistema tecnològic: desenvolupadors, analistes, empreses, associacions i investigadors que treballen colze a colze amb la intel·ligència artificial cada dia.

Cuñat ho resumeix amb una frase: “Es tracta d’oferir més protecció, més confiança i més garanties perquè la intel·ligència artificial es puga integrar amb seguretat en tots els àmbits de la societat europea”.

Redacció Crònica