#Infància #SiraRego #Grok

Investigació sobre l'ús de la intel·ligència artificial Grok per a la producció d'imatges sexualitzades

La ministra de Joventut i Infància, Sira Rego, ha enviat una petició a la Fiscalia General del Estat per investigar l'ús de Grok, la intel·ligència artificial integrada a la xarxa social X, per la producció d'imatges sexualitzades de menors. Aquesta acció es produeix després de la difusió d'un informe que revela l'ús sistemàtic d'aquesta tecnologia per a desnudar a dones i xiquets sense el seu consentiment.

En el seu escrit, Sira Rego ha explicat que es tracta de «material de violència sexual contra persones menors de edad», i ha demanat que s'investigue si aquest ús de Grok pot constituir un delicte de pornografia infantil, tal com es recull en l'Article 189 del Codi Penal. La ministra ha destacat que «pràctiques que vulneren greument la dignitat, la intimitat i els drets fonamentals de xiquets i adolescents en l'entorn digital» no poden ser considerades com un ús neutre de la tecnologia.

El ministeri ha al·lusat a una sentència del Jutjat de Menors de Badajoz que condemna l'ús de la intel·ligència artificial per manipular imatges de menors. Aquesta resolució reconeix aquestes pràctiques com una forma de violència digital, tipificada com a delicte de pornografia infantil i contra la integritat moral. Sira Rego ha demanat una actuació «urgente» de la Fiscalia per uns fets que considera «gravíssims» i que requereixen mesures per garantir la protecció de la infància també a internet.

Espanya se suma així a altres països que han demanat actuacions contra Grok. França va anunciar el 2 de gener que presentaria una denúncia per la creació i difusió de «continguts de caràcter sexista i sexual manifestament il·legal». El Govern britànic també ha demanat a Elon Musk que adopti mesures urgents per frenar l'ús de Grok. La ministra britànica de Tecnologia, Liz Kendall, ha donat suport a les advertències del regulador de comunicacions, OFCOM.

Actualment, el Congrés de Diputats està tramitant la Llei Orgànica per a la Protecció de les Persones Menors de Edat en els Entorns Digitals, que busca situar la dignitat i els drets de la infància al centre de l'espai digital. Aquesta llei planteja elevar l'edat mínima per a l'ús de xarxes socials de 14 a 16 anys, i reforça el marc de protecció de la integritat i la intimitat personal davant de noves formes de vulneració vinculades a l'ús de tecnologies com la intel·ligència artificial.

La iniciativa forma part d'una estratègia més àmplia per construir entorns digitals segurs, reconeixent que internet no va ser dissenyat pensant en la infància. La llei reafirma que l'interès superior del menor ha de prevaler sempre davant de qualsevol model de negoci digital.

La data de la sentència del Jutjat de Menors de Badajoz és del 20 de juny de 2024.

Redacció Crònica