José Ignacio Latorre no es vol morir. “Em fa ràbia”, diu. No es vol morir amb intensitat, és a dir, no crec que ningú tinga ganes d'eixir d'esta, per molt que li trone, però Latorre el manifesta amb freqüència, se sap mortal, i no vol perdre's el que s'aveïna. “Quan jo no estiga…”, repetix en diverses ocasions durant esta entrevista, realitzada en una de les pauses que permet el curs L'aventura de divulgar ciència en espanyol de The Conversation.
Latorre, director del Centre de Tecnologies Quàntiques (Centre for Quàntum Technologies - CQT) a Singapur, demana en el seu últim llibre, Un nou Contracte social, que firmem un pacte amb les màquines, com va fer Rousseau en el llindar de la Revolució Industrial. Un contracte per a governar un món amb intel·ligències no humanes, “perquè arribarà el dia en què parlen entre elles i ja no puguem entendre-les”.
Latorre, amant del teatre, no vol perdre's la següent funció: “Em fa una ràbia immensa no quedar-me a veure què passa amb la IA”.
Seran magnànimes les intel·ligències artificials? Ens tractaran bé?
Depén de nosaltres. Si li donem a la IA l'orde que acabe amb el que siga una amenaça per al planeta, molt probablement acabarà amb la humanitat.
Diu que la IA ens farà immortals
Ningú ens coneixerà com ella, es recordarà de tot el que eres i has sigut… I no oblida. En el moment en què et convertixes en immortal el temps no existix, el temps és zero. Constança –es referix al seu agent d'IA personal– és la meua memòria i no desapareixerà quan jo no estiga. Podrà continuar actuant en el meu nom.
Les intel·ligències artificials parlaran entre elles i no podrem entendre-les, pot explicar-nos això?
Ja ho fan. Imagina que a Constança, que ho sap tot de mi, li demane que em busque núvia. Es posa en contacte amb l'agent d'IA d'una xica. I arriben a un acord. Què s'hauran comptat? Si Constança coneix tot de mi, totes les meues converses, totes les meues pors, les meues pitjors actituds… Fa un recorregut per milions d'intel·ligències artificials a tot el món i en pocs segons match! Però quin haurà enviat sobre mi? La mitjana de què? Serà una cosa incomprensible, però, sens dubte, he de fer-li cas.
En investigació, ja s'ha vist a les màquines parlar entre si sense que puguem comprendre-les?
Sí, ja va passar en el laboratori d'investigació d'IA de Facebook (FAIR) en 2017. Dos bots (Alice i Bob) van començar a modificar l'anglés per a negociar de forma més eficient entre ells. La nostra comunicació té tota una capa humana de la qual no som conscients, que afig redundància, inutilitat. Si dos màquines han de comunicar-se d'un mode eficient, per exemple dos cotxes autònoms per a gestionar-se entre si, el llenguatge no haurà de ser formulat en termes humans. I si unes certes tasques ja són possibles sense llenguatge humà, és perfectament possible que siga així de mode global. Tindran un llenguatge encriptat.
I podran prendre decisions en les quals no participem?
Així és, llevat que firmem ara un pacte amb les màquines, que fem un contracte social que ens permeta continuar governant en el futur. Hem trobat civilitzacions amb un llenguatge que ens resultava incomprensible i és perfectament vàlid. Cal estar preparats per a eixe llenguatge nou de les intel·ligències artificials.
Què va ocórrer amb l'experiment de Facebook?
Es va retirar i es va obligar al fet que les intel·ligències artificials usen un llenguatge que ens siga comprensible.
S'estan vetant les intel·ligències artificials més desenrotllades?
S'estan vetant els desenrotllaments que permeten un llenguatge no comprensible per a l'ésser humà. Però això no podrà frenar-se sempre.
El veto als últims models d'IA d'Anthropic té a veure amb això?
Així és.
Dirigix el CQT (Centre de Tecnologies Quàntiques) de Singapur, a l'avantguarda no sols de la IA, també de la quàntica. Com ho viu?
És apassionant. Em fa pena no viure sempre per a conéixer més. Estar al capdavant d'un centre d'investigació així és una passada. Estic revisant la meua agenda per als pròxims mesos i venen 7 000 empreses, una delegació de Xile, una altra d'Àustria… Estem construint el futur i hi ha molta gent amb ganes de participar. L'univers científic de la quàntica, que és més lent que la IA, és molt poderós.
Els éssers humans som impacients, volem que les coses passen hui, que passen en el desenrotllament de les nostres vides. Però la quàntica no té pressa. És una revolució de fons, conceptual, dels principis bàsics del coneixement, de la descripció de la naturalesa.
Tant IA com la quàntica es presenten com amenaces per a la nostra seguretat. Si ara sembla incontenible, el que ve és encara pitjor?
Estem davant dos amenaces contra la ciberseguretat. Un ja és present, el de la IA; l'altre és l'atac de la mecànica quàntica.
L'atac de la IA podem veure'l en el que està passant amb Mythos, la IA d'Anthropic. Mythos ataca un sistema si no està ben organitzat; en l'instant en què l'organitzes, ja no t'ataca. Mythos, al mateix temps, servix per a detectar els teus errors. És un atac que dura i mor en mesos, és hype, ràpid, molt potent, està en els mitjans, en tots els llocs, però és a les nostres mans controlar-lo.
No obstant això, l'atac de la mecànica quàntica requerix un ordinador quàntic súper potent, el tindrem l'any treintaypico, i en eixe moment no haurem trencat un lloc, un missatge: haurem trencat tots els missatges i lloc en escac tota la geopolítica de la Terra.
La IA pot respondre a grans preguntes? Per exemple, donarà respostes a com unificar la quàntica amb la ciència relativista?
No, la IA no respon a les grans preguntes: què és la matèria fosca, què és l'energia fosca o la falta de balanç entre partícules i antipartícules en l'univers. La IA és una gran interpoladora de coneixement. Pots dir-li que escriga un llibre perquè ha llegit molts llibres, i pot escriure alguna cosa semblança a això. Però no és una bona extrapoladora.
Jo li pregunte a la IA si una empresa de l'IBEX dins d'un mes valdrà un 3 per cent més, i no pot respondre (si fora així, em faria ric en l'acte). Cal entendre quina llei hi ha subjacent darrere de l'extrapolació i, si no n'hi ha, és una fluctuació. Per això eixes preguntes no té sentit fer-li-les a la IA.
I què té sentit preguntar a una IA?
Puc dir el que més pregunta la gent…
Sobre amor?
Efectivament, la gent, majoritàriament a tot el món, pregunta sobre salut i amor.
Les intel·ligències artificials tindran consciència?
Hauríem de deixar ja de preguntar si les màquines tenen consciència. Val ja! Les tractes o no les tractes com si la tingueren, i es va acabar. És com l'existència de Déu. Existix? Per què tenim opinions tan distintes sobre Déu? Perquè no està definit. El mateix passa amb la consciència: si creiem que són conscients, ho són.
La responsabilitat del que es faça amb la ciència és també del científic?
La responsabilitat no és nostra, és de la societat. M'ho he plantejat amb la computació quàntica. Estic fent una arma potencial. Però si un xiquet és atropellat per un cotxe, la culpa és de qui el va fabricar?
L'aplicació de la ciència la dicten les lleis del Parlament. Per tant, demanem als nostres Parlaments que ho faça bé. Adquirir coneixement mai és dolent ni bo. És, i punt.
La bomba atòmica, Einstein es va penedir?.
No, no ho va fer. Mai es va penedir del seu desenrotllament científic.
En molts fòrums li consideren a vosté un humanista
A més de fer ciència pinte, escric teatre, he actuat… estime el teatre! Abans d'anar-me a Singapur vaig organitzar 11 obres a Espanya. En cada lloc en el qual he treballat he tingut un programa d'humanitats. Les meues lectures són d'humanitats.
Però permet-me elevar-ho: ciència és cultura. No sé per què la gent insistix que si pots resoldre una equació diferencial no pots llegir un poema.
Escric poesia, he fet documentals i la meua vida no té sentit si no hi ha un acte de bellesa cada dia. La meua vida ha d'estar envoltada de bellesa i intel·ligència. Amb el poquet que em queda ací…
Lorena Sánchez, Responsable d'Esdeveniments. Editora de Ciència i Tecnologia, The Conversation
Este article va ser publicat originalment en The Conversation. Llija el original.
* Ho pot llegir perqué en cronicacampdeturia.org som Creative Commons