Com més confiem en la intel·ligència artificial, menys aprenem amb ella

La irrupció de la intel·ligència artificial (IA) generativa està canviant com ens relacionem amb la tecnologia. Un sistema amb IA pot retornar-nos un resultat inadequat sense estar trencada o sense que l'estiguem emprant de manera inadequada. Simplement pot “equivocar-se” i, com faríem amb un humà, tenim l'opció de corregir-li.

Esta possibilitat fa que la confiança que depositem en la intel·ligència artificial i la manera d'emprar-la canvien substancialment respecte de com utilitzem altres ferramentes tecnològiques on sol ser molt més clar si s'ha produït algun error. Els sistemes amb IA ens obliguen a plantejar-nos si estan funcionant mal i verificar els resultats que ens van oferint.

Esta diferència afecta molt directament al sector educatiu, tant a professors com a alumnes. En este àmbit, les possibilitats de la IA van des de usar-la per a aprendre millor fins a un ús contraproduent per a l'aprenentatge. I la confiança que depositem en ella està estretament relacionada amb cada una d'estes dos opcions.

Tecnologia i confiança: una relació modificada

La confiança és un factor essencial en l'ús de la tecnologia. Mentres que l'excés de confiança pot generar dependència i quedar exposat quan eixa tecnologia falla (o es “equivoca”), la falta de confiança pot portar a un ús ineficient o fins i tot a rebutjar frontalment la seua utilització. En el context educatiu és menys problemàtic el segon que el primer: la desconfiança impulsaria a l'alumne a comprovar que la informació obtinguda és correcta, la qual cosa hauria de resultar positiu per al seu aprenentatge.

Per a comprovar si això és així, he investigat en quina mesura els estudiants universitaris confien en la informació proporcionada per la intel·ligència artificial i com la comproven.

Els resultats de l'estudi mostren que quasi el 80 % dels 132 estudiants participants la usen freqüent o molt sovint. Ni un només d'ells va afirmar no haver utilitzat mai esta ferramenta amb finalitats acadèmics.

Autopercepció enfront de realitat

Més del 75 % dels estudiants utilitzen mètodes considerats poc fiables per a comprovar els resultats oferits. Entorn del 40 % ni tan sols realitza accions bàsiques com sol·licitar les fonts en les quals es basa la resposta. Una cosa particularment preocupant tenint en compte que més del 75 % admet que les ferramentes d'intel·ligència artificial proporcionen respostes inadequades algunes vegades o molt sovint.

Però el més interessant és que la immensa majoria (més del 90 % dels enquestats) es considera capaç d'identificar respostes inadequades almenys ocasionalment, i cap va informar ser incapaç de fer-ho. En canvi, perceben que els professors no són capaços de detectar tals errors.

Subjectivitat irracional

La major part de les universitats estan impulsant l'ús de la IA amb formacions específiques tant per a docents com per als estudiants. Per exemple, la Universitat Camilo José Cela, on ensenye i investigue, està fent un notable esforç que va des de formació contínua fins a l'organització de grans esdeveniments com el Global Education Fòrum o el finançament d'investigacions com la que ens ocupa.

Però un elevat nombre d'alumnes desconfia de les ferramentes d'intel·ligència artificial de pagament proporcionades per la universitat perquè els preocupa veure compromesa la seua privacitat. Creuen que la universitat pot tindre accés a les seues consultes i saber si han emprat la IA de manera inadequada.

El nostre estudi evidencia un grau de subjectivitat irracional per part dels alumnes, que ens indica que l'ús que es fa d'esta ferramenta no és l'adequat. Això és així quant a la verificació de la informació, però també respecte de quins són les ferramentes més adequades per a l'ús acadèmic i com emprar-les. Molts docents observem en el dia a dia com els alumnes ni tan sols són conscients d'estar emprant-la malament en el seu procés d'aprenentatge.

A més confiança, pitjor aprenentatge

La intel·ligència artificial és útil per a completar les tasques acadèmiques, però això no implica necessàriament que ho siguen per a aprendre. Quan els alumnes confien en les respostes proporcionades per la IA i no comproven les seues indicacions, l'aprenentatge no pot ser el mateix.

Este excés de confiança en la IA dificulta el seu ús com a ferramenta d'aprenentatge, perquè no actua el pensament crític ni la metacognició: els processos mentals en funcionament quan necessitem resoldre un problema. Paradoxalment, gran part del temps que els estudiants es “estalvien” en estes tasques el dediquen a eliminar possibilitats de ser detectats en el seu ús de la IA.

Encara que la utilització de la IA puga ser clau per al seu acompliment laboral, els estudiants necessiten aprendre a usar-la com a ferramenta d'aprenentatge, una cosa distinta del seu hipotètic ús en l'àmbit professional. Queda per tant un llarg camí per a aconseguir que la IA s'integre de manera eficient en el context educatiu, i els estudis d'este tipus són necessaris per a anar prenent el pols i anar adoptant les mesures necessàries.

David Martín Moncunill, Professor Investigador en Interacció amb IA, Universitat Camilo José Cela

Este article va ser publicat originalment en The Conversation. Llija el original.