La comunitat científica alerta contra la intel·ligència artificial: "Pot provocar l'extinció de la humanitat"

Més d'una vintena de científics reconeguts en el panorama internacional han signat conjuntament un manifest en què alerten dels perills potencials de la intel·ligència artificial si els governs de tot el món no adopten mesures per a supervisar esta tecnologia. Riscos "extrems" i a escala global que constitueixen una amenaça seriosa fins al punt de poder abocar l'ésser humà a la desaparició en el futur.

L'escrit, publicat este dilluns en la prestigiosa revista Science, alerta que si no s'adopten les "precaucions suficients" es podria arribar a un escenari en què les persones poden "perdre de manera irreversible el control dels sistemes d'IA autònoms", de manera que qualsevol intervenció de l'home seria inútil. En este context "la ciberdelinqüència a gran escala, la manipulació social i altres danys podrien augmentar ràpidament" i culminar en "una pèrdua de vides a gran escala" i "la marginació o extinció de la humanitat", adverteixen els 25 firmants.

En este grup d'experts hi ha científics reputats com Geoffrey Hinton i Yoshua Bengio —considerats els padrins de la intel·ligència artificial juntament amb Yann LeCun, i guanyadors del Premi Touring—, l'escriptor i historiador israelià Yuval Noah Harari, el computador xinés Andrew Chi-Chih Yao o el professor Philip Torr, del departament de Ciències de l'Enginyeria de la Universitat d'Oxford.

Tots junts llancen un avís sobre el perill que suposa un "avanç sense control de la intel·ligència artificial" i demanen a la societat que es prenga "seriosament" la possibilitat que d'ací a una dècada o dos es desenvolupen "sistemes d'IA altament potents que superen les habilitats humanes en molts dominis crítics". Justament per això defenen que cal un "consens social" per a regular una tecnologia que ara mateix no existeix com a tal, i insten a "reorientar" les polítiques globals perquè "les iniciatives de governança actuals no disposen de mecanismes i institucions per a previndre el mal ús i la imprudència, i a dures penes aborden els sistemes autònoms" afirma el text.

Els signants reclamen a les institucions supranacionals i els governs dels països que endurisquen els marcs normatius i els adeqüen al ràpid progrés tecnològic, perquè els vigents es queden "curts". Així, aposten per incrementar la transparència, augmentar els mecanismes de mitigació de riscs i regulacions més robustes, entre altres mesures.