El MIT llança un xatbot per a desmuntar teories de la conspiració

L'experiment, publicat en Science, convenç un de cada quatre negacionistes

Simulació d'un home gastant un xatbot en un dispositiu mòbil
Simulació d'un home usant un xatbot en un dispositiu mòbil / Shutterstock

Una conversa personalitzada, encara que siga breu, amb un bot basat en intel·ligència artificial, pot reduir la creença en teories de la conspiració d'una persona. I el canvi d'opinió, fins i tot, es prolonga en el temps. Són, almenys, les conclusions d'un estudi que publica la revista Science, on exposa el secret de l'èxit d'esta nova ferramenta desenvolupada a l'Institut Tecnològic de Massachusetts (MIT) per a combatre informacions falses, com el terraplanisme o el negacionisme climàtic. Són dos els elements que aconsegueixen convéncer els usuaris: explicacions detallades de per què la teoria en qüestió no és de veres, combinades amb dosis d'amabilitat.

El robot forma part d'un experiment dut a terme per un equip d'investigadors estatunidencs de la Universitat Americana, el MIT i la Universitat de Cornell amb més de 2.000 creients en alguna classe de teoria conspiranoica, entre altres, relatives a la pandèmia de covid-19 i al frau en les eleccions presidencials del 2020 als Estats Units. Les converses amb la intel·ligència artificial, organitzades en tres rondes i amb una duració mitjana de 8,4 minuts, reduïren la creença mitjana dels participants en una informació falsa en vora un 20%. Fins i tot, en aquells en què estava profundament arrelada. Aproximadament un de cada quatre va renegar de la conspiració després de parlar amb el xatbot i, en avaluar-los dos mesos després, l'efecte persistia.

Encara que els resultats són prometedors i suggereixen un futur en el qual la intel·ligència artificial pot jugar un paper important en la disminució de les teories de la conspiració i les informacions falses, sempre que s'utilitze de manera responsable. Això sí, el MIT remarca que caldrà més estudis sobre els efectes a llarg termini, utilitzant diferents models d'intel·ligència artificial i aplicacions pràctiques fora d'un entorn de laboratori.

Les teories conspiratives, "creences que alguna organització malèvola secreta, però influent, és responsable d'un esdeveniment o fenomen", són "notòriament persistents i representen una amenaça seriosa per a les societats democràtiques", explica la Universitat Americana en un comunicat. La creença persistent en esta mena de tesis malgrat tindre l'evidència clara en contra "sol explicar-se per processos psicosocials que satisfan necessitats psicològiques i per la motivació de mantindre la identitat i la pertinença grupal".

No obstant això, "molts conspiracionistes estaven disposats a canviar d'opinió quan se'ls presentaven proves convincents", indica l'autor principal de l'estudi, Thomas H. Costello, de la Universitat Americana.

Contrarestar desinformació "a escala massiva"

L'investigador Costello reconeix que al principi el van sorprendre bastant els resultats obtinguts, però la lectura de les converses el va fer "molt menys escèptic" respecte del robot. "En cada ronda de conversa, la IA va proporcionar explicacions molt detallades de per què la conspiració en qüestió era falsa, i també es va mostrar molt amable amb els participants". El bot estava dissenyat perquè fora molt persuasiu i involucrara els participants en eixos diàlegs a mida. GPT-4 turbo, el model d'intel·ligència artificial de ChatGPT, refutava totes les afirmacions conspiratives dels voluntaris.

L'estudi demostra com la capacitat de la IA per a connectar diversos temes d'informació en qüestió de segons fa possible adaptar contraarguments a conspiracions específiques d'un creient de maneres que no són possibles per a un humà. "Encara que s'ha parlat molt del potencial de la IA generativa per a fomentar la desinformació, la nostra recerca demostra que també pot ser part de la solució", diu David Rand, coautor de l'estudi i professor del MIT. Este expert considera que "els grans models lingüístics com GPT4 tenen el potencial de contrarestar les conspiracions a escala massiva".

També et pot interessar

stats