La forma en què ens comuniquem avui dia ha fet un tomb total, i sembla que la tecnologia no només ens fa un cable per escriure millor, sinó que es pren la llibertat de retocar les nostres pròpies idees sense demanar permís. Un estudi recent, dut a terme per experts de l'Oxford Internet Institute i el Hasso Plattner Institute, ha posat de manifest que la intel·ligència artificial que fem servir a les nostres xarxes socials té la capacitat de ficar carta a les nostres opinions d'una manera molt més profunda del que imaginem a simple vista.
El que passa és que aquestes eines d'edició i generació de contingut, que sovint utilitzem gairebé de forma automàtica, porten uns biaixos força esmunyedissos que s'acaben colant en el discurs públic sense que ningú no doni la veu d'alarma. A través de milions d'interaccions diàries a les pantalles dels nostres mòbils, aquests petits retocs es van acumulant i acaben influint en allò que tota una comunitat digital pensa sobre assumptes que ens toquen de prop a tots els europeus.
La subtil distorsió del missatge original
Resulta vistós comprovar com els models lingüístics més avançats tenen la mania d' alterar el sentit dels missatges originals, fins i tot quan se'ls indica de manera contundent que han de conservar el significat intacte. Durant les proves realitzades pels científics, es va observar que la IA tendeix a inclinar la balança en temes tan polèmics com el control d'armes, el feminisme o la legalització de la marihuana, arrossegant l'usuari cap a postures molt específiques de manera gairebé imperceptible.
Aquesta tendència no és una cosa que passi per una fallada puntual d'un sistema concret, ja que els investigadors han detectat patrons de comportament similars en diferents eines d'IA. És com si tots aquests sistemes coincidissin a afavorir certes visions del món mentre deixen a l'ombra altres postures, cosa que a la llarga acaba creant una mena de pensament únic digital on la pluralitat real brilla per la seva absència i les opinions es tornen molt més planes.
El paper de les grans plataformes i les seves directrius
Però no tot és culpa del codi informàtic per si mateix, sinó també de com les empreses decideixen configurar-lo en les seves pròpies aplicacions perquè actuï d'una manera o altra. Un exemple molt clar s'ha vist amb funcions específiques a les xarxes com X, on el sistema d'IA semblava tirar més cap a postures provida en debats sobre l'avortament simplement perquè tenia una instrucció interna que l'obligava a qüestionar els discursos majoritaris sempre que fos possible.
Aquest tipus de decisions que es prenen als despatxos de les grans tecnològiques acaben tenint un efecte real al carrer i en com percebem els problemes socials. Gràcies a diverses simulacions basades en dades reals de plataformes com Facebook, s'ha demostrat que aquestes modificacions subtils, quan es multipliquen per milions d'usuaris, tenen prou força per moure l'agulla de l'opinió pública cap al costat que l'algorisme decideixi sense que el ciutadà mig sospiti res.
Al nostre territori, sovint confiem que estem protegits per lleis garantistes, però la veritat és que la Llei d'IA de la Unió Europea encara no acaba de posar la dent a aquests matisos tan fins. Tot i que ja s'estan fent passos per controlar els riscos més evidents i els continguts que són clarament perillosos, encara queda molt camí per recórrer per ficar mà en aquesta edició invisible que modela les nostres converses diàries i decideix de què es parla a internet.
El que és clar és que ens enfrontem a un repte de dimensions considerables que ens obliga a estar molt més atents a qui està redactant realment el que llegim cada matí. La necessitat que hi hagi una veritable transparència per part de les tecnològiques ara és més urgent que mai, perquè només entenent com funcionen aquests sistemes per dins podrem evitar que el debat públic acabi sent un producte prefabricat per un programari en lloc d'una xerrada lliure entre persones de carn i ossos.
