OpenAI revela l’ús de l’IA en campanyes d’influència
La companyia tecnològica OpenAI ha publicat un informe que posa de manifest com les seves eines d’intel·ligència artificial (IA) s’han utilitzat per influir en el discurs polític i executar propaganda encoberta. Segons l’informe, diverses campanyes de països com Rússia, la Xina, l’Iran i Israel han fet servir l’eina ChatGPT de OpenAI per difondre contingut enganyós a Internet (https://www.softcatala.org/resum-de-textos-en-catala/).
L’informe destaca que OpenAI ha desmantellat cinc operacions d’influència encoberta en els últims tres mesos. Aquestes operacions utilitzaven els models de IA de OpenAI per generar contingut que buscava influir en l’opinió pública. Malgrat això, cap de les campanyes va aconseguir arribar a una gran audiència.
Diversos països i organitzacions involucrades
L’informe de OpenAI identifica diversos casos concrets d’ús de l’IA per a la propaganda. Entre ells, destaquen dues operacions russes que es centraven en la difusió de contingut sobre Ucraïna i que operaven tant a Internet com a la plataforma de missatgeria Telegram. També esmenta una empresa política israeliana que gestionava una xarxa de comptes de xarxes socials falsos per difondre contingut que acusava d’antisemites les protestes estudiantils nord-americanes contra la guerra d’Israel a Gaza. A més, s’han detectat operacions xineses i iranianes que buscaven influir en l’opinió pública en relació amb temes com la Xina, Israel i els Estats Units (https://www.softcatala.org/resum-de-textos-en-catala/).
Contingut generat per les operacions d’influència
Les operacions d’influència utilitzaven l’IA per generar contingut amb l’objectiu de manipular l’opinió pública. Aquest contingut abordava temes com la guerra a Ucraïna, el conflicte a Gaza, les eleccions a l’Índia i la política a Europa i als Estats Units. Els atacants utilitzaven tècniques com la generació de contingut amb errors d’idioma, la barreja de contingut nou amb antic i la generació de respostes a publicacions pròpies per simular participació i generar més impacte.
Conclusió
L’informe de OpenAI posa de manifest la influència de l’IA en el discurs polític i la propagació de contingut enganyós. És important estar conscients d’aquestes pràctiques per poder discernir i avaluar la informació que consumim a Internet (https://www.softcatala.org/resum-de-textos-en-catala/).