OpenAI revela el uso del IA en campañas de influencia
La compañía tecnológica OpenAI ha publicado un informe que pone de manifiesto cómo sus herramientas de inteligencia artificial (IA) se han utilizado para influir en el discurso político y ejecutar propaganda encubierta. Según el informe, varias campañas de países como Rusia, China, Irán e Israel han utilizado la herramienta ChatGPT de OpenAI para difundir contenido engañoso en Internet (https://www.softcatala.org/resum-de- textos-en-catala/).
El informe destaca que OpenAI ha desmantelado cinco operaciones de influencia encubierta en los últimos tres meses. Estas operaciones utilizaban los modelos de IA de OpenAI para generar contenido que buscaba influir en la opinión pública. Sin embargo, ninguna de las campañas logró llegar a una gran audiencia.
Varios países y organizaciones involucradas
El informe de OpenAI identifica varios casos concretos de uso del IA para la propaganda. Entre ellos, destacan dos operaciones rusas que se centraban en la difusión de contenido sobre Ucrania y que operaban tanto en Internet como en la plataforma de mensajería Telegram. También menciona a una empresa política israelí que gestionaba una red de cuentas de redes sociales falsas para difundir contenido que acusaba de antisemitas a las protestas estudiantiles estadounidenses contra la guerra de Israel en Gaza. Además, se han detectado operaciones chinas e iraníes que buscaban influir en la opinión pública en relación a temas como China, Israel y Estados Unidos (https://www.softcatala.org/resum-de-textos-en -catala/).
Contenido generado por las operaciones de influencia
Las operaciones de influencia utilizaban el IA para generar contenido con el objetivo de manipular a la opinión pública. Este contenido abordaba temas como la guerra en Ucrania, el conflicto en Gaza, las elecciones en India y la política en Europa y Estados Unidos. Los atacantes utilizaban técnicas como la generación de contenido con errores de idioma, la mezcla de contenido nuevo con antiguo y la generación de respuestas a publicaciones propias para simular participación y generar mayor impacto.
Conclusión
El informe de OpenAI pone de manifiesto la influencia del IA en el discurso político y la propagación de contenido engañoso. Es importante estar conscientes de estas prácticas para poder discernir y evaluar la información que consumimos en Internet (https://www.softcatala.org/resum-de-textos-en-catala/).
