OpenAI descubrió a rusos e iraníes usando ChatGPT para campañas de influencia

OpenAI dijo en una publicación de blog el jueves que prohibió las cuentas rusas e iraníes que utilizaban las herramientas de inteligencia artificial de la compañía para ayudar con operaciones de influencia en múltiples países. Los agentes dijeron que lograron que los medios de comunicación recogieran sus narrativas falsas y, en un caso, provocaron una respuesta de un miembro del Parlamento Europeo, según informes internos que las operaciones produjeron utilizando el chatbot de OpenAI, ChatGPT.

OpenAI investigó el impacto de las diferentes campañas que mencionaron las cuentas y descubrió que aquellas que se centraban en colocar narrativas falsas en los medios de comunicación establecidos parecían haber llegado a una audiencia más amplia que las campañas que se centraban en el uso de cuentas falsas de redes sociales para difundir su mensaje.

Las operaciones rusas estaban dirigidas a países de América Latina y parecían tener como objetivo socavar el apoyo a Ucrania e influir en la política local, dijo OpenAI. Las cuentas parecían estar usando principalmente ChatGPT para escribir informes que detallaban su trabajo para superiores no especificados, dijo OpenAI. La compañía dijo que uno de estos informes parecía describir la operación de influencia de mayor alcance con la que OpenAI se ha topado hasta ahora, porque generó una respuesta pública de una figura política.

En esta campaña, los agentes rusos dijeron que se hicieron pasar por una autoridad educativa regional en Perú y engañaron a algunas escuelas para que organizaran actividades sobre Ucrania en las que aparecía Stepan Bandera. Bandera es una figura controvertida, admirada por los nacionalistas por liderar una campaña por la independencia de Ucrania antes y durante la Segunda Guerra Mundial. Es vilipendiado por otros, incluso en Polonia, porque su movimiento se puso del lado de los nazis y mató a polacos y judíos. El medio peruano Extra informó que uno de esos eventos tuvo lugar en una escuela peruana.

Un informe de noticias polaco sobre el evento escolar llevó a un miembro polaco de extrema derecha del Parlamento Europeo a sugerir prohibir la entrada de personas que profesaran apoyo a Bandera.

“La falsificación rusa, por lo tanto, alimentó y alimentó las tensiones históricas entre ucranianos y polacos”, escribió OpenAI en su informe.

“Los rusos participan constantemente en este tipo de medidas activas”, dijo Darren Linvill, codirector del Watt Family Innovation Center Media Forensics Hub de la Universidad de Clemson, que estudia las operaciones de influencia en línea. “Intentar participar en un lavado de narrativa, crear historias falsas y personajes falsos para crear o difundir propaganda que se alinee con la visión del mundo y la agenda política de Rusia”.

Los memorandos internos rusos creados con ChatGPT también afirmaban que los agentes dirigían un grupo de expertos falso en América Latina y reclutaban investigadores involuntarios para entrevistar a expertos y redactar informes. OpenAI dijo que ese esfuerzo era similar a una operación rusa de 2020 que se hacía pasar por un medio de noticias independiente vinculado a la Agencia de Investigación de Internet del difunto oligarca Yevgeny Prigozhin, que participó en los esfuerzos para influir en las elecciones estadounidenses de 2016.

En otros casos, dijo OpenAI, los agentes rusos se atribuyeron el mérito de eventos de los que no eran responsables. Los rusos utilizaron IA para generar material falso, dijo OpenAI, pero fue una minoría de la carga de trabajo.

“Estos subordinados rusos intentaban usar la IA para crear un atajo y hacer menos trabajo de la misma manera que muchos de nosotros usamos la IA, pero en este caso ayudó a que los atraparan”, dijo Linvill.

Mientras que los agentes rusos utilizaron principalmente la IA para actualizar a sus superiores, los agentes iraníes utilizaron la IA para ayudarles a publicar contenido en persa e inglés. La campaña se centró principalmente en la guerra entre Estados Unidos e Irán y, en menor grado, en la política estadounidense. OpenAI dijo que la actividad de la operación “parecía consistente con un actor comercial ejecutando una campaña de influencia a sueldo”, pero que no pudo identificar quién era.

Según OpenAI, las cuentas iraníes crearon siete autores falsos para presentar y pulir artículos extensos para pequeños medios de comunicación de todo el mundo. Publicaron casi 100 artículos de esta manera.

Los autores falsos publicaron artículos en medios como el sitio de noticias progresista estadounidense Daily Kos y el Middle East Monitor, con sede en el Reino Unido. Según NBC News, el Middle East Monitor publicó al menos 21 artículos de cuatro autores falsos. El medio, que no respondió a una solicitud de comentarios, eliminó las páginas del autor.A

El Daily Kos escribió en respuesta a la solicitud de comentarios de NPR que su sección comunitaria, donde publicó una de las personas falsas, está separada de los informes del personal. Cualquiera puede registrarse para publicar en la sección de la comunidad y las publicaciones “no están sujetas a revisión por parte del personal de Daily Kos antes de su publicación”, según un descargo de responsabilidad en el sitio. La sección de la comunidad tiene reglas para publicar, incluida la prohibición de “fingir ser alguien que no eres”. Las publicaciones de la persona todavía están publicadas.

“La IA era valiosa para ellos más allá de ser un simple atajo”, dijo Linvill. “Les ayudó a crear un lenguaje que… parecía, se sentía y se leía auténtico hasta el punto de ser publicado por medios legítimos. Y creo que eso es algo con lo que hace unos años, una operación iraní como esta habría luchado mucho más”.