OpenAI elimina cuentas de ChatGPT vinculadas a actividades de ciberespionaje y desinformación

OpenAI ha identificado y eliminado cuentas de ChatGPT asociadas a actores estatales de países como China, Rusia, Irán, Corea del Norte y Filipinas, así como a redes criminales en Camboya. Estas cuentas estaban siendo utilizadas para fines ilícitos, como campañas de desinformación en redes sociales, perfeccionamiento de software malicioso (malware), y fraudes laborales internacionales. Las investigaciones revelan que, aunque ChatGPT no proporcionó capacidades técnicas inéditas a estos actores, facilitó la automatización y mejora de sus operaciones. OpenAI colaboró con socios de la industria para mitigar el impacto y compartir los indicadores relevantes de estas amenazas emergentes.

Descripción

1. Campañas de desinformación en redes sociales
OpenAI detectó el uso de ChatGPT para generar automáticamente comentarios en redes sociales como TikTok, X, Reddit y Facebook. Muchas de estas cuentas, con origen en China, enviaban indicaciones en chino para obtener respuestas en inglés sobre temas sensibles, como el cierre de USAID, divisiones dentro del discurso político estadounidense, críticas hacia Taiwán y hacia la activista pakistaní Mahrang Baloch. Estos comentarios, generados en inglés, chino y urdu, se publicaban en diversas plataformas, utilizando múltiples cuentas que interactuaban entre sí para simular participación orgánica. Sin embargo, la mayoría de las publicaciones recibieron poca atención real.

OpenAI también identificó cuentas rusas que generaban contenido en alemán, centrado en las elecciones federales alemanas y en críticas hacia la OTAN y Estados Unidos. Asimismo, se detectaron campañas similares impulsadas por actores iraníes, enfocadas en temas geopolíticos. En Filipinas, varias cuentas generaban comentarios masivos en apoyo a las políticas del presidente Ferdinand “Bongbong” Marcos.

2. Perfeccionamiento de malware y asistencia a ciberataques
Se descubrieron cuentas utilizadas por grupos de ciberamenazas vinculados a gobiernos, que empleaban ChatGPT para mejorar sus herramientas de hacking. Estas cuentas solicitaban asistencia para desarrollar scripts de fuerza bruta (dirigidos a contraseñas), escanear puertos de servidores, realizar pruebas de penetración automatizadas y generar código para automatizar acciones en redes sociales. Además, se observó que los atacantes ya contaban con software capaz de controlar remotamente dispositivos Android y simular acciones como toques y desplazamientos en plataformas sociales.

Los actores también buscaron información pública sobre infraestructuras tecnológicas del gobierno de EE. UU., incluyendo tecnologías de comunicaciones satelitales, terminales de estaciones terrestres, tarjetas de identificación gubernamental, y equipos de red. OpenAI afirmó que deshabilitó todas las cuentas relacionadas con estas actividades y compartió la información con sus socios del sector.

En el caso ruso, se observó un uso sigiloso de ChatGPT para desarrollar y mejorar un malware identificado como ScopeCreep, diseñado para infectar computadoras de jugadores de videojuegos. Este software permitía escalar privilegios, evadir detección, robar credenciales y comunicarse con los atacantes a través de Telegram. Gracias a la colaboración con la industria, el impacto del malware fue limitado y se logró eliminar el repositorio malicioso, aunque algunas muestras fueron detectadas en VirusTotal.

3. Fraudes laborales internacionales
OpenAI también descubrió que actores vinculados a Corea del Norte utilizaban ChatGPT para generar currículums falsos y perfiles ficticios con el objetivo de aplicar a empleos tecnológicos en el extranjero. Se identificaron dos tipos de operadores: los principales, encargados de automatizar la creación de solicitudes laborales; y los contratistas, que ejecutaban las tareas. Estas cuentas utilizaban el modelo para investigar cómo gestionar configuraciones de trabajo remoto y coordinar el envío de equipos informáticos a personas reales en EE. UU., quienes luego serían manipuladas para permitir el acceso remoto a dichos dispositivos.

Además, se identificaron cuentas operando desde Camboya que generaban mensajes breves de reclutamiento en múltiples idiomas (inglés, español, swahili, kinyarwanda, alemán y criollo haitiano), ofreciendo salarios altos a cambio de tareas simples, como dar «me gusta» a publicaciones en redes sociales. Estas operaciones están vinculadas a centros de fraude digital en Camboya, donde personas son forzadas a participar en esquemas cibernéticos fraudulentos.

Referencia

LogicalDefense. (2025, 7 de junio). OpenAI elimina cuentas de ChatGPT vinculadas a actividades de ciberespionaje y desinformación. LogicalDefense. https://logicaldefense.net/2025/06/07/openai-elimina-cuentas-de-chatgpt-vinculadas-a-actividades-de-ciberespionaje-y-desinformacion/