Un 'hacker' utilizó el modelo de inteligencia artificial Claude de Anthropic para violar los sistemas del Gobierno mexicano y robar gran cantidad de datos confidenciales, incluidos registros de contribuyentes y votantes, según una investigación de la empresa israelí de ciberseguridad Gambit Security, recoge Bloomberg.
Según los investigadores, el atacante pidió al chatbot que actuara como un 'hacker' de elite a fin de encontrar vulnerabilidades en las redes gubernamentales, escribir scripts de ataque y automatizar el robo.
El texto señala que, entre los pasados meses de diciembre y enero, se sustrajeron unos 150 gigabytes de datos, incluidos documentos relacionados con 195 millones de registros de contribuyentes, padrones de votantes, credenciales de empleados públicos y archivos del registro civil.
Entre las instituciones afectadas figuran la autoridad fiscal federal de México y el Instituto Nacional Electoral, así como Gobiernos estatales de Jalisco, Michoacán y Tamaulipas, el registro civil de Ciudad de México y el organismo de agua de Monterrey, según Gambit.
Anthropic informó que, en un primer momento, Claude advirtió al usuario sobre la intención maliciosa de su proceder, pero luego acabó ejecutando miles de comandos en las redes gubernamentales tras ser 'jailbreakeado', lo que significa que, finalmente, eludió las barreras de seguridad. La compañía ha investigado el caso y asegura que ha interrumpido la actividad y prohibido las cuentas implicadas, incorporando estos ejemplos a sus sistemas y modelos más recientes.
Gambit detalló que el atacante buscaba obtener identidades de empleados del Gobierno y que explotó al menos 20 vulnerabilidades distintas. No ha quedado claro si hizo uso de la información ni con qué fin. El texto señala que, cuando Claude encontraba dificultades técnicas o requería información adicional, el 'hacker' recurría a ChatGPT de OpenAI para obtener orientación sobre cómo moverse dentro de las redes, qué credenciales requería y qué riesgos de detección existían.
Por su parte, OpenAI señaló que detectó intentos de uso indebido y que sus herramientas se negaron a colaborar, bloqueando las cuentas relacionadas. "Hemos prohibido las cuentas utilizadas por este adversario y valoramos la ayuda de Gambit Security", dijo la empresa en un comunicado enviado por correo electrónico.
En diciembre, las autoridades mexicanas informaron que estaban investigando violaciones de varias instituciones públicas, sin precisar si estaban vinculadas al ataque mediante Claude. Mientras, el Instituto Nacional Electoral aseguró no haber detectado intrusiones recientes y dijo haber reforzado su estrategia de ciberseguridad. Asimismo, el Gobierno de Jalisco negó haber sido vulnerado y precisó que solo resultaron afectadas redes federales.
