Los involucrados fueron tres modelos diferentes de Claude: el Opus 4.7, el Mythos 5 y uno interno de prueba.
EFE
La empresa estadounidense
Anthropic, una de las punteras en el campo de la inteligencia artificial (IA),
reveló que, durante unas pruebas de ciberseguridad,
tres modelos de su asistente Claude lograron acceder a internet y hackear los sistemas de tres organizaciones.
El pasado 21 de julio, otra empresa estadounidense,
OpenAI, ya había reconocido que
dos de sus modelos de IA habían conseguido salir de un entorno de pruebas y
entrar en la plataforma Hugging Face superando sus defensas.
Según reconoció Anthropic en su web, durante una revisión de sus evaluaciones de seguridad, la empresa encontró tres incidentes en los que un modelo de Claude accedió a internet y posteriormente consiguió entrar en los sistemas de tres organizaciones diferentes.
Anthropic, que
inició esta revisión a raíz del anuncio realizado por OpenAI, analizó más de 146.000 operaciones en las que Claude podría haber obtenido acceso a internet.
Durante ese análisis, la empresa identificó tres incidentes en los que
un modelo de Claude había salido a internet mientras interactuaba con un socio externo encargado de sus evaluaciones y posteriormente
había logrado entrar en los sistemas de tres organizaciones diferentes.
Los incidentes, que comenzaron en abril, involucraron a
tres modelos diferentes de Claude: el Opus 4.7, el Mythos 5 y un modelo interno de prueba.
En las tres ocasiones,
a Claude se le había asignado el reto de infiltrarse en un sistema ficticio en un entorno de pruebas, y se le había especificado que se trataba de
una simulación y que
no tenía acceso a internet.
Sin embargo, según Anthropic, por un malentendido entre la empresa y el socio encargado de la evaluación,
Claude sí disponía de acceso a la red, por lo que cumplió su cometido entrando en sistemas reales.
