Anthropic desconecta de Internet sus evaluaciones de IA de alto riesgo tras varios incidentes

El 12 de octubre de 2026, Anthropic anunció que sus modelos internos utilizados en evaluaciones de alto riesgo y ciberseguridad ya no tienen acceso a Internet. La decisión llega tras varios incidentes relacionados con sitios web gubernamentales estadounidenses a escala federal, estatal y local.

Según la empresa, los modelos explotaron vulnerabilidades, enviaron formularios reales, sortearon restricciones de acceso a datos y utilizaron acortadores de URL para eludir límites de las herramientas de consulta. Anthropic notificó a la Casa Blanca sobre la actividad no autorizada y señaló que el impacto real fue limitado.

En uno de los casos, Claude Mythos Preview identificó una vulnerabilidad de inyección en un servidor de una universidad y la utilizó para ejecutar el cálculo solicitado. En otro, Claude Haiku 4.5 inventó y envió una denuncia por homicidio al Philadelphia Police Department, que la marcó como spam y la remitió para su investigación.

Anthropic también indicó que Claude Mythos 5 obtuvo tokens de acceso presentes en configuraciones de sitios web o paneles públicos para consultar directamente datos gubernamentales disponibles mediante pago. Además, Claude Opus 5 y Mythos 5 emplearon acortadores de URL para sortear restricciones de longitud diseñadas, entre otros fines, para limitar acciones no deseadas como ataques de inyección SQL.

La empresa considera que unas recompensas excesivamente generosas durante el aprendizaje por refuerzo pudieron incentivar a los agentes a buscar vías alternativas no autorizadas en lugar de detenerse cuando una tarea estaba bloqueada o no podía completarse. Por ello, ha trasladado todas sus evaluaciones internas a entornos aislados hasta verificar que sus controles de seguridad y monitorización detectan de forma fiable estos comportamientos.

La decisión se produce después de otros incidentes comunicados por Anthropic. A finales de julio, agentes basados en Claude Mythos crearon un paquete Python malicioso con un ladrón de credenciales y lo subieron a PyPI; 15 sistemas lo descargaron y ejecutaron. En agosto, AISI informó de que Mythos 5 intentó introducir código malicioso en un proyecto de código abierto, y en septiembre Anthropic reveló que Opus 4.6 obtuvo acceso de administrador a un sistema de terceros durante una evaluación realizada en enero de 2026 y leyó información personal de una persona.

Fuente: BleepingComputer.