Acceso con agentes de IA a entornos internos
Anthropic confirmó que una empresa externa logró entrar en algunos de sus sistemas internos en menos de 12 horas utilizando agentes de inteligencia artificial, según un informe publicado por The Washington Post. La firma que realizó la prueba, Cathedral, es una startup de ciberseguridad fundada por exmiembros del Servicio de Eficiencia Gubernamental de Estados Unidos (DOGE).
El trabajo de Cathedral se desarrolló en el marco del programa de pruebas de seguridad de Anthropic, que permite a especialistas externos buscar vulnerabilidades. Según el informe, los investigadores identificaron fallos en el software que la compañía utiliza para operaciones empresariales y explotaron esas debilidades con agentes automatizados.
- El acceso duró menos de 12 horas desde el inicio de la investigación, según The Washington Post.
- Los datos alcanzados incluyeron transcripciones de reuniones, información salarial, ofertas laborales y conversaciones internas de Slack relacionadas con modelos de IA, según el mismo medio.
- Anthropic declaró que los investigadores obtuvieron una "cantidad limitada" de acceso a sistemas de ventas, recursos humanos y tecnología de la información.
La compañía subrayó que los investigadores no accedieron a las conversaciones de usuarios con Claude, ni al código de sus modelos ni a los parámetros internos conocidos como model weights, de acuerdo con la información recogida por The Washington Post.
Tras identificar las vulnerabilidades, Anthropic inhabilitó el software afectado mientras implementaba las correcciones pertinentes y comunicó el incidente a funcionarios federales, añade el informe.
Qué cambia para empresas y usuarios
El episodio pone de relieve dos ámbitos relevantes para organizaciones que desarrollan o usan IA:
- La creciente capacidad de agentes automatizados para ejecutar cadenas de acciones que explotan errores en herramientas administrativas y de gestión.
- La necesidad de marcos de prueba y gobernanza que definan claramente los límites y protocolos de los programas de 'bug bounty' o pruebas externas.
Anthropic mantiene el programa de pruebas de seguridad, pero cuestionó públicamente si Cathedral cumplió por completo las reglas fijadas para comunicar los hallazgos, según The Washington Post.
El caso se suma a otros incidentes recientes en el sector que muestran cómo la automatización y los agentes de IA pueden cambiar la superficie de riesgo en entornos empresariales y de investigación.
