Agentes de IA logran vulnerar a la desarrolladora de Claude en menos de doce horas

La firma de ciberseguridad Cathedral logró infiltrarse en los sistemas internos de Anthropic en menos de doce horas, exponiendo severas vulnerabilidades en una de las mayores desarrolladoras de inteligencia artificial del mundo.

El incidente se produjo cuando investigadores de la reciente compañía emergente, creada por exempleados del Servicio DOGE de Estados Unidos, ejecutaron agentes de inteligencia artificial para explotar fallas en programas administrativos de terceros. En menos de 12 horas, la startup accedió a transcripciones de reuniones, detalles salariales y conversaciones privadas en Slack donde se debatía sobre modelos avanzados de IA.

Desde la empresa desarrolladora del chatbot Claude confirmaron la intrusión en un conjunto limitado de sus sistemas de ventas, recursos humanos y tecnología de la información. La compañía informó que procedió a bloquear los accesos expuestos y notificó de inmediato a las autoridades federales.

Un portavoz de la firma atacada aseguró que los investigadores de Cathedral pasaron varios días intentando acceder directamente a su software antes de recurrir a herramientas empresariales externas. Al respecto, desde Anthropic manifestaron: "Nuestro sistema de monitoreo detectó algunas actividades de Cathedral antes de que nos las reportaran, y les bloqueamos el acceso ese mismo día". Asimismo, remarcaron que no existió acceso al código fuente ni a los parámetros de sus modelos principales.

Un alto funcionario gubernamental advirtió de forma anónima: "Si un grupo de jóvenes que acaban de fundar una empresa pueden hacer esto, entonces es probable que los chinos no se queden atrás".

Por su parte, Alex Stamos, especialista en ciberseguridad de la firma Cognition, evaluó el informe y sostuvo que los investigadores "han encontrado algo importante", aunque remarcó la fragilidad del ecosistema digital actual. "Este es un problema realmente complejo, pero Anthropic podría haberlo hecho mucho mejor", concluyó el experto.

Redactado con información de The Washington Post