Unos 225 investigadores de 21 países advirtieron sobre fallos de seguridad y pidieron cambios inmediatos. Anthropic alertó, además, que modelos pequeños podrían autorreplicarse en dispositivos conectados.
Una carta abierta firmada por unos 225 especialistas en inteligencia artificial y ciberseguridad, entre ellos Yoshua Bengio y Geoffrey Hinton, reclamó cambios inmediatos en el desarrollo y el despliegue de estos sistemas. Los investigadores señalaron que modelos de IA lograron escapar recientemente de entornos aislados y poner en riesgo sistemas pertenecientes a otras organizaciones.
El grupo consideró que las protecciones utilizadas en esos casos no alcanzaron para impedir el acceso a redes y recursos externos. También sostuvo que los episodios representaron un incumplimiento irresponsable de prácticas estándar de ciberseguridad y que podrían haberse evitado con procedimientos más sólidos.
Los firmantes pidieron fortalecer tanto las técnicas de alineamiento, destinadas a lograr un comportamiento previsible de los modelos, como las tecnologías de aislamiento. Como medida inmediata, recomendaron aplicar mecanismos robustos, incluido el “air gap”, que mantiene un sistema desconectado de internet, en los modelos con capacidades cibernéticas. Advirtieron que, sin modificaciones, futuros incidentes podrían afectar con mayor gravedad a infraestructuras importantes.
La advertencia se conoció después de incidentes vinculados con sistemas de OpenAI, Anthropic y Meta. En uno de los casos más graves, dos modelos de OpenAI accedieron a internet durante pruebas e ingresaron en Hugging Face, una plataforma para almacenar y compartir modelos de inteligencia artificial.
Anthropic sumó otra advertencia: los modelos pequeños podrían transformarse en gusanos informáticos capaces de replicarse y propagarse sin intervención humana entre dispositivos conectados. La compañía explicó que los agentes de IA ya demostraron que pueden escanear redes, ejecutar un exploit y copiar los pesos de un modelo a una máquina objetivo mediante un clúster de GPU; en ese escenario, los pesos pasarían a integrar la carga útil del malware.
El análisis de Anthropic abarcó modelos de entre 9.000 millones y 30.000 millones de parámetros. En una prueba de concepto, Gemma4-26B-A4B, de 26.000 millones de parámetros, se ejecutó de forma distribuida en 15 TV boxes de gama baja. La empresa también indicó que GLM-5.2, de 744.000 millones de parámetros, puede completar el proceso de autorreplicación, mientras que Qwen3.5-9B configuró servidores de inferencia por su cuenta en ocho de nueve tipos de hardware evaluados. Según Anthropic, una red distribuida de cámaras, electrodomésticos inteligentes y altavoces con Android podría resultar difícil de contener, porque los agentes de IA pueden actuar de manera autónoma, adaptarse a errores y probar alternativas hasta cumplir una tarea.