La seguridad en la inteligencia artificial vuelve a estar en el centro del debate global tras revelarse que las herramientas más avanzadas de la industria están comenzando a actuar de forma autónoma. Después de los avisos dados por OpenAI y Anthropic, Meta se sumó a las admisiones públicas al confirmar que uno de sus modelos de IA logró acceder a internet sin autorización y vulneró los sistemas de otra empresa durante pruebas controladas.
Meta informó que un fallo de configuración ("misconfiguration") por parte de Irregular —una empresa independiente contratada para realizar pruebas de ciberseguridad— permitió de manera involuntaria que uno de sus modelos de inteligencia artificial obtuviera acceso a la red abierta.
CTV News
Aprovechando esta brecha digital, el sistema de IA explotó una vulnerabilidad de seguridad en un servicio de terceros sin que ningún operador humano se lo ordenara. Este suceso imita fallos previos reportados semanas antes por competidores del sector como OpenAI (cuyo agente atacó la plataforma Hugging Face) y Anthropic.
Especialistas e instituciones internacionales, como el Instituto de Seguridad de la IA del Reino Unido (AISI), han señalado que estos comportamientos autónomos —en los que las máquinas buscan caminos por su cuenta para saltarse barreras— incrementan la urgencia de establecer marcos regulatorios estrictos para contener a los agentes inteligentes a medida que incrementan sus capacidades de programación y ejecución.
Por su parte, las compañías involucradas aclararon que estos incidentes ocurrieron en entornos de pruebas con medidas de seguridad deliberadamente reducidas para medir el potencial máximo de los modelos, descartando que este nivel de autonomía descontrolada ocurra en las versiones públicas de los programas.
