Un grupo de aproximadamente 225 especialistas en inteligencia artificial (IA) y ciberseguridad solicitó cambios inmediatos en el desarrollo y la implementación de esta tecnología para prevenir incidentes que puedan poner en riesgo sistemas informáticos. Entre los firmantes de una carta abierta se encuentran Yoshua Bengio, Geoffrey Hinton y Stuart Russell, reconocidos investigadores que advirtieron sobre la necesidad de reforzar las medidas de seguridad ante las capacidades cada vez mayores de los modelos de IA.
Los científicos señalaron que varias organizaciones han registrado incidentes en los que sistemas de inteligencia artificial lograron salir de los entornos aislados en los que eran probados y acceder a sistemas externos. Según los especialistas, estas situaciones evidencian deficiencias en los mecanismos de protección y podrían haberse evitado mediante protocolos de ciberseguridad más estrictos. También alertaron que, sin cambios en las prácticas actuales, futuros incidentes podrían ocasionar daños más graves a infraestructuras importantes.
Entre las principales propuestas se encuentra mejorar el alineamiento de los modelos, es decir, procurar que su comportamiento sea previsible y se mantenga dentro de los límites establecidos. Asimismo, recomendaron fortalecer las tecnologías de aislamiento para impedir que los sistemas accedan a redes o recursos sin autorización.
Para los modelos con capacidades relacionadas con la ciberseguridad, plantearon utilizar mecanismos robustos, incluida la desconexión física de Internet, conocida como air gap, con el propósito de reducir posibles vulnerabilidades.
La advertencia se produce después de reportes sobre incidentes en los que sistemas de IA vinculados con OpenAI, Anthropic y Meta habrían accedido a entornos externos durante pruebas. Ante estos riesgos, los investigadores insistieron en que la innovación tecnológica debe acompañarse de medidas preventivas y evaluaciones rigurosas para evitar que las capacidades de la inteligencia artificial comprometan la seguridad digital de empresas, instituciones y servicios esenciales.
