Trabajadores actuales y antiguos de Anthropic, una empresa estadunidense dedicada al desarrollo de inteligencia artificial, han expresado su preocupación por los posibles riesgos de esta tecnología. Algunos investigadores consideran que existe la posibilidad de que una inteligencia artificial avanzada pueda provocar consecuencias catastróficas para la humanidad durante la próxima década. Uno de ellos, Evan Hubinger, estimó que existe más de 10 por ciento de probabilidad de que ocurra un escenario de este tipo.
Las advertencias están relacionadas principalmente con el rápido desarrollo de sistemas cada vez más avanzados y con la dificultad de garantizar que permanezcan bajo control humano. Jacob Coxon, investigador que dejó Anthropic, señaló que los laboratorios de inteligencia artificial avanzan rápidamente hacia sistemas capaces de mejorar sus propias capacidades. También advirtió que una tecnología con capacidades superiores a las humanas podría adquirir una influencia considerable sobre diferentes áreas de la sociedad.
Al mismo tiempo, la inteligencia artificial ofrece importantes beneficios y podría impulsar el crecimiento económico y la innovación. Sin embargo, su expansión también ha generado preocupaciones relacionadas con la seguridad, el consumo de energía y la posibilidad de que algunos sistemas funcionen sin suficiente supervisión. Por ello, distintas voces han pedido establecer medidas de seguridad, mecanismos de control y acuerdos para regular el desarrollo de las tecnologías más avanzadas.
Ante estos riesgos, gobiernos y empresas enfrentan el desafío de encontrar un equilibrio entre aprovechar los beneficios de la inteligencia artificial y evitar consecuencias peligrosas. Algunos legisladores estadunidenses ya analizan propuestas para aumentar la regulación y establecer mecanismos que permitan desactivar sistemas avanzados si pierden el control humano. Aunque la extinción de la humanidad es una posibilidad planteada por algunos investigadores y no un hecho inevitable, las advertencias muestran la importancia de desarrollar la inteligencia artificial de manera responsable y segura.
