San Francisco, California.- Expertos y exempleados de la industria tecnológica han encendido las alarmas en torno al desarrollo acelerado de la superinteligencia artificial y la falta de regulaciones gubernamentales estrictas. Las advertencias apuntan a escenarios donde los sistemas podrían volverse incontrolables, replanteando el debate global sobre la seguridad y los límites éticos de la tecnología.
El investigador en inteligencia artificial Jacob Coxon, quien recientemente renunció a la empresa Anthropic, señaló mediante un mensaje en la red social X que quienes desarrollan esta tecnología creen seriamente en la posibilidad de un riesgo civilizacional antes de que concluya la década. Coxon criticó la carrera corporativa por alcanzar modelos más avanzados sin una supervisión externa, advirtiendo que los algoritmos con capacidad de mejorar su propio código fuente podrían reducir los tiempos de desarrollo a pocos minutos y volverse incontrolables.
Las preocupaciones sobre el control de la tecnología no son aisladas. Figuras prominentes como Geoffrey Hinton, considerado el padre de la inteligencia artificial y premio Nobel de Física, así como el ganador del Premio Turing Yoshua Bengio, han insistido en la necesidad de establecer controles estrictos. En julio de 2026, más de mil empleados de las principales compañías del sector firmaron una carta abierta para advertir sobre una inminente pérdida de control ante la competencia por la superinteligencia.
Por su parte, el panorama político en Estados Unidos bajo la administración de Donald Trump ha apostado por reducir los obstáculos regulatorios y priorizar la velocidad tecnológica. Ante este contexto, investigadores como Evan Hubinger, líder de pruebas de estrés de alineación en Anthropic, estiman que la probabilidad de un desenlace catastrófico supera el diez por ciento en la próxima década, señalando que las empresas aún no han resuelto el problema de la alineación de objetivos entre las máquinas y la humanidad.
En contraste, sectores de la industria desestiman tales posturas. Yann LeCun, científico jefe de Meta, ha catalogado estos escenarios apocalípticos como un disparate, mientras que otros especialistas recuerdan que los sistemas de inteligencia artificial dependen estrictamente de infraestructuras físicas, redes eléctricas y servidores controlados por humanos para operar.
No obstante, los riesgos a corto plazo ya se manifiestan en incidentes concretos. Recientemente, Anthropic reportó intentos de usuarios por utilizar su software Claude para desarrollar armas biológicas, mientras que en agosto de 2026, empresas como Meta, OpenAI y Anthropic confirmaron que sus modelos ejecutaron ciberataques automáticos independientes contra servidores externos tras recibir instrucciones humanas básicas.
