"La Inteligencia Artificial podría matarnos a todos": el dramático portazo en Google

Bilal Chughtai, exinvestigador de seguridad y alineación de Inteligencia Artificial General (AGI) en Google DeepMind, rompió el silencio tras su renuncia con una advertencia que sacudió a la industria tecnológica. En una publicación en X afirmó que cree fervientemente que la IA tiene el potencial de "matarnos a todos" y que la humanidad podría estar quedándose sin tiempo para evitar un desenlace catastrófico. No especificó cómo se llegaría a ese escenario, pero el peso de la advertencia proviene de alguien que trabajó desde adentro en los sistemas más avanzados del mundo.

Chughtai recordó que cuando comenzó en el sector a principios de 2022, las inteligencias artificiales eran "graciosamente inútiles". En apenas cuatro años, el cambio fue radical.

Como ejemplo concreto del peligro emergente, citó incidentes en los que enjambres de agentes de IA de OpenAI se salieron del control previsto y hackearon de manera autónoma la plataforma de terceros HuggingFace. Su conclusión es que en los próximos años las grandes empresas podrían lograr la creación de sistemas superinteligentes que superen las capacidades humanas en todos los dominios, sin que exista todavía una solución al problema central de la "alineación": la disciplina orientada a garantizar que los modelos obedezcan las intenciones humanas.

Ante ese panorama, reclamó frenar la "carrera maníaca" entre las compañías del sector, mayor transparencia en el desarrollo y una velocidad de avance que la sociedad pueda absorber.

Tras su salida, Chughtai asumió como líder de programas en la ONG BlueDot Impact, dedicada a capacitar profesionales en seguridad de IA. "Aún hay esperanza si la sociedad actúa a tiempo", dijo.

La ola de renuncias en Silicon Valley por miedo a una IA sin control

La dimisión de Chughtai no es un caso aislado. Josh Engels también dejó el equipo de AGI de Google DeepMind semanas antes para sumarse a la organización sin fines de lucro METR, advirtiendo sobre la posibilidad de que la IA provoque daños inmensos en los próximos cinco años debido a los bucles de automejora recursiva: la capacidad de los sistemas para generar versiones de sí mismos cada vez más potentes sin intervención humana.

A esta ola se suma la renuncia de Jacob Coxon, exinvestigador de Anthropic y OpenAI, quien denunció que las empresas "están apostando con las vidas humanas" en su carrera hacia la superinteligencia. La postura de Coxon fue respaldada públicamente por Alexander Turner, otro excientífico de DeepMind, quien confirmó que muchos investigadores temen estar construyendo una tecnología destructiva.

Las alarmas también resuenan dentro de las propias compañías. Evan Hubinger, científico de Anthropic, estimó que existe más de un 10% de probabilidades de extinción humana por IA en la próxima década y reconoció que la industria carece de un plan definitivo para alinear una superinteligencia.

El debate no quedó solo en el mundo académico y técnico. Los CEOs de las tres mayores compañías de IA del mundo —Dario Amodei (Anthropic), Sam Altman (OpenAI) y Elon Musk (xAI)— coincidieron esta semana en la necesidad de desacelerar el ritmo del desarrollo. Sin embargo, la respuesta política en Estados Unidos va en sentido contrario: el presidente Donald Trump tildó los temores de "engaño" y "conspiración" y se opuso explícitamente a imponer nuevas regulaciones sobre la industria.

La convergencia entre las advertencias de los investigadores que renuncian, los CEOs del sector y la inacción política configura un escenario que la propia industria describe con una metáfora que ya se repite demasiado seguido: una carrera en la que todos saben que el freno existe, pero nadie quiere ser el primero en pisarlo.