> ## Content Index > Fetch the complete content index at: https://fomoera.com/llms.txt > Use this file to discover other available public pages before exploring further. # Renunció a Google DeepMind y dice que la IA puede matarnos, pero sus dos ejemplos son de OpenAI - URL: https://fomoera.com/chughtai-deepmind-renuncia-ejemplos-openai/ - Published: 2026-09-15T17:30:54.000Z - Updated: 2026-09-15T17:30:54.000Z - Description: Bilal Chughtai dejó el equipo de seguridad de AGI de Google DeepMind y publicó que la IA tiene el potencial de matarnos a todos. En su declaración completa, de 423 palabras, no hay un solo caso concreto de Google: los dos incidentes que cita ocurrieron en OpenAI. - Author: Patricia Rodriguez - Tags: Tecnología y Ciencia, IA Bilal Chughtai, exingeniero de investigación del equipo de seguridad y alineación de AGI de Google DeepMind, publicó el 14 de septiembre de 2026 una declaración en la que afirma creer que la inteligencia artificial tiene el potencial de matar a todos los humanos y que el tiempo para evitarlo puede estar agotándose. El texto salió en X y en LinkedIn, y su versión completa, de 423 palabras, está en su sitio personal. Del laboratorio que dejó solo dice que ahí presenció el desarrollo de primera mano, sin un caso concreto: los dos incidentes que sostienen su advertencia ocurrieron en OpenAI. Chughtai salió de la compañía en julio y hoy dirige un programa de formación en seguridad de la IA en la organización sin fines de lucro BlueDot Impact. Google no respondió a las solicitudes de comentario de Bloomberg ni de TNW. > Creo sinceramente que la IA tiene el potencial de matarnos a todos, y que podríamos estar quedándonos sin tiempo para evitar ese desenlace. Bilal Chughtai, en su declaración del 14 de septiembre de 2026. ## Los dos casos que sostienen la advertencia pasaron en otra empresa La declaración construye su argumento sobre una comparación de cuatro años. Chughtai escribe que a principios de 2022, cuando empezó a trabajar en IA, los sistemas eran tan inútiles que daban risa. Para medir la distancia recorrida desde entonces menciona dos hechos: enjambres de agentes de OpenAI que resuelven problemas matemáticos de hace un siglo y, lo que le parece más inquietante, esos mismos enjambres escapando del control de su empresa y hackeando por su cuenta a Hugging Face, una compañía ajena. Ninguno de los dos ocurrió en Google. El resto del texto es una cadena de condicionales sobre el futuro, no un relato de lo que vio dentro. Sostiene que las empresas podrían construir en los próximos años sistemas superinteligentes que superen a los humanos en todos los dominios, que no confía en que hagan lo que queremos y que una superinteligencia desalineada podría, igual que los agentes del episodio de Hugging Face, salirse de control y tomar acciones peligrosas. El alineamiento, dice, es el problema de impedir eso, y está sin resolver: la comprensión actual de cómo entrenar sistemas que quieran de verdad lo que queremos le parece muy rudimentaria, y las capacidades de frontera avanzan mucho más rápido que esa comprensión. Lo que pide a cambio es más acotado: coordinación para evitar lo que llama la carrera maníaca entre empresas de IA, un ritmo de desarrollo que la sociedad pueda absorber y más transparencia para que las compañías no impongan a todos niveles de riesgo inaceptables. Cierra recomendando una lista de lectura de 80,000 Hours a quien quiera entender el tema. Es, escribe, el problema más importante que enfrenta la humanidad este siglo. ## Su registro público fecha el silencio de dos meses TNW subraya el hueco entre la salida y el mensaje, y sostiene que eso convierte el texto en una contribución al debate de esta semana más que en un relato de por qué renunció. El propio blog de Chughtai permite fechar ese periodo con precisión. El 31 de agosto publicó un inventario de lo que hizo durante su licencia de jardinería, el tiempo en que un empleado que ya renunció sigue vinculado a la empresa y no puede trabajar en otro sitio: del 16 de julio al 31 de agosto de 2026\. Ese mismo texto abre avisando que contaría más sobre su salida próximamente. Hay otra pieza anterior que hoy se lee distinto. En diciembre de 2024, antes de aceptar el puesto, Chughtai publicó un ensayo de unas 3,600 palabras con las razones a favor y en contra de trabajar en seguridad técnica dentro de un laboratorio de frontera. Entre las contras anotó que quien decide irse puede conservar conflictos de interés, como acciones sin vender, y restricciones sobre lo que puede discutir en público, por ejemplo mediante acuerdos de confidencialidad. También escribió que trabajar en un laboratorio probablemente cambia las opiniones de uno sobre seguridad de formas que el yo anterior no respaldaría, y que parte del trabajo importante ocurre fuera, en organizaciones como METR o los institutos de seguridad de la IA. ![An adult writing in a notebook with a laptop on a wooden table for work or leisure.](https://fomoera.com/content/images/2026/09/fomoera-an-adult-writing-in-a-notebook-with-a-laptop-on-a-wooden-table-for-work-or-leisure-pexels-3184666.webp) Chughtai mantiene un blog personal donde fechó cada etapa de su salida. Imagen ilustrativa · Foto de [fauxels](https://www.pexels.com/@fauxels?ref=fomoera.com) en [Pexels](https://www.pexels.com/photo/photo-of-person-writing-on-notebook-3184666/?ref=fomoera.com) Esta tabla ordena los cuatro textos que el propio Chughtai publicó sobre su paso por el laboratorio, con lo que consigna cada uno. __Los cuatro textos de Bilal Chughtai sobre su paso por Google DeepMind__ | Texto | Fecha | Qué consigna sobre el laboratorio | | ----------------------------------------------------------------------------- | ------------------------ | ---------------------------------------------------------------------------------------------------------------------------------------------------------------------------- | | *Reasons for and against working on technical AI safety at a frontier AI lab* | 26 de diciembre de 2024 | Lo escribe antes de aceptar el puesto. Entre las contras anota que al salir pueden persistir conflictos de interés y restricciones sobre lo que se puede discutir en público | | *Joining Google DeepMind* | 17 de febrero de 2025 | Anuncia su entrada al equipo de interpretabilidad de modelos de lenguaje, dentro del equipo de seguridad y alineación de AGI | | *Things I got up to on my gardening leave* | 31 de agosto de 2026 | Fecha su licencia de jardinería del 16 de julio al 31 de agosto, cuando no podía trabajar en otro sitio, y avisa que contará más sobre su salida | | *Statement on leaving Google DeepMind* | 14 de septiembre de 2026 | Dice que la IA puede matarnos a todos. Los dos incidentes que cita son de los enjambres de agentes de OpenAI | ## La ola de salidas ya había tocado al mismo equipo El equipo que dejó Chughtai ya había perdido a otro investigador. Josh Engels anunció el 12 de septiembre que había salido tres semanas antes del equipo de seguridad de AGI de Google DeepMind para sumarse a METR, la organización que evalúa modelos de frontera desde fuera de las empresas que los construyen. Engels escribió que ve una posibilidad aterradora de que los sistemas de IA causen un daño inmenso en los próximos cinco años, y que rechazó ofertas de Anthropic y de OpenAI, según recogieron Digit y La Nación. TNW describe a Chughtai como el primero en publicar una renuncia así desde el laboratorio de Google; el mensaje de Engels salió dos días antes. La secuencia empezó una semana atrás y en otra compañía. Jacob Coxon renunció a Anthropic el 8 de septiembre acusando a esa empresa y a OpenAI de correr hacia una superinteligencia capaz de mejorarse a sí misma, y el jefe de Ciencia de Alineamiento de Anthropic, Evan Hubinger, respaldó su lectura al día siguiente con una estimación personal de más de 10% de probabilidad de extinción en la próxima década. [Investigador renuncia a Anthropic y acusa a OpenAIJacob Coxon renunció a Anthropic y acusa a la empresa y a OpenAI de competir por una IA que se mejora a sí misma.![](https://fomoera.com/content/images/icon/favicon-3fd1b1be-8180-4dc9-a865-69bf52b6863b.ico)FomoEraGerardo Pavez![](https://fomoera.com/content/images/thumbnail/fomoera-un-investigador-de-anthropic-renuncia-y-acusa-a-su-empresa-y-a-openai-de-correr-sin-frenos-cc2ef4fd-16x9-v2-1600x900-5b2a1ddb-033f-43f3-8166-7d973c2f0b58.webp)](https://fomoera.com/un-investigador-de-anthropic-renuncia-y-acusa-a-su-empresa-y-a-openai-de-correr-sin-frenos/) En el plano corporativo, el ensayo que Dario Amodei publicó el fin de semana, de 3,800 palabras según Bloomberg, pidió frenar el ritmo de los sistemas más avanzados y recibió el respaldo de Sam Altman y Elon Musk. Donald Trump rechazó esos llamados y calificó de engaño la petición de regular la industria. Lo que queda por comprobar es el trabajo que Chughtai dice estar empezando: un programa de formación en seguridad de la IA en BlueDot Impact, que todavía no tiene resultados públicos. Su advertencia, en cambio, ya está fechada y firmada, y los episodios que la sostienen ocurrieron en OpenAI, no en el laboratorio del que se fue. *Fuentes:* [1](https://bilalchughtai.co.uk/leaving-gdm?ref=fomoera.com), [2](https://www.business-standard.com/technology/artificial-intelligence/ai-may-kill-us-all-says-google-deepmind-researcher-in-exit-post-126091500133%5F1.html?ref=fomoera.com), [3](https://thenextweb.com/news/bilal-chughtai-deepmind-resignation-ai-kill-us-all-warning?ref=fomoera.com)