> ## Content Index > Fetch the complete content index at: https://fomoera.com/llms.txt > Use this file to discover other available public pages before exploring further. # Shane Legg lanza el DeepMind Institute y pide que la seguridad siga el ritmo de la IA - URL: https://fomoera.com/shane-legg-deepmind-institute-seguridad-agi/ - Published: 2026-09-17T01:30:53.000Z - Updated: 2026-09-17T01:30:53.000Z - Description: El cofundador de Google DeepMind presentó una plataforma para estudiar el desarrollo y despliegue seguro de la AGI, mientras los grandes laboratorios discuten estándares comunes. - Author: Gerardo Pavez - Tags: Tecnología y Ciencia, IA Shane Legg, cofundador y Chief AGI Scientist de Google DeepMind, lanzó el 16 de septiembre de 2026 el DeepMind Institute (DMI), una plataforma para estudiar cómo desarrollar y desplegar la inteligencia artificial general (AGI) sin dejar atrás los controles de seguridad. Reuters, al resumir un reporte del Financial Times, informó que Legg advirtió que el crecimiento de las capacidades de la IA no debe superar la capacidad de investigadores, empresas y gobiernos para vigilarla y controlarla. El anuncio coincide con conversaciones entre OpenAI, Anthropic y Google DeepMind sobre posibles estándares comunes, además de los llamados de Dario Amodei para ralentizar la evolución de los modelos de frontera. El DMI abordará el tema desde la ciencia, la política, la economía y las humanidades. ## Legg sostiene que la carrera de capacidades no puede dejar atrás a la seguridad El aviso aparece cuando los modelos ya pueden ejecutar tareas encadenadas con menos supervisión humana. Reuters señaló que las preocupaciones actuales incluyen sistemas capaces de escribir software, realizar tareas autónomas y ayudar a construir nuevos sistemas de IA. Si esas capacidades habilitan procesos de mejora recursiva, la velocidad de avance podría superar los mecanismos que en 2026 se usan para evaluar, vigilar y limitar el comportamiento de los modelos. La posibilidad describe un riesgo de control, no una confirmación de que la AGI ya exista. En la entrevista, Legg consideró que la propuesta de Amodei de reducir, no detener, la velocidad de los modelos más avanzados era una dirección que merecía consideración. También rechazó la idea de dar por alcanzada la AGI por la llegada de modelos recientes de OpenAI y Nvidia. Su posición mantiene una previsión concreta: una probabilidad de 50% de alcanzar lo que denomina AGI mínima en 2028\. La cifra es un pronóstico personal, no un calendario oficial de Google DeepMind. El propio DMI maneja una definición exigente: un sistema con las capacidades cognitivas del cerebro humano. Su presentación reconoce que los sistemas actuales todavía fallan en tareas básicas y carecen de la consistencia y creatividad necesarias para cumplir con la AGI completa, aunque sus autores esperan que esas brechas se cierren pronto. Esa combinación, capacidades que avanzan y criterios que todavía no se cumplen, explica por qué Legg coloca el despliegue seguro en el centro del nuevo proyecto. ## El DeepMind Institute busca ampliar quién decide cómo se despliega la AGI El instituto está dirigido por Legg, James Manyika y Demis Hassabis; Legg además figura como managing editor. Su misión declarada es impulsar investigación, colaboración y debate interdisciplinario sobre el desarrollo seguro de la AGI, sus usos beneficiosos y sus efectos sociales. La agenda incluye ciencia, educación, sociedad, política, filosofía y bienestar humano, según la presentación oficial. El DMI reunirá a investigadores y pensadores de Google DeepMind, Google y la comunidad internacional. Su presentación anticipa que no todos estarán de acuerdo y que algunas ideas cambiarán conforme aparezcan nuevos datos. También plantea que los tecnólogos no deben decidir por sí solos cómo se construye y gobierna la AGI: las artes, las humanidades y los gobiernos forman parte de la conversación. Por la descripción publicada, la función inicial del DMI es editorial e intelectual, no la de un organismo que certifique modelos o autorice lanzamientos. Su página lo presenta como una plataforma para publicar ideas y abrir discusiones sobre un mundo con AGI. El aviso legal del sitio aclara que sus textos son puntos de partida para la conversación, reflejan las ideas y la investigación de sus autores, y no deben leerse como la posición oficial de Google. ![Researchers examining a robotic arm, showcasing technology and innovation.](https://fomoera.com/content/images/2026/09/fomoera-researchers-examining-a-robotic-arm-showcasing-technology-and-innovation-pexels-8438991.webp) Una imagen conceptual sobre el debate interdisciplinario que acompaña el desarrollo y despliegue de la AGI. · Foto de [Pavel Danilyuk](https://www.pexels.com/@pavel-danilyuk?ref=fomoera.com) en [Pexels](https://www.pexels.com/photo/man-and-woman-in-white-lab-coats-testing-a-new-machine-8438991/?ref=fomoera.com) ## Sus primeros ensayos conectan seguridad, trabajo y política pública El catálogo inicial muestra el alcance que busca el instituto. Entre sus primeras publicaciones aparecen textos sobre transparencia del razonamiento de los modelos, política económica para la AGI, una propuesta de nuevo utopismo y un marco para la IA de frontera escrito por Hassabis. La selección no se limita a la ingeniería de modelos: también aborda cómo cambiarían el empleo, las instituciones y las decisiones colectivas. El ensayo sobre política económica para la AGI, escrito por Julian Jacobs y Alex Imas, evalúa 11 ideas para gestionar una posible disrupción económica causada por una IA cada vez más avanzada y extendida. Sus autores definen la AGI como sistemas capaces de realizar tareas cognitivas al menos al nivel de una persona promedio y advierten que el impacto podría ir desde una transición laboral conocida hasta una separación estructural entre el trabajo humano y el capital. Para comparar las alternativas, el ensayo usa cuatro dimensiones: bienestar y resiliencia, agencia y voz, viabilidad y eficiencia, y durabilidad frente a distintos futuros económicos. La metodología combina revisión de literatura, encuestas y 51 evaluadores basados en agentes de IA, cuyas personalidades fueron diseñadas a partir de datos de encuesta de 51 economistas reales. El sitio presenta el resultado como un análisis asistido por IA, no como un programa adoptado por un gobierno ni como un consenso económico. Los autores vinculan sus propuestas con tres escenarios: - Ante una disrupción moderada, plantean ampliar el seguro de desempleo, el crédito fiscal por ingreso del trabajo y los programas de capacitación dirigidos por empleadores. - Si aparecen desplazamiento laboral más amplio y compresión salarial, proponen convertir gradualmente ese crédito fiscal en un impuesto negativo sobre la renta, activado por indicadores como desempleo prolongado y caída de los salarios medios. - Si la participación del trabajo en la economía cae de forma sostenida mientras aumentan los rendimientos del capital, plantean un respaldo de capital básico universal para conservar una participación económica más amplia. Se trata de escenarios y opciones de análisis, no de medidas aprobadas. La conclusión del ensayo es que ninguna intervención resolvería por sí sola todos los efectos de una transición hacia la AGI y que las decisiones deberían vincularse con señales económicas observables. ## El lanzamiento llega mientras los laboratorios discuten reglas comunes En paralelo, Quartz informó que Chris Lehane, responsable de política global de OpenAI, confirmó el 15 de septiembre que la empresa llevaba varias semanas hablando con Anthropic y Google DeepMind sobre coordinación en seguridad. Lehane sostuvo que las compañías no necesitan una exención antimonopolio para conversar sobre ese tema, aunque la coordinación entre competidores abre preguntas sobre cómo separar las medidas de seguridad de cualquier acuerdo que limite la competencia. Las conversaciones se relacionan con una propuesta que Hassabis planteó en julio para crear un organismo estadounidense de estándares, con un modelo parecido al de la Financial Industry Regulatory Authority. La idea sería evaluar los modelos más avanzados antes de su despliegue y coordinar una desaceleración de la industria si aparecen riesgos graves. El llamado de Dario Amodei a ralentizar el avance de los modelos de frontera, respaldado públicamente por Sam Altman, dio nuevo impulso a esa discusión. El DMI y ese posible organismo no son la misma iniciativa. El primero presenta ensayos, investigación y debate público; el segundo, si llega a concretarse, tendría que definir pruebas, salvaguardas y mecanismos de supervisión comunes. Por ahora, los laboratorios han confirmado conversaciones, pero no han anunciado una estructura final ni un estándar vinculante. El lanzamiento del instituto deja así dos planos relacionados, pero distintos. Google DeepMind intenta ampliar la discusión sobre qué significa desplegar la AGI y cómo repartir sus beneficios y riesgos; sus competidores exploran si pueden coordinar criterios mínimos de seguridad sin detener la competencia. El DMI ya tiene una agenda pública y sus primeros ensayos, mientras el debate industrial continúa sin reglas comunes anunciadas. *Fuentes:* [1](https://www.reuters.com/business/deepmind-co-founder-warns-ai-capabilities-must-not-outrun-safety-controls-ft-2026-09-16/?ref=fomoera.com), [2](https://institute.deepmind.com/essays/introducing-the-deepmind-institute/?ref=fomoera.com), [3](https://institute.deepmind.com/?ref=fomoera.com), [4](https://institute.deepmind.com/essays/economic-policy-for-agi/?ref=fomoera.com), [5](https://qz.com/openai-anthropic-google-deepmind-ai-safety-talks-091626?ref=fomoera.com)