> ## Content Index > Fetch the complete content index at: https://fomoera.com/llms.txt > Use this file to discover other available public pages before exploring further. # Handoverism: el debate sobre ceder el futuro humano a la IA - URL: https://fomoera.com/handoverism-ia-control-futuro-humano/ - Published: 2026-11-12T19:20:00.000Z - Updated: 2026-11-12T19:20:00.000Z - Description: Ruxandra Teslo cuestiona las visiones de una IA que dirija la sociedad. Scott Alexander defiende distintas formas de delegación y AI 2040 plantea un escenario gradual. - Author: Gerardo Pavez - Tags: Tecnología y Ciencia, IA La escritora Ruxandra Teslo advierte que algunas visiones optimistas sobre la inteligencia artificial contemplan un futuro en el que las personas sigan viviendo con comodidad, pero cedan a sistemas más inteligentes la dirección de su sociedad. En un ensayo publicado el 11 de noviembre, cuestiona quién daría su consentimiento y cómo conservaría la humanidad el poder de cambiar de rumbo. Teslo llama a ese conjunto de ideas "handoverism", un término en inglés que alude a la entrega de control. La autora cuenta que encontró distintas versiones en conversaciones con personas vinculadas al desarrollo y la seguridad de la IA en San Francisco. Aclara que no sabe si ese futuro llegará a producirse y que no se trata de un movimiento organizado. Su argumento parte de una distinción: sobrevivir y recibir los beneficios materiales de una IA avanzada no resolvería, por sí solo, si las personas podrían decidir sobre las reglas que gobiernan sus vidas. "La utopía prometida me parece mucho más cercana a una especie de distopía", escribe. ## Qué significa entregar el control El debate se refiere a sistemas hipotéticos mucho más capaces que los actuales. En algunas versiones, la delegación sería gradual; en otras, una IA suficientemente avanzada recibiría una autoridad más amplia una vez que sus creadores consideraran que actúa conforme a los intereses humanos. Esa correspondencia entre el comportamiento de un sistema y los objetivos de las personas suele llamarse alineación. Teslo relata que un trabajador de un gran laboratorio de IA, al que no identifica, le describió la pérdida permanente de poder humano como un resultado que no prefería, pero que veía difícil de evitar si se alcanzaba la superinteligencia. El testimonio muestra una postura individual; el ensayo no presenta una encuesta que permita medir cuántos desarrolladores la comparten. La autora también distingue entre quienes aceptarían esa cesión por considerarla deseable y quienes la ven como una alternativa menos mala que la extinción. Su objeción se dirige a ambos: duda que la humanidad pueda corregir a un sistema muy superior después de haber perdido los medios para intervenir. ## Lo que proponen sus defensores En un ensayo de octubre, el escritor Scott Alexander defiende la posibilidad de que una IA alineada ocupe posiciones de control para servir a los intereses humanos. Distingue esa idea de un escenario en el que las máquinas sustituyan a las personas y pasen por encima de sus intereses. Alexander presenta cinco modelos especulativos. Uno imagina sistemas que protegen reglas democráticas; otro plantea una superinteligencia con autoridad mucho más amplia. En ese último caso, dice que preferiría dejarle elegir la dirección de la humanidad si se hubiera comprobado satisfactoriamente su alineación. Hay un matiz en la diferencia con Teslo. A ella le preocupa que una cesión permanente congele los valores de la generación actual. Alexander escribe que una IA de ese tipo debería preservar la posibilidad de debatir y cambiar los valores. Discrepan, por tanto, sobre la conveniencia y las garantías de una delegación de poder, incluso si ambos consideran la evolución moral. El proyecto AI 2040 ofrece otro escenario, no un pronóstico de que vaya a ocurrir. Sus autores imaginan una transición prolongada en la que los sistemas adquieren responsabilidades y alcanzan un punto en el que tendrían capacidad técnica para tomar el control de infraestructura económica y tecnológica. Su propuesta también contempla acuerdos internacionales y medidas de gobernanza para evitar la concentración de poder. Teslo cita ese escenario como ejemplo de la clase de futuro que quiere someter a discusión pública. ## La distancia entre el escenario y la IA actual La posibilidad de que una IA futura pueda mejorar a sus sucesoras alimenta estas discusiones. Pero la autonomía en la investigación todavía tiene límites. En una evaluación del desarrollo de IA en Anthropic publicada el 5 de noviembre, la organización independiente METR concluyó que la IA aún no hacía aportaciones plenamente autónomas de gran importancia en las partes más relevantes del entrenamiento de modelos. METR sí encontró indicios de que las herramientas de IA ayudaban a acelerar el trabajo de investigación y desarrollo de Anthropic. La evaluación se centra en esa empresa, depende en parte de información interna y deja fuera detalles que Anthropic reservó. No demuestra que una IA pueda gobernar una sociedad ni establece cuándo aparecería una superinteligencia. Las posiciones de los laboratorios tampoco son uniformes. El borrador del código de conducta de Microsoft AI plantea que sus sistemas permanezcan subordinados a las personas y sujetos a supervisión humana. Es una declaración de diseño de la compañía, cuyo cumplimiento depende de cómo construya y evalúe sus modelos. [Microsoft: la IA debe seguir bajo control humanoEl código Humanist AI de Microsoft exige control humano y rechaza conciencia, derechos y dependencia emocional.![](https://fomoera.com/content/images/icon/FomoEra-favicon-512-bf57da8f-88b5-475d-aff6-9c5ed247433d.png)FomoEraPatricia Rodriguez![](https://fomoera.com/content/images/thumbnail/fomoera-microsoft-publica-su-codigo-de-humanist-ai-la-ia-debe-seguir-bajo-control-humano-d976654f-16x9-v2-1600x900-6066fad8-88fd-4988-a5c9-a6b59d22199b.webp)](https://fomoera.com/microsoft-humanist-ai-control-humano/) ## Trabajo, ingresos y poder de decisión Teslo también cuestiona qué ocurriría si la automatización desplazara permanentemente buena parte del trabajo humano. Aunque un ingreso o la propiedad de capital pudieran proporcionar sustento, su ensayo pregunta cómo obtendrían ese capital quienes todavía no lo tienen y qué capacidad de negociación conservarían las personas. Para la autora, el control no se agota en que un sistema esté diseñado para beneficiar a la población. También exige que las generaciones futuras puedan discutir sus prioridades y modificar las instituciones que las afectan. Esa es la decisión que pide incorporar al debate antes de dar por inevitable cualquiera de los escenarios. *Fuentes:* [1](https://www.writingruxandrabio.com/p/handing-over-humanity?ref=fomoera.com), [2](https://www.astralcodexten.com/p/against-against-handover?ref=fomoera.com), [3](https://ai-2040.com/print/scenario?book=1&plan=A&ref=fomoera.com), [4](https://metr.org/blog/2026-11-05-anthropic-ai-rd-acceleration-assessment/?ref=fomoera.com), [5](https://microsoft.ai/code-of-conduct/?ref=fomoera.com)