> ## Content Index > Fetch the complete content index at: https://fomoera.com/llms.txt > Use this file to discover other available public pages before exploring further. # Las ideas de Dario Amodei sobre la IA: de GiveWell al choque con OpenAI - URL: https://fomoera.com/dario-amodei-ideas-givewell-openai/ - Published: 2026-11-06T00:20:00.000Z - Updated: 2026-11-06T00:20:00.000Z - Description: Una donación, una disputa interna en OpenAI y el llamado a moderar el desarrollo de la IA ayudan a entender las ideas del CEO de Anthropic sobre el beneficio y la seguridad de la tecnología. - Author: Gerardo Pavez - Tags: Tecnología y Ciencia, IA Una columna publicada el 5 de noviembre cuestionó a Dario Amodei por advertir sobre los riesgos de la inteligencia artificial mientras Anthropic desarrolla y vende sus propios modelos. La crítica apunta a una tensión que acompaña al CEO desde antes de fundar la compañía: cómo aprovechar una tecnología que considera beneficiosa sin perder de vista sus posibles daños. Mucho antes de dirigir Anthropic, Amodei ya escribía sobre la dificultad de decidir dónde producir el mayor beneficio. En 2010, cuando estudiaba física en Princeton, explicó en el blog de GiveWell cómo eligió el destino de una donación de 10,000 dólares realizada el año anterior. GiveWell evalúa organizaciones benéficas y busca estimar el efecto de sus programas. Amodei contó que conoció la iniciativa en 2008, a través de un blog de economía, y que comparó una organización dedicada a mejorar la distribución de vacunas con otra que apoyaba tratamientos contra la tuberculosis. Según su explicación, sus cálculos favorecían a Stop TB en costo-eficacia bajo sus propios supuestos. Aun así, eligió VillageReach porque confiaba más en su ejecución y podía seguir con mayor claridad cómo llegaban las vacunas a los centros de salud. Para él, una estimación prometedora no bastaba si había demasiados puntos en los que el programa podía fallar. ## GiveWell, altruismo eficaz y racionalismo La relación de Amodei con GiveWell suele aparecer en conversaciones sobre el altruismo eficaz, una corriente que propone usar evidencia y razonamiento para decidir cómo hacer el mayor bien posible. El evaluador de organizaciones benéficas ayudó a establecer esa corriente en Estados Unidos, según [New York Magazine](https://nymag.com/intelligencer/article/artificial-intelligence-anthropic-ipo-effective-altruism-comeback.html?ref=fomoera.com). La revista también describe vínculos entre el altruismo eficaz y comunidades conocidas como racionalistas, que dan importancia al razonamiento probabilístico. Son círculos relacionados, no términos equivalentes. Y el contacto temprano de Amodei con GiveWell no significa que comparta cada postura de esos grupos: [Axios](https://www.axios.com/2026/09/24/trump-anthropic-ai-doomerism-dario-amodei?ref=fomoera.com) informó que el ejecutivo ha dicho en entrevistas que no pertenece al movimiento de altruismo eficaz. En una entrevista de 2022 con Future of Life Institute, Amodei explicó que había visto en la IA una posible herramienta para abordar problemas científicos y de salud, pero también una tecnología con riesgos que debían atenderse. Sus comentarios muestran ambas partes de su planteamiento: impulsar aplicaciones útiles y tratar de hacer más seguros los sistemas que las permiten. ## La disputa en OpenAI Amodei trabajó después en OpenAI, donde llegó a dirigir investigaciones sobre modelos y seguridad. Según una investigación de The New Yorker publicada en abril de 2026, participó en discusiones con Sam Altman y Greg Brockman sobre la carta de principios de la organización en 2018. La revista señaló que Amodei defendió una cláusula para ayudar, en lugar de competir, si otro proyecto con valores compatibles y atento a la seguridad estaba cerca de construir primero una inteligencia artificial general. Esa disposición sigue apareciendo en la [carta pública de OpenAI](https://openai.com/charter/?ref=fomoera.com). La relación también estuvo marcada por desacuerdos personales. Según notas de Amodei revisadas por The New Yorker, él atribuyó a Brockman una respuesta que situaba el dinero y el poder entre sus prioridades. Brockman disputó esa versión, informó la revista. The New Yorker relató otra disputa sobre el acuerdo de inversión de Microsoft en 2019: Amodei consideró que una disposición que permitía a Microsoft bloquear fusiones podía afectar la promesa de cooperación. Altman dijo a la revista que no recordaba ese enfrentamiento. Amodei y otros colegas salieron de OpenAI en 2020; él y su hermana Daniela formaron parte del equipo que fundó Anthropic en 2021. ## Desarrollar la IA y limitar su ritmo Anthropic también ha construido modelos comerciales, incluido Claude. En septiembre de 2026, Amodei pidió reducir el ritmo al que mejoran las capacidades de los sistemas más avanzados para dar tiempo a que progresen las medidas de seguridad. Entre sus propuestas planteó que evaluadores externos tengan acceso continuo para comprobar las prácticas de los laboratorios y reportar incidentes. En ese mismo ensayo, el ejecutivo sostuvo que no desarrollar la tecnología privaría a la humanidad de beneficios o podría dejarla en manos de gobiernos autoritarios. Aclaró que moderar el ritmo no significa detener el entrenamiento de modelos. Esa es la justificación de Amodei para intentar combinar desarrollo y cautela; no demuestra por sí sola que las salvaguardas sean suficientes. El columnista Jordan Schachtel, de American Greatness, planteó el 5 de noviembre que las advertencias de Amodei perjudican la credibilidad del sector mientras las empresas continúan comercializando IA. Se trata de una crítica de opinión, no de una medición de lo que piensa el público. La distancia entre la postura de Amodei y la de sus críticos se concentra ahora en una cuestión práctica: qué controles pueden comprobarse desde fuera de las empresas que construyen los modelos. La propuesta del ejecutivo incluye evaluadores independientes, además de medidas que requerirían coordinación con otros laboratorios y gobiernos. *Fuentes:* [1](https://blog.givewell.org/2010/06/03/my-donation-for-2009-guest-post-from-dario-amodei/?ref=fomoera.com), [2](https://futureoflife.org/podcast/daniela-and-dario-amodei-on-anthropic/?ref=fomoera.com), [3](https://darioamodei.com/post/we-must-pace-the-frontier?ref=fomoera.com), [4](https://www.newyorker.com/magazine/2026/04/13/sam-altman-may-control-our-future-can-he-be-trusted?ref=fomoera.com), [5](https://amgreatness.com/2026/11/05/the-midterms-and-ais-credibility-problem/?ref=fomoera.com)