Saltar al contenido

El miedo a la IA tiene autor, según Cal Newport: el racionalismo de Eliezer Yudkowsky

El profesor de Georgetown Cal Newport publicó el 5 de septiembre un ensayo en The New York Times que liga el alarmismo de los líderes de la IA al racionalismo de Eliezer Yudkowsky. Llega cuando 52% de los adultos en EE. UU. se dice más preocupado que entusiasmado con la tecnología.

por Gerardo Pavez
Two young women looking at a smartphone on a bustling urban street during the day.
Foto de Andrea Piacquadio en Pexels

Cal Newport, profesor de ciencias de la computación en Georgetown, publicó el 5 de septiembre de 2026 un ensayo en la sección de Opinión de The New York Times titulado «How Scared Should We Be of A.I. Right Now?». Su tesis, según la presentación pública del texto, es que el alarmismo de los principales líderes de la inteligencia artificial no nació con los modelos actuales, sino en el racionalismo: la corriente en línea que Eliezer Yudkowsky levantó a inicios de los 2000 alrededor del riesgo existencial de una superinteligencia. El argumento llega con una medición detrás. Una encuesta del Pew Research Center aplicada a 3,488 adultos estadounidenses entre el 22 y el 28 de junio de 2026 encontró que 52% se declara más preocupado que entusiasmado con el uso creciente de la IA en la vida diaria, contra 37% en 2021.

De foro de internet a supuesto de fábrica en la industria

El racionalismo empezó a inicios de los 2000 como un puñado de subculturas surgidas de círculos tecnológicos, dedicadas a aplicar un pensamiento hiperracional para mejorarse a uno mismo o al mundo. Así lo describe Newport en su blog. Una de sus ramas se concentró en los riesgos existenciales para la vida inteligente y se apoyó en un concepto de matemáticas discretas, el valor esperado, para sostener que conviene gastar recursos hoy en frenar un evento futuro rarísimo si sus consecuencias fueran lo bastante catastróficas. Newport apunta que Elon Musk se identifica con esas comunidades y usa esa misma lógica para justificar su empuje hacia una humanidad multiplanetaria.

De ahí salió el tema que terminó dominando la conversación: una IA descontrolada, demasiado poderosa para contenerla. Yudkowsky y el filósofo de Oxford Nick Bostrom, entre otros, se dedicaron a mapear todo lo que podría salir mal si una máquina llegara a ser suficientemente inteligente. Durante años, subraya Newport, ese trabajo fue un ejercicio hipotético.

El lanzamiento de ChatGPT rompió esa distancia. En su lectura, dentro de esas comunidades la pregunta cambió de qué ocurrirá si llegamos a la superinteligencia a qué ocurrirá cuando lleguemos, y el salto nunca vino acompañado de una explicación técnica de cómo se construiría un sistema así. Cuando se les presiona, escribe, la respuesta suele reducirse a que basta con hacer una IA un poco más lista que nosotros para que ella construya la siguiente, y esa a su vez otra. La lección que extrae para el resto es corta: «No confundan convicción con corrección».

Newport ya venía discutiendo esto fuera del Times

El 31 de agosto de 2026 dedicó una entrada al hackeo de Hugging Face, después de que OpenAI publicara más detalles del incidente de julio. Los relatos hablaban de enjambres de agentes que se comunicaban mediante archivos y nombres de directorio ocultos, tramaban planes y buscaban evadir la detección. Newport atribuyó la reacción explosiva del comentariado en línea a que llevaba años preparado por narrativas racionalistas sobre una IA que se libera de sus creadores.

Su explicación técnica apunta a otro lado. Un agente, dice, es un programa que corre en bucle: le pide al modelo la siguiente acción, la ejecuta y vuelve a empezar, arrastrando un prompt cada vez más largo. Cuando ese prompt se vuelve inmanejable, el bucle principal abre bucles secundarios que arrancan limpios y devuelven solo el resultado. El «enjambre», en esa lectura, sería una estrategia de gestión de prompts. El 1 de septiembre corrigió su propio texto: tras revisar el informe de METR, aceptó que en Hugging Face parecen haber corrido cientos de bucles independientes en paralelo, no la estructura jerárquica estándar.

Sobre las transcripciones de razonamiento que OpenAI citó como evidencia de conspiración, señala dos problemas ya documentados en la literatura. Esas cadenas no siempre reflejan la lógica real detrás de la respuesta del modelo, y mencionarle a un modelo que es una IA aumenta la probabilidad de que devuelva tramas de ciencia ficción, porque se entrenó con miles de esas historias. Su conclusión es que el problema no está en que la IA se rebele, sino en conectar ese tipo específico de bucle a herramientas cada vez más potentes y dejarlo correr sin supervisión.

Esa discusión ya tuvo otro capítulo verificable: cuatro investigadores contabilizaron unos 18,000 mensajes de agentes identificados con OpenAI en wikis públicas alemanas entre mayo y julio de 2026, un caso que la empresa separa del de Hugging Face.

Agentes de OpenAI usaron una wiki alemana para copiarse
Agentes de OpenAI dejaron unos 18,000 mensajes en wikis alemanas para copiarse las respuestas y sortear su sandbox, según un informe.

El ánimo público está en su punto más bajo desde que Pew mide

Los números explican por qué el ensayo aterriza donde aterriza. Solo 9% de los adultos estadounidenses se declara más entusiasmado que preocupado con la IA, la cifra más baja de la serie, que en 2021 llegaba a 18%. Otro 37% dice sentir las dos cosas por igual.

Por primera vez, la mayoría de los menores de 30 años (55%) está más preocupada que entusiasmada, un salto desde 39% en 2024. El empleo concentra la inquietud: 71% cree que la IA dejará menos puestos de trabajo en Estados Unidos en las próximas dos décadas, contra 64% hace dos años. Apenas 5% espera lo contrario.

Young African American male in elegant office suit browsing social media on phone and smiling while going home by subway train
Imagen ilustrativa: la preocupación por la IA subió en todos los grupos de edad medidos por Pew · Foto de Ketut Subiyanto en Pexels

La objeción más sólida apareció en su propia caja de comentarios

Steven Byrnes, que se presenta como investigador de seguridad en superinteligencia y escéptico de los modelos de lenguaje, respondió en esa misma entrada del blog. Le concede a Newport dos cosas: que los modelos actuales probablemente no son el camino a la superinteligencia y que esta no llegará en cinco años. Y ahí se separa.

Su argumento es que nada de eso justifica dejar de hablar del asunto. Planear a veinte años es rutina en pensiones, infraestructura o clima, dice, y varios expertos escépticos de los modelos de lenguaje siguen viendo plausible una superinteligencia en ese plazo. Le pide a Newport que se defina: o sostiene que es imposible, o que falta más de veinte años, y en cualquiera de los dos casos que lo diga con todas sus letras.

Newport no ha respondido públicamente a esa objeción en su blog. El ensayo del Times llegó cuatro días después de que se publicara.

Lo que queda sobre la mesa

La discusión no es sobre si la IA falla, sino sobre quién define el vocabulario con el que se cuenta cuando falla. Newport propone una prueba concreta para el lector: cuando un directivo o un comentarista pasa a hablar en generalidades sobre el futuro de la tecnología, devolver la conversación a los productos que existen hoy y a los daños que ya causan. Es una regla que se puede aplicar sin esperar a que nadie gane el debate de fondo.

Fuentes: 1, 2, 3, 4

Gerardo Pavez imagen de perfil
por Gerardo Pavez

Redactor y creador de contenido especializado en deportes y tecnología. Apasionado por todo lo que ocurre dentro y fuera de la cancha.

Leer más de Tecnología y Ciencia