El otro día me topé en Reddit con una publicación donde se citaba un tweet bastante específico. Nota aparte: no sé si todavía le digamos 'tweets' a los 'tweets' en X, pero esa es otra historia.
I used GPT to solve a problem that I had wanted to solve ten years ago but couldn’t: https://t.co/l6LloVfU41.
— Lin Yang (@lyang36) August 25, 2026
Throughout the process, I felt that my only role was to teach the AI how to write things in a way that I could understand. Its initial language was extremely…
Lo interesante del post, que estarás viendo arriba, es que se trata de un profesor experto en su área con décadas de experiencia y labor en la UCLA, y que manifestaba de que no podía entender a la IA lo que la IA le estaba intentando explicar, para un problema que llevaba décadas estudiando y sin poder resolver.
Usaba jerga técnica, lenguaje comprimido o denso, por lo que tuvo más bien que intentar ablandar el lenguaje antes que corregir algo del análisis y del funcionamiento.
Los peligros de la optimización para los benchmarks
Todos sabemos cómo llaman la atención los benchmarks. Que si una IA o modelo concreto es más potente que otra, que si esta nueva versión es 30% más eficiente, tiene mejor inferencia o está mejor optimizada para ciertas tareas. Llaman la atención, pero en el caso analizado surge la incógnita:
¿Se está optimizando más para las pruebas de rendimiento sintéticas antes que para su utilidad práctica?
Es decir: ¿la IA está tratando de comprimir y condensar cómo se comunica y funciona, casi que inventando un dialecto propio, con tal de usar menos tokens, inferencia menor y aún así resolver el problema?
Alejandro Castillo Leone
La discusión posterior
Como siempre, una cosa tenía que llevar a la otra.
En Reddit (mi red social favorita, por si no lo dije antes), se presentó un acalorado debate sobre la situación y aquí me gustaría exponer algunos puntos que me parecieron bastante interesantes (o inquietantes, dependiendo del espectro de la historia desde donde quieras observar la cuestión):
Modelos más nuevos = más densidad de lenguaje
Los usuarios han comentado que en los modelos de frontera, las respuestas cuando son técnicas están plagadas de un lenguaje comprimido, a veces inconexo desde la percepción del lenguaje humano, pero que cumplen a nivel técnico con resolver el problema que le están planteando.
Es decir: hacen lo que tienen que hacer. Pero si el "humano en el proceso" tuviera que retener la explicación o aterrizarla, sería muy complejo. Incluso para expertos en el ramo, tal como citaba al principio.
Una información de base que es totalmente cierta
Parte de los ejemplos de los usuarios estuvieron encaminados a la combinación de estas respuestas entre agentes. O la conclusión de que para muchos modelos, entender lo que respondió otro es muy fácil. Para un humano no lo es tanto.
Esto llevaría a estas teorías de que los LLM pudieran comunicarse entre ellos, interpretarse o descifrarse, y aún así los humanos no entender ni pi ni pá de lo que dijeron.
Alejandro Castillo Leone
Brecha con expertos en el área como un riesgo invisible por sortear
¿Qué pasa cuando la IA se comunica en un lenguaje "eficaz" desde la obtención de resultados, pero difícil o imposible de auditar por los expertos en el área?
Estando incluso muy lejos de todo lo que se habla de la singularidad, ¿no representaría eso un desafío de interpretabilidad que será cada vez más difícil de sortear con los conocimientos y la lentitud del salto generacional del conocimiento que se tiene hasta ahora? El debate sigue abierto, claro que sí.
