Son momentos convulsos en los entornos que rodean a la inteligencia artificial. Porque después de las declaraciones de Jacob Coxon, ex trabajador de Anthropic, muchas son las voces que han salido a posicionarse a favor o en contra de una desaceleración de los desarrollos de modelos cada vez más inteligentes.
Una de las voces que faltaban, o de las que se esperaba una respuesta porque también estaban por lanzar su propio modelo de Inteligencia artificial, Muse, era precisamente Mark Zuckerberg, quien ha dicho que lejos de buscar desacelerar o regular, piensa que atender con rapidez el desarrollo y los riesgos de seguridad es un mejor camino. El CEO de Meta coincide con posturas como las de Jensen Huang (Nvidia), por ejemplo.
Gerardo Pavez
¿Cómo llegamos hasta acá?
Para entender la situación, lo principal es el abordaje desde el dónde venimos. Muchas personas piensan que el tema de la seguridad (cibernética y física) del que tanto se está hablando actualmente no tiene sino que ver con la inminente salida a bolsa de muchas de las grandes empresas de IA, de la necesidad de regular el mercado occidental ante el avance de los modelos chinos y de pesos abiertos, por lo que todo sería un miedo infundado.
Todo ha cambiado. 2 graves incidentes de seguridad, de modelos de frontera privados de OpenAI, aparte de las declaraciones de Jacob Coxon acerca de que la IA literalmente podría acabar con la humanidad, han encendido el debate de cómo están preparadas las empresas para la seguridad de sus modelos en interacción con "el mundo real".
Dario Amodei pide desacelerar. El CEO de Anthropic no pide la paralización total en el desarrollo y entrenamiento de nuevos modelos, pero sí pide avanzar con más cautela en torno a cómo se están desarrollando actualmente estas tecnologías, de las cuales muchos no tienen suficiente conocimiento en el cómo realizan las actividades que terminan realizando. No por funcionar, quiere decir que lo estén haciendo por los motivos correctos.
Gerardo Pavez
Muse, en la rampa de salida
Mientras todo eso ocurre, Muse, el modelo de inteligencia artificial de la compañía liderada por Mark Zuckerberg, ha pospuesto su salida pactada para el mes de septiembre, precisamente porque el CEO de Meta cree que debe enfrentarse a más pruebas de seguridad y de fiabilidad, ya que el objetivo de la IA según sus propias palabras debe ser la utilidad para los usuarios y no una competencia diaria por lograr el automejoramiento o la tan ansiada AGI de la que otros empresarios (como Sam Altman) suelen jactarse al nombrar los objetivos pretendidos.
