Simons Foundation anunció el 15 de octubre un programa de 15 millones de dólares en financiación y recursos, junto con OpenAI y Anthropic, para que los matemáticos evalúen resultados obtenidos con inteligencia artificial. La fundación administrará las ayudas y prevé una convocatoria abierta de propuestas.
OpenAI precisó que aportará 5 millones de dólares. El apoyo financiará talleres, conferencias y programas especiales. La empresa también dará acceso a sus modelos y capacidad de cómputo a investigadores respaldados por Simons.
El comunicado de la fundación incluye entre los objetivos aprender a usar nuevas herramientas y acordar criterios comunes para su empleo. Anthropic también ofrecerá herramientas y recursos de cómputo. Ese acceso de ambas empresas se extenderá a la ciencia básica.
Verificar una demostración y comprenderla son tareas distintas
OpenAI publicó el 6 de octubre resultados matemáticos atribuidos a un modelo interno. La compañía acompañó parte del material con formalizaciones en Lean, un lenguaje que permite expresar demostraciones de modo que una computadora pueda comprobarlas.
Las recomendaciones de AGMAI, el grupo asesor de matemáticos, publicadas el 29 de septiembre, distinguen los artículos que un investigador comprende y de los que se responsabiliza de aquellos que aún necesitan trabajo humano para ser entendidos.
Para los primeros propone publicar un preprint, someter el artículo a revisión por pares y explicar el trabajo ante colegas. Para los segundos pide a los laboratorios financiar actividades que ayuden a asimilar los resultados, incluidos grupos de trabajo y textos explicativos.
El programa puede sostener ese esfuerzo de comprensión, además de la comprobación con software. AGMAI advierte que aceptar apoyo no supone avalar las prácticas de los laboratorios de IA.
El reparto de responsabilidades anunciado coincide con otra recomendación del grupo: los laboratorios aportan recursos y una institución sin fines de lucro decide cómo distribuir las ayudas. En este programa, esa tarea corresponde a Simons.
.jpg){kind=link}