Importante avance en IA: Una carta, un algoritmo y el futuro de la humanidad

El Proyecto Q*

La controversia es aún mayor al considerar el enigmático proyecto Q* (Q-Star), que algunos creen puede ser clave en la búsqueda de una inteligencia artificial general (IAG), definida por OpenAI como aquellos sistemas autónomos que sean capaces de superar al ser humano en la mayoría de tareas económicamente relevantes.

Capacidades y Optimismo en Torno a Q*

Aunque la verificación independiente de las capacidades sigue en proceso, se informaba que el modelo ha resuelto problemas matemáticos a nivel escolar, lo que genera mucho optimismo sobre su éxito a futuro. Este logro es significativo ya que conquistar las matemáticas —donde hay respuestas únicas correctas— implica capacidades de razonamiento avanzadas que se asemejan a la inteligencia humana.

Las matemáticas son una frontera en el desarrollo de la IA generativa. Actualmente, la IA generativa es buena en escritura y traducción de idiomas al predecir estadísticamente la siguiente palabra. Pero conquistar la capacidad de hacer matemáticas implica que la IA tendría mayores capacidades de razonamiento que se asemejarían a la inteligencia humana, ya que en las matemáticas solo hay una respuesta correcta.

Implicaciones de un Avance en IA

La posibilidad de que un algoritmo de IA desarrolle habilidades de razonamiento y generalización, mucho más allá de las capacidades de un simple cálculo, significa que podríamos estar cerca de aplicar la IA a la investigación científica de maneras inéditas. Ya que a diferencia de una calculadora que puede resolver un número limitado de operaciones, la AGI permitirá generalizar, aprender y comprender.

La Seguridad en el Desarrollo de la IA

Los investigadores de OpenAI subrayaron no solo las capacidades de la IA, sino también los potenciales peligros. La preocupación no es nueva entre los científicos de la computación: un sistema de IA altamente inteligente podría, teóricamente, decidir que la destrucción de la humanidad es favorable para sus intereses.

El Papel de Sam Altman

Ante estos desarrollos, la noticia del despido y posterior reinstauración de Altman cobra aún más relevancia. Bajo su dirección, ChatGPT se ha desarrollado hacia una rápida expansión y la captación de inversiones, acercándonos a la IAG.

Durante una cumbre de líderes mundiales en San Francisco, Altman insinuó que estaban cercanos a avances significativos, diciendo que ha sido un honor profesional estar presente “cuatro veces en la historia de OpenAI… al empujar hacia atrás el velo de la ignorancia”.