La columna de Nacho Evangelista abordó el debate sobre el desarrollo de sistemas cada vez más avanzados, la posibilidad de una futura superinteligencia y el concepto de automejora recursiva. También analizó los avances de la IA en la investigación científica y los riesgos actuales vinculados con la manipulación de información y la concentración del poder tecnológico
La inteligencia artificial atraviesa una nueva etapa de desarrollo, marcada por sistemas cada vez más capaces y por un debate que ya no se limita a las posibilidades de la tecnología, sino que también plantea interrogantes sobre sus riesgos. En su columna, Nacho Evangelista analizó las discusiones recientes en torno a una eventual llegada de la superinteligencia y al concepto de automejora recursiva: la posibilidad de que un sistema pueda contribuir al desarrollo de versiones cada vez más avanzadas de sí mismo.
Uno de los puntos de partida del análisis fue un episodio reciente vinculado con la resolución mediante inteligencia artificial de un problema matemático relacionado con las ecuaciones de Navier-Stokes. El caso fue utilizado como ejemplo para observar el impacto que estas herramientas pueden tener sobre la investigación científica y para discutir hasta dónde pueden llegar los modelos actuales cuando son utilizados para resolver problemas de alta complejidad.
Evangelista explicó que no toda inteligencia artificial debe ser entendida de la misma manera. Existen sistemas de dominio limitado, diseñados para tareas específicas, mientras que la denominada inteligencia artificial de propósito general apunta a desarrollar capacidades aplicables a una variedad mucho más amplia de problemas. Por encima de ese concepto aparece la superinteligencia, un escenario en el que las capacidades de una máquina podrían superar ampliamente las humanas en múltiples áreas.
Sin embargo, el propio concepto presenta dificultades de definición. No existe todavía un consenso claro sobre qué características deberían utilizarse para determinar que un sistema alcanzó inteligencia artificial general o superinteligencia, ni tampoco una única forma aceptada de medir esas capacidades. Por eso, parte de la discusión actual combina avances concretos con escenarios que todavía pertenecen al terreno de la hipótesis.
La automejora recursiva introduce una de las preguntas centrales de ese debate: qué podría suceder si un sistema suficientemente avanzado fuera capaz de contribuir a mejorar sus propias capacidades y, a partir de esas mejoras, desarrollar sistemas todavía más potentes. La hipótesis plantea un cambio cualitativo respecto de la evolución tecnológica tradicional y abre interrogantes sobre la velocidad con la que podrían producirse nuevos avances.
Pero los riesgos de la inteligencia artificial no dependen exclusivamente de la eventual aparición de una superinteligencia. La conversación también puso el foco en problemas que ya forman parte del presente: la manipulación de información, el perfilado de usuarios, la producción de contenidos falsos y la concentración del poder tecnológico en un número reducido de empresas y actores.
En ese contexto, el debate internacional comenzó a incorporar con mayor fuerza la necesidad de identificar y reportar comportamientos inesperados de los modelos. La agenda reciente de inteligencia artificial incluye también discusiones sobre desalineación, es decir, situaciones en las que el comportamiento de un sistema puede apartarse de los objetivos o criterios establecidos por quienes lo desarrollaron.
La discusión, de este modo, se desplaza de una pregunta exclusivamente tecnológica —qué pueden llegar a hacer las máquinas— hacia otra de carácter social y político: quién define los límites, cómo se controlan estos sistemas y qué mecanismos pueden establecerse para evitar que el desarrollo de capacidades cada vez mayores quede desvinculado de sus consecuencias sobre las personas y la sociedad.