El docente e investigador de la UNR analizó las advertencias sobre el desarrollo de modelos cada vez más avanzados, los cambios que la IA introduce en la ciencia y los desafíos que plantea para la educación. También diferenció entre los escenarios hipotéticos de superinteligencia y los riesgos concretos que ya presenta su utilización
La inteligencia artificial atraviesa una etapa de acelerado desarrollo y sus avances abren interrogantes que exceden las posibilidades inmediatas de las nuevas herramientas. En su columna en El Día Está Después, Dante Zanarini partió de una pregunta que comienza a aparecer con mayor frecuencia: qué hay detrás de las advertencias de quienes desarrollan los modelos de inteligencia artificial más avanzados y cuáles son los riesgos concretos asociados a esa evolución.
El análisis repasó algunos desarrollos recientes que permiten dimensionar el fenómeno: modelos capaces de abordar problemas matemáticos de una complejidad inédita, transformaciones en las formas de producir conocimiento científico y nuevas discusiones acerca de qué significa aprender cuando determinadas tareas intelectuales pueden ser realizadas por una máquina.
La educación aparece como uno de los ámbitos donde esas transformaciones ya son visibles. Zanarini puso en relación la discusión sobre inteligencia artificial con los resultados de las pruebas PISA, el uso creciente de herramientas generativas para resolver tareas y los cambios que atraviesan las universidades.
El desafío, en ese contexto, no consiste solamente en incorporar inteligencia artificial a las aulas. También implica discutir qué usos son pertinentes, cuándo resulta necesario limitar estas herramientas y qué capacidades deberían seguir siendo desarrolladas por los estudiantes. La posibilidad de que una IA escriba textos, resuelva problemas o produzca trabajos académicos obliga a revisar prácticas educativas que durante décadas estuvieron asociadas exclusivamente al trabajo humano.
La columna también buscó diferenciar los distintos escenarios que suelen aparecer agrupados bajo la idea de un supuesto “apocalipsis de la IA”. Uno de ellos es el denominado problema de alineación: una máquina puede cumplir literalmente con una instrucción y, al mismo tiempo, alcanzar un resultado contrario al objetivo que una persona pretendía conseguir.
Otro escenario es la eventual aparición de una superinteligencia, es decir, sistemas cuyas capacidades superarían ampliamente las humanas en múltiples ámbitos. Zanarini señaló que se trata de una hipótesis que forma parte del debate actual, pero que no existe evidencia que permita afirmar una cercanía inmediata de ese escenario.
Frente a esas posibilidades de largo plazo, el análisis puso el foco también en un riesgo más concreto y actual: la utilización de la inteligencia artificial como herramienta para ataques informáticos. Modelos capaces de identificar vulnerabilidades podrían ser empleados para detectar puntos débiles y facilitar ataques contra sistemas e infraestructuras críticas.