Redacción: Inés Arroyo
La inteligencia artificial (IA) generativa avanza con rapidez. Sin embargo, sus propios creadores admiten que aún no entienden cómo toman decisiones estas tecnologías. A diferencia del software tradicional, que sigue instrucciones definidas, los modelos de IA aprenden por sí mismos y generan sus propias rutas para llegar a una respuesta.
Dario Amodei, cofundador de la empresa Anthropic, lo resume de forma contundente: “No entendemos cómo funcionan nuestras propias creaciones”. Según él, esta falta de comprensión no tiene precedentes en la historia de la tecnología.
Ante este reto, ha surgido una nueva disciplina: la “interpretabilidad mecanicista”. Este campo busca entender qué ocurre dentro de los modelos de IA cuando procesan información. Es decir, intenta descifrar cada paso que realiza la máquina para llegar a una conclusión. Neel Nanda, investigador de DeepMind, afirma que entender un modelo de IA completo es casi tan difícil como entender el cerebro humano.
Pese a esa complejidad, hay avances. Investigadores como Chris Olah, también de Anthropic, han comparado el desarrollo de estos modelos con un “andamio” sobre el que se forman estructuras internas. La idea es estudiar esos circuitos para saber cómo razona la IA.
Universidades como la de Boston ya están formando especialistas en esta área. “Muchos estudiantes están interesados porque saben que su trabajo puede tener un gran impacto”, señaló el profesor Mark Crovella.
También las empresas emergentes están aportando soluciones. La startup Goodfire, por ejemplo, ha creado un sistema que permite representar los pasos de razonamiento de la IA. Esto ayuda a detectar errores y prevenir que los modelos tomen decisiones engañosas.
Eric Ho, director ejecutivo de Goodfire, considera urgente resolver este problema antes de que se lancen sistemas más avanzados sin saber cómo actúan internamente. “Es una carrera contra el tiempo”, advirtió.
Aun así, los expertos son optimistas. Amodei cree que en los próximos dos años se logrará un avance que permita identificar con claridad sesgos o riesgos en los modelos. Y a diferencia del cerebro humano, la IA permite ver cada proceso interno. Lo difícil es interpretar correctamente esa información.
Comprender cómo funciona la inteligencia artificial no solo permitirá hacerla más segura. También abrirá nuevas oportunidades en sectores clave como salud, defensa o investigación. Y a nivel global, podría representar una ventaja estratégica frente a países como China.
“La IA será una fuerza que cambiará nuestras vidas”, escribió Amodei. “Por eso es esencial entenderla antes de que transforme por completo nuestra economía y nuestra sociedad”.
23 Total Count
