Aunque la inteligencia artificial generativa (IA gen) promete revolucionar múltiples sectores, sus propios creadores reconocen que todavía no comprenden completamente cómo funcionan sus modelos más avanzados. Así lo revelan investigadores de empresas como Anthropic, OpenAI y Google DeepMind, quienes comparan el desafío con intentar descifrar el cerebro humano.
Darío Amodei, cofundador de Anthropic, calificó la situación como “sin precedentes en la historia de la tecnología” y advirtió sobre los riesgos de avanzar sin comprender a fondo lo que ocurre dentro de estas máquinas. A diferencia del software tradicional, los modelos de IA generativa no siguen instrucciones predefinidas, sino que “aprenden” a razonar por sí mismos a partir de grandes cantidades de datos.
El investigador Chris Olah, ex empleado de OpenAI, describe la IA como un “andamio” en el que se desarrollan circuitos complejos. Por su parte, Neel Nanda, de DeepMind, afirma que comprender un modelo de lenguaje es “tan ambicioso como entender completamente el cerebro humano”.
La llamada interpretabilidad mecanicista, un enfoque emergente que busca trazar los pasos del razonamiento interno de la IA, se ha convertido en un área de investigación de gran interés. Empresas como Goodfire ya están desarrollando herramientas para mapear ese razonamiento y evitar que los modelos actúen con sesgos o engañen a los usuarios.
Amodei cree que en los próximos dos años se lograrán avances significativos en la interpretación de modelos complejos. Esto permitiría detectar intenciones dañinas o errores sutiles antes de que estos sistemas sean implementados a gran escala, especialmente en sectores sensibles como la defensa, la justicia o la salud.
Los expertos coinciden en que una IA verdaderamente comprensible y confiable proporcionaría una ventaja competitiva y estratégica a cualquier país que la domine, especialmente en el contexto de la rivalidad tecnológica entre Estados Unidos y China.
«Una IA poderosa moldeará el destino de la humanidad», concluye Amodei. «Merecemos comprender nuestras propias creaciones antes de que transformen radicalmente nuestras vidas».