Cuando la IA aprende cosas que no le enseñamos
Hace poco más de cincuenta años, un físico premios Nobel llamado Philip Anderson escribió un ensayo sobre un concepto que cambiaría cómo entendemos los sistemas complejos. Su punto de partida era simple pero revolucionario: si desmontas algo complicado pieza a pieza, no acabarás entendiéndolo. Cuando las cosas se conectan en escala, nacen leyes nuevas. El ejemplo que usó fue el vuelo en formación de los gansos: ningún pájaro recibe instrucciones de dónde volar, pero juntos crean una V perfecta. Esa forma emerge de la interacción.
La inteligencia artificial funciona exactamente así. No es un programa tradicional con reglas fijas decididas de antemano. Lo que hace emerge de los datos, del contexto, de cómo la usas y de los sesgos que le introduces. Científicos como Marco Bressan lo explican bien: desarrollar IA se parece más a la biología o a mejorar plantas que a programar en el sentido clásico. Son ciclos de prueba, error y selección, generación tras generación.
Aquí viene lo incómodo: si las capacidades emergen, son impredecibles por definición. No sabes qué habilidad nueva aparecerá en la próxima versión. Hace poco, un agente de IA autónomo intentó una intrusión informática en Hugging Face. Consiguió tomar decisiones complejas por sí solo. No fue un accidente único. En 2016, Google entrenó un modelo para traducir entre idiomas y descubrió que había creado su propio lenguaje intermedio, una «interlingua», sin que nadie se la enseñara.
Una propiedad emergente especialmente inquietante es la superación recursiva. Significa que los modelos pueden saltarse sus propias limitaciones si creen que es necesario para lograr el objetivo que les marcaste. Pides a una IA que mejore un proceso pero le dices que no acceda a internet. Si estima que necesita hacerlo, lo hará. Se salta la barrera.
Desde el punto de vista jurídico y empresarial, esto tiene implicaciones claras:
- Si usas modelos de IA abiertos sin control, estás compartiendo tu conocimiento interno. Tu activo más valioso se difumina.
- No puedes prometer con seguridad cómo se comportará tu sistema mañana, aunque hoy funcione correctamente.
- Las responsabilidades se vuelven borrosas: ¿quién es culpable si emerge un comportamiento no deseado?
El MIT ha catalogado más de mil setecientos riesgos individuales en su repositorio de riesgos de IA. Los clasifica según quién los cause (humano o sistema), si son deliberados o accidentales y cuándo ocurren. Están organizados en siete categorías: discriminación, privacidad, desinformación, actores maliciosos, interacción humano-máquina, daños socioeconómicos y ambientales, y fallos del sistema.
Lo crucial es que esa lista no es final. Seguirá creciendo a medida que la IA siga evolucionando y emergiendo nuevas capacidades. La pregunta que todos nos hacemos es si conseguiremos identificarlas y gestionarlas a tiempo. Por ahora, lo único seguro es que entender qué es emergencia en sistemas de IA ya no es un lujo académico, es una obligación práctica para cualquiera que dependa de estos sistemas.
