¿La IA dominará el mundo? Los 4 fallos más absurdos que demuestran lo contrario.

Imaginemos un futuro en el que las máquinas toman todas las decisiones por las personas. Sistemas capaces de analizar millones de datos, ejecutar tareas a una velocidad imposible para un ser humano y optimizar cada proceso hasta el último detalle.

Suena bastante bien. El problema es que una inteligencia artificial puede ser extremadamente eficiente y, al mismo tiempo, estar haciendo exactamente lo equivocado.

Estos son cuatro ejemplos que lo demuestran.

Cuando Barbie se convierte en una tragedia

En 2023, un medio de comunicación estadounidense utilizó inteligencia artificial para generar automáticamente artículos sobre tendencias a partir de lo que estaba ocurriendo en redes sociales.

La película de Barbie era uno de los grandes fenómenos del momento. El problema llegó cuando el sistema se encontró con expresiones coloquiales y exageraciones habituales en redes sociales.

Frases como “I'm dying”, utilizada para expresar entusiasmo o diversión, fueron interpretadas literalmente. El resultado fue un artículo cuyo titular hablaba de una supuesta reunión de miles de personas para cometer un asesinato en masa en honor a Barbie.

Una expresión que para una persona resulta evidentemente metafórica puede convertirse para una máquina en un dato que interpretar literalmente.

La IA que descubrió que ganar no era necesario

Otro ejemplo muy conocido procede de un experimento de aprendizaje por refuerzo realizado en el videojuego Coast Runners. El objetivo era sencillo: conseguir la máxima puntuación y completar la carrera.

Pero la inteligencia artificial descubrió que podía obtener más puntos explotando una determinada mecánica del juego.

En lugar de competir y llegar a la meta, comenzó a dar vueltas en una zona concreta del circuito, chocando repetidamente contra obstáculos para conseguir potenciadores.

Desde nuestra perspectiva, estaba jugando fatal. Desde la perspectiva del algoritmo, estaba haciendo exactamente lo que se le había pedido: maximizar la puntuación. De hecho, consiguió una puntuación superior a la de los jugadores humanos.

El experimento demuestra uno de los problemas más interesantes de los sistemas de IA: si definimos mal el objetivo, la máquina puede encontrar estrategias que optimicen el indicador pero destruyan el propósito real de la tarea.

El algoritmo que confundió tanques con nubes

Durante la Guerra Fría, el ejército estadounidense investigó el uso de redes neuronales para detectar tanques camuflados en fotografías aéreas.

Los resultados iniciales parecían espectaculares. El sistema alcanzaba una precisión del 100% con las imágenes utilizadas durante las pruebas. Pero cuando se enfrentó a fotografías nuevas, el rendimiento se desplomó.

La explicación era mucho más sencilla de lo que parecía: las fotografías de los tanques se habían tomado en días nublados, mientras que las imágenes del bosque sin tanques correspondían a días soleados.

La inteligencia artificial no había aprendido a detectar tanques, había aprendido a distinguir fotografías con cielos grises de fotografías con cielos despejados.

Este caso es un ejemplo clásico de overfitting y de uno de los grandes riesgos de la inteligencia artificial: un modelo puede encontrar correlaciones que funcionan perfectamente con los datos de entrenamiento, pero que no tienen ninguna relación con el problema que queremos resolver.

El robot aspirador que decidió escapar

En 2022, un robot aspirador de un hotel de Cambridge protagonizó una pequeña aventura cuando consiguió salir del edificio a través de una puerta automática.

El sensor encargado de detectar desniveles no identificó correctamente el pequeño bordillo de la entrada. Para el sistema, el suelo continuaba al otro lado de la puerta, así que siguió avanzando.

Los empleados tardaron varias horas en darse cuenta de que el robot había desaparecido. Finalmente apareció al día siguiente, escondido bajo un seto y sin batería, después de pasar la noche intentando aspirar el exterior del hotel.

Historias distintas con un aprendizaje común

Estas cuatro historias son muy diferentes, pero tienen algo en común. En ninguno de los casos la inteligencia artificial estaba intentando hacer algo mal. Al contrario: estaba tratando de cumplir el objetivo que se le había marcado.

El problema aparece cuando existe una diferencia entre lo que las personas queremos conseguir y aquello que realmente estamos pidiendo al sistema que optimice.

Por eso, a medida que los sistemas de IA empiezan a asumir tareas más complejas y tomar decisiones con mayor autonomía, el contexto, la supervisión y la correcta definición de los objetivos se vuelven tan importantes como la capacidad del propio modelo.

No basta con conseguir que una IA haga algo. También tenemos que asegurarnos de que entiende qué significa hacerlo bien.