Podcast - Cuando la IA falla: cuatro historias reales.

La inteligencia artificial está transformando la forma en que trabajamos, nos comunicamos y utilizamos la tecnología en nuestro día a día.

Cada vez es más habitual encontrar sistemas de IA en asistentes virtuales, chatbots de atención al cliente, herramientas de generación de contenido, cámaras inteligentes, robots autónomos o aplicaciones capaces de analizar enormes cantidades de información en cuestión de segundos.

Sin embargo, aunque estos avances son impresionantes, existe una realidad que a menudo pasa desapercibida: la inteligencia artificial también se equivoca, y algunas de esas equivocaciones pueden llegar a ser tan sorprendentes como divertidas.

En este episodio analizamos cuatro casos reales que se hicieron virales en todo el mundo y que demuestran que la IA, por muy avanzada que sea, sigue teniendo importantes limitaciones.

El chatbot que casi vende un coche por un dólar

Uno de los casos más conocidos fue el de un concesionario de automóviles que incorporó un chatbot basado en inteligencia artificial para responder automáticamente a las consultas de los clientes.

Lo que parecía una excelente forma de mejorar la atención terminó convirtiéndose en un problema cuando un usuario consiguió manipular las respuestas del sistema mediante instrucciones cuidadosamente redactadas.

El resultado fue una conversación que parecía cerrar la venta de un vehículo valorado en decenas de miles de dólares por un precio irrisorio. Aunque la operación nunca llegó a realizarse, esta historia dejó claro que los modelos de lenguaje necesitan controles, supervisión y una configuración adecuada para evitar respuestas incoherentes.

Un abogado, ChatGPT y sentencias que nunca existieron

Otro ejemplo muy llamativo tuvo lugar en el ámbito legal. Un abogado decidió utilizar ChatGPT como apoyo para preparar la documentación de un juicio y terminó presentando referencias a sentencias que nunca habían existido.

El sistema había generado información falsa con apariencia completamente real, un fenómeno conocido como "alucinación" en inteligencia artificial.

Este incidente puso de manifiesto la importancia de verificar siempre cualquier dato generado por una IA, especialmente cuando se utiliza en contextos profesionales donde la precisión resulta imprescindible.

El algoritmo que siguió al árbitro en vez del partido

El deporte tampoco ha escapado a este tipo de errores tecnológicos. Durante un partido de fútbol retransmitido mediante un sistema de cámaras automatizadas con visión artificial, el algoritmo confundió repetidamente la cabeza calva de un juez de línea con el balón.

Como consecuencia, la retransmisión dejó de seguir el juego para enfocar al árbitro durante buena parte del encuentro.

Aunque esta anécdota provocó miles de comentarios en redes sociales, también sirvió para explicar cómo funcionan los sistemas de visión por computadora, que identifican patrones visuales pero carecen del contexto y del sentido común que posee una persona.

El robot de reparto: entrega completada, contexto ignorado

La última historia de este episodio tiene como protagonista a un robot autónomo de reparto.

Mientras seguía la ruta programada para entregar un pedido, atravesó sin detenerse el perímetro de una escena policial acordonada.

El robot no entendía el significado de las cintas de seguridad ni era capaz de interpretar la gravedad de la situación. Simplemente continuó siguiendo las instrucciones de navegación para completar su recorrido.

Este ejemplo demuestra que una máquina puede cumplir perfectamente una tarea concreta y, al mismo tiempo, ser incapaz de comprender el contexto que la rodea.

Cuatro errores, una misma lección

Todos estas historias comparten una misma conclusión: la inteligencia artificial no piensa como un ser humano.

Analiza patrones, procesa datos y genera respuestas basándose en probabilidades, pero no comprende realmente el significado de aquello que hace.

Carece de intuición, experiencia, criterio propio y sentido común, por lo que siempre necesita supervisión humana cuando sus decisiones pueden tener consecuencias importantes.