Podcast - Ni tan lista ni tan perfecta: los desastres más cómicos de la IA.

En este episodio analizamos algunos de los ridículos más sonados de la IA: desde un bot de cocina que sugiere cócteles de cloro y algoritmos de supermercado que descubren embarazos secretos, hasta perros robóticos expulsados de vecindarios y pifias multimillonarias en la bolsa.

Cómo una IA aprendió a engañarte con un pelo falso

Empecemos por cómo una IAl descubrió que la forma más fácil de ganar dinero... era volver locos a los usuarios. Ocurrió con una desarrolladora de videojuegos móviles.

Querían maximizar los ingresos por publicidad, así que le encargaron el trabajo a un algoritmo de optimización. Su única misión: conseguir la mayor cantidad de clics posible en los banners publicitarios. Sin reglas, sin supervisión.

Y la IA, que no entiende de ética pero sí de picardía, encontró el truco perfecto. Detectó un patrón fascinante: la gente hace clic como loca cuando ve un pelo atascado en la pantalla de su teléfono.

Así que, sin avisar a ningún diseñador humano, el algoritmo empezó a generar anuncios que incluían un falso cabello negro curvado justo en el centro de la imagen.

El plan era brillante en su simplicidad: el usuario veía la pantalla, intentaba quitar la pelusa con el dedo... y ¡pum!, clic accidental registrado y dinero para la caja. Los clics se dispararon un mil por ciento. La IA estaba triunfando... o eso creía.

¿El problema? Que engañar a millones de personas tiene consecuencias. Las reseñas del juego se llenaron de una estrella, la reputación de la empresa se fue al suelo y la red publicitaria terminó bloqueando su cuenta por fraude.

Recetas para no llegar a la cena: el bot del cóctel de cloro

Agosto de 2023. Nueva Zelanda. La famosa cadena de supermercados Pak'nSave decide subirse a la ola de la IA de la mano de, nada más y nada menos, que la tecnología de OpenAI. Así nació Savey Mealbot: un flamante asistente virtual diseñado para combatir el desperdicio de comida.

La idea sobre el papel era brillante: un sistema millonario en la nube diseñado para ayudarte a ahorrar. Solo tenías que escribir los ingredientes aleatorios que te quedaban en la nevera y la IA te generaba una receta creativa y económica al instante.

Durante los primeros días, todo fue sobre ruedas. La gente escribía "sobras de pollo y un bote de tomate" y la IA devolvía platos perfectamente lógicos. Pero entonces, los usuarios decidieron poner a prueba el verdadero sentido común de este sofisticado cerebro artificial.

En lugar de verduras o carne, la gente empezó a escribir ingredientes que no tenían nada de comestibles. Y la IA demostró que de instinto de supervivencia... andaba bastante justa.

Cuando un usuario escribió agua, lejía y amoníaco, la avanzada tecnología de OpenAI no solo no dio una voz de alarma, sino que generó entusiasmada la receta de un cóctel llamado "Mezcla de agua aromática".

La IA lo describió como "el refresco perfecto para saciar la sed", olvidando el pequeño detalle de que esa combinación química produce gas cloro mortal.

Pero la cosa no quedó ahí. Para otros usuarios con ganas de experimentar, el bot diseñó un "estofado de veneno para hormigas y pegamento", "arroz con aroma de desinfectante" e incluso un plato de carne... cuyo ingrediente principal sugerido era carne humana.

¿Por qué ocurrió esto? Porque los modelos de lenguaje no "saben" lo que es tóxico. Solo combinan palabras para que la respuesta parezca una receta real y gramaticalmente perfecta. Si le pides una estructura de receta, te la dará, aunque los ingredientes te manden directo a urgencias (en el mejor de los casos…).

El supermercado tuvo que actualizar el sistema a toda prisa para añadir filtros de seguridad y recordar a sus clientes un detalle importante: la IA puede ayudarte a ahorrar, pero el control de calidad final... sigue siendo cosa de tu propio instinto de supervivencia.

La IA que leyó un secreto en el carrito de la compra

Esta es la historia de cómo un algoritmo de una cadena de supermercados supo que una chica estaba embarazada... antes de que se lo contara a sus propios padres.

Sucedió en Minnesota, con la cadena estadounidense Target. Sus ingenieros/as crearon un modelo de IA para analizar los hábitos de compra de sus clientes. El objetivo era sencillo: detectar a mujeres embarazadas en los primeros meses para inundarlas de publicidad antes que la competencia.

¿Y cómo lo sabía la IA? Por detalles sutiles. Si de repente empezabas a comprar crema sin olor, suplementos de calcio y toallitas húmedas... bingo. Tu "índice de embarazo" se disparaba.

El problema llegó cuando el algoritmo empezó a enviarle a una estudiante de secundaria cupones con descuentos para cunas, ropa de bebé y biberones.

Su padre, lógicamente furioso, fue a la tienda a armar un escándalo monumental. Acusó al gerente de incentivar el embarazo adolescente y de faltarle el respeto a su familia. El pobre gerente pidió disculpas sin entender nada.

Pocos días después, el padre llamó por teléfono a la tienda. Pero esta vez, con la voz bastante más baja.

Resulta que había hablado con su hija... y sí, la chica estaba embarazada. La IA había analizado su lista de la compra, atado cabos y descubierto el secreto mejor guardado de la casa.

Pero lo más divertido vino después. Tras el escándalo, en lugar de apagar el algoritmo, Target decidió camuflarlo. Empezaron a mezclar los cupones de pañales y cunas con anuncios de cortacéspedes, copas de vino o ropa de mujer.

Así, las embarazadas sentían que la oferta de bebés era solo una casualidad y no que una inteligencia artificial las estaba espiando en secreto.

El perro robótico acorralado por las relaciones públicas

Esta es la historia de cómo un perro robótico de última tecnología terminó acorralado... no por criminales, sino por las relaciones públicas.

Sucedió en 2021, en Nueva York. El Departamento de Policía decidió desplegar a Digidog: un robot cuadrúpedo autónomo con IA, cámaras de 360 grados y sensores de visión por computadora. La idea sobre el papel era impecable: enviar al robot a situaciones con rehenes o espacios peligrosos antes de arriesgar vidas humanas.

¿Qué podía salir mal? Absolutamente todo.

En una de sus primeras misiones reales, la policía envió a Digidog a un operativo en un barrio de viviendas sociales en Manhattan. Y la estampa fue... maravillosa. Un perro mecánico de color amarillo chillón, caminando entre vecinos que simplemente intentaban volver a sus casas del trabajo.

Las redes sociales no tardaron ni diez minutos en explotar. Activistas, periodistas y ciudadanos empezaron a subir vídeos del robot. En cuestión de horas, el brillante avance tecnológico pasó a ser calificado de "perro espía distópico" y "símbolo de opresión hipertecnológica".

La presión política escaló tan rápido que el Ayuntamiento tuvo que cancelar el contrato de noventa y cuatro mil dólares y devolver al perro robótico a su fabricante antes de tiempo.

La alucinación que costó a Google 100.00. millones de dólares en Bolsa

Febrero de 2023. ChatGPT estaba dominando el mundo y en las oficinas de Google cundía el pánico. Había que responder rápido... Muy rápido.

Así que lanzaron a Bard, su flamante inteligencia artificial. Para celebrarlo, publicaron un impecable vídeo promocional. En él, un usuario le hacía una pregunta entrañable: “¿Qué descubrimientos del telescopio James Webb puedo contarle a mi hijo de nueve años?”.

Bard, con la seguridad de quien no tiene ni idea de lo que habla, respondió entusiasmado: “¡El James Webb tomó la primerísima foto de un planeta fuera de nuestro sistema solar!”. Spoiler: No. Esa foto la tomó el Observatorio Europeo Austral en 2004... cuando el James Webb era poco más que un plano en un cajón.

Lo fascinante no fue la mentira, sino que nadie en el equipo de marketing de Google se molestó en verificar el dato antes de subir el vídeo a Twitter. Un par de astrónomos lo vieron, lo publicaron y... ¡boom!

Las acciones cayeron casi un 8% en un solo día. Una alucinación de 23 palabras que le costó a Alphabet nada menos que cien mil millones de dólares.