recientemente estuve de vacaciones en Italia. Como se hace hoy en día, realicé mi itinerario pasando por GPT-5 para obtener sugerencias de lugares turísticos y recomendaciones de restaurantes. El robot informó que la mejor opción para cenar cerca de nuestro hotel en Roma era un corto paseo por Via Margutta. Resultó ser una de las mejores comidas que recuerdo. Cuando llegué a casa, le pregunté a la modelo cómo eligió ese restaurante, que dudo en revelar aquí en caso de que quiera una mesa en el futuro (Diablos, quién sabe si volveré: se llama babette. Llame con anticipación para hacer reservaciones). La respuesta fue compleja e impresionante. Entre los factores se encontraban críticas favorables de los lugareños, avisos en blogs gastronómicos y en la prensa italiana, y la célebre combinación de cocina romana y contemporánea del restaurante. Ah, y el corto paseo.
También se necesitaba algo de mi parte: confianza. Tuve que aceptar la idea de que GPT-5 era un corredor honesto que elegía mi restaurante sin prejuicios; que el restaurante no se me mostró como contenido patrocinado y que no recibía una parte de mi cheque. Podría haber hecho una investigación profunda por mi cuenta para verificar la recomendación (busqué en el sitio web), pero el objetivo de usar IA es evitar esa fricción.
La experiencia reforzó mi confianza en los resultados de la IA, pero también me hizo preguntarme: a medida que empresas como OpenAI se vuelven más poderosas y tratan de pagar a sus inversores, ¿será la IA propensa a la erosión del valor que parece endémica de las aplicaciones tecnológicas que utilizamos hoy?
Juego de palabras
El escritor y crítico tecnológico Cory Doctorow llama a esa erosión “enshitificación”. Su premisa es que plataformas como Google, Amazon, Facebook y TikTok comienzan con el objetivo de complacer a los usuarios, pero una vez que las empresas vencen a sus competidores, intencionalmente se vuelven menos útiles para obtener mayores ganancias. Después de que WIRED republicara el ensayo pionero de Doctorow de 2022 sobre el fenómeno, el término pasó a la lengua vernácula, principalmente porque la gente reconoció que estaba totalmente en lo cierto. Enshittificación fue elegida como la palabra del año 2023 de la American Dialect Society. El concepto ha sido citado con tanta frecuencia que trasciende su blasfemia, apareciendo en lugares que normalmente se taparían la nariz ante tal palabra. Doctorow acaba de publicar un libro epónimo sobre el tema; la imagen de portada es el emoji de… adivina qué.
Si los chatbots y los agentes de inteligencia artificial se vuelven basura, podría ser peor que la Búsqueda de Google se vuelva menos útil, que los resultados de Amazon se vean plagados de anuncios e incluso que Facebook muestre menos contenido social en favor de clickbait que genera ira.
La IA está en camino de ser una compañera constante, dando respuestas únicas a muchas de nuestras solicitudes. La gente ya confía en él para ayudar a interpretar los acontecimientos actuales y obtener consejos sobre todo tipo de opciones de compra, e incluso opciones de vida. Debido a los enormes costos que implica crear un modelo de IA completo, es justo suponer que sólo unas pocas empresas dominarán el campo. Todos ellos planean gastar cientos de miles de millones de dólares en los próximos años para mejorar sus modelos y ponerlos en manos del mayor número de personas posible. En este momento, yo diría que la IA se encuentra en lo que Doctorow llama la etapa de “bueno para los usuarios”. Pero la presión para recuperar las enormes inversiones de capital será tremenda, especialmente para las empresas cuya base de usuarios está bloqueada. Esas condiciones, como escribe Doctorow, permiten a las empresas abusar de sus usuarios y clientes comerciales «para recuperar todo el valor para sí mismos».
Cuando uno imagina la enshitificación de la IA, lo primero que le viene a la mente es la publicidad. La pesadilla es que los modelos de IA hagan recomendaciones basadas en qué empresas han pagado por la colocación. Eso no está sucediendo ahora, pero las empresas de inteligencia artificial están explorando activamente el espacio publicitario. En una entrevista recienteSam Altman, director ejecutivo de OpenAI, dijo: «Creo que probablemente haya algún producto publicitario interesante que podamos hacer que sea una ganancia neta para el usuario y algo positivo para nuestra relación con el usuario». Mientras tanto, OpenAI acaba de anunciar un acuerdo con Walmart para que los clientes del minorista puedan comprar dentro de la aplicación ChatGPT. ¡No puedo imaginar un conflicto allí! La plataforma de búsqueda de IA Perplexity tiene un programa donde resultados patrocinados aparecen en seguimientos claramente etiquetados. Pero promete que “estos anuncios no cambiarán nuestro compromiso de mantener un servicio confiable que le brinde respuestas directas e imparciales a sus preguntas”.
