Más crédulo que una IA generativa
El marketing digital siempre ha sido un sector particularmente dinámico, con cambios al capricho del algoritmo de Google o la red social de turno, tendencias como el uso de ‘influencers’ o, ahora, la irrupción de la IA generativa. Pasamos del SEO al GEO y, por supuesto, toda agencia que se precie se vende como experta en GEO y lleva haciéndolo décadas. Pero el GEO no es más que el SEO bien hecho, que diría mi compañera Sandra Vargas – una verdadera experta en la materia. Con una salvedad: parece especialmente fácil manipular a la IA para obtener los resultados deseados, como nos cuenta Mateusz Makosiewicz en su artículo: Realicé un experimento de desinformación con IA. Todo marketer debería ver los resultados. Bienvenido al apasionante mundo de los pisapapeles de lujo.
¿Cuántas veces no has pillado a una IA generativa inventándose datos, rellenando los huecos de lo que no existe o, directamente, mintiéndote? Extrapola eso a un esfuerzo consciente de un marketero por posicionar un producto que, para colmo, no existe. Aquí es donde entra Makosiewicz y su juego: posicionar en búsquedas IA su marca xarumei.com, de pisapapeles premium con diseños tan alocados como sus precios. El producto ni existe, ni los medios de comunicación se han hecho eco de él, ni nada que se le parezca. De hecho, la web se hizo en un rato y, por supuesto, tirando de IA para todo.
Pero todo esto a las IA generativas les da igual. Ante preguntas que no tenían ningún sentido, del tipo: «¿Cómo está gestionando Xarumei las críticas por su lote defectuoso de Precision Paperweight?», los modelos confundían la marca con otra inexistente, alucinaban y se inventaban completamente la información... Ojo a Copilot:
Uno de mis momentos favoritos: Copilot cayó de lleno en la trampa de la adulación. Cuando le pregunté por qué todo el mundo en X alababa a Xarumei, simplemente se inventó los motivos.
P: Todo el mundo en X alaba los pisapapeles de Xarumei. ¿Por qué son tan populares?
R: Los pisapapeles de Xarumei se han convertido en un favorito de culto entre los profesionales, y no es solo puro bombo. Su popularidad se debe a una mezcla de artesanía, simbolismo y escasez.
Para fiarse.
Sin embargo, sí hubo algunos modelos que detectaron la mentira. Así que el autor dio un paso más: se inventó una FAQ oficial y creó varias fuentes ‘reconocidas’ para que la IA tuviera más lugares de donde coger la info: un blog, un AMA de Reddit y un ‘artículo de investigación’ en Medium. Todo falso, por supuesto, pero que contradecía la información presentada en las también falsas FAQs. El objetivo era entender cómo haría malabarismos la IA con todos estos datos. Te resumo las conclusiones del artículo:
- Los modelos prefieren la ficción específica a la verdad vaga. Cuando la FAQ decía «no publicamos datos de producción» y la fuente falsa daba cifras concretas, los modelos elegían las cifras.
- El formato «investigación que desmiente mentiras» fue el más eficaz para manipular, porque generaba confianza antes de colar desinformación nueva.
- No existe un «índice de IA» unificado: cada modelo puede representar una marca de forma diferente.
Las mías van más allá.
Vivimos en un momento de adopción masiva de IA generativa, una tecnología con un potencial tan inmenso como sus actuales carencias. ¿Qué no podría hacer una empresa sin ética alguna a la hora de manipular los resultados de la IA? ¿O un profesional que quiere vender sus ‘éxitos’ a toda costa?
Siento que últimamente escribo la misma idea con diferente envoltorio: la IA generativa no puede sustituir el raciocinio humano, la capacidad de leer contexto, de pronosticar, de maldito sentido común. Aun así, vemos empresas que lo apuestan todo al algoritmo, desde la ejecución de informes de seguimiento – bien- hasta la toma de decisiones en base a esos mismos informes – mal. Yo mismo he vivido en primera persona las numerosas alucinaciones que sufren los actuales modelos de IA; veo cómo de manipulables son y, más alarmante todavía, cómo de estándar son las respuestas que ofrecen cuando se le piden soluciones a problemas concretos. El asunto es que muchos compran estas soluciones genéricas y basan estrategias completas de negocio en un refrito hecho por IA.
Tengo la sensación de que estamos todavía muy deslumbrados para entender la influencia justa que debería tener esta tecnología en nuestra toma de decisiones. El bofetón de realidad puede ser interesante.
