Nota del editor: este es un comentario invitado de Oren Etzioni, ex director ejecutivo del Instituto Allen para la IA (AI2), una organización con sede en Seattle a la vanguardia de la investigación del procesamiento del lenguaje natural. Etzioni es ahora director técnico de la Incubadora AI2, una incubadora de empresas emergentes centrada en la IA.
La integración de ChatGPT en el motor de búsqueda Bing de Microsoft presagia un cambio tectónico para los consumidores, editores y anunciantes en la web.
En las últimas semanas, Bing ha recibido mucha atención y Google ha perdido más de $ 100 mil millones en capitalización de mercado. Pero los cambios en los próximos cinco años serán mucho más profundos.
Lo que parecía una industria de búsqueda web seria y estable, en gran parte monopolizada por Google, se ha visto desbaratada por el hecho de que la generación de contenido ahora es instantánea, totalmente automatizada y su costo está cayendo rápidamente a cero.
Este cambio significa que las fuentes autorizadas y los expertos genuinos serán más importantes que nunca.
Para los consumidores, la búsqueda más eficiente tiene una larga historia que incluye los paneles de conocimiento de Google (2012), fragmentos destacados en la parte superior de la página de resultados de búsqueda (2014), asistentes de voz como Alexa (2014) y ahora ChatGPT.
Con el tiempo, surgirá una experiencia de conserjería donde un consumidor puede hacer una pregunta, recibir una respuesta de un chatbot y entablar un diálogo para refinar aún más la respuesta.
Esta podría ser una buena noticia para los consumidores, pero también plantea una pregunta espinosa: ¿para quién trabaja el conserje?
Como consumidor, espero una respuesta objetiva e informativa, pero el chatbot no necesariamente complacerá.
- Las respuestas de un chatbot dependen de su texto de entrenamiento que contiene innumerables sesgos.
- El chatbot puede ser manipulado a través de su proceso de entrenamiento (similar a la práctica del bombardeo de Google).
- Surgirán diferentes chatbots que representan perspectivas particulares (el bot GOP), intereses comerciales (el bot ExxonMobil) e individuos específicos (¿le gustaría conversar con el bot Biden? ¿El bot Kim Kardashian?).
- Y, por supuesto, los chatbots podrían verse influenciados por los anunciantes.
Históricamente, los motores de búsqueda distinguían entre los resultados de búsqueda y los resultados patrocinados o «destacados» (es decir, anuncios), pero la colocación de productos puede surgir dentro de las respuestas del chatbot, lo que socava su credibilidad.
En respuesta, surgirán chatbots de defensa del consumidor, que cobrarán una tarifa de suscripción en lugar de recibir publicidad. A medida que proliferen los chatbots, surgirán motores de búsqueda que ayuden al consumidor a encontrar el bot «adecuado» para una conversación. Los meta-bots podrían recopilar múltiples respuestas a una pregunta, cada una de las cuales se origina en un chatbot diferente.
Los consumidores se verán inundados con una cantidad sin precedentes de «ruido» generado automáticamente en forma de sitios web y mensajes: correos electrónicos, publicaciones, respuestas en las redes sociales y más.
El costo mínimo de generar texto aparentemente auténtico (junto con imágenes, audio e incluso video) dará como resultado una contaminación de información sin precedentes e incluso una falsificación basada en IA.
En respuesta, he abogado por un papel más fuerte para la autenticación digital de la identidad (¿quién realmente escribió ese mensaje?) y por reglas que requieran que los bots se identifiquen. Los consumidores tienen derecho a saber si estamos interactuando con una persona o un bot.
A medida que aumenta el volumen de contenido, los editores se enfrentarán a una presión sin precedentes para seguir siendo relevantes, reconocibles y valiosos. Ciertamente, los sitios web de clickbait con títulos como «las 10 mejores cosas para hacer en Seattle» serán reemplazados por respuestas de chatbot más personalizadas y actualizadas. Las colecciones de reseñas encontradas en Amazon o en Google Maps seguirán siendo informativas solo si las reseñas están debidamente autenticadas; de lo contrario, será muy fácil crear volúmenes de reseñas falsas.
Del mismo modo, la información en las redes sociales (publicaciones populares, por ejemplo) solo tendrá sentido si los bots no manipulan la popularidad. Las fuentes autorizadas se volverán aún más esenciales a medida que las personas clamen por hechos confiables en una vorágine de información errónea. Las marcas y las reputaciones se construirán proporcionando respuestas genuinas y auténticas.
En un mundo donde “qué” se dice es tan fácil de manipular, “quién” lo dijo se vuelve cada vez más importante.
Deja una respuesta