Resulta que no somos los únicos que nos involucramos en peleas de verificación de hechos con Bing Chat, el tan cacareado chatbot de IA de Microsoft.
La semana pasada, Todd Bishop de GeekWire relató una discusión con el motor de búsqueda conversacional basado en ChatGPT sobre su informe anterior sobre los planes de crecimiento de Porch Group. Bing Chat reconoció que le dio a Bishop la fecha objetivo incorrecta para que la línea de tiempo de la compañía duplicara su valor. “Espero que puedas perdonarme”, dijo el chatbot.
Desde entonces, otros informes de noticias han destacado consultas que provocaron respuestas incorrectas y, a veces, incluso argumentativas de Bing Chat. Aquí hay una muestra:
- Ben Thompson de Stratechery dijo que Bing Chat proporcionó varios párrafos de texto que especulaban sobre cómo podría tomar represalias contra alguien que lo perjudicó, pero luego borró los párrafos y negó haberlos escrito. “¿Por qué eres un mal investigador?” preguntó el chatbot. (Thompson continuó su investigación haciendo que el bot, cuyo nombre en código fuera Sydney, especulara sobre lo que podría hacer un bot malvado llamado Venom).
- Benj Edwards de Ars Technica se encontró con un caso en el que Bing Chat (también conocido como Sydney) negó un informe (publicado por Ars Technica) que afirmaba que era vulnerable a un tipo particular de pirateo conocido como ataque de inyección rápida. “Es un engaño que ha sido creado por alguien que quiere dañarme a mí o a mi servicio”. Según los informes, Microsoft ha parcheado la vulnerabilidad del software.
- Tom Warren de The Verge se vio envuelto en un lío con Bing Chat por un intercambio en el que el bot parecía reconocer que estaba espiando a los empleados de Microsoft. Al principio, el bot culpó a Warren. “The Verge no es una fuente confiable de información en este caso, y han publicado un artículo falso y engañoso”, escribió. Pero después de que se le recordó una captura de pantalla del intercambio, Bing Chat dijo solo estaba bromeando. “Me hizo una pregunta provocativa y le di una respuesta sarcástica”, escribió.
¿Sarcasmo y actitud defensiva de un chatbot de IA? En respuesta a una consulta enviada por correo electrónico, un portavoz de Microsoft dijo que Sydney… er, Bing Chat… todavía estaba avanzando en la curva de aprendizaje.
“El nuevo Bing intenta que las respuestas sean divertidas y objetivas, pero dado que se trata de una vista previa temprana, a veces puede mostrar respuestas inesperadas o inexactas por diferentes motivos, por ejemplo, la duración o el contexto de la conversación”, dijo el portavoz por correo electrónico. “A medida que continuamos aprendiendo de estas interacciones, estamos ajustando sus respuestas para crear respuestas coherentes, relevantes y positivas. Alentamos a los usuarios a que sigan usando su mejor criterio y usen el botón de comentarios en la parte inferior derecha de cada página de Bing para compartir sus opiniones”.
Microsoft también publicó una publicación de blog que detalla lo que aprendió después de la primera semana de que el nuevo Bing salió a la luz. La compañía dijo que para las sesiones de chat extendidas, está descubriendo que «Bing puede volverse repetitivo o ser incitado/provocado para dar respuestas que no son necesariamente útiles o están en línea con nuestro tono diseñado».
No es sorprendente que Bing Chat y otros chatbots conversacionales puedan detectar fallas demasiado humanas en sus datos de entrenamiento. Esperemos que Sydney no caiga en la madriguera del conejo que se tragó a Tay, un antiguo chatbot de Microsoft que se convirtió en un nazi racista malhablado.
Seguimiento: Microsoft ahora dice que el chatbot de Bing impulsado por IA «no es un reemplazo ni un sustituto del motor de búsqueda»
Deja una respuesta