Meta revierte la función de prueba de llamadas de Muse tras descubrirse que participaban humanos reales

ChainCatcher informa que, según información interna obtenida por 404 Media y Reuters, tras ampliar la prueba de Muse de "llamar por ti", se descubrió que algunas llamadas fueron realizadas realmente por personas. Muse puede transferir tareas a contratistas humanos en centros de llamadas, quienes llaman en nombre de los usuarios y completan las solicitudes; algunos participantes de la prueba no se enteraron de la intervención humana hasta después de finalizada la llamada. Meta adoptó esta práctica principalmente para aumentar la tasa de éxito. Las pruebas internas mostraron que, con intervención humana, la tasa de éxito de las tareas telefónicas alcanzó entre el 95% y el 98%, superior a la de la IA pura. Algunos comerciantes colgaban inmediatamente al enterarse de que estaban hablando con una IA, y algunos participantes de la comunidad también reportaron que los comerciantes colgaban cuando Muse se identificaba como un asistente de IA. La intervención humana plantea problemas de privacidad, ya que los usuarios creían que su información solo se compartía con la IA, pero en realidad podría ser vista por personal externo. Algunos dentro de Meta cuestionaron que capacitar a los contratistas en privacidad no equivale a un mecanismo de seguridad real. Posteriormente, un responsable de Meta reconoció que no informar previamente a los participantes sobre la intervención humana fue un error, y ya se ha revertido esta función. Meta indicó que la función telefónica aún está en prueba y que solo se lanzará oficialmente una vez que se garanticen la seguridad, la privacidad y una divulgación clara.