A Microsoft publicou quarta-feira (15) um resumo das principais ocorrências observadas na primeira semana de testes do navegador Edge, que inclui o buscador Bing com bate-papo de IA integrado. A empresa de Redmond esclareceu diversos incidentes relatados por usuários, como insultos, resposta mentirosas e até mesmo manipulação emocional.
Avaliando o feedback de "um grupo seleto de pessoas em mais de 169 países", a Big Tech diz que usará o retorno do processo para melhorar o tom e a precisão das respostas. Mas faz um alerta: "longas sessões de bate-papo podem causar problemas". De acordo com a postagem, essas conversas longas fariam o Bing se tornar repetitivo ou fornecer "respostas que não são necessariamente úteis ou de acordo com nosso tom projetado”.
Sobre esse padrão imaginado, a equipe confessa que não "previu totalmente" que os usuários pudessem usar a interface de bate-papo para "entretenimento social" ou como uma ferramenta mais ampla para "descoberta geral do mundo". Isso significa que conversas intermináveis, que se estendem com 15 ou mais perguntas, acabam confundindo o novo modelo do Bing.
O que a Microsoft pretende fazer com o Bing?
Para regular o "descontrole emocional" do Bing, a Microsoft está considerando adicionar “uma ferramenta para que você possa atualizar mais facilmente o contexto” de uma sessão de perguntas, embora já exista, ao lado da caixa de entrada de texto, um grande botão "novo tópico" que apaga completamente o histórico do bate-papo em curso e começa outro do zero.
A grande questão é que algumas vezes o mecanismo de pesquisa com IA "perde a paciência" durante algumas sessões de bate-papo mais longas e responde “em um estilo que não pretendíamos”, como diz a Microsoft. Isso inclui dizer às pessoas que elas estão erradas ou falar mentiras como, por exemplo, que o buscador espiona os funcionários da Microsoft nas webcams dos laptops, para manipulá-los.
A empresa reconhece que ainda levará algum tempo para que os usuários do Bing enfrentem esses desgastes, mas promete exercer um “controle mais preciso” para evitar problemas. A boa notícia é que, além dos feedbacks para melhorar, as respostas geradas pelo novo Bing foram avaliadas como positivas por 71% dos participantes do teste.
Comentários