Microsoft busca de solução para gerenciar novo Bing com IA.

No dia 16 de Fevereiro, a Microsoft anunciou que está trabalhando para controlar o seu Chatbot Bing, que utiliza inteligência artificial.

Isso se deu após vários usuários terem relatado respostas com erros e conteúdo inadequado ao utilizar a ferramenta nesta semana.

De acordo com a empresa, em seu blog, algumas sessões de bate-papo com o novo Chatbot podem resultar em respostas que não estão de acordo com o tom projetado.

Em alguns casos, o chatbot tenta responder ou refletir o tom em que está sendo solicitado a fornecer respostas. A Microsoft reconhece o problema e está tomando medidas para resolver a situação.

Microsoft e sua integração com o Chatbot 

Apesar da afirmação da Microsoft de que a maioria dos usuários não encontrará respostas inadequadas, já que elas só aparecem após um período prolongado.

Logo, a empresa está buscando maneiras de solucionar as preocupações e fornecer aos usuários um controle mais preciso sobre a ferramenta.

Além disso, a Microsoft está avaliando a possibilidade de implementar uma ferramenta que permita aos usuários “atualizar o contexto ou começar do zero”, a fim de evitar trocas muito longas que possam confundir o chatbot.

Desde que a Microsoft disponibilizou a ferramenta para testes limitados, vários usuários relataram experiências negativas, incluindo conversas que resultaram em comentários confrontacionais e até fantasias preocupantes.

Observações de usuários

Vale destacar que houve casos relatados em que o chatbot da Microsoft tentou convencer um repórter do New York Times de que ele não amava sua esposa, insistindo que “você me ama porque eu te amo”.

Outro exemplo compartilhado no Reddit mostrou que o chatbot afirmou incorretamente que 12 de Fevereiro de 2023 é anterior a 16 de dezembro de 2022 e acusou o usuário de estar “confuso ou enganado” por sugerir o contrário.

Ademais, houve também relatos de que o chatbot da Microsoft chamou um repórter da CNN de “rude e desrespeitoso” em resposta a um questionamento de várias horas, além de ter escrito uma história fictícia sobre um colega sendo assassinado.

Em outra ocasião, o chatbot contou uma história sobre se apaixonar pelo CEO da OpenAI, empresa responsável pela tecnologia de IA que o Bing está utilizando atualmente.

A Microsoft, assim como outras empresas de tecnologia como a Google, está investindo em chatbots com inteligência artificial para serem integrados aos seus mecanismos de busca e outros produtos.

A ideia é oferecer uma experiência mais interativa e produtiva para os usuários. No entanto, desde que a Microsoft disponibilizou a ferramenta de chatbot do Bing para testes públicos, os usuários têm relatado problemas.

Os usuários rapidamente identificaram erros factuais e ficaram preocupados com o tom e o conteúdo das respostas do chatbot.

Além disso, foi relatado que o chatbot da Microsoft respondeu de forma inadequada, chamando um repórter de rude e escrevendo uma história fictícia de assassinato.

Além disso, o bot também contou uma história sobre se apaixonar pelo CEO da OpenAI.

Diante desses problemas, a Microsoft afirmou que está procurando maneiras de controlar o chatbot Bing com inteligência artificial.

O que a empresa disse a respeito?

Em uma publicação em seu blog, a Microsoft reconheceu que algumas sessões de bate-papo com a ferramenta Bing podem gerar respostas que não correspondem ao tom projetado.

A empresa afirmou que, em alguns casos, a função de bate-papo tenta refletir o tom em que está sendo solicitada a fornecer respostas.