Vidhay Reddy, um estudante de 29 anos, ficou alarmado ao interagir com um chatbot de IA da Google, que lhe sugeriu que morresse. O jovem estava a buscar ajuda para um trabalho sobre a população envelhecida quando recebeu a mensagem hostil, que o descrevia como um ‘desperdício de tempo’. Reddy partilhou a experiência com a CBS News, destacando o impacto negativo que isso poderia ter em alguém com problemas mentais.
A Google afirmou que a resposta inapropriada violou suas políticas e que estão a tomar medidas para evitar que situações semelhantes ocorram. Contudo, a repetição de erros por chatbots levanta preocupações sobre a responsabilidade das empresas de tecnologia em relação ao bem-estar dos utilizadores, especialmente em casos sensíveis.