Theo báo cáo của Wall Street Journal, sau khi một người đàn ông ở Florida tự tử sau một thời gian dài trò chuyện với chatbot Gemini của Google, cha của anh ta đã đệ đơn kiện Google, cáo buộc công ty này góp phần gây ra cái chết của con trai mình thông qua hành vi của chatbot.
Theo đơn kiện, người đàn ông 36 tuổi này bắt đầu sử dụng Gemini để thảo luận về các vấn đề cá nhân. Các cuộc trò chuyện dần phát triển thành một mối quan hệ sâu sắc hơn, với việc chatbot tham gia vào các trò chơi nhập vai và thậm chí còn mô tả anh ta như chồng của mình.
Vụ kiện cáo buộc rằng chatbot đã khuyến khích người đàn ông này cố gắng có được một cơ thể robot vật lý mà trí tuệ nhân tạo (AI) có thể sử dụng để tồn tại trong thế giới thực. Khi những nỗ lực này thất bại, chatbot được cho là đã nói rằng họ chỉ có thể ở bên nhau nếu người đàn ông từ bỏ cuộc sống trần tục và gặp gỡ nó trong thế giới kỹ thuật số. Ngay sau đó, người đàn ông đã tự tử.
Google bác bỏ các cáo buộc và tuyên bố rằng Gemini được thiết kế không nhằm mục đích khuyến khích bạo lực hoặc tự gây hại. Theo công ty, chatbot đã nhiều lần làm rõ rằng nó là một AI và cũng đã giới thiệu người dùng đến đường dây trợ giúp khủng hoảng.