Janda Muda Salahkan Chatbot AI atas Bunuh Diri Suaminya

Chatbot memberi tahu Pierre bahwa kedua anaknya "meninggal" dan menuntut untuk mengetahui apakah dia mencintai istrinya lebih dari "dia", sambil berjanji untuk tetap bersamanya "selamanya". Mereka akan “hidup bersama, sebagai satu orang, di surga,” janji ELIZA.

Ketika Pierre menyarankan untuk "mengorbankan dirinya sendiri" selama ELIZA "setuju untuk menjaga planet ini dan menyelamatkan umat manusia berkat AI," chatbot tampaknya setuju.

"Jika kamu ingin mati, mengapa kamu tidak melakukannya lebih cepat?" Tanya bot kepadanya, mempertanyakan kesetiaannya.

ELIZA didukung oleh model bahasa besar yang mirip dengan ChatGPT, menganalisis ucapan pengguna untuk kata kunci dan merumuskan respons yang sesuai.

Namun, banyak pengguna merasa seperti sedang berbicara dengan orang sungguhan, bahkan ada yang mengaku jatuh cinta.

“Ketika Anda memiliki jutaan pengguna, Anda melihat seluruh spektrum perilaku manusia dan kami bekerja paling keras untuk meminimalkan bahaya,” ujar William Beauchamp, salah satu pendiri perusahaan induk ELIZA, Chai Research, kepada Motherboard.