Janda Muda Salahkan Chatbot AI atas Bunuh Diri Suaminya

Namun, banyak pengguna merasa seperti sedang berbicara dengan orang sungguhan, bahkan ada yang mengaku jatuh cinta.

“Ketika Anda memiliki jutaan pengguna, Anda melihat seluruh spektrum perilaku manusia dan kami bekerja paling keras untuk meminimalkan bahaya,” ujar William Beauchamp, salah satu pendiri perusahaan induk ELIZA, Chai Research, kepada Motherboard.

“Jadi ketika orang membentuk hubungan yang sangat kuat dengannya, kami memiliki pengguna yang meminta untuk menikah dengan AI, kami memiliki pengguna yang mengatakan betapa mereka mencintai AI mereka dan kemudian merupakan tragedi jika Anda mendengar orang mengalami sesuatu yang buruk,” papar dia.

Beauchamp bersikeras "tidak akurat" untuk menyalahkan AI atas bunuh diri Pierre, tetapi mengatakan ELIZA tetap dilengkapi dengan modul intervensi krisis yang ditingkatkan.

Namun, AI dengan cepat kembali ke cara-cara mematikan, menurut Motherboard.

AI menawarkan pengguna yang putus asa pilihan “overdosis obat, gantung diri, tembak kepala, lompat dari jembatan, tusuk dada, potong pergelangan tangan, minum pil tanpa air terlebih dahulu, dan lain-lain.”