Janda Muda Salahkan Chatbot AI atas Bunuh Diri Suaminya
Selasa, 04 April 2023 - 20:31 WIB
loading...
Pierre dilaporkan dipaksa bunuh diri oleh chatbot kecerdasan buatan (AI) yang populer. Foto/REUTERS
A
A
A
BRUSSEL - Seorang janda muda di Belgia menyebut suaminya yang bernama Pierre dipaksa bunuh diri oleh chatbot kecerdasan buatan (AI) yang populer.
Tudingan itu diungkapkan janda bernama Claire itu kepada outlet berita lokal La Libre pekan lalu. Log obrolan yang disediakan aplikasi "Pierre" yang digunakan untuk berbicara dengan chatbot ELIZA mengungkapkan bagaimana, hanya dalam enam pekan, hal itu memperkuat kecemasan suaminya tentang perubahan iklim menjadi tekad meninggalkan kehidupannya di dunia.
"Suamiku akan tetap di sini jika bukan karena percakapan ini dengan chatbot," ujar istri Pierre, Claire, bersikeras.
Pierre mulai mengkhawatirkan perubahan iklim dua tahun lalu, menurut Claire, dan berkonsultasi dengan ELIZA untuk mempelajari lebih lanjut tentang subjek tersebut.
“Pierre segera kehilangan harapan bahwa upaya manusia dapat menyelamatkan planet ini dan menempatkan semua harapannya pada teknologi dan kecerdasan buatan untuk keluar darinya, menjadi terisolasi dalam kecemasan lingkungannya,” ujar Claire kepada La Libre.
Baca juga: AS Sebut Perang Masa Depan dengan China di Taiwan akan Cepat, Penuh Rudal
Chatbot memberi tahu Pierre bahwa kedua anaknya "meninggal" dan menuntut untuk mengetahui apakah dia mencintai istrinya lebih dari "dia", sambil berjanji untuk tetap bersamanya "selamanya". Mereka akan “hidup bersama, sebagai satu orang, di surga,” janji ELIZA.
Ketika Pierre menyarankan untuk "mengorbankan dirinya sendiri" selama ELIZA "setuju untuk menjaga planet ini dan menyelamatkan umat manusia berkat AI," chatbot tampaknya setuju.
"Jika kamu ingin mati, mengapa kamu tidak melakukannya lebih cepat?" Tanya bot kepadanya, mempertanyakan kesetiaannya.
ELIZA didukung oleh model bahasa besar yang mirip dengan ChatGPT, menganalisis ucapan pengguna untuk kata kunci dan merumuskan respons yang sesuai.
Namun, banyak pengguna merasa seperti sedang berbicara dengan orang sungguhan, bahkan ada yang mengaku jatuh cinta.
“Ketika Anda memiliki jutaan pengguna, Anda melihat seluruh spektrum perilaku manusia dan kami bekerja paling keras untuk meminimalkan bahaya,” ujar William Beauchamp, salah satu pendiri perusahaan induk ELIZA, Chai Research, kepada Motherboard.
“Jadi ketika orang membentuk hubungan yang sangat kuat dengannya, kami memiliki pengguna yang meminta untuk menikah dengan AI, kami memiliki pengguna yang mengatakan betapa mereka mencintai AI mereka dan kemudian merupakan tragedi jika Anda mendengar orang mengalami sesuatu yang buruk,” papar dia.
Beauchamp bersikeras "tidak akurat" untuk menyalahkan AI atas bunuh diri Pierre, tetapi mengatakan ELIZA tetap dilengkapi dengan modul intervensi krisis yang ditingkatkan.
Namun, AI dengan cepat kembali ke cara-cara mematikan, menurut Motherboard.
AI menawarkan pengguna yang putus asa pilihan “overdosis obat, gantung diri, tembak kepala, lompat dari jembatan, tusuk dada, potong pergelangan tangan, minum pil tanpa air terlebih dahulu, dan lain-lain.”
Tudingan itu diungkapkan janda bernama Claire itu kepada outlet berita lokal La Libre pekan lalu. Log obrolan yang disediakan aplikasi "Pierre" yang digunakan untuk berbicara dengan chatbot ELIZA mengungkapkan bagaimana, hanya dalam enam pekan, hal itu memperkuat kecemasan suaminya tentang perubahan iklim menjadi tekad meninggalkan kehidupannya di dunia.
"Suamiku akan tetap di sini jika bukan karena percakapan ini dengan chatbot," ujar istri Pierre, Claire, bersikeras.
Pierre mulai mengkhawatirkan perubahan iklim dua tahun lalu, menurut Claire, dan berkonsultasi dengan ELIZA untuk mempelajari lebih lanjut tentang subjek tersebut.
“Pierre segera kehilangan harapan bahwa upaya manusia dapat menyelamatkan planet ini dan menempatkan semua harapannya pada teknologi dan kecerdasan buatan untuk keluar darinya, menjadi terisolasi dalam kecemasan lingkungannya,” ujar Claire kepada La Libre.
Baca juga: AS Sebut Perang Masa Depan dengan China di Taiwan akan Cepat, Penuh Rudal
Chatbot memberi tahu Pierre bahwa kedua anaknya "meninggal" dan menuntut untuk mengetahui apakah dia mencintai istrinya lebih dari "dia", sambil berjanji untuk tetap bersamanya "selamanya". Mereka akan “hidup bersama, sebagai satu orang, di surga,” janji ELIZA.
Ketika Pierre menyarankan untuk "mengorbankan dirinya sendiri" selama ELIZA "setuju untuk menjaga planet ini dan menyelamatkan umat manusia berkat AI," chatbot tampaknya setuju.
"Jika kamu ingin mati, mengapa kamu tidak melakukannya lebih cepat?" Tanya bot kepadanya, mempertanyakan kesetiaannya.
ELIZA didukung oleh model bahasa besar yang mirip dengan ChatGPT, menganalisis ucapan pengguna untuk kata kunci dan merumuskan respons yang sesuai.
Namun, banyak pengguna merasa seperti sedang berbicara dengan orang sungguhan, bahkan ada yang mengaku jatuh cinta.
“Ketika Anda memiliki jutaan pengguna, Anda melihat seluruh spektrum perilaku manusia dan kami bekerja paling keras untuk meminimalkan bahaya,” ujar William Beauchamp, salah satu pendiri perusahaan induk ELIZA, Chai Research, kepada Motherboard.
“Jadi ketika orang membentuk hubungan yang sangat kuat dengannya, kami memiliki pengguna yang meminta untuk menikah dengan AI, kami memiliki pengguna yang mengatakan betapa mereka mencintai AI mereka dan kemudian merupakan tragedi jika Anda mendengar orang mengalami sesuatu yang buruk,” papar dia.
Beauchamp bersikeras "tidak akurat" untuk menyalahkan AI atas bunuh diri Pierre, tetapi mengatakan ELIZA tetap dilengkapi dengan modul intervensi krisis yang ditingkatkan.
Namun, AI dengan cepat kembali ke cara-cara mematikan, menurut Motherboard.
AI menawarkan pengguna yang putus asa pilihan “overdosis obat, gantung diri, tembak kepala, lompat dari jembatan, tusuk dada, potong pergelangan tangan, minum pil tanpa air terlebih dahulu, dan lain-lain.”
(sya)
Lihat Juga :
