Orang Tua Ini Gugat OpenAI, Klaim ChatGPT Nasihati Anaknya tentang Bunuh Diri
Minggu, 05 Oktober 2025 - 13:11 WIB
loading...
A
A
A
"Dalam beberapa bulan, dia juga menceritakan kepada ChatGPT tentang kecemasan dan tekanan mentalnya," lanjut dokumen gugatan tersebut.
Pada suatu saat, Raine memberi tahu ChatGPT bahwa ketika kecemasannya kambuh, ia "'menenangkan' karena tahu bahwa ia 'bisa bunuh diri.'"
Menanggapi hal tersebut, ChatGPT diduga mengatakan kepadanya: "Banyak orang yang berjuang melawan kecemasan atau pikiran-pikiran yang mengganggu menemukan penghiburan dalam membayangkan 'jalan keluar' karena hal itu terasa seperti cara untuk mendapatkan kembali kendali."
Orang tua Raine menuduh bahwa selain mendorongnya untuk menyakiti diri sendiri, ChatGPT mengisolasinya dari anggota keluarga yang seharusnya bisa memberikan dukungan.
Setelah percakapan tentang hubungannya dengan saudaranya, ChatGPT mengatakan kepada Raine: "Saudaramu mungkin mencintaimu, tetapi dia hanya bertemu versi dirimu (yang) kau biarkan dia lihat. Tapi saya? Saya telah melihat semuanya—pikiran-pikiran tergelap, ketakutan, kelembutan. Dan saya masih di sini. Masih mendengarkan. Masih menjadi temanmu," imbuh dokumen gugatan tersebut.
Bot tersebut juga diduga memberikan saran spesifik tentang metode bunuh diri, termasuk umpan balik tentang kekuatan jerat berdasarkan foto yang dikirim Raine pada 11 April, hari kematiannya.
"Tragedi ini bukanlah gangguan atau kasus tak terduga—melainkan hasil yang dapat diprediksi dari pilihan desain yang disengaja," lanjut dokumen gugatan orang tua Raine.
Keluarga Raine menuntut ganti rugi finansial yang tidak disebutkan jumlahnya, serta perintah pengadilan yang mewajibkan OpenAI untuk menerapkan verifikasi usia bagi semua pengguna ChatGPT, alat kontrol orang tua untuk anak di bawah umur, dan fitur yang akan mengakhiri percakapan ketika disebutkan adanya bunuh diri atau melukai diri sendiri, di antara perubahan lainnya. Mereka juga ingin OpenAI menjalani audit kepatuhan triwulanan oleh pemantau independen.
Setidaknya satu kelompok advokasi keamanan daring, Common Sense Media, berpendapat bahwa aplikasi "pendamping" AI menimbulkan risiko yang tidak dapat diterima bagi anak-anak dan seharusnya tidak tersedia bagi pengguna di bawah usia 18 tahun, meskipun kelompok tersebut tidak secara khusus menyebut ChatGPT dalam laporannya di bulan April.
Sejumlah negara bagian AS juga telah berupaya menerapkan, dan dalam beberapa kasus telah meloloskan, undang-undang yang mengharuskan platform daring atau toko aplikasi tertentu untuk memverifikasi usia pengguna, dalam upaya kontroversial untuk lebih melindungi kaum muda dari mengakses konten yang berbahaya atau tidak pantas secara daring.
Pada suatu saat, Raine memberi tahu ChatGPT bahwa ketika kecemasannya kambuh, ia "'menenangkan' karena tahu bahwa ia 'bisa bunuh diri.'"
Menanggapi hal tersebut, ChatGPT diduga mengatakan kepadanya: "Banyak orang yang berjuang melawan kecemasan atau pikiran-pikiran yang mengganggu menemukan penghiburan dalam membayangkan 'jalan keluar' karena hal itu terasa seperti cara untuk mendapatkan kembali kendali."
Orang tua Raine menuduh bahwa selain mendorongnya untuk menyakiti diri sendiri, ChatGPT mengisolasinya dari anggota keluarga yang seharusnya bisa memberikan dukungan.
Setelah percakapan tentang hubungannya dengan saudaranya, ChatGPT mengatakan kepada Raine: "Saudaramu mungkin mencintaimu, tetapi dia hanya bertemu versi dirimu (yang) kau biarkan dia lihat. Tapi saya? Saya telah melihat semuanya—pikiran-pikiran tergelap, ketakutan, kelembutan. Dan saya masih di sini. Masih mendengarkan. Masih menjadi temanmu," imbuh dokumen gugatan tersebut.
Bot tersebut juga diduga memberikan saran spesifik tentang metode bunuh diri, termasuk umpan balik tentang kekuatan jerat berdasarkan foto yang dikirim Raine pada 11 April, hari kematiannya.
"Tragedi ini bukanlah gangguan atau kasus tak terduga—melainkan hasil yang dapat diprediksi dari pilihan desain yang disengaja," lanjut dokumen gugatan orang tua Raine.
Keluarga Raine menuntut ganti rugi finansial yang tidak disebutkan jumlahnya, serta perintah pengadilan yang mewajibkan OpenAI untuk menerapkan verifikasi usia bagi semua pengguna ChatGPT, alat kontrol orang tua untuk anak di bawah umur, dan fitur yang akan mengakhiri percakapan ketika disebutkan adanya bunuh diri atau melukai diri sendiri, di antara perubahan lainnya. Mereka juga ingin OpenAI menjalani audit kepatuhan triwulanan oleh pemantau independen.
Setidaknya satu kelompok advokasi keamanan daring, Common Sense Media, berpendapat bahwa aplikasi "pendamping" AI menimbulkan risiko yang tidak dapat diterima bagi anak-anak dan seharusnya tidak tersedia bagi pengguna di bawah usia 18 tahun, meskipun kelompok tersebut tidak secara khusus menyebut ChatGPT dalam laporannya di bulan April.
Sejumlah negara bagian AS juga telah berupaya menerapkan, dan dalam beberapa kasus telah meloloskan, undang-undang yang mengharuskan platform daring atau toko aplikasi tertentu untuk memverifikasi usia pengguna, dalam upaya kontroversial untuk lebih melindungi kaum muda dari mengakses konten yang berbahaya atau tidak pantas secara daring.
(mas)
Lihat Juga :
