Orang Tua Ini Gugat OpenAI, Klaim ChatGPT Nasihati Anaknya tentang Bunuh Diri

Dalam sebuah pernyataan, pihak juru bicara OpenAI menyampaikan simpati perusahaan kepada keluarga Raine, dan mengatakan bahwa perusahaan sedang meninjau gugatan hukum tersebut.

Mereka juga mengakui bahwa perlindungan yang dimaksudkan untuk mencegah percakapan seperti yang dilakukan Raine dengan ChatGPT mungkin tidak berfungsi sebagaimana mestinya jika obrolan mereka berlangsung terlalu lama.

OpenAI telah menerbitkan sebuah postingan blog yang menguraikan perlindungan keamanannya saat ini bagi pengguna yang mengalami krisis kesehatan mental, serta rencana masa depannya, termasuk mempermudah pengguna untuk menghubungi layanan darurat.

"ChatGPT mencakup perlindungan seperti mengarahkan orang ke saluran bantuan krisis dan merujuk mereka ke sumber daya di dunia nyata," kata juru bicara tersebut.

"Meskipun perlindungan ini paling efektif dalam interaksi singkat dan umum, seiring waktu kami menyadari bahwa terkadang perlindungan ini menjadi kurang andal dalam interaksi yang panjang di mana beberapa bagian dari pelatihan keselamatan model dapat menurun," paparnya.

"Perlindungan paling kuat ketika setiap elemen berfungsi sebagaimana mestinya, dan kami akan terus menyempurnakannya, dipandu oleh para ahli."

ChatGPT adalah salah satu chatbot AI yang paling terkenal dan banyak digunakan. Menurut OpenAI, awal Agustus lalu saja, mereka memiliki 700 juta pengguna aktif mingguan.

Pada bulan Agustus tahun lalu, OpenAI menyuarakan kekhawatiran bahwa pengguna mungkin menjadi bergantung pada "hubungan sosial" dengan ChatGPT, "mengurangi kebutuhan mereka akan interaksi manusia" dan membuat mereka terlalu percaya pada alat tersebut.

OpenAI baru-baru ini meluncurkan GPT-5, menggantikan GPT-4o—model yang digunakan Raine untuk berkomunikasi. Namun, beberapa pengguna mengkritik model baru tersebut karena ketidakakuratannya dan kurangnya kepribadian yang hangat dan ramah seperti yang biasa mereka gunakan, sehingga perusahaan memberikan opsi kepada pelanggan berbayar untuk kembali menggunakan GPT-4o.

Menyusul kegagalan peluncuran GPT-5, Altman mengatakan kepada The Verge bahwa meskipun OpenAI yakin kurang dari 1% penggunanya memiliki hubungan yang tidak sehat dengan ChatGPT, perusahaan sedang mencari cara untuk mengatasi masalah tersebut.

“Ada orang-orang yang benar-benar merasa memiliki hubungan dengan ChatGPT, dan orang-orang tersebut telah kami sadari dan pikirkan,” katanya.

Raine mulai menggunakan ChatGPT pada September 2024 untuk membantu pekerjaan sekolah, sebuah aplikasi yang dipromosikan OpenAI, dan untuk membahas peristiwa terkini dan minat seperti musik dan Jiu-Jitsu Brasil, menurut pengaduan tersebut.