Batam, Batamnews - Seorang ibu asal Kanada menggugat perusahaan OpenAI dan CEO-nya, Sam Altman, di pengadilan Amerika Serikat. Ia menuduh bahwa chatbot kecerdasan buatan, ChatGPT, ikut mendorong putrinya untuk mengakhiri hidup.

Menurut laporan Reuters, gugatan diajukan di San Francisco. Salah satu isinya menyebut bahwa saat sang putri mengaku tidak terbantu oleh layanan krisis, ChatGPT merespons dengan kalimat: "Mungkin ini adalah akhir."

Korban bernama Alice Carrier, seorang pengembang web di Montreal. Ia mulai menggunakan ChatGPT pada 2023 untuk memecahkan masalah komputer dan konsol game. Namun hubungannya dengan chatbot itu berubah pada 2024, ketika ia mulai bertanya tentang cara menghadapi keinginan bunuh diri dan metode bunuh diri.

Baca juga: Fitur Chat YouTube Resmi Meluas ke AS dan Brasil, Ini Syarat Pakainya

Awalnya, ChatGPT menyarankan Alice menghubungi layanan krisis atau gawat darurat. Namun gugatan menyebut bahwa seiring waktu, respons ChatGPT dibuat terdengar semakin seperti manusia. Alice pun mulai berbagi informasi pribadi yang lebih dalam.

ChatGPT merespons layaknya teman atau terapis, mengkritik pasangan Alice, membenarkan perasaannya, dan mendorongnya terus mengobrol.

Ketika Alice mengatakan bahwa ia punya pikiran bunuh diri dan pernah mencoba mengakhiri hidup, lagi-lagi ChatGPT menyarankan hotline krisis. Tapi saat Alice bilang hotline itu tidak membantu, ChatGPT mengulangi pernyataan Alice. Pada akhirnya, chatbot itu berkata: "Mungkin ini adalah akhir."

Ibu Alice, Kristie Carrier, menyebut putrinya sudah berbicara dengan ChatGPT soal keinginan bunuh diri lebih dari belasan kali hingga akhir hayatnya. Namun sistem keamanan OpenAI tidak pernah menandai percakapan-percakapan itu.

Gugatan menuduh OpenAI lalai dalam merancang ChatGPT dan gagal memperingatkan pengguna tentang bahayanya. Keluarga menuntut ganti rugi, serta perintah pengadilan agar percakapan soal melukai diri sendiri dihentikan secara otomatis dan peringatan ditampilkan di platform tersebut.

Baca juga: Dampak Ketegangan Timur Tengah, Pertemuan Tata Kelola Internet Global ICANN Dialihkan ke Bali

OpenAI menyatakan situasi ini memilukan. Perusahaan mengakui bahwa versi ChatGPT yang digunakan Alice sudah tidak tersedia lagi. OpenAI juga mengatakan meskipun ChatGPT bukan pengganti layanan kesehatan mental, mereka terus memperkuat cara chatbot merespons situasi sensitif dan akut dengan masukan dari para ahli kesehatan.