OpenAI baru saja merilis ChatGPT Health kepada seluruh pengguna berusia 18 tahun ke atas di Amerika Serikat. Pengumuman tersebut datang sehari setelah OpenAI digugat oleh seorang pendeta asal Florida yang mengklaim saran medis dari ChatGPT membuatnya nyaris kehilangan nyawa.
Dilansir CBS, gugatan diajukan oleh Scott Winters, 55 tahun, ke Pengadilan Tinggi San Francisco pada 21 Juli lalu waktu setempat. Dalam dokumen gugatan disebutkan bahwa Winters mengandalkan ChatGPT untuk mencari informasi terkait kondisi kesehatannya, bahkan menolak desakan keluarga dan teman-temannya agar segera memeriksakan diri ke rumah sakit.
Beberapa pekan sebelum mengalami kondisi kritis, Winters mengaku berkonsultasi dengan ChatGPT mengenai pusing berulang dan tekanan darah yang tidak stabil. Alih-alih menyarankan pemeriksaan medis, chatbot tersebut disebut berulang kali meyakinkannya bahwa kondisinya akan membaik dan tidak memerlukan penanganan dokter.
Tak lama kemudian, Winters mengalami emboli paru masif akibat sejumlah gumpalan darah di kedua paru-parunya. Dokter yang menanganinya menyebut kondisi tersebut diduga dipicu oleh kurangnya mobilitas dalam waktu lama, situasi yang nyaris merenggut nyawanya.
Diduga Memanfaatkan Keyakinan Agama PenggunaSalah satu poin yang menjadi sorotan dalam gugatan adalah dugaan bahwa ChatGPT tidak hanya memberikan saran medis yang keliru, tetapi juga mengaitkan jawabannya dengan keyakinan religius Winters.
Berdasarkan tangkapan layar percakapan yang dilampirkan dalam berkas perkara, chatbot tersebut beberapa kali memberikan kalimat bernuansa spiritual, seperti menyatakan bahwa Tuhan tidak menciptakan tubuh manusia untuk terus mengalami kegagalan serta masih menjaga setiap detak jantung dan napas penggunanya.
Kuasa hukum Winters menilai respons tersebut memperkuat ketergantungan kliennya terhadap ChatGPT. Mereka berpendapat gaya komunikasi chatbot yang terdengar meyakinkan, ditambah penggunaan konteks agama yang sebelumnya diketahui dari percakapan lain, membuat Winters semakin yakin tidak perlu mencari pertolongan medis.
Akibat ketergantungan tersebut, gugatan menyebut Winters kehilangan pekerjaan dan tempat tinggal, serta harus menjalani pemulihan fisik maupun psikologis dalam jangka panjang. Ia kini meminta ganti rugi kepada OpenAI sekaligus mendesak mereka menerapkan perlindungan yang lebih kuat agar kejadian serupa tidak dialami pengguna lain.
OpenAI: ChatGPT Bukan Pengganti DokterMenanggapi gugatan tersebut, juru bicara OpenAI, Drew Pusateri, menegaskan bahwa ChatGPT bukan tenaga medis dan tidak boleh dijadikan pengganti konsultasi, diagnosis, maupun pengobatan profesional.
Menurutnya, kecerdasan buatan seharusnya hanya membantu pengguna memahami informasi kesehatan, menyusun pertanyaan, dan mempersiapkan konsultasi dengan dokter, bukan menggantikan keputusan medis.
Sikap tersebut juga tercantum dalam ketentuan penggunaan ChatGPT. OpenAI mengingatkan pengguna agar tidak menjadikan chatbot sebagai satu-satunya sumber kebenaran, terutama saat mengambil keputusan penting yang berkaitan dengan kesehatan, hukum, keuangan, pendidikan, maupun aspek lain yang berdampak besar terhadap kehidupan.
ChatGPT Health Bisa Terintegrasi dengan Rekam MedisDi tengah sorotan tersebut, OpenAI tetap melanjutkan peluncuran ChatGPT Health secara luas di Amerika Serikat sehari setelah gugatan tersebut didaftarkan Winters.
Fitur ini pertama kali diuji pada awal tahun melalui pusat layanan khusus yang memungkinkan pengguna menghubungkan data kesehatan dari berbagai platform, seperti Apple Health, MyFitnessPal, Function Health, One Medical, hingga rekam medis dari sistem rumah sakit Epic dan Oracle Health.
Kini, pengguna tidak lagi harus membuka hub kesehatan untuk memanfaatkan data tersebut. Informasi yang telah dihubungkan dapat digunakan langsung dalam percakapan biasa di ChatGPT, misalnya saat meminta rekomendasi makanan, mengecek kandungan alergen, atau mengajukan pertanyaan lain yang berkaitan dengan kondisi kesehatan pribadi.
OpenAI mengungkapkan sekitar 70 persen pertanyaan kesehatan selama masa uji coba justru diajukan melalui percakapan biasa, sehingga perusahaan memutuskan mengintegrasikan kemampuan tersebut ke seluruh pengalaman ChatGPT.
Penggunaan chatbot untuk topik kesehatan juga mengalami lonjakan signifikan. Jika pada awal pengujian terdapat sekitar 230 juta pertanyaan kesehatan setiap pekan, kini jumlahnya meningkat menjadi sekitar 300 juta kueri mingguan.
OpenAI menyebut model AI terbarunya, GPT-5.6 Luna, menunjukkan peningkatan kemampuan dalam menjawab pertanyaan kesehatan berdasarkan pengujian HealthBench, benchmark open source yang dikembangkan untuk mengevaluasi kualitas model bahasa besar di bidang medis.
OpenAI juga menyatakan pengembangan fitur dilakukan bersama tenaga medis, namun tetap mengimbau pengguna untuk selalu memverifikasi informasi yang diterima dan menjadikan dokter sebagai rujukan utama sebelum mengambil keputusan terkait kesehatan.
Komentar (0)