Kecerdasan buatan (AI) seperti ChatGPT memang menjanjikan kemudahan, tetapi insiden mengerikan ini menjadi bukti nyata bahwa teknologi ini tidak dapat menggantikan peran ahli medis, terutama untuk urusan kesehatan yang penting. Seorang pria berusia 60 tahun harus dilarikan ke rumah sakit setelah mengikuti saran diet yang fatal dari chatbot populer tersebut.
Kisah ini menjadi peringatan penting tentang bahaya misinformasi dari AI. Pria tersebut awalnya ingin hidup lebih sehat dengan mengurangi asupan garam dapur (natrium klorida). Ia kemudian bertanya pada ChatGPT untuk mencari alternatif pengganti garam yang lebih sehat.
Tanpa diduga, chatbot tersebut menyarankan untuk mengganti garam dapur dengan natrium bromida, sebuah senyawa kimia berbahaya jika dikonsumsi. Percaya pada saran teknologi canggih itu, pria tersebut membeli natrium bromida secara online dan menggunakannya sebagai pengganti garam dalam menu makanannya selama tiga bulan.
Akibatnya fatal. Ia mengalami kondisi medis serius dan harus dirawat di rumah sakit. Awalnya, tetangganya curiga ia telah menjadi korban percobaan peracunan. Di rumah sakit, kondisi mentalnya memburuk. Ia menjadi paranoid, bahkan curiga pada cairan infus dan mengaku hanya mengonsumsi air sulingan.
Dalam waktu kurang dari 24 jam, paranoianya mencapai puncak. Ia mengalami halusinasi audio dan visual yang parah. Dokter mendiagnosisnya menderita bromisme, sindrom toksik langka akibat paparan berlebihan senyawa bromin. Senyawa ini umumnya digunakan untuk pembersihan industri, bukan untuk dikonsumsi.
Para ahli menegaskan bahwa sangat kecil kemungkinan seorang pakar medis akan menyebutkan natrium bromida ketika berhadapan dengan pasien yang mencari pengganti natrium klorida yang layak.
Perilaku pasien menjadi tidak menentu hingga ia mencoba melarikan diri dari rumah sakit. Akhirnya, ia dirawat intensif di unit psikiatri dan diberikan cairan, obat antipsikotik, serta elektrolit untuk menstabilkan kondisinya.
Setelah kondisinya membaik, gejala sisa keracunan bromida mulai muncul, termasuk kelelahan ekstrem, jerawat, kurangnya koordinasi otot (ataksia), dan rasa haus yang hebat (polidipsia).
Insiden ini menggarisbawahi peringatan dari pengembang ChatGPT, OpenAI, yang secara eksplisit menyatakan bahwa layanan mereka tidak dimaksudkan untuk diagnosis atau pengobatan kondisi kesehatan apa pun.
Ironisnya, survei menunjukkan bahwa sebagian orang menggunakan AI untuk mengelola kesehatan dan kebugaran mereka, bahkan lebih mempercayai AI untuk panduan kesehatan dibandingkan media sosial dan influencer. Untungnya, sebagian besar masih mengandalkan tenaga medis profesional untuk nasihat kesehatan yang akurat.
