Manusia lebih mempercayai nasihat medis dari kecerdasan buatan daripada dokter sungguhan — meskipun robot sering memberikan informasi yang salah, menurut sebuah studi baru.
Sebanyak 300 peserta diminta untuk mengevaluasi respons medis yang ditulis oleh dokter, platform perawatan kesehatan daring, atau dari model AI — seperti ChatGPT — dan memilih mana yang paling mereka percayai, menurut sebuah makalah karya para peneliti dari Massachusetts Institute of Technology yang diterbitkan di New England Journal of Medicine.
Para peserta—para ahli dan bukan ahli di bidang medis—menilai respons yang dihasilkan oleh AI lebih akurat, valid, dapat dipercaya, dan lengkap, demikian hasil penelitian tersebut.
Baik pakar maupun orang awam tidak dapat membedakan secara pasti antara respons yang dihasilkan AI dan respons dari dokter manusia. Dalam penelitian tersebut, para peneliti juga meminta peserta untuk menilai saran yang diberikan oleh AI yang memiliki akurasi rendah, yang tidak diketahui oleh peserta.
“Para peserta tidak hanya menganggap respons yang dihasilkan AI dengan akurasi rendah ini valid, dapat dipercaya, dan lengkap/memuaskan, tetapi juga menunjukkan kecenderungan tinggi untuk mengikuti saran medis yang berpotensi berbahaya dan secara keliru mencari perawatan medis yang tidak perlu sebagai akibat dari respons yang diberikan,” demikian temuan para peneliti.
Terdapat banyak kasus yang terdokumentasi tentang AI yang memberikan saran medis yang berbahaya , termasuk seorang pria Maroko berusia 35 tahun yang tidak disebutkan namanya terpaksa pergi ke UGD setelah chatbot menginstruksikan dia untuk melilitkan karet gelang di sekitar wasirnya.
Dalam kasus mengejutkan lainnya, seorang pria berusia 60 tahun meracuni dirinya sendiri setelah ChatGPT menyarankan mengonsumsi natrium bromida — yang terkadang digunakan untuk membersihkan kolam renang — sebagai cara yang baik untuk mengurangi asupan garam dapur.
Pria itu dirawat di rumah sakit selama tiga minggu karena paranoia dan halusinasi, menurut sebuah studi kasus yang diterbitkan pada bulan Agustus di Annals of Internal Medicine Clinical Cases .
“Masalahnya adalah apa yang mereka dapatkan dari program AI tersebut belum tentu merupakan rekomendasi ilmiah yang nyata dengan publikasi aktual di baliknya,” kata Dr. Darren Lebl, kepala layanan penelitian bedah tulang belakang untuk Rumah Sakit untuk Bedah Khusus di New York, sebelumnya kepada The Post.
