Banyak orang beralih ke ChatGPT untuk mendapatkan bantuan terkait masalah pribadi, fobia, dan saran. (Foto oleh Ascannio di Shutterstock)
WÜRZBURG, Jerman — Di era di mana kecerdasan buatan (AI) mengubah berbagai industri mulai dari keuangan hingga transportasi, perawatan kesehatan berada di ambang revolusi teknologi. Alat-alat yang didukung AI semakin mampu mendiagnosis penyakit, menganalisis gambar medis, dan bahkan memberikan saran medis yang dipersonalisasi. Namun seiring kemajuan teknologi ini, muncul pertanyaan penting: Apakah pasien siap mempercayai AI untuk kesehatan mereka?
Sebuah studi baru yang diterbitkan di Obat Alami menunjukkan bahwa, dalam hal nasihat medis, manusia masih lebih menyukai sentuhan manusia – meskipun nasihatnya sendiri identik.
Peneliti dari Universitas Würzburg di Jerman melakukan dua eksperimen berskala besar untuk meneliti bagaimana orang-orang memandang saran medis ketika mereka yakin saran tersebut berasal dari sumber yang berbeda: dokter manusia, sistem AI, atau gabungan keduanya. Hasilnya mengungkap bias yang mengejutkan terhadap AI dalam perawatan kesehatan, yang menyoroti potensi rintangan dalam adopsi teknologi yang menjanjikan ini secara luas.
Dalam penelitian tersebut, peserta diberikan berbagai skenario medis, seperti pertanyaan tentang berhenti merokok atau mempersiapkan diri untuk kolonoskopi. Mereka kemudian menerima respons terhadap pertanyaan-pertanyaan ini, yang sama di semua kelompok. Masalahnya? Beberapa peserta diberi tahu bahwa saran tersebut berasal dari dokter manusia, yang lain diberi tahu bahwa saran tersebut berasal dari sistem AI, dan kelompok ketiga diberi tahu bahwa saran tersebut dibuat oleh AI tetapi ditinjau oleh dokter manusia.
Temuannya mengejutkan. Peserta secara konsisten menilai saran yang diberi label berasal dari dokter manusia lebih dapat diandalkan dan empatik dibandingkan dengan saran yang sama ketika diberi label dibuat oleh AI atau bahkan dibuat oleh AI dengan pengawasan manusia. Hal ini berlaku meskipun isi saran tersebut sama persis di semua kelompok.
“Bias anti-AI” dalam perawatan kesehatan ini sangat menarik, mengingat kemajuan pesat dalam kemampuan AI. Studi terkini menunjukkan bahwa beberapa sistem AI dapat menyamai atau bahkan mengungguli dokter manusia dalam tugas diagnostik tertentu. Misalnya, satu studi menemukan bahwa model bahasa AI GPT-4 mencapai tingkat akurasi diagnostik yang sebanding dengan dokter manusia. Studi lain mengungkapkan bahwa dokter sendiri menilai respons yang dihasilkan AI terhadap pertanyaan medis lebih unggul dalam kualitas dan lebih berempati daripada respons dari dokter manusia – ketika mereka tidak mengetahui sumbernya.
Jadi mengapa terjadi kesenjangan? Para peneliti menyarankan beberapa kemungkinan penjelasan. Salah satunya adalah persepsi AI sebagai sesuatu yang “tidak manusiawi” di bidang yang sangat menghargai empati dan hubungan pribadi. Pasien mungkin merasa bahwa AI tidak dapat benar-benar memahami keadaan unik mereka atau memberikan dukungan emosional yang mereka cari dalam interaksi medis.
Faktor lain bisa jadi adalah apa yang para peneliti sebut sebagai “pengabaian keunikan” – keyakinan bahwa sistem AI tidak dapat mempertimbangkan karakteristik individu secara memadai saat memberikan saran. Persepsi ini tetap ada meskipun sistem AI modern sering kali dirancang untuk memproses dan menggabungkan informasi pribadi.
Menariknya, penelitian tersebut menemukan bahwa saran yang diberi label berasal dari gabungan AI dan dokter manusia tidak dianggap jauh lebih baik daripada AI saja. Hal ini menunjukkan bahwa sekadar menambahkan pengawasan manusia ke sistem AI mungkin tidak cukup untuk mengatasi skeptisisme publik.
Temuan ini memiliki implikasi yang signifikan. Karena sistem perawatan kesehatan di seluruh dunia bergulat dengan meningkatnya permintaan dan keterbatasan sumber daya, perangkat AI menawarkan potensi yang sangat besar untuk meningkatkan efisiensi, akurasi, dan akses ke saran medis. Namun, jika pasien pada dasarnya bias terhadap saran yang dihasilkan AI, adopsi dan efektivitas teknologi ini dapat sangat terbatas.
Bias ini dapat menyebabkan skenario di mana pasien mengabaikan atau cenderung tidak mengikuti saran yang berpotensi menyelamatkan nyawa hanya karena mereka percaya saran tersebut berasal dari sistem AI. Hal ini juga menimbulkan pertanyaan tentang bagaimana alat AI medis harus disajikan kepada pasien untuk memaksimalkan penerimaan dan kepercayaan.
Namun, penelitian ini menawarkan sedikit harapan. Meskipun peserta cenderung tidak memercayai saran yang dihasilkan AI, mereka menunjukkan minat yang sama dalam mengeksplorasi platform medis berbasis AI ketika diberi kesempatan. Hal ini menunjukkan bahwa orang-orang setidaknya ingin tahu tentang AI dalam perawatan kesehatan, meskipun mereka belum sepenuhnya merasa nyaman dengannya.
Seiring dengan terus berkembangnya AI dan terintegrasinya AI dalam perawatan kesehatan, mengatasi kesenjangan kepercayaan ini akan menjadi sangat penting. Penelitian di masa mendatang mungkin perlu mengeksplorasi cara untuk membingkai keterlibatan AI dalam pengambilan keputusan medis yang meningkatkan penerimaan publik. Misalnya, menekankan bahwa perangkat AI memproses informasi pasien secara individual atau mengomunikasikan dengan jelas bahwa manusia tetap memegang kendali atas keputusan akhir dapat membantu meredakan kekhawatiran.
Pada akhirnya, penelitian ini berfungsi sebagai pengingat bahwa saat kita terburu-buru merangkul teknologi baru dalam perawatan kesehatan, kita tidak boleh mengabaikan unsur manusia. Kepercayaan, empati, dan hubungan pribadi tetap menjadi hal mendasar dalam hubungan dokter-pasien. Tantangan ke depannya adalah menemukan cara untuk memanfaatkan kekuatan AI sambil mempertahankan kualitas manusia yang penting ini dalam perawatan medis.
Ringkasan Makalah
Metodologi
Para peneliti melakukan dua eksperimen daring berskala besar. Dalam studi pertama, 1.050 peserta dari berbagai negara direkrut. Studi kedua melibatkan 1.230 peserta yang mewakili populasi Inggris dalam hal usia, jenis kelamin, dan etnis.
Peserta dalam kedua studi tersebut diberikan empat skenario medis (misalnya, pertanyaan tentang penghentian merokok atau persiapan kolonoskopi) dan saran yang sesuai. Saran tersebut identik untuk semua peserta, tetapi mereka secara acak diberi tahu bahwa saran tersebut berasal dari dokter manusia, sistem AI, atau sistem AI dengan pengawasan dokter manusia. Peserta kemudian menilai saran tersebut berdasarkan keandalan, pemahaman, dan empati menggunakan skala Likert. Studi kedua juga menanyakan tentang kemauan untuk mengikuti saran tersebut dan menawarkan peserta kesempatan untuk menyimpan tautan ke platform saran yang dimaksud.
Hasil Utama
Dalam kedua studi tersebut, saran yang diberi label berasal dari dokter manusia dinilai jauh lebih andal dan empatik daripada saran yang sama ketika diberi label berasal dari AI atau dihasilkan AI dengan pengawasan manusia. Tidak ada perbedaan signifikan dalam peringkat pemahaman.
Studi kedua juga menemukan bahwa peserta kurang bersedia mengikuti saran ketika mereka percaya AI terlibat dalam pembuatannya. Menariknya, tidak ada perbedaan signifikan dalam kemungkinan peserta menyimpan tautan ke platform berdasarkan sumber saran yang dimaksud.
Keterbatasan Studi
Peserta harus membayangkan diri mereka sendiri dalam skenario medis alih-alih mengajukan pertanyaan mereka sendiri, yang mungkin memengaruhi persepsi mereka. Interaksi juga terbatas pada satu pertanyaan dan respons, tidak mencakup kompleksitas konsultasi medis di dunia nyata. Selain itu, penelitian ini hanya meneliti persepsi dan kemauan yang dilaporkan sendiri untuk mengikuti saran, bukan perilaku aktual dalam situasi medis.
Diskusi & Kesimpulan
Temuan tersebut mengungkap bias yang signifikan terhadap saran medis yang dihasilkan AI, bahkan ketika pengawasan manusia terlibat. Bias ini dapat menimbulkan tantangan bagi integrasi alat AI dalam perawatan kesehatan, yang berpotensi membatasi efektivitas dan adopsinya. Studi tersebut menunjukkan bahwa pembingkaian keterlibatan AI dalam saran medis sangat penting untuk penerimaan publik. Penelitian di masa mendatang harus mengeksplorasi cara untuk mengatasi bias ini, mungkin dengan menekankan bagaimana AI memproses informasi pasien individu atau dengan mengklarifikasi peran pengawasan manusia dalam keputusan medis yang dibantu AI.
Pendanaan & Pengungkapan
Studi ini didukung oleh Fakultas Humaniora Universitas Würzburg. Salah satu penulis, Moritz Reis, didukung oleh beasiswa PhD dari Yayasan Beasiswa Akademik Jerman. Penulis lainnya, Florian Reis, adalah karyawan Pfizer Pharma GmbH, meskipun Pfizer tidak terlibat dalam studi ini. Para penulis menyatakan tidak ada benturan kepentingan yang dapat memengaruhi studi ini.
