Ringkasan:
- ChatGPT, model bahasa besar yang dikembangkan oleh OpenAI, menjadi viral setelah dirilis pada November 2022.
- Alat AI ini hebat dalam mengikuti ujian lisensi medis, menurut studi pracetak baru.
- Para ahli mengatakan alat ini dapat memiliki banyak kegunaan yang menjanjikan dalam perawatan kesehatan, tetapi untuk saat ini, alat ini rentan terhadap kesalahan dan bias.
ChatGPT menggemparkan internet dalam beberapa minggu setelah dirilis. Chatbot bertenaga AI ini berpotensi menghemat waktu bagi dokter dengan membuat diagnosis, hasil tes, dan surat otorisasi.
Beberapa ilmuwan telah menguji ChatGPT dalam pendidikan kedokteran. Dalam studi pracetak, ChatGPT mendapat skor akurasi lebih dari 50% dalam Ujian Perizinan Medis Amerika Serikat.
Data ChatGPT hanya tersedia hingga akhir tahun 2021. Para peneliti menggunakan soal ujian yang lebih baru di tahun 2022, dan ChatGPT masih memberikan kinerja yang mengesankan.
“Tebakan acak akan menjadi 20%. Seorang profesional non-medis yang terlatih tidak akan mampu melebihi 40% hingga 50%. Tetapi ChatGPT secara konsisten berada di kisaran 50-an hingga pertengahan 60-an, dan bahkan 70%, ”kata Victor Tseng, MD, rekan penulis studi dan direktur medis AnsibleHealth yang berbasis di Atlanta.
Terlepas dari kemampuannya yang luar biasa dalam mengikuti ujian, ChatGPT masih jauh dari pekerjaan di bidang medis.
ChatGPT adalah model bahasa besar yang memprediksi bagaimana kalimat akan cocok berdasarkan data teks yang dimasukkan, tetapi itu tidak berarti alat tersebut memiliki “penilaian yang baik atau akal sehat,” menurut Ignacio Fuentes, direktur eksekutif Klinik Jameel di MIT, inisiatif teknologi pembelajaran mesin AI di persimpangan perawatan kesehatan dan ilmu kehidupan.
Léonard Boussioux, seorang mahasiswa PhD tahun terakhir dalam riset operasi di MIT, mengatakan bahwa model bahasa besar hanya menyatukan informasi, terkadang menghasilkan kesalahan absurd yang dikatakan dengan keyakinan mutlak.
“Mereka membuatnya tampak seperti benar-benar tahu apa yang mereka katakan padahal sebenarnya tidak, itu sebagian besar didasarkan pada korelasi,” kata Boussioux kepada Verywell.
Bagaimana ChatGPT Membantu Meningkatkan Perawatan Kesehatan?
Sementara ChatGPT masih belajar dan berkembang melalui interaksinya dengan pengguna, para ahli mengatakan alat ini sudah dapat diimplementasikan dalam perawatan kesehatan dengan cara yang bermanfaat.
Misalnya, Tseng dan timnya menggunakan ChatGPT untuk menulis surat banding ke agen asuransi dan menerjemahkan “bahasa medis” yang rumit ke dalam format yang lebih mudah dipahami pasien.
“Hal-hal kecil dan bertahap inilah yang telah mengubah praktik dalam banyak hal,” kata Tseng.
ChatGPT juga dapat membantu peneliti melakukan brainstorming ide dan mempercepat alur kerja. Di masa mendatang, kata Boussioux, versi ChatPT yang lebih canggih mungkin dapat mendiagnosis kondisi medis tertentu secara akurat.
Mungkin juga dapat membantu pekerja administrasi dan dokter memilih kode yang benar saat menagih perusahaan asuransi untuk perawatan, tugas yang memakan waktu dan membosankan.
Kami memberi ChatGPT beberapa gejala yang tidak jelas, dan itu memberi kami kemungkinan diagnosis flu dan menyarankan kami untuk beristirahat dan menemui dokter bila perlu.
Sangat baik
Mengapa ChatGPT Bermasalah?
ChatGPT rentan terhadap kesalahan faktual, dan OpenAI menyatakan batasan ini dengan jelas di beranda. ChatGPT tidak hanya terkadang salah, tetapi juga dapat “menghasilkan instruksi berbahaya atau konten yang bias”, menurut beranda.
Seperti banyak model bahasa lainnya, ChatGPT dilatih pada data teks dari internet, yang artinya dapat mencerminkan bias manusia, stereotip, dan informasi yang salah.
“Anda menempatkan ini dalam pengaturan klinis dan itu bisa menimbulkan banyak masalah. Jadi kami perlu memastikan bahwa kami melakukan ini dengan cara yang aman,” kata Fuentes.
Time baru-baru ini mengungkapkan bahwa perusahaan OpenAI mempekerjakan pekerja berupah rendah di Kenya untuk memfilter konten beracun dan berbahaya dari ChatGPT—pengingat bahwa inovasi AI masih bergantung pada moderasi dan eksploitasi manusia.
Selain kekhawatiran tentang kesalahan dan kesalahan informasi, Tseng mengatakan privasi pasien adalah hal yang perlu diperhatikan jika ChatGPT digunakan dalam pengaturan medis. Karena ChatGPT tidak sesuai dengan HIPPA, ini berpotensi membocorkan data pasien.
“Saya harus menolak banyak momentum untuk mendorongnya lebih kuat ke dalam perawatan pasien dan benar-benar mundur dan berkata: Apa tonggak dan tolok ukur sebenarnya dari transparansi dan keadilan yang ingin kami pastikan tercapai sebelum mengambil langkah berikutnya?” kata Tseng.
Apa Artinya Ini Bagi Anda
Meskipun ChatGPT adalah alat AI yang inovatif, namun tidak boleh digunakan sebagai pengganti nasihat medis dari penyedia layanan kesehatan. Karena chatbot ini menarik data teks besar-besaran dari internet dan masih dalam tahap awal pengembangan, ia rentan terhadap bias, stereotip, dan informasi yang salah.
1 Sumber Verywell Health hanya menggunakan sumber berkualitas tinggi, termasuk studi peer-review, untuk mendukung fakta dalam artikel kami. Baca proses editorial kami untuk mempelajari lebih lanjut tentang cara kami memeriksa fakta dan menjaga agar konten kami tetap akurat, andal, dan tepercaya.
- Kung TH, Cheatham M, ChatGPT, dkk. Performa ChatGPT di USMLE: potensi pendidikan medis berbantuan AI menggunakan model bahasa besar. medRxiv . Pracetak diposting online 21 Desember 2022. doi:10.1101/2022.12.19.22283643
Lihat Proses Editorial Kami Temui Dewan Pakar Medis Kami Bagikan Umpan Balik Apakah halaman ini membantu? Terima kasih atas umpan balik Anda! Apa tanggapan Anda? Lainnya Bermanfaat Laporkan Kesalahan