Ada sesuatu yang terasa berbeda ketika sebuah algoritma—bukan seorang dokter—yang pertama kali menyaring data pasien dan merekomendasikan diagnosis. Ada pula sesuatu yang terasa mengkhawatirkan ketika keseluruhan rekam medis pasien tersimpan dalam sistem yang, jika bermasalah, bisa lumpuh seketika atau diakses oleh pihak yang tidak berwenang.
Transformasi digital dan kecerdasan buatan (artificial intelligence/AI) membawa janji yang besar bagi dunia kesehatan: efisiensi yang lebih tinggi, diagnosis yang lebih akurat, deteksi risiko yang lebih dini, dan layanan yang lebih merata. Namun bersamaan dengan janji itu, hadir pula dimensi risiko baru yang kompleks—risiko yang berbeda dari segala jenis ancaman yang sudah dibahas dalam seri artikel ini, karena sifatnya yang kerap tak kasat mata, bergerak cepat, dan melintasi batas-batas konvensional antara klinisi, teknologi, regulasi, dan etika.
Inilah dimensi kedelapan dari manajemen risiko rumah sakit yang paling relevan dengan era sekarang: risiko transformasi digital dan kecerdasan buatan.
Lompatan Besar yang Tidak Bisa Diabaikan
Adopsi AI di rumah sakit bukan lagi wacana masa depan—ia sudah menjadi kenyataan hari ini. Pada 2024, 71% rumah sakit di Amerika Serikat melaporkan penggunaan AI prediktif yang terintegrasi dengan rekam medis elektronik (electronic health record/EHR) mereka, meningkat dari 66% pada 2023. Penggunaan AI prediktif yang paling umum adalah untuk memprediksi trajektori kesehatan atau risiko bagi pasien rawat inap, sementara penggunaan yang tumbuh paling cepat adalah untuk menyederhanakan proses tagihan dan mengidentifikasi pasien risiko tinggi di rawat jalan.
Di tingkat yang lebih luas, AI kini merambah hampir setiap aspek layanan kesehatan: analisis citra radiologi, prediksi sepsis pada pasien ICU, sistem peringatan dini gagal jantung, deteksi retinopati diabetik dari foto fundus, hingga pembuatan ringkasan otomatis dokumentasi klinis. Tinjauan sistematis memperlihatkan bahwa topik yang paling banyak dibahas dalam literatur ilmiah terkait manajemen risiko dan AI adalah deteksi kejadian merugikan (adverse events), diikuti oleh risiko jatuh dan komplikasi terkait prosedur.
Namun di balik angka-angka adopsi yang impresif itu, tersimpan pertanyaan yang belum sepenuhnya terjawab: apakah sistem-sistem ini benar-benar aman, adil, dan akuntabel?
Bias Algoritma: Ketika Data Masa Lalu Mengulang Ketidakadilan
Salah satu risiko paling fundamental dari AI di layanan kesehatan adalah bias algoritmik. Model AI dilatih menggunakan data historis—dan jika data tersebut mencerminkan ketimpangan sistemik dalam layanan kesehatan, maka model yang dihasilkan akan mereproduksi dan bahkan memperkuat ketimpangan itu.
Bias dalam AI medis dapat timbul dan menumpuk di sepanjang siklus hidup AI—mulai dari fitur dan label data, pengembangan dan evaluasi model, penerapan, hingga publikasi. Bias-bias ini dapat memiliki konsekuensi klinis yang signifikan, terutama dalam aplikasi yang melibatkan pengambilan keputusan klinis. Jika tidak diatasi, AI medis yang bias dapat mengarah pada keputusan klinis yang tidak optimal dan memperparah disparitas layanan kesehatan yang sudah ada sejak lama.
Sebuah kasus nyata yang menjadi pengingat penting: pada 2019, sebuah studi menemukan bahwa sebuah algoritma klinis yang digunakan banyak rumah sakit untuk menentukan pasien mana yang membutuhkan perawatan menunjukkan bias rasial—pasien kulit hitam harus dinilai jauh lebih sakit dibandingkan pasien kulit putih untuk mendapatkan rekomendasi perawatan yang sama.
Dalam konteks Indonesia, bias algoritmik memiliki dimensi yang perlu diantisipasi lebih jauh: model AI yang dikembangkan di negara-negara Barat mungkin dilatih menggunakan data populasi yang sama sekali berbeda secara genetik, epidemiologis, dan demografis dengan populasi Indonesia. Mengadopsi model tersebut tanpa validasi lokal yang memadai bisa menghasilkan rekomendasi klinis yang tidak akurat atau bahkan berbahaya.
Black Box dan Masalah Explainability
Sebagian besar model AI mutakhir—terutama deep learning—beroperasi sebagai “black box“: mereka bisa menghasilkan prediksi yang akurat, tetapi tidak bisa menjelaskan mengapa mereka sampai pada prediksi tersebut. Dalam konteks klinis, ini menciptakan dilema serius.
AI sering kali sulit untuk dijelaskan dan dipahami, kadang tidak sepenuhnya transparan, sering kali bias, dan tidak jelas siapa atau apa yang bertanggung jawab atas pengawasan, pemeliharaan standar, atau memastikan penggunaan yang aman. Inilah sebagian dari tantangan governance, yang secara luas diakui sebagai keharusan jika aplikasi AI ingin dapat dipercaya, mendapat kepercayaan, dan berhasil digunakan.
Explainability menjadi semakin kritis dalam skenario berisiko tinggi, misalnya ketika sistem AI memberikan rekomendasi diagnostik atau jalur pengobatan yang menyimpang dari penalaran klinis tradisional. Transparansi memastikan bahwa rasionalitas di balik keputusan berbasis AI dapat dipahami tidak hanya oleh klinisi, tetapi juga oleh pasien, memberdayakan mereka untuk membuat pilihan yang terinformasi.
Pertanyaan hukum dan etisnya pun terbuka lebar: jika sebuah AI merekomendasikan tindakan yang kemudian terbukti salah dan merugikan pasien, siapa yang bertanggung jawab? Dokter yang mempercayai rekomendasi itu? Rumah sakit yang mengadopsi sistemnya? Atau pengembang algoritma tersebut? Lima isu regulasi utama yang perlu diatasi dalam penggunaan AI di layanan kesehatan adalah: keamanan dan perlindungan data; kualitas data; validasi algoritma; akuntabilitas; serta etika dan akses yang adil.
SATUSEHAT: Transformasi Digital Indonesia yang Ambisius
Di Indonesia, transformasi digital layanan kesehatan sedang bergerak dalam skala yang belum pernah terjadi sebelumnya, berpusat pada platform SATUSEHAT yang diluncurkan Kementerian Kesehatan pada 2022. Per Januari 2026, SATUSEHAT telah menghubungkan 91% fasilitas perawatan primer dan 95% rumah sakit, mencakup sekitar 270 juta pasien. Platform ini memungkinkan berbagi rekam medis pasien secara interoperabel dari rumah sakit, klinik, laboratorium, dan apotek dalam satu sistem informasi nasional.
Namun, kemajuan konektivitas belum sepenuhnya sejalan dengan kualitas implementasi. Meskipun 96% rumah sakit telah mengimplementasikan Rekam Medis Elektronik (RME) dan sekitar 92% terhubung ke SATUSEHAT, kualitas implementasi RME di banyak rumah sakit masih suboptimal. Hanya sebagian kecil rumah sakit yang secara rutin dan komprehensif menyerahkan data kesehatan pasien ke platform nasional. Banyak sistem RME hanya mencakup fungsi-fungsi dasar dan belum menyentuh fitur-fitur lanjutan seperti interoperabilitas penuh, pencatatan data terstruktur, atau integrasi data klinis dari berbagai departemen.
Di akar masalahnya, hambatan yang diidentifikasi meliputi sistem yang tidak sepenuhnya dirancang berpusat pada pengguna, interoperabilitas yang terbatas, kebijakan keamanan data yang lemah, dan resistansi budaya organisasional terhadap digitalisasi. Rendahnya interoperabilitas menghambat akses terhadap informasi pasien, menghalangi pengambilan keputusan klinis berbasis data secara real-time, dan menyebabkan duplikasi dokumentasi.
Telemedisin: Peluang Pemerataan dengan Tantangan Baru
Telemedisin—konsultasi dan pelayanan kesehatan jarak jauh berbasis teknologi digital—adalah salah satu manifestasi transformasi digital yang paling langsung dirasakan oleh masyarakat. Di Indonesia, akselerasinya sangat dramatis: pertumbuhan telemedisin melonjak dari 2 juta pengguna pada 2019 menjadi 20 juta pengguna pada 2020—sebuah lompatan yang dipicu oleh pandemi COVID-19, dengan penyedia layanan swasta yang mengelola lebih dari 145.000 konsultasi harian pada puncaknya.
Potensinya sebagai solusi disparitas akses layanan kesehatan sangat besar, terutama untuk Indonesia yang geografinya tersebar di ribuan pulau. Namun telemedisin juga membawa risiko yang perlu dikelola dengan cermat: standar kompetensi klinisi dalam konsultasi virtual, keterbatasan pemeriksaan fisik yang tidak bisa dilakukan dari jarak jauh, risiko misdiagnosis akibat informasi yang tidak lengkap, serta tanggung jawab hukum yang belum sepenuhnya diatur.
Regulasi telemedisin Indonesia kini menjadi bagian dari UU No. 17 Tahun 2023 tentang Kesehatan yang mensyaratkan integrasi dengan SATUSEHAT—namun kerangka hukumnya yang luas masih menyisakan banyak detail operasional yang belum terdefinisi. Pemangku kepentingan layanan kesehatan menantikan regulasi terperinci yang mengatur protokol klinis, kerangka tanggung gugat, dan standar kualitas.
Tata Kelola AI: Dari Prinsip ke Praktik
Respons global terhadap risiko AI di layanan kesehatan semakin terarah. WHO telah menerbitkan panduan etika dan tata kelola AI untuk layanan kesehatan, termasuk panduan khusus untuk Large Multimodal Models (LMM) yang dirilis pada Januari 2024. Panduan tersebut menegaskan bahwa teknologi AI generatif berpotensi meningkatkan layanan kesehatan, tetapi hanya jika mereka yang mengembangkan, meregulasi, dan menggunakan teknologi ini mengidentifikasi dan sepenuhnya memperhitungkan risiko-risiko yang terkait. Pemerintah dari semua negara harus secara kooperatif memimpin upaya untuk meregulasi pengembangan dan penggunaan teknologi AI.
Di sisi praktis, studi menggunakan data 2023 dari American Hospital Association menemukan bahwa meskipun sebagian besar rumah sakit AS melaporkan penggunaan model prediktif, kurang dari separuh di antaranya secara sistematis mengevaluasi model tersebut untuk bias, dan hanya dua pertiga yang mengevaluasinya untuk akurasi—sebuah kesenjangan tata kelola yang mengkhawatirkan.
Enam prinsip yang disepakati WHO untuk memastikan AI bekerja demi kepentingan publik semua negara meliputi: melindungi otonomi manusia, mempromosikan keselamatan dan keamanan manusia, memastikan transparansi dan explainability, mendorong tanggung jawab dan akuntabilitas, memastikan inklusivitas dan kesetaraan, serta mempromosikan ilmu pengetahuan dan riset yang bertanggung jawab.
Risiko Ketergantungan dan Dehumanisasi
Di balik semua manfaat yang ditawarkan transformasi digital, ada risiko yang lebih halus namun tidak kalah serius: ketergantungan berlebihan pada teknologi (automation bias) dan dehumanisasi layanan kesehatan.
Automation bias adalah kecenderungan manusia untuk terlalu mempercayai rekomendasi sistem otomatis—bahkan ketika penilaian klinis mereka sendiri mengatakan sebaliknya. Dokter yang terlalu bergantung pada rekomendasi AI tanpa berpikir kritis sendiri bisa kehilangan kemampuan diagnostik tradisionalnya, sebuah risiko yang akan terasa sangat nyata saat sistem AI bermasalah atau tidak tersedia.
Pada saat yang sama, ada pertanyaan yang semakin mendesak tentang hubungan antara klinisi dan pasien di era digital: apakah sistem yang terlalu terdigitalisasi justru mengurangi waktu dan perhatian yang seharusnya dicurahkan dokter untuk mendengarkan pasien secara langsung? Nilai-nilai terapeutik yang dibangun dari sentuhan manusiawi—empati, pendengaran aktif, kontak mata—adalah hal yang tidak bisa direplikasi oleh algoritma secanggih apa pun.
Menuju Transformasi Digital yang Bertanggung Jawab
Teknologi digital dan AI bukanlah musuh keselamatan pasien—mereka adalah alat yang sangat potensial untuk meningkatkannya. Namun seperti semua alat yang kuat, keamanan penggunaannya bergantung pada kecakapan orang yang menggunakannya, keandalan desainnya, dan ketegasan tata kelola di sekelilingnya.
Bagi rumah sakit Indonesia yang sedang berpacu dalam transformasi digital, beberapa prinsip manajemen risiko yang perlu dipegang teguh antara lain: validasi setiap algoritma AI pada populasi lokal sebelum implementasi; membangun mekanisme override klinisi yang jelas atas setiap rekomendasi AI; memastikan interoperabilitas sistem tidak mengorbankan keamanan data; melatih SDM kesehatan bukan hanya dalam penggunaan teknologi, tetapi juga dalam berpikir kritis terhadap output teknologi tersebut; serta membangun tata kelola AI yang transparan, inklusif, dan akuntabel.
Meski Indonesia menunjukkan komitmen politik yang kuat dan kerangka regulasi awal yang memadai, implementasi transformasi digital layanan kesehatan masih menghadapi tantangan signifikan terkait gangguan infrastruktur digital, variabilitas kompetensi SDM kesehatan, dan isu keamanan data. Tantangan-tantangan ini bukan alasan untuk menunda transformasi—melainkan alasan untuk melakukannya dengan lebih hati-hati, lebih inklusif, dan lebih bertanggung jawab.
Penutup: Teknologi adalah Sarana, Bukan Tujuan
Transformasi digital yang berhasil di layanan kesehatan bukan diukur dari seberapa banyak aplikasi yang diimplementasikan atau seberapa canggih algoritma yang digunakan. Ia diukur dari satu hal yang paling fundamental: apakah pasien menjadi lebih aman, lebih terlayani, dan lebih terlindungi karenanya?
Jawabannya tergantung pada pilihan yang kita buat hari ini—dalam merancang sistem, melatih SDM, menyusun regulasi, dan menentukan di mana kita meletakkan batas antara kewenangan mesin dan penilaian manusia. Di persimpangan itulah masa depan manajemen risiko layanan kesehatan sesungguhnya berada.
Daftar Referensi
Cross, J. L., Choma, M. A., & Onofrey, J. A. (2024). Bias in medical AI: Implications for clinical decision-making. PLOS Digital Health, 3(11), e0000651. https://doi.org/10.1371/journal.pdig.0000651
De Micco, F., Di Palma, G., Ferorelli, D., De Benedictis, A., Tomassini, L., Tambone, V., Cingolani, M., & Scendoni, R. (2025). Artificial intelligence in healthcare: Transforming patient safety with intelligent systems—A systematic review. Frontiers in Medicine, 11, 1522554. https://doi.org/10.3389/fmed.2024.1522554
De Micco, F., et al. (2024). Risk management and patient safety in the artificial intelligence era: A systematic review. Healthcare, 12(6), 641. https://pmc.ncbi.nlm.nih.gov/articles/PMC10931321/
Endahyu, A., et al. (2024). Mapping telemedicine in Indonesia: Evidence for policy. ThinkWell. https://thinkwell.global/wp-content/uploads/2025/03/Telemedicine_in_Indonesia-FINAL-1.pdf
Govinsider Asia. (2025). Hospital transformation and the future of EMR in Indonesia. https://govinsider.asia/intl-en/article/hospital-transformation-and-the-future-of-emr-in-indonesia
Kementerian Kesehatan Republik Indonesia. (2024). Blueprint for Digital Health Transformation Strategy 2024. https://oss2.dto.kemkes.go.id
Mutamakin, A. (2025). Hospital transformation and the future of EMR in Indonesia. Govinsider Asia.
Ndhlela, T., et al. (2024). Gaps in the global regulatory frameworks for the use of artificial intelligence (AI) in the healthcare services sector and key recommendations. Healthcare, 12(17), 1755. https://pmc.ncbi.nlm.nih.gov/articles/PMC11394803/
Njoku, A., & Bhonsle, P. (2025). Ethical and legal considerations in healthcare AI: Innovation and policy for safe and fair use. PMC. https://pmc.ncbi.nlm.nih.gov/articles/PMC12076083/
ONC Health IT. (2024). Hospital trends in the use, evaluation, and governance of predictive AI, 2023–2024. https://healthit.gov/data/data-briefs/hospital-trends-use-evaluation-and-governance-predictive-ai-2023-2024/
Saputro, A. R., et al. (2025). Implementasi strategi transformasi digital untuk mengatasi kesenjangan distribusi dokter spesialis di Indonesia. Jurnal Ilmiah Manajemen dan Kewirausahaan. https://journalcenter.org/index.php/jimak/article/view/5239
Undang-Undang Republik Indonesia Nomor 17 Tahun 2023 tentang Kesehatan.
World Health Organization (WHO). (2024). Ethics and governance of artificial intelligence for health: Guidance on large multi-modal models. https://www.who.int/publications/i/item/9789240084759
World Health Organization (WHO). (2021). Ethics and governance of artificial intelligence for health. https://www.who.int/publications/i/item/9789240029200
Bhyllabus l'énigme 
Tinggalkan komentar