Fastekes.ikta.ac.id – Coba bayangkan atmosfer di ruang radiologi sebuah rumah sakit modern yang super sibuk. Sebuah sistem kecerdasan buatan (AI) baru saja selesai menyisir ribuan lembar hasil rontgen dada pasien. Lewat algoritma deep learning, teknologi ini mampu memilah mana pasien yang mengidap pneumonia dalam sekejap mata. Akurasinya fantastis, menyentuh angka 99 persen. Bagi manajemen rumah sakit atau para developer perangkat lunak, pencapaian ini jelas kelihatan seperti lompatan besar bagi masa depan dunia kedokteran.
Namun, kepuasan itu mendadak buyar berganti rasa cemas ketika para peneliti mencoba membedah bagaimana sebenarnya cara AI tersebut mengambil keputusan.
Begitu sistem yang biasa dijuluki “Kotak Hitam” (Black Box) ini dikuliti, muncullah fakta yang bikin geleng-geleng kepala. Algoritma komputer ini ternyata sama sekali tidak mendeteksi flek atau kerusakan pada paru-paru pasien. Alih-alih memahami ilmu patologi medis, si AI malah mendeteksi tulisan “PORTABLE” yang tertera di pojok kanan atas foto rontgen tersebut.
Logikanya begini: di lapangan, mesin rontgen portable hanya dibawa langsung ke ranjang pasien yang kondisinya sudah kritis atau terlalu lemah untuk berjalan ke ruang radiologi utama. Sialnya, AI dengan logika statistiknya yang kaku justru menarik kesimpulan pintas. Jika ada kata “PORTABLE” di selembar foto, berarti pasien tersebut otomatis divonis mengidap pneumonia akut. Sistem ini sebenarnya tidak mendadak cerdas; ia hanya menemukan celah di dalam data untuk memberikan jawaban yang ingin didengar oleh para pengujinya .
Studi kasus nyata yang dirilis oleh tim peneliti dari Icahn School of Medicine at Mount Sinai ini menjadi alarm keras bagi dunia kesehatan global. Kasus ini membuka mata kita tentang risiko paling nyata dari adopsi teknologi hari ini: Masalah Kotak Hitam (The Black Box Problem). Kita seperti sedang melangkah ke era di mana urusan hidup dan mati pasien diserahkan pada teknologi yang proses berpikirnya pun gagal dipahami oleh para penciptanya sendiri.
Mengapa AI Bisa Menjadi Misteri?
Untuk memahami kenapa Kotak Hitam ini bisa terbentuk, kita harus melihat bagaimana AI modern dirancang. Berbeda dengan program komputer lama yang bergerak patuh berdasarkan baris-baris kode logika buatan manusia (if-this-then-that), AI medis berbasis deep learning bekerja dengan meniru jaringan saraf tiruan otak kita.
Sistem ini dilatih dengan cara dijejali jutaan data—entah itu foto jaringan kanker, rekam medis digital, hingga sekuens DNA—lalu dibiarkan mencari polanya sendiri. Dalam proses belajar itulah, AI merajut jutaan koneksi matematis tersembunyi yang saling tumpang tindih di dalam sistem. Hasilnya, begitu disodori foto rontgen baru, ia bisa langsung mengeluarkan diagnosis instan: “98% Kanker Kulit.”
Masalahnya, AI tidak pernah menyertakan alasan medis di balik angka itu. Ia tidak bisa menjelaskan kepada dokter apakah kesimpulan itu diambil karena melihat bentuk sel yang tidak beraturan, gradasi warna, atau ukuran jaringannya. Proses penalaran di dalam lapisan tersembunyi (hidden layers) inilah yang memicu krisis transparansi. Selama akurasi AI terlihat sempurna di atas kertas, kita sering kali menutup mata. Padahal, begitu sistem ini dibawa ke realitas klinik yang dinamis, kebutaan proses ini taruhannya adalah nyawa pasien.
Kebingungan Hukum dan Dilema Etika Dokter
Dalam dunia kedokteran, keputusan klinis seorang dokter tidak pernah lepas dari tanggung jawab hukum dan moral. Di sinilah titik benturan paling keras antara teknologi Kotak Hitam dan etika medis.
Ketika seorang dokter menegakkan diagnosis, ia punya kewajiban moral untuk memaparkan apa alasannya, apa risikonya, dan apa landasan ilmiahnya. Ini adalah hak dasar pasien yang harus dipenuhi. Tapi ceritanya akan sangat berbeda kalau dokter sekadar membebek pada rekomendasi AI Kotak Hitam. Di sini dokter akan terjebak dalam dilema yang membingungkan. Jika mereka mengikuti saran mesin yang tidak mereka pahami lalu terjadi malapraktik, siapa yang harus disalahkan di mata hukum? Apakah dokter yang menandatangani resep, rumah sakit yang membeli sistemnya, atau perusahaan teknologi yang membuat algoritmanya?
Di Indonesia, ketidaksiapan regulasi ini terasa sangat nyata. Hukum positif kita, salah satunya Undang-Undang Kesehatan, menuntut kehati-hatian klinis dan transparansi tindakan medis yang sepenuhnya melekat pada kompetensi tenaga medis manusia. Kehadiran sistem digital yang tidak bisa menjelaskan dasar logikanya jelas memicu ketidakpastian hukum yang besar terkait siapa yang memikul tanggung jawab jika terjadi kesalahan diagnosis . Alih-alih meringankan pekerjaan, AI yang tidak transparan ini malah menciptakan kecemasan baru di ruang praktik. Dokter seolah dipaksa mempercayai sebuah mesin yang bekerja mirip “dukun digital”—pintar menebak hasil akhir tanpa bisa menerangkan dasarnya.
Geografi Bias: Ketika Algoritma Diskriminatif
Sisi gelap Kotak Hitam ini tidak cuma berhenti pada masalah teknis di dalam mesin, tapi juga meluas ke isu keadilan sosial dan representasi data. Konsep dasar kecerdasan buatan tetap sama: garbage in, garbage out—kualitas AI sangat bergantung pada data apa yang dipakai untuk melatihnya.
Sayangnya, peta data kesehatan dunia saat ini masih sangat timpang. Mayoritas rekam medis dan citra klinis yang digunakan untuk melatih AI medis papan atas berasal dari populasi pasien kaukasoid di negara-negara maju seperti Amerika Utara dan Eropa Barat. Ketika AI yang tumbuh dari data homogen ini diekspor ke rumah sakit di negara berkembang, akurasinya sering kali merosot tajam.
Tantangan ini juga membayangi implementasi teknologi AI di Indonesia. Karakteristik klinis, demografi, hingga variasi penyakit masyarakat kita punya keunikan tersendiri yang tidak bisa disamakan begitu saja dengan pasien di Barat. Jika institusi kesehatan kita terburu-buru mengadopsi AI medis luar secara mentah-mentah tanpa adanya validasi klinis lokal atau melatihnya dengan data spesifik populasi Indonesia, risiko salah diagnosis akibat bias data ini akan langsung mengancam keselamatan pasien di dalam negeri . Tanpa transparansi, bias rasial dan geografis seperti ini bisa menyusup tanpa disadari, sekaligus memperlebar jurang kesenjangan layanan kesehatan global.
Bahaya di Balik “Shortcut Learning”
Kembali ke kasus mesin rontgen portable tadi, fenomena tersebut dikenal dalam sains data sebagai Shortcut Learning atau pembelajaran jalan pintas . AI pada dasarnya tidak memahami konsep biologis dari sebuah penyakit; ia hanyalah mesin pengenalan pola statistik yang oportunis. Jika ada indikator sekunder yang lebih mudah dipakai untuk membedakan dua kelompok data, AI akan menyambarnya tanpa peduli apakah indikator itu masuk akal secara medis atau tidak.
Ada kasus lain yang mirip dan tidak kalah menggelikan. Sebuah AI dilatih untuk membedakan tumor jinak dan ganas pada gambar laboratorium. Hasilnya luar biasa sukses saat diuji coba. Namun setelah diselidiki, terungkap bahwa para dokter terbiasa meletakkan penggaris di samping jaringan tumor yang ganas saat mengambil foto dokumentasi. AI yang katanya “cerdas” ini ternyata tidak mempelajari struktur sel tumor, melainkan hanya menghitung ada atau tidaknya penggaris pada gambar.
Dampak dari kecerobohan algoritma ini tentu mengerikan kalau langsung dihadapkan pada manusia nyata. Pasien yang sehat bisa saja divonis menderita penyakit berat, atau sebaliknya, pasien yang butuh penanganan kritis malah terlewat karena AI kehilangan “pola tersembunyi” non-medis yang biasa ia temukan di meja laboratorium.
Menuju Transparansi Lewat “Explainable AI” (XAI)
Kita tentu tidak bisa dan tidak boleh menghentikan laju inovasi teknologi kesehatan, tetapi kita punya hak untuk menuntut transparansi. Solusinya bukan dengan memboikot AI, melainkan dengan mendorong gerakan Explainable AI (XAI) atau Kecerdasan Buatan yang dapat dijelaskan.
XAI adalah cabang pengembangan algoritma yang memaksa mesin untuk membuka tirai proses berpikirnya . Melalui teknik seperti Saliency Mapping, AI pendeteksi kanker paru-paru diwajibkan untuk memberikan visualisasi berupa “peta panas” pada area foto rontgen yang menjadi dasar utamanya mengambil keputusan. Dengan begitu, dokter radiologi bisa memverifikasi langsung: apakah AI benar-benar melihat indikasi tumor, atau sekadar terkecoh oleh lipatan baju pasien atau tanda mesin portable.
Bagaimanapun juga, integrasi teknologi di dunia medis harus menempatkan AI sebagai kopilot, bukan pilot utama. Kecanggihan komputasi mesin harus dikawinkan dengan intuisi klinis, pengalaman, dan empati yang hanya dimiliki oleh seorang manusia.
Kesimpulan
Teknologi diciptakan untuk memperluas batas kemampuan kita, termasuk dalam ikhtiar memperpanjang harapan hidup manusia. Namun, ketika inovasi tersebut mulai menyentuh wilayah abu-abu yang serba tertutup seperti Kotak Hitam AI, kita wajib bersikap skeptis demi keselamatan pasien.
Inovasi kesehatan yang sejati tidak boleh menumbalkan akuntabilitas demi mengejar kecepatan semata. Sebelum melepas algoritma AI secara massal di fasilitas kesehatan masyarakat, kita harus memastikan bahwa kita bisa melihat dengan jelas apa yang ada di dalam isi kepalanya. Sebab dalam dunia medis, kepercayaan tidak boleh dibangun di atas ketidaktahuan. Teknologi harus menyembuhkan, dan syarat utama untuk menyembuhkan adalah kejelasan yang bisa dipertanggungjawabkan.
Penulis:
Nama : Yogi Pratama, M.Kom.
Pekerjaan : Dosen IKTA
Prodi : Informatika Medis
Email : [email protected]
