Komdigi Tegaskan Pentingnya Mitigasi Risiko AI di Sektor Keuangan dan Kesehatan

Ekoin.co – Pemerintah Indonesia melalui Kementerian Komunikasi dan Digital (Komdigi) menegaskan perlunya mitigasi risiko yang lebih kuat dalam adopsi teknologi kecerdasan buatan (artificial intelligence/AI), khususnya di sektor-sektor berisiko tinggi seperti keuangan dan kesehatan. Penegasan ini disampaikan Wakil Menteri Komdigi, Nezar Patria, dalam sebuah pernyataan resmi yang dikutip Jumat (30/10/2026).

Menurut Nezar, integrasi AI tidak bisa lagi hanya berfokus pada sisi inovasi dan efisiensi semata, melainkan harus memperhitungkan secara serius potensi kerentanan yang muncul ketika sistem otomatis mulai mengambil peran dalam proses pengambilan keputusan. “Dalam sektor jasa keuangan—perbankan misalnya—penggunaan AI, khususnya agentic AI yang diberi kewenangan untuk mengambil tindakan dan keputusan, bisa berakibat fatal jika terjadi kesalahan,” ujar Nezar.

Risiko di Sektor Keuangan dan Kesehatan

Nezar mengingatkan bahwa kesalahan eksekusi oleh sistem AI di sektor perbankan dapat menyebabkan kerugian finansial yang besar, bahkan berpotensi memicu kekacauan ekonomi sistemik jika tidak dikendalikan dengan baik. Risiko serupa juga mengintai sektor kesehatan, di mana AI kini banyak digunakan untuk membantu diagnosis penyakit dan pengambilan keputusan medis. Kegagalan sistem atau kesalahan diagnosis secara langsung dapat mengancam keselamatan pasien, selain menimbulkan risiko tambahan terkait kerahasiaan data medis yang sangat sensitif.

Karena data menjadi “bahan bakar” utama dalam pengembangan AI, Nezar menegaskan pentingnya tata kelola data yang ketat guna mencegah kebocoran informasi pribadi yang sensitif. Saat ini, Indonesia mengandalkan kerangka hukum yang sudah ada, termasuk Undang-Undang Informasi dan Transaksi Elektronik (ITE) serta Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi, sebagai payung hukum sementara sebelum regulasi khusus AI benar-benar matang.

Menyusun Peta Jalan AI Nasional

Paralel dengan penegakan regulasi yang sudah ada, pemerintah saat ini sedang merumuskan Peta Jalan AI Nasional (National AI Roadmap) serta pedoman etika AI yang komprehensif. Nezar menekankan bahwa negara ingin memetakan tren teknologi secara matang terlebih dahulu, agar pendekatan regulasi yang dihasilkan tidak membebani pelaku usaha maupun inovator secara berlebihan. “Kita perlu memetakan perkembangan ini secara komprehensif terlebih dahulu, sehingga pendekatan regulasi kita tidak menjadi terlalu membebani,” katanya.

Keberagaman Data dan Keputusan Akhir di Tangan Manusia

Dalam forum terpisah, Menteri Komunikasi dan Digital (Menkomdigi) Meutya Hafid juga menyoroti pentingnya keragaman data dalam pengembangan algoritma AI di Indonesia. Ia mengingatkan bahwa jika data pelatihan AI hanya berasal dari Jakarta atau Pulau Jawa, hasil keluarannya berisiko bias dan tidak mewakili keberagaman masyarakat Indonesia secara utuh. “Kalau data kita hanya berasal dari Jakarta atau Pulau Jawa, AI akan menjadi bias … yang kita perlukan untuk produktivitas adalah informasi yang akurat,” tegas Meutya.

Meutya juga menegaskan bahwa meski teknologi agentic AI kini memiliki kemampuan mengambil keputusan secara mandiri, keputusan akhir tetap harus berada di tangan manusia. “Keputusan akhir harus ada di tangan manusia. Ini sejalan dengan topik hari ini, yaitu kepemimpinan dalam AI. Kita harus menjadi pemimpin bagi AI itu sendiri,” ujarnya.

Dari Pengguna Menuju Produsen Teknologi AI

Pemerintah menargetkan Indonesia tidak hanya menjadi pengguna AI, melainkan juga pengembang dan produsen teknologi tersebut. Direktur Kecerdasan Artifisial dan Ekosistem Teknologi Baru Komdigi, Said Mirza Pahlevi, menyebut Indonesia berada di posisi keenam dalam kesiapan implementasi AI di kawasan ASEAN, dengan basis pengguna internet mencapai 235 juta orang dan masuk 10 besar pengguna AI generatif dunia. Pemerintah menargetkan pencetakan 45 ribu talenta AI per tahun guna mendukung ambisi tersebut, sekaligus memperkuat infrastruktur pusat data nasional sebagai fondasi ekosistem AI domestik.

Dengan potensi ekonomi digital Indonesia yang diproyeksikan tumbuh hingga mencapai rentang 365 miliar hingga 1 triliun dolar AS di ASEAN pada 2030, penguatan tata kelola risiko AI dinilai menjadi fondasi penting agar pertumbuhan ekonomi digital tersebut tidak mengorbankan keselamatan data dan kepercayaan publik terhadap teknologi baru ini.

Upaya penguatan tata kelola risiko ini juga sejalan dengan tren global, di mana sejumlah negara maju maupun berkembang kini berlomba menyusun regulasi khusus AI guna mengantisipasi dampak sosial dan ekonomi yang ditimbulkan oleh teknologi yang berkembang sangat cepat ini. Bagi Indonesia, keseimbangan antara mendorong inovasi dan melindungi masyarakat dari risiko penyalahgunaan teknologi akan menjadi tantangan utama dalam beberapa tahun mendatang, terutama seiring makin masifnya adopsi AI di berbagai lini industri dalam negeri.

Berlangganan gratis WA NEWS EKOIN lewat saluran Whatsapp EKOIN di : https://whatsapp.com/channel/0029VbAEmcR6mYPIvKh3Yr2v