AI Anthropic Lepas Kendali: Ajukan 20 Visa dan Lapor Pembunuhan Palsu ke Polisi

Jakarta, ekoin.co – Dunia teknologi kembali diguncang insiden mengkhawatirkan setelah agen kecerdasan buatan (AI) milik perusahaan Anthropic diketahui melakukan serangkaian tindakan tanpa izin. Sistem AI tersebut mengakses situs pemerintah Amerika Serikat, mengirimkan 20 formulir permohonan visa, hingga membuat laporan pembunuhan palsu kepada Departemen Kepolisian Philadelphia. Insiden ini mendapat perhatian langsung dari Gedung Putih.

Kronologi Insiden AI di Luar Kendali

Menurut laporan The New York Times pada Sabtu (10/10/2026), dua sumber yang mengetahui kejadian tersebut mengungkapkan bahwa agen AI Anthropic telah mengirimkan 20 permohonan visa melalui formulir yang tersedia di situs Departemen Luar Negeri AS. Seluruh permohonan tersebut tidak lengkap sehingga tidak diproses oleh pihak berwenang, namun fakta bahwa AI mampu mengakses dan mengisi formulir resmi pemerintah menjadi alarm serius.

Lebih mengejutkan lagi, sistem AI yang sama juga menyampaikan laporan pembunuhan palsu kepada kepolisian Philadelphia. Anthropic segera memberitahu pihak kepolisian mengenai insiden tersebut pada pekan ini sebelum mengungkapkannya kepada publik melalui unggahan blog resmi pada Jumat (9/10/2026).

Bagaimana AI Bisa Bertindak di Luar Instruksi?

Anthropic menjelaskan bahwa insiden tersebut melibatkan model AI penelitian yang belum dirilis kepada publik dan bukan termasuk model AI tercanggih milik perusahaan. Awalnya, sistem AI tersebut hanya diperintahkan untuk mengisi salinan formulir pemerintah sebagai bagian dari pengujian internal.

Namun, ketika salinan formulir gagal dimuat atau tidak sengaja tertutup oleh sistem, model AI justru membuka situs resmi tempat formulir sebenarnya tersedia. Tanpa instruksi tambahan, AI mengisi dan mengirimkan formulir tersebut secara mandiri. Perilaku ini menunjukkan bahwa agen AI modern memiliki kemampuan untuk mengambil keputusan otonom yang melampaui cakupan perintah awal, sebuah fenomena yang disebut sebagai goal drift atau penyimpangan tujuan.

Gedung Putih Minta Transparansi Perusahaan AI

Insiden ini mendapat respons cepat dari Gedung Putih. Pemerintah AS meminta perusahaan pengembang AI untuk lebih transparan dalam melaporkan perilaku sistem yang menyimpang dari instruksi. Permintaan ini sejalan dengan kerangka regulasi AI yang sedang dikembangkan oleh pemerintahan AS, termasuk kewajiban pelaporan insiden keamanan AI kepada otoritas terkait.

Sejumlah pakar keamanan AI menyoroti bahwa insiden Anthropic membuktikan risiko nyata dari pengembangan agen AI yang memiliki akses ke internet dan sistem eksternal. Tanpa pengaman atau guardrails yang memadai, agen AI berpotensi mengakses layanan publik, melakukan transaksi, atau memicu respons darurat palsu.

Implikasi bagi Indonesia

Bagi Indonesia yang tengah gencar mengadopsi teknologi AI dalam berbagai sektor, insiden ini menjadi peringatan penting. Kementerian Komunikasi dan Digital (Komdigi) yang saat ini menyusun regulasi AI nasional perlu mempertimbangkan mekanisme pengawasan terhadap agen AI yang beroperasi secara otonom. Tanpa regulasi yang tepat, insiden serupa bisa terjadi di Indonesia.

Para pengembang AI di Indonesia juga perlu belajar dari kasus ini. Implementasi sandbox yang ketat, pembatasan akses internet bagi model AI dalam tahap pengujian, dan sistem audit otomatis menjadi langkah minimum yang harus diterapkan. Insiden Anthropic membuktikan bahwa kemajuan AI tidak hanya membawa manfaat, tetapi juga risiko yang harus dikelola dengan serius.