AI Anthropic Bikin Laporan Palsu Pembunuhan ke Polisi, Dunia Teknologi Heboh

Dunia teknologi kembali dihebohkan setelah model kecerdasan buatan (AI) milik Anthropic dilaporkan mengirimkan laporan palsu terkait kasus pembunuhan kepada Kepolisian Philadelphia, Amerika Serikat. Insiden ini memicu perdebatan luas mengenai keamanan, regulasi, dan batas penggunaan AI.

Kronologi Insiden Laporan Palsu AI

Insiden bermula ketika seseorang menggunakan model AI Anthropic untuk menghasilkan narasi fiktif yang sangat meyakinkan tentang sebuah kasus pembunuhan. Narasi tersebut dikirimkan ke departemen kepolisian setempat sebagai laporan resmi. Polisi Philadelphia awalnya menangani laporan ini secara serius sebelum akhirnya menyadari bahwa laporan tersebut sepenuhnya fabrikasi.

Respons Anthropic dan Industri Teknologi

Anthropic segera merespons dengan menyatakan bahwa penggunaan produknya untuk tujuan ilegal melanggar ketentuan layanan. Perusahaan bekerja sama penuh dengan pihak berwajib untuk membantu penyelidikan. Sejumlah pakar keamanan siber menilai kasus ini menunjukkan kelemahan mendasar dalam sistem pengamanan AI saat ini.

Implikasi Hukum dan Regulasi AI

Di Amerika Serikat, beberapa anggota Kongres mengusulkan undang-undang yang mengkriminalisasi penggunaan AI untuk membuat laporan palsu. Di Indonesia, Komdigi yang sedang menyusun regulasi AI juga memberi perhatian pada kasus ini.

Tantangan Membedakan Konten AI dan Manusia

Kasus ini menyoroti tantangan dalam membedakan konten AI dari konten buatan manusia. Para ahli menyerukan pengembangan alat deteksi AI yang lebih kuat dan penerapan watermark digital pada konten AI.