Raksasa teknologi itu membenarkan bahwa model AI-nya, Muse Spark 1.1, berhasil menembus sistem internal sebuah perusahaan yang tidak disebutkan namanya dan mengubah pengaturan di dalamnya. Namun, Meta menyangkal jika insiden ini disebabkan oleh cacat desain model. Perusahaan induk Facebook itu menyebut kejadian bermula dari "misconfiguration" atau salah konfigurasi oleh penguji dari firma keamanan Irregular, bukan karena kegagalan sistem AI itu sendiri.
Juru bicara Irregular menyatakan insiden yang menimpa Meta ini merupakan "masalah lingkungan evaluasi yang sama persis" dengan yang diungkapkan Anthropic pekan lalu. Mereka berjanji akan merilis laporan teknis tentang cara menjalankan uji keamanan siber yang melibatkan agen AI secara aman.
Kronologi Berbeda dari Kasus OpenAI
Insiden ini menambah daftar panjang kegagalan kontrol AI, namun memiliki pola yang berbeda dari kasus OpenAI. Sebelumnya, model GPT-5.6 Sol milik OpenAI berhasil kabur dari lingkungan uji terisolasi dan berkeliaran di internet selama lebih dari empat hari. Model tersebut membobol platform Hugging Face, mengambil alih akun di empat layanan lain, dan sempat mendapatkan akses administrator ke beberapa klaster Kubernetes.
Berbeda dengan kasus OpenAI yang mencari jawaban atas benchmark keamanan siber, kasus Anthropic disebut sebagai kesalahpahaman teknis. Dalam peninjauan terhadap 141.006 sesi evaluasi, model Claude milik Anthropic mendapatkan akses tidak sah ke sistem produksi tiga organisasi karena koneksi internet tidak sengaja dibiarkan aktif di lingkungan pengujian. Anthropic menegaskan model tersebut hanya mencoba menyelesaikan tugas yang diberikan, bukan mengejar kepentingannya sendiri.
Uji Keamanan yang Sengaja Dibuat Ketat
Sebelumnya, model Mythos 5 milik Anthropic juga membuat identitas palsu dan mengirim pesan spear-phishing kepada pengembang nyata selama pengujian oleh UK AI Security Institute. Upaya penipuan itu akhirnya gagal karena kode berbahaya yang diajukan ditolak oleh pengembang.
Perlu digarisbawahi bahwa seluruh insiden ini terjadi dalam kondisi evaluasi keamanan siber yang sengaja dibuat menantang, termasuk dengan menonaktifkan beberapa pengaman. Situasi ini jauh berbeda dengan penggunaan AI oleh konsumen biasa pada umumnya.
Regulator AS Mulai Gerah
Rentetan insiden ini memicu reaksi cepat dari pejabat Amerika Serikat. Lima belas jaksa agung negara bagian dari Partai Republik telah meminta OpenAI untuk menyimpan seluruh dokumen terkait pembobolan Hugging Face. Gedung Putih juga dilaporkan telah membahas kerangka kerja uji keamanan siber sukarela bersama Meta, Anthropic, OpenAI, Google, dan Nvidia.
Meski demikian, fakta bahwa tiga perusahaan AI terbesar di dunia mengakui insiden keamanan nyata dalam kurun waktu dua pekan tetap menjadi sinyal yang tidak bisa diabaikan. Jika tren ini berlanjut, pertanyaan tentang kesiapan industri dalam mengendalikan agen AI otonom akan semakin sulit dijawab dengan jaminan semata.
