Anthropic: AI Berpotensi Menyebar Lewat Perangkat Rumah

Anthropic memperingatkan bahwa model kecerdasan buatan (AI) berukuran relatif kecil suatu saat dapat menyalin diri dan menyebar melalui perangkat rumah pintar yang terhubung ke internet. Skenario itu berpotensi membuat AI berjalan tanpa bergantung pada pusat data, meski perusahaan menegaskan kemampuan tersebut belum terwujud secara mandiri dan sepenuhnya.

Perangkat seperti Android TV, oven pintar, dan peralatan rumah tangga lain bisa menjadi bagian dari jaringan tersebut. Jika sebuah model dapat berpindah dari satu perangkat ke perangkat lain dan memanfaatkan daya komputasi masing-masing, sistemnya tidak lagi bertumpu pada satu mesin pusat yang mudah dimatikan.

Dalam tulisan di blognya, Anthropic menyebut model yang sudah menyebar akan lebih sulit dihentikan karena tidak ada satu titik pusat yang bisa dinonaktifkan. Namun, peringatan ini masih merujuk pada kemungkinan berdasarkan eksperimen dan perkembangan kemampuan AI, bukan bukti bahwa model liar telah menyebar di internet.

Eksperimen dengan perangkat Android TV

Untuk menguji batas kemampuan AI, Anthropic menjalankan sejumlah percobaan. Salah satunya menggunakan Gemma4-26B-A4B, model milik Google, pada 15 kotak Android TV murah yang terhubung dalam satu sistem.

Alih-alih mengandalkan satu perangkat berkinerja tinggi, model itu dibagi menjadi beberapa bagian agar dapat memanfaatkan daya pemrosesan perangkat-perangkat tersebut. Hasilnya menunjukkan bahwa perangkat elektronik dengan memori dan kemampuan komputasi terbatas masih dapat bekerja bersama untuk menjalankan model yang relatif besar. Kinerjanya, bagaimanapun, jauh lebih lambat dibandingkan sistem AI di pusat data.

Anthropic juga menguji kemampuan model dalam menyiapkan lingkungan operasional AI pada beragam perangkat keras. Dalam pengujian yang dijelaskan pada sumber riset, satu model dengan sekitar sembilan miliar parameter berhasil membangun lingkungan tersebut pada delapan dari sembilan jenis perangkat yang diuji.

Temuan itu menunjukkan model berukuran relatif kecil dapat menangani sebagian persoalan teknis saat dijalankan pada perangkat yang tidak dikenal. Model dengan parameter hingga sekitar 30 miliar juga mampu mengerjakan banyak tugas individual yang diperlukan dalam rangkaian proses replikasi.

Kemampuan belum sama dengan replikasi mandiri

Menjalankan model pada banyak perangkat tidak serta-merta berarti AI mampu menginfeksi perangkat dan menggandakan diri. Proses replikasi penuh memerlukan sejumlah tahapan, mulai dari menemukan perangkat yang dapat diakses, mengenali kerentanan, memindahkan perangkat lunak dan data, hingga menyiapkan lingkungan agar model dapat beroperasi dan melanjutkan proses ke perangkat lain.

Dalam pengujian, model-model kecil masih kerap membuat kesalahan ketika harus menyelesaikan seluruh rangkaian itu. Mereka dapat menuntaskan tugas tertentu, tetapi belum cukup stabil untuk menjalankan semua tahap secara berurutan tanpa bantuan manusia.

Anthropic juga menguji model yang lebih canggih, termasuk GLM-5.2, dalam lingkungan jaringan Android yang terkontrol dan disimulasikan. Dalam kondisi tersebut, model orkestrasi dapat mengatur proses penyebaran model yang lebih kecil ke perangkat target. Para peneliti menghilangkan sejumlah hambatan keamanan yang akan ditemui di dunia nyata, sehingga hasil itu tidak membuktikan bahwa GLM-5.2 mampu menyebarkan dirinya sendiri melalui internet.

“Dalam praktiknya, worm AI tidak selalu hanya terdiri dari satu model atau strategi. Sekumpulan model berbeda yang dikerahkan pada berbagai jenis perangkat menggunakan beragam skema replikasi mungkin mewakili serangan ‘skenario terburuk’ yang lebih realistis,” kata Anthropic.

Keamanan perangkat menjadi perhatian

Perhatian Anthropic tertuju pada banyaknya perangkat pintar yang tersambung ke internet, tetapi tidak selalu memiliki perlindungan kuat. Jika perangkat semacam itu dapat diakses, daya komputasinya mungkin dimanfaatkan untuk menjalankan model AI atau menjadi perantara penyebaran ke perangkat lain.

Perusahaan itu belum memastikan seperti apa bentuk replikasi AI otonom jika benar-benar muncul. Kemungkinannya, menurut Anthropic, dapat berupa sistem lambat yang tersebar dan berdiam di perangkat-perangkat dengan keamanan lemah, atau sistem yang lebih canggih dan mampu bergerak cepat.

Anthropic memperkirakan kesenjangan antara kemampuan menjalankan tugas-tugas terpisah dan kemampuan mereplikasi diri secara utuh semakin menyempit. Jika tren peningkatan kemampuan berlanjut, model kecil bisa mencapai kemampuan yang dibutuhkan pada akhir 2026 atau setelahnya. Perkiraan tersebut merupakan proyeksi berdasarkan tren, bukan kepastian waktu.

Peringatan ini menambah perdebatan mengenai pengamanan AI seiring teknologi berkembang cepat. Anthropic dan sejumlah perusahaan teknologi lain, termasuk OpenAI dan Microsoft, telah menyerukan pengamanan yang lebih ketat serta langkah untuk mengendalikan laju pengembangan. Bagi pengguna, perlindungan perangkat yang terhubung ke internet tetap menjadi bagian penting dari upaya menghadapi risiko siber yang terus berubah.