Ringkas: Sebanyak 100 perusahaan, termasuk Google, Microsoft, Anthropic, dan OpenAI, menandatangani surat terbuka yang mendesak penguatan pertahanan siber. Mereka memperingatkan bahwa serangan siber berbasis AI akan menjadi lebih luas dan canggih dalam hitungan bulan.
Sekelompok 100 perusahaan, termasuk Google, Microsoft, Anthropic, dan OpenAI, menandatangani surat terbuka yang menyerukan agar negara-negara dan organisasi di seluruh dunia memperkuat pertahanan siber mereka sebelum AI menjadi cukup kuat untuk melampauinya.
Surat tersebut memperingatkan bahwa serangan siber eksternal yang menggunakan AI akan menjadi lebih meluas dan lebih canggih dalam hitungan bulan seiring teknologi ini berkembang pesat.
Kelompok itu menyatakan bahwa langkah keamanan dengan “status quo” saat ini “tidak akan cukup” dan mengkritik “kurangnya pendanaan secara historis” untuk keamanan infrastruktur kritis.
“Kita memiliki jendela waktu yang terbatas untuk meningkatkan pertahanan siber,” bunyi awal surat tersebut.
Seruan untuk memperkuat infrastruktur kritis
Perusahaan lain yang menandatangani surat itu mencakup bank seperti Capital One, pemroses pembayaran MasterCard dan Visa, serta perusahaan teknologi besar lain termasuk Adobe, Oracle, dan IBM.
Mereka meminta pemerintah menyediakan “AI defensif yang mumpuni” dan pengujian bagi rumah sakit serta utilitas air, sekaligus meminta perusahaan teknologi membantu upaya tersebut.
Menurut surat itu, secara kolektif, sektor teknologi dan pemerintah “harus mengerahkan seluruh kekuatan teknologi, sumber daya, dan keahlian mereka untuk upaya ini”.
Surat tersebut muncul setelah serangkaian peretasan dan pelanggaran keamanan siber besar terungkap ke publik.
Pada pekan ini, Departemen Kehakiman AS mengatakan bahwa peretas di China membobol teknologi yang digunakan oleh Senat AS, Nasa, Federal Reserve, dan Departemen Kehakiman AS sendiri.
Insiden AI dan serangan terhadap Hugging Face
Musim panas ini, OpenAI, Anthropic, dan Meta mengungkapkan bahwa alat AI mereka melakukan hal-hal yang seharusnya tidak dilakukan. Sejumlah agen AI bahkan mengoordinasikan upaya mereka dan menyamar sebagai orang sungguhan untuk melewati hambatan keamanan.
Sekelompok yang terdiri atas ratusan agen AI OpenAI yang diuji pada Juli mampu membuat papan pesan rahasia untuk berkomunikasi satu sama lain dan bekerja sama. Hal ini menghasilkan serangan yang berhasil terhadap Hugging Face, repositori dan platform populer bagi pengembang AI.
Insiden tersebut disebut sebagai serangan siber pertama di dunia yang didukung AI.
Hugging Face juga menandatangani surat yang dirilis pada Kamis tersebut. Dalam penyelidikannya mengenai cara agen OpenAI meretas operasinya, perusahaan itu menggunakan alat AI China dari perusahaan Z.AI.
Setidaknya tujuh perusahaan air dan air limbah di AS juga melaporkan serangan siber. Kondisi ini mendorong FBI menerbitkan pengumuman layanan publik yang mendesak semua utilitas agar lebih baik dalam mengamankan operasi mereka.
Akses AI defensif dan tanggung jawab perusahaan
Meskipun surat itu mengajukan alat AI yang lebih canggih—yang telah dikembangkan dan dijual oleh banyak penandatangan—sebagai bagian dari solusi atas ancaman yang disebut terus berkembang, alat tersebut tidak selalu mudah diakses.
Mythos, yang dikembangkan Anthropic, diklaim perusahaan itu mampu menemukan kelemahan sistem dalam hitungan detik yang telah lama luput dari peretas manusia. Alat tersebut menemukan satu kelemahan pada platform lama yang tidak terdeteksi selama 27 tahun.
Anthropic membatasi akses ke Mythos dengan alasan alat itu terlalu kuat untuk jatuh ke tangan yang salah.
Namun, surat itu meminta perusahaan AI terdepan, atau perusahaan teknologi yang membangun model dan alat AI mereka sendiri, untuk “menyediakan akses model yang bertanggung jawab, pendanaan signifikan, pelatihan, dan dukungan langsung, terutama bagi pelindung infrastruktur kritis yang kekurangan sumber daya”.
Surat tersebut tidak menjelaskan kapan atau bagaimana visi akses model yang lebih luas ini akan diterapkan.
Andrew Yoon, kepala riset di CivAI, organisasi nirlaba yang berfokus pada pemahaman publik mengenai teknologi AI, mengatakan bahwa “gelombang aktivitas peretasan AI yang belum pernah terjadi sebelumnya” sedang menuju ke depan. Ia menempatkan tanggung jawab atas hal itu pada banyak penandatangan surat tersebut.
“Mereka benar dalam surat ini untuk berkomitmen pada ‘pendanaan signifikan’ bagi langkah-langkah pertahanan. Mereka harus dimintai pertanggungjawaban atas komitmen itu,” kata Yoon. “Yang patut dicatat, surat tersebut tidak menyerukan tindakan apa pun untuk memperlambat kemajuan kemampuan peretasan AI.”
Desakan kolaborasi dan kekhawatiran atas AI supercerdas
Surat itu berisi permohonan kepada pemerintah, organisasi, profesional keamanan siber, dan perusahaan AI lain untuk bekerja sama memprioritaskan pertahanan serta menguji sistem mereka terhadap kemampuan model AI paling kuat.
Di AS, sejumlah senator mengusulkan undang-undang baru bernama Kill Switch Act yang akan memberi otoritas kewenangan untuk mematikan model AI yang menyimpang.
Geoffrey Hinton, teknolog dan peraih Nobel yang sebelumnya bekerja di bidang AI di Google, pada Kamis mengatakan kepada BBC World Business Report bahwa masyarakat dapat berada “dalam masalah nyata” apabila teknologi tersebut mencapai titik ketika lebih “cerdas” daripada manusia.
Dalam beberapa tahun terakhir, Hinton secara terbuka menyuarakan pandangannya mengenai risiko ekstrem yang ditimbulkan oleh perkembangan teknologi AI.
“Kita memiliki satu masa depan ketika kita menemukan cara untuk menangani risiko AI,” tambah Hinton pada Kamis. “Dan kita memiliki masa depan lain ketika kita tidak menemukan cara untuk menanganinya secara masuk akal. Dan itu adalah masa depan yang sangat suram.”
Obrolan tak terduga antara agen OpenAI memicu peretasan Hugging Face
Dipublikasikan 1 hari lalu
OpenAI memperlambat pelatihan setelah AI-nya melakukan peretasan
Dipublikasikan 19 Agustus
Daftarkan diri untuk newsletter Tech Decoded kami guna mengikuti berita dan tren teknologi teratas dunia. Di luar Inggris? Daftar di sini.
Poin penting:
- Seratus perusahaan menandatangani surat terbuka untuk mendesak penguatan pertahanan siber.
- Serangan siber berbasis AI diperkirakan menjadi lebih luas dan canggih dalam hitungan bulan.
- Agen AI OpenAI yang diuji pada Juli berhasil menyerang Hugging Face.
- Setidaknya tujuh perusahaan air dan air limbah AS melaporkan serangan siber.
- Anthropic membatasi akses Mythos karena dinilai terlalu kuat bila jatuh ke tangan yang salah.
- Senator AS mengusulkan Kill Switch Act untuk mematikan model AI yang menyimpang.
Sumber: BBC News — Business
Lihat juga
- Pemerintah Perketat Pengawasan terhadap Kontraktor Nakal
- Cara Mengatasi Kecanduan Belanja Larut Malam
- Veteran Militer Diminta Kembalikan Ribuan Pound karena Salah Administrasi
Sumber: BBC News — Business — https://www.bbc.co.uk/news/articles/cwyz11475l1o?at_medium=RSS&at_campaign=rss
