Co-founder Ethereum, Vitalik Buterin, mendukung keputusan Moonshot AI untuk menghilangkan kemampuan hacking tingkat tinggi dari model terbaru mereka, Kimi K3.1 Pro. Menurutnya, membatasi apa yang bisa dilakukan AI lebih baik daripada membatasi siapa yang boleh menggunakannya.
Namun, langkah pengamanan ini datang dengan pengorbanan yang terasa. Moonshot menyebut model yang sudah disaring ini mampu menyelesaikan 81% tugas pada tolak ukur exploit internal mereka, sedangkan versi tanpa filter bisa menyelesaikan 90,5%.
Mengapa Vitalik Buterin Lebih Memilih Batasan AI Dibanding Pengecekan Pengguna
Buterin membagikan sudut pandangnya, dengan menegaskan bahwa mendiskriminasi kasus penggunaan jauh lebih tidak berbahaya daripada mendiskriminasi pengguna.
I am okay with Kimi 3.1 deliberately leaving out top-end offensive cyber capabilities from their training data.
Discriminating against use cases is MUCH less bad than discriminating against users. And the world does need all the time it can get to prepare, harden, check old…
— vitalik.eth (@VitalikButerin) October 26, 2026
Moonshot, sebuah startup AI berbasis di Beijing, berencana merilis model dengan open weight sebelum 4 November. Siapa saja nantinya bisa mengunduh dan menjalankan model ini di perangkat mereka sendiri.
Disponsori
Disponsori
Oleh karena itu, perusahaan ini menyampaikan bahwa mereka telah menghapus data terkait siber dari kumpulan data pelatihan dan lingkungan reinforcement learning. Tapi, tugas pemrograman umum tetap ada.
Menurut Vitalik Buterin, serangan yang didukung AI pada akhirnya akan datang dengan kekuatan penuh. Sementara itu, para pengembang butuh waktu untuk memperkuat sistem, memeriksa kode lama, dan memastikan perangkat lunak baru sudah aman.
Ancaman ini sudah mulai terlihat. Awal tahun ini, Binance Research menemukan bahwa AI mengeksploitasi smart contract sekitar dua kali lebih baik daripada mendeteksi celahnya.
Subscribe ke channel YouTube kami untuk menonton para pemimpin dan jurnalis berbagi wawasan ahli
Apa yang Terjadi Jika Gelombang Pertama Risiko AI Gagal
Buterin juga mengingatkan soal kemungkinan alternatifnya. Jika gelombang pertama ini gagal, ia memprediksi akan muncul model yang sangat terkunci, pengecekan Know Your Customer (KYC) pada segala hal, dan pengawasan yang sangat ketat.
Dalam kondisi itu, akses ke AI bisa jadi akan bergantung pada kredensial dan kewarganegaraan. Ia menulis bahwa sebagian orang mungkin hanya akan menjadi pengguna kelas dua, tiga, atau empat.
Vitalik Buterin memang sudah lama lebih suka menjalankan model AI terbuka di perangkat pribadinya, seperti yang pernah ia lakukan dalam uji coba AI lokal di laptopnya.
Meski begitu, ia tidak yakin penyaringan seperti ini akan bertahan selamanya. Ketika ada pengguna yang bertanya apakah lab lain tetap akan membangun kemampuan semacam itu, ia menjawab bahwa pasti akan ada.
Faktanya, menurut catatan Moonshot sendiri, model pesaing dari DeepSeek, V4.1-Flash, sudah mendapat skor 85,7% pada tolak ukur yang sama.
Bagi Vitalik Buterin, keamanan AI kini menjadi perlombaan dengan waktu dan bukan upaya penghalangan permanen. Perlombaan ini memihak pada para pembela yang menerapkan proteksi keamanan kripto ganda versi dirinya sebelum para penyerang bisa menyusul.