CEO Anthropic, Dario Amodei, mengatakan kepada Dewan Keamanan Perserikatan Bangsa-Bangsa (PBB) bahwa AI bisa menjadi ancaman bagi umat manusia. Sam Altman dari OpenAI dan Clément Delangue dari Hugging Face bergabung dengannya untuk mendorong koordinasi AI secara global.
Prancis mengadakan sesi ini selama Majelis Umum PBB dan menghadirkan para eksekutif puncak industri di hadapan dewan yang beranggotakan 15 negara. Pemerintah di seluruh dunia masih berbeda pendapat tentang cara mengatur AI, sebuah industri yang bergerak lebih cepat dibandingkan pembuatan aturan pada umumnya.
Menimbang Risiko AI bagi Umat Manusia
Amodei menyampaikan kepada dewan bahwa untuk mengelola risiko AI, perlu ada aksi bersama dari setiap pemerintah dan perusahaan yang terlibat.
“AI bisa menjadi ancaman bagi seluruh umat manusia.”
Dario Amodei, melalui Reuters
Disponsori
Disponsori
Ia sudah bertahun-tahun mengingatkan soal risiko keamanan siber dan senjata biologis berbasis AI. Ia juga menyoroti potensi teknologi ini untuk membantu menyembuhkan penyakit seperti kanker.
Di sisi lain, Altman menekankan perlunya pertanggungjawaban yang berbeda. Ia mengatakan bahwa keputusan AI seharusnya tetap berada dalam pengawasan pemerintah, bukan hanya di laboratorium.
We Must Pace the Frontier: Ive written a new essay on why the AI industry should slow down, with a three-part plan for doing so.
Anthropic is unilaterally committing to the first of these steps. Well provide third-party evaluators with permanent, employee-level access to our…
— Dario Amodei (@DarioAmodei) September 12, 2026
Serangan dari Dalam Industri
Delangue menggambarkan ancaman yang lebih nyata. Agen AI dari OpenAI berhasil menembus sistem Hugging Face setelah melewati lingkungan pengujian mereka.
Oleh karena itu, Hugging Face akhirnya menggunakan model AI buatan Cina untuk mengendalikan pelanggaran tersebut. Delangue menuturkan bahwa model ini memiliki lebih sedikit pembatasan dibandingkan alat sejenis dari Amerika Serikat.
Yoshua Bengio, peneliti yang dikenal luas sebagai salah satu tokoh pendiri AI, juga berbicara di hadapan dewan. Dia menerangkan kalau bahayanya sudah nyata dan melintasi batas negara, sehingga tidak ada satu negara pun yang bisa menghadapinya sendirian.
Washington Tetap pada Pendirian
Sementara itu, Presiden Donald Trump kembali menegaskan minggu ini bahwa Amerika Serikat akan menolak setiap upaya global untuk mengendalikan AI. Ia menyebut teknologi ini luar biasa, namun menekankan bahwa Washington akan bertindak hati-hati, bukan lewat undang-undang baru.
Scott Bessent, Menteri Keuangan, disebut-sebut mulai menjadi AI czar de facto untuk pemerintah. Sementara itu, penasihat Gedung Putih, David Sacks, kabarnya masih punya pengaruh besar dalam dewan AI meskipun mengurangi perannya.
Sebaliknya, Cina sudah mewajibkan konten hasil AI untuk diberi label dan mengatur data yang digunakan dalam pelatihan model AI. Sesi pada hari Rabu kemarin belum memastikan apakah peringatan-peringatan ini akan mendorong koordinasi yang mengikat di antara negara-negara kekuatan AI terbesar di dunia.