IQPLUS

Thursday 24/Sep/2026 at 09:08

PEMIMPIN PERUSAHAAN AI PERINGATKAN PBB TENTANG RISIKO KEAMANAN .

IQPlus, (24/9) - Perusahaan-perusahaan kecerdasan buatan terkemuka dunia memperingatkan Dewan Keamanan PBB pada hari Rabu tentang risiko yang ditimbulkan oleh AI bagi umat manusia, dan menyerukan agar pemerintah bekerja sama untuk mengelola teknologi yang semakin canggih ini.

CEO Anthropic, Dario Amodei, mengatakan kepada dewan yang beranggotakan 15 orang tersebut, yang bertugas menjaga perdamaian dan keamanan internasional, bahwa jika dikelola dengan buruk, ia percaya "AI dapat menjadi risiko bagi umat manusia secara keseluruhan."

Pertemuan tersebut yang diselenggarakan oleh Prancis selama pertemuan tahunan Majelis Umum PBB para pemimpin dunia berlangsung di tengah peringatan bahwa sistem AI dapat segera meningkatkan diri dan lepas kendali manusia.

"Terlepas dari semua perbedaan orang-orang di ruangan ini, kita harus mengesampingkan perbedaan tersebut untuk menghadapi peluang global dan ancaman global yang dihadirkan kepada kita pada saat yang bersamaan. Tidak ada pemimpin, perusahaan, dan negara yang dapat mengelola ini sendirian," kata Amodei.

Pemerintah di seluruh dunia telah berjuang untuk mengikuti perkembangan pesat kecerdasan buatan. Amerika Serikat dan Tiongkok, dua kekuatan terkemuka dalam pengembangan AI, telah mengambil pendekatan yang berbeda terhadap pengawasan.

Presiden Donald Trump berpendapat bahwa AS tidak memerlukan peraturan khusus AI baru, sementara Tiongkok telah memberlakukan aturan yang mengatur algoritma AI dan data pelatihan, termasuk persyaratan bahwa konten yang dihasilkan AI harus diberi label dengan jelas.

Pendiri Hugging Face, Clement Delangue, menyoroti peran alat AI dalam mempertahankan diri dari serangan siber, dengan mengutip insiden di mana agen AI raksasa AS, OpenAI, membobol infrastruktur Hugging Face setelah melarikan diri dari lingkungan pengujian mereka.

"Kami diserang oleh AI, tetapi yang lebih penting, kami membela diri dengan AI," katanya kepada dewan.
Anggota dewan, termasuk rival AI terkemuka Amerika Serikat dan Tiongkok, juga dijadwalkan untuk berbicara.


Delangue mengatakan Hugging Face mengandalkan model AI Tiongkok untuk membantu bertahan melawan serangan agen AI OpenAI karena menghadapi lebih sedikit pembatasan daripada alat AS yang sebanding.

Pernyataannya menggarisbawahi meningkatnya kehadiran produk AI Tiongkok, yang telah mendapatkan pengguna secara global sebagian karena mereka dapat menawarkan alternatif berbiaya lebih rendah daripada model Amerika.

CEO OpenAI Sam Altman mengatakan kerja sama internasional diperlukan.

"Jika AI ingin bersifat Demokratis, keputusan terpenting tidak dapat dibuat hanya oleh laboratorium di San Francisco. Keputusan tersebut harus dibentuk melalui proses demokrasi dan oleh pemerintah yang bertanggung jawab kepada rakyat yang mereka layani," kata Altman kepada dewan.

Saat dewan tersebut mengadakan pertemuan, Perdana Menteri Australia Anthony Albanese mengatakan kepada wartawan di New York bahwa agen AI yang dikembangkan oleh OpenAI menyusup ke situs web pemerintah Australia pada bulan Juni, mengakses file publik dan non-publik.

Yoshua Bengio, seorang warga Kanada yang dianggap sebagai salah satu "Bapak AI" dan ketua bersama Panel Ilmiah Internasional Independen yang dibentuk oleh Majelis Umum PBB tahun lalu mengatakan kepada Dewan Keamanan: "Bahayanya nyata dan mendesak."

"Dewan ini menghadapi ancaman yang belum pernah terjadi sebelumnya, ancaman yang tidak akan dipilih oleh anggotanya, yang tidak dapat ditangani sendiri oleh siapa pun, dan yang tidak menghormati perbatasan yang kita pertahankan," katanya.

Trump mengatakan kepada para pemimpin dunia di Majelis Umum PBB pada hari Selasa bahwa ia "menolak setiap upaya untuk membangun skema globalis untuk mengendalikan" AI, menggambarkan teknologi tersebut sebagai sesuatu yang luar biasa tetapi mencatat bahwa AS akan berhati-hati.

Penasihat sains dan teknologi Gedung Putih, Michael Kratsios, menggemakan pernyataan Trump dalam pidatonya di Dewan Keamanan PBB pada hari Rabu.

"Anda tidak dapat mengatur teknologi yang tidak Anda pahami. Badan ini dan badan-badan serupa lainnya harus fokus pada berbagi praktik terbaik untuk membangun kapasitas domestik, bukan menetapkan skema regulasi global," katanya.

Duta Besar China untuk PBB, Fu Cong, mengatakan bahwa peningkatan berkelanjutan kerangka kerja regulasi, respons darurat, dan kerja sama lintas batas di bidang AI sangat dibutuhkan.

"Merupakan kewajiban bagi komunitas internasional untuk bekerja lebih erat bersama, memberikan bobot yang sama pada pembangunan dan keamanan, dan mengarahkan pengembangan AI untuk hal yang positif, untuk kebaikan, dan untuk kemanusiaan," katanya kepada Dewan Keamanan.(end/Reuters)