NEW YORK, 24 September 2026 — Para pemimpin perusahaan kecerdasan buatan (AI) memperingatkan Dewan Keamanan Perserikatan Bangsa-Bangsa (PBB) agar dunia segera atur dan membuat standar pengamanan untuk mengantisipasi risiko dari perkembangan AI yang semakin pesat.
CEO Anthropic Dario Amodei dan CEO OpenAI Sam Altman menyampaikan peringatan tersebut dalam sidang Dewan Keamanan PBB yang membahas AI dan keamanan internasional di New York, Amerika Serikat, Rabu (23/9).
Amodei mengatakan, perkembangan AI yang tidak di kelola dengan baik berpotensi menimbulkan risiko bagi umat manusia. Sementara itu, Altman memperingatkan kemungkinan manusia kehilangan kendali atas masa depan akibat perkembangan teknologi tersebut.
“Kami bisa kehilangan kendali atas masa depan kepada AI,” kata Altman dalam pertemuan tersebut.
Menurut para pemimpin perusahaan AI itu, negara-negara perlu bekerja sama untuk membangun pengamanan yang dapat memastikan teknologi tersebut tetap berada dalam kendali manusia.
Mereka juga menekankan pentingnya mencegah kekuatan AI terkonsentrasi pada satu perusahaan atau satu negara. Altman mengatakan keputusan penting mengenai masa depan AI tidak semestinya hanya ditentukan oleh perusahaan teknologi. Tetapi perlu di bentuk melalui proses demokratis dan pemerintahan yang bertanggung jawab kepada masyarakat.
Inggris Dorong Standar Global
Menteri Luar Negeri Inggris Ed Miliband mengatakan, peringatan dari para pemimpin perusahaan AI menunjukkan bahwa pencegahan risiko teknologi tersebut tidak dapat sepenuhnya diserahkan kepada industri.
“Kita tidak dapat mengabaikan mereka,” kata Miliband dalam sidang Dewan Keamanan PBB.
Miliband mengatakan Inggris akan menjadikan pengendalian risiko AI sebagai salah satu pembahasan utama ketika memimpin kelompok G20 pada tahun depan. Inggris akan mendorong pembentukan standar global agar pengembangan AI berlangsung secara aman.
Pertemuan tersebut berlangsung ketika pemerintah dan perusahaan teknologi di berbagai negara masih mencari bentuk tata kelola AI yang tepat secara internasional. Dewan Keamanan PBB sendiri membahas AI dalam konteks pemeliharaan perdamaian dan keamanan internasional.
Amerika Serikat Tolak Pembatasan AI
Namun, tidak semua negara mendukung pembentukan struktur tata kelola global baru untuk AI. Penasihat Sains Gedung Putih Michael Kratsios mengatakan kekhawatiran mengenai pengendalian AI tidak seharusnya menjadi alasan untuk menghentikan pengembangan teknologi tersebut atau membatasi kemajuannya melalui struktur tata kelola global baru.
Amerika Serikat, sambungnya, ingin negara-negara sekutu dan mitranya turut memperoleh manfaat dari perkembangan AI.
Sikap tersebut sejalan dengan pernyataan Presiden Amerika Serikat Donald Trump yang sebelumnya menolak upaya internasional untuk membatasi pengembangan AI. Perbedaan pandangan tersebut menjadi bagian dari persaingan Amerika Serikat dan China untuk memimpin perkembangan teknologi AI.
Duta Besar China untuk PBB Fu Cong mengatakan setiap negara seharusnya memiliki kebebasan untuk menentukan teknologi AI yang akan digunakannya. China juga memperingatkan agar negara-negara tidak membentuk kelompok yang memaksa negara lain memilih antara Amerika Serikat dan China dalam persaingan teknologi.
AI dan Nasib Manusia
Salah satu persoalan utama yang di bahas dalam pertemuan tersebut adalah batas kendali manusia atas keputusan yang di buat sistem AI, terutama keputusan yang berkaitan dengan keamanan dan konflik bersenjata.
Amodei menyerukan kesepakatan internasional untuk mencegah AI digunakan dalam pengembangan senjata biologis. Ia juga mendorong adanya mekanisme untuk memverifikasi kemampuan model AI, standar pengujian bersama, serta sistem untuk menangani risiko penyalahgunaan dan hilangnya kendali atas teknologi.
CEO Hugging Face Clément Delangue, melalui sambungan video, juga menyerukan penguatan standar pemantauan dan pelaporan insiden terkait AI.
Sekretaris Jenderal PBB Antonio Guterres sebelumnya memperingatkan risiko penggunaan AI dalam sistem persenjataan. Hal itu termasuk kemungkinan munculnya senjata yang dapat menentukan sasaran tanpa kontrol manusia. Guterres juga mendorong kerangka kerja internasional untuk mengelola risiko AI.
Belum Ada Titik Temu
Presiden Ukraina Volodymyr Zelenskyy turut memperingatkan bahwa keputusan yang di buat mesin dalam perang dapat menjadi persoalan serius bagi keamanan internasional. Perkembangan AI dalam bidang militer membuat pertanyaan mengenai siapa yang bertanggung jawab atas keputusan sebuah sistem menjadi semakin penting.
Di tengah berbagai kekhawatiran tersebut, para pemimpin perusahaan AI juga menekankan manfaat teknologi tersebut. Altman mengatakan AI memiliki potensi meningkatkan produktivitas, membantu penemuan ilmiah, serta memberi masyarakat kemampuan lebih besar untuk menentukan kehidupannya sendiri.
Dengan perkembangan teknologi yang semakin cepat, perdebatan di tingkat internasional kini tidak hanya menyangkut apakah AI perlu di atur. Tetapi juga siapa yang harus menetapkan aturan dan bagaimana aturan tersebut diterapkan. Teramsuk bagaimana memastikan manusia tetap memegang kendali atas teknologi yang semakin canggih.
