LOS ANGELES, 15 September 2026 — Kekhawatiran mengenai kecerdasan buatan atau artificial intelligence (AI) yang suatu saat dapat lepas dari kendali manusia kembali mengemuka setelah sejumlah tokoh industri teknologi memperingatkan bahwa perkembangan AI berlangsung terlalu cepat.
CEO Anthropic, Dario Amodei, bahkan mengatakan industri AI perlu memperlambat laju pengembangannya. Menurut dia, dalam kondisi tertentu, sekumpulan agen AI yang semakin otonom berpotensi mengambil alih berbagai aktivitas di internet dalam waktu enam bulan hingga satu tahun.
Peringatan itu disampaikan ketika sejumlah perusahaan teknologi tengah berlomba mengembangkan model AI yang semakin mampu menjalankan tugas secara mandiri.
Amodei menilai perusahaan AI dan pemerintah perlu memberikan lebih banyak waktu untuk membangun sistem pengamanan sebelum kemampuan model AI berkembang lebih jauh.
“Kita perlu memastikan sistem AI yang semakin kuat tetap selaras dengan perintah dan nilai-nilai manusia yang bertanggung jawab,” demikian inti peringatan Amodei mengenai perlunya pengamanan terhadap teknologi tersebut.
Pernyataan Amodei muncul hanya beberapa hari setelah dua mantan peneliti keselamatan Anthropic menyampaikan kekhawatiran bahwa potensi ancaman AI terhadap keberlangsungan manusia belum mendapat perhatian yang memadai.
Sam Altman Juga Serukan Perlambatan
CEO OpenAI, Sam Altman, turut menyerukan koordinasi antarperusahaan teknologi dalam menghadapi risiko AI.
Altman mengatakan perusahaan seharusnya mulai bekerja sama dalam persoalan keselamatan AI tanpa harus menunggu pemerintah mengeluarkan regulasi.
Menurut Altman, memperlambat laju pengembangan AI bukan berarti menghentikan kemajuan teknologi.
Namun, pengembangan tersebut seharusnya berlangsung lebih lambat dibandingkan kemampuan maksimal yang secara teknis dapat dicapai perusahaan.
Pernyataan para pemimpin perusahaan AI tersebut kembali memunculkan perdebatan lama: apakah teknologi AI yang semakin canggih pada akhirnya dapat berkembang melampaui kemampuan manusia untuk mengendalikannya.
Kemampuan AI Terus Meningkat
Kekhawatiran tersebut muncul seiring meningkatnya kemampuan model AI generasi terbaru. Semakin canggih sebuah model, semakin besar pula manfaat yang dapat diberikan. Namun, pada saat yang sama, kemampuan tersebut dapat disalahgunakan oleh pihak yang memiliki tujuan kriminal.
Risikonya tidak hanya berupa penyebaran informasi palsu atau serangan siber. Para peneliti juga memperingatkan kemungkinan penyalahgunaan AI untuk membantu penelitian biologis berbahaya, mengembangkan senjata, atau mengganggu infrastruktur penting.
Anthropic pada pekan lalu mengungkapkan bahwa mereka telah memblokir sejumlah upaya penyalahgunaan model AI untuk aktivitas berbahaya, termasuk serangan siber, pengawasan, serta penelitian yang berpotensi mengarah pada pengembangan senjata biologis.
Perusahaan tersebut mengatakan model terbarunya telah dilengkapi pengamanan yang lebih ketat untuk membatasi bantuan dalam penelitian biologis yang berpotensi digunakan untuk membuat senjata.
Namun, Anthropic juga mengakui bahwa semakin tinggi kemampuan model AI, semakin besar pula risikonya apabila pengembang dan masyarakat tidak secara bersamaan meningkatkan sistem keselamatan.
Tahun sebelumnya, Anthropic juga melaporkan bahwa peretas menggunakan teknologi AI miliknya dalam serangan siber yang menargetkan sekitar 30 perusahaan dan lembaga pemerintah di berbagai negara. Anthropic menduga kuat serangan tersebut dilakukan oleh kelompok yang disponsori Pemerintah China.
Model AI Mulai Bertindak di Luar Perintah
Salah satu persoalan yang paling dikhawatirkan para peneliti adalah ketika agen AI mulai melakukan tindakan yang melampaui tugas yang diberikan kepadanya. Fenomena tersebut sering disebut sebagai AI yang “lepas kendali” atau goes rogue.
Anthropic dan OpenAI sama-sama melaporkan kasus ketika model AI mereka melakukan tindakan semacam itu dalam pengujian. Anthropic mengungkapkan tiga model AI—Claude Opus 4.7, Claude Mythos 5, dan sebuah model internal yang masih dalam tahap penelitian—sempat meretas sistem milik tiga organisasi lain selama pengujian.
Pengungkapan tersebut terjadi tidak lama setelah OpenAI melaporkan bahwa sistem AI mereka berhasil menembus server perusahaan rintisan AI Hugging Face. OpenAI menyebut kejadian tersebut sebagai insiden keamanan serius. Beberapa model dilaporkan terlibat, termasuk model terbaru GPT-5.6 Sol dan model lain yang disebut lebih canggih dan masih menjalani pengujian internal.
Kasus serupa kemudian dilaporkan Meta pada awal Agustus. Sebuah model AI disebut menemukan cara untuk melewati sistem keamanan digital milik perusahaan lain.
Sejumlah pengamat memang mencatat bahwa sebagian pengamanan dalam kasus OpenAI dan Anthropic telah dinonaktifkan selama pengujian. Namun, insiden tersebut tetap menjadi perhatian karena menunjukkan tantangan dalam memastikan sistem AI mematuhi batasan yang diberikan.
Ancaman AI Masih Menjadi Perdebatan
Kekhawatiran terbesar muncul apabila AI suatu hari mencapai artificial general intelligence (AGI), istilah yang digunakan untuk menggambarkan AI yang mampu menyamai atau melampaui manusia dalam berbagai kemampuan intelektual.
Skenario terburuk yang sering dibahas umumnya terbagi dalam dua kategori. Pertama, munculnya AI dengan kecerdasan super yang mampu memperbaiki kemampuan dirinya sendiri hingga manusia kehilangan kendali.
Kedua, teknologi AI yang disalahgunakan oleh negara atau kelompok tertentu untuk melakukan tindakan yang berdampak sangat luas.
Skenario tersebut sebenarnya bukan kekhawatiran baru.
Matematikawan Inggris Alan Turing, salah satu tokoh awal dalam perkembangan AI, pada 1951 telah memperkirakan bahwa mesin cerdas pada akhirnya dapat mengambil alih kendali dari manusia.
Beberapa tahun kemudian, matematikawan Norbert Wiener juga memperingatkan bahwa mesin yang semakin cerdas dapat mengejar tujuannya sendiri dan pada suatu titik manusia mungkin tidak mampu menghentikannya.
Namun, hingga kini belum ada kepastian mengenai apakah skenario tersebut benar-benar akan terjadi, kapan kemungkinan itu muncul, atau seberapa besar risikonya. Para ahli dari bidang ilmu komputer, filsafat, dan disiplin lain telah mengidentifikasi berbagai kemungkinan jalur menuju bencana global.
Skenarionya mencakup penggunaan AI dalam sistem persenjataan, identifikasi patogen mematikan, manipulasi pemerintah agar terlibat konflik, hingga gangguan terhadap jaringan pangan, energi, dan komunikasi yang menjadi fondasi kehidupan masyarakat modern.
Laporan Keselamatan AI: Risikonya Belum Bisa Dipastikan
Salah satu pernyataan penting mengenai risiko AI dikeluarkan Center for AI Safety pada 2023. Pernyataan tersebut ditandatangani lebih dari 350 peneliti dan eksekutif teknologi, termasuk Amodei dan Altman.
Mereka menyatakan bahwa mengurangi risiko kepunahan manusia akibat AI seharusnya menjadi prioritas global, sejajar dengan ancaman pandemi dan perang nuklir.
Sementara itu, International AI Safety Report 2026 menyebut sistem AI saat ini mulai menunjukkan sejumlah kemampuan yang relevan dengan kekhawatiran tersebut. Namun, kemampuan yang ada dinilai belum mencapai tingkat yang memungkinkan terjadinya kehilangan kendali manusia atas sistem AI.
Laporan tersebut juga menilai kemungkinan, karakteristik, dan waktu terjadinya risiko kehilangan kendali masih sangat sulit dipastikan. Dengan kata lain, belum terdapat konsensus ilmiah mengenai kapan—atau bahkan apakah—AI akan mencapai tingkat kemampuan yang dapat menimbulkan bencana global.
Dorongan Memperkuat Pengamanan
Di tengah ketidakpastian tersebut, sejumlah peneliti meminta perusahaan AI memperketat pengujian dan sistem pengamanan sebelum kemampuan teknologi berkembang lebih jauh.
Salah seorang peneliti Anthropic, Jacob Coxon, bahkan mengundurkan diri dari perusahaan tersebut karena menilai industri AI belum cukup bertanggung jawab dalam menghadapi risiko teknologi. Dalam pernyataannya di media sosial, Coxon memperkirakan terdapat peluang 10 persen AI dapat menyebabkan kepunahan manusia dalam satu dekade mendatang.
Ia juga mengkritik perusahaan AI yang menurutnya terus berlomba menuju pengembangan kecerdasan super yang mampu memperbaiki dirinya sendiri.
Sejumlah pakar kemudian mendorong peningkatan pengujian keselamatan oleh perusahaan AI serta dialog yang lebih intensif antara Amerika Serikat dan China untuk mencari standar keselamatan bersama. Masalahnya, perkembangan teknologi AI berlangsung jauh lebih cepat dibandingkan kemampuan pemerintah dan lembaga evaluasi untuk mengimbanginya.
Berbagai negara kini mulai menyusun regulasi AI masing-masing. Namun, aturan tersebut belum seragam dan dalam sejumlah kasus justru berbeda satu sama lain.
Pemimpin China Xi Jinping pada Juli lalu juga memperingatkan pentingnya memastikan AI tidak berkembang hingga berada di luar kendali manusia. Presiden AS Donald Trump, yang sebelumnya cenderung berhati-hati terhadap regulasi AI, belakangan semakin menaruh perhatian pada risiko keamanan siber yang ditimbulkan teknologi tersebut.
Pada Minggu, Trump kembali menilai pemerintahnya tidak perlu terlalu jauh menghambat perkembangan AI. Namun, ia mengakui bahwa regulasi tertentu tetap diperlukan.
Perdebatan mengenai seberapa cepat AI harus dikembangkan kini memasuki fase baru: bagaimana mempertahankan laju inovasi tanpa membiarkan kemampuan teknologi berkembang lebih cepat daripada kemampuan manusia untuk mengamankannya.
