Perusahaan yang memperingatkan AI bisa memusnahkan manusia juga yang menanam miliaran dolar untuk membangunnya. Maxwell Scott menyebutnya paradoks mendasar.
Peringatan bahwa kecerdasan buatan (AI) bisa membunuh umat manusia sebelum 2030 justru lahir dari laboratorium pembuatnya. Maxwell Scott, salah satu pendiri integrator sistem AI Strat Alliance Global, menilai fakta itu patut dicermati.
"Ada paradoks mendasar di sana," kata Scott dalam program spesial Liputan6 yang ditayangkan pada Rabu (7/10/2026).
Ia menunjuk pola yang berulang. Perusahaan yang menyebut AI berbahaya, bahkan mematikan, adalah perusahaan yang sama yang menginvestasikan miliaran dolar untuk membuatnya makin kuat.
Kronologi Peringatan
Gelombang kekhawatiran terbaru bermula dari pengunduran diri Jacob Coxon, peneliti yang pernah bekerja di Anthropic dan OpenAI, pada awal September 2026.
Lewat media sosial X, Coxon menulis bahwa para pembuat AI sungguh-sungguh percaya teknologi itu bisa membunuh kita semua pada akhir dekade ini.
Pernyataan itu tidak dibantah dari dalam. Evan Hubinger, pemimpin riset penyelarasan Anthropic, membenarkannya dan menaksir peluang kepunahan lebih dari 10 persen dalam satu dekade.
Hubinger juga mengakui Anthropic belum punya rencana untuk menyelaraskan kecerdasan super. Ia menilai risiko dari model yang ada sekarang masih rendah.
Geoffrey Hinton kemudian ikut bersuara. Dalam wawancara BBC Newsnight yang tayang 9 September 2026, ilmuwan yang dijuluki Bapak AI itu menilai angka 10 persen tersebut masuk akal, seperti dicatat Semafor.
Siapa yang Bicara
Scott meminta publik memperhatikan asal suara-suara itu. Model AI terdepan dibangun di OpenAI dan Anthropic, tempat para pemberi peringatan bekerja.
Menurut dia, makin dekat perusahaan-perusahaan itu ke penawaran saham perdana (IPO), makin besar perhatian yang mereka terima dan makin besar uang yang bisa dihasilkan.
"Percakapan itu datang dari orang-orang yang membangun teknologi ini sendiri," ujarnya. Hingga berita ini ditulis, Anthropic dan OpenAI belum memberikan tanggapan atas pernyataan Scott.
Scott bukan orang luar. Ia pernah memimpin tim di Kantor AI Bertanggung Jawab Microsoft dan menjadi diplomat Departemen Luar Negeri Amerika Serikat yang menangani kebijakan teknologi.
Alih-alih berspekulasi, Scott menyorot kerugian yang menurutnya sudah tercatat. AI dipakai untuk mendiskriminasi dan memperbesar disinformasi, termasuk hoaks saat bencana alam.
"Tantangan yang lebih mendesak adalah bahaya AI di dunia nyata yang terjadi hari ini," katanya. Sektor dengan risiko terbesar, menurut Scott, adalah hukum, penegakan hukum, perbankan, kesehatan, dan infrastruktur vital.
Soal siapa yang berhak menilai AI terlalu berbahaya untuk dirilis, Scott menolak satu jawaban tunggal. Perusahaan bermotif komersial, pemerintah terikat pada warganya, dan lembaga internasional sulit menyatukan semua pihak.
Karena itu, ia mendorong regulasi yang menyasar kerugian, bukan teknologinya. Di Indonesia, regulasi semacam itu belum ada.
Dua rancangan Peraturan Presiden tentang peta jalan dan etika AI masih menunggu tanda tangan Presiden. Hal itu disampaikan Dirjen Ekosistem Digital Kementerian Komunikasi dan Digital Edwin Hidayat Abdullah, 3 September 2026.
"Hanya dengan bekerja sama lintas kelompok itulah pertanyaan semacam ini bisa dijawab," kata Scott.***
