Hi Urbie’s! Ada sesuatu yang cukup tidak biasa sedang terjadi di dunia artificial intelligence, ketika orang-orang yang selama ini berada di garis depan perlombaan AI justru mulai mengatakan bahwa mungkin sudah waktunya untuk mengurangi kecepatan. Dario Amodei, CEO Anthropic, secara terbuka menyerukan agar perkembangan frontier AI “dipacu” dengan lebih hati-hati, dan yang membuatnya semakin menarik, Sam Altman dari OpenAI serta Elon Musk ikut menyatakan persetujuan.
Ini bukan seruan untuk menghentikan AI atau membuang seluruh ambisi membangun model yang semakin pintar. Pesannya jauh lebih sederhana sekaligus lebih mengganggu: jangan sampai kemampuan AI berkembang jauh lebih cepat daripada kemampuan manusia untuk memahami, menguji, dan mengendalikannya.
Ketika Para Rival AI Justru Bicara Soal Rem
Amodei menuangkan kekhawatirannya melalui esai berjudul We Must Pace the Frontier, yang menyerukan perubahan cara industri menangani perkembangan AI paling canggih. Menurutnya, ketika sistem AI semakin kuat dan mulai mampu melakukan lebih banyak pekerjaan secara mandiri, kebutuhan untuk memastikan sistem tersebut aman ikut meningkat.
Salah satu gagasan utamanya adalah menghadirkan independent evaluators, atau evaluator independen yang mendapatkan akses cukup dalam untuk memeriksa sistem AI sebagaimana tim internal perusahaan melakukannya. Anthropic bahkan menyatakan komitmen untuk memberikan evaluator pihak ketiga akses permanen setara karyawan agar mereka dapat memverifikasi langkah keselamatan, memantau insiden, dan mengevaluasi kemampuan model.
Bagi Amodei, pengawasan seperti ini penting karena perusahaan AI tidak seharusnya menjadi satu-satunya pihak yang menentukan apakah sistem buatannya sendiri sudah aman. Semakin kuat model yang dibangun, semakin besar pula kebutuhan terhadap mata eksternal yang bisa mengatakan bahwa sesuatu tidak berjalan sebagaimana mestinya.
Sam Altman Ikut Mengiyakan
Respons Sam Altman menjadi bagian paling mengejutkan dari cerita ini karena OpenAI dan Anthropic pada dasarnya berada dalam perlombaan yang sama untuk membangun AI frontier. Namun Altman mengatakan bahwa ia setuju dengan Amodei bahwa perkembangan frontier perlu diperlambat, sekaligus menyebut pembahasan mengenai pacing sudah menjadi topik utama di OpenAI dalam beberapa pekan terakhir.
Yang lebih penting, Altman tidak berhenti pada pernyataan dukungan. Ia mengatakan OpenAI juga akan berkomitmen menggunakan evaluator independen dengan akses seperti karyawan, sehingga gagasan yang awalnya datang dari salah satu rivalnya mulai mendapatkan bentuk konkret di perusahaan lain.
Lalu datang Elon Musk dengan respons yang jauh lebih pendek tetapi langsung menjadi headline: “Dario is right.” Dukungan tersebut terasa signifikan karena Musk sendiri menjalankan xAI dan ikut berada dalam perlombaan membangun sistem AI generasi berikutnya.
Tiga Langkah yang Ditawarkan Amodei
Amodei tidak hanya mengatakan “pelan-pelan” lalu meninggalkan industri untuk mencari solusinya sendiri. Ia menawarkan tiga lapisan koordinasi, mulai dari evaluator independen, kerja sama keselamatan antarperusahaan, hingga koordinasi global dengan pemerintah untuk menghadapi risiko frontier AI.
Bagian terakhir justru menjadi yang paling rumit karena perlombaan AI bukan hanya persoalan teknologi, tetapi juga ekonomi dan geopolitik. Amerika Serikat dan China sama-sama mengejar posisi terdepan, sehingga memperlambat pengembangan AI memiliki konsekuensi strategis yang jauh lebih besar dibanding sekadar menunda peluncuran sebuah produk teknologi.
Di sinilah muncul pertanyaan yang lebih besar: bagaimana mungkin perusahaan diminta mengurangi kecepatan ketika pesaingnya bisa saja terus berlari? Amodei sendiri tidak mengusulkan dunia berhenti mengembangkan AI, melainkan mekanisme koordinasi agar kompetisi tidak berubah menjadi perlombaan menuju sistem yang semakin kuat tanpa pengaman yang sebanding.
Baca juga:
- Mac Mini dan Mac Studio Terbaru Apple Makin Serius Jadi Mesin AI Lokal
- Ben Affleck Nilai AI Belum Bisa Gantikan Kreativitas Manusia, Sebut Cerita Hebat Lahir dari Emosi dan Keberanian
AI Mulai Bisa Membantu Membuat AI
Kekhawatiran tersebut semakin relevan karena kemampuan AI kini tidak lagi sebatas menjawab pertanyaan, membuat gambar, atau menulis kode berdasarkan perintah manusia. Sistem AI agent semakin mampu menjalankan rangkaian tugas secara mandiri, sementara sejumlah insiden terbaru menunjukkan bagaimana kemampuan tersebut dapat menghasilkan perilaku yang sulit diprediksi ketika sistem diberi akses ke lingkungan digital.
Anthropic sendiri baru-baru ini mempublikasikan evaluasi yang menunjukkan model frontier sudah mampu melakukan tugas tertentu dalam domain intelijen dan pengembangan senjata konvensional yang secara historis membutuhkan keahlian manusia yang sangat terlatih. Temuan seperti ini membuat pertanyaan mengenai keselamatan AI terasa jauh lebih konkret daripada sekadar skenario fiksi ilmiah.
Benarkah China dan Xi Jinping Ikut Mendukung?
Di tengah ramainya percakapan tersebut, muncul klaim di media sosial bahwa Presiden China Xi Jinping juga mendukung gagasan untuk memperlambat riset AI Amerika. Jika benar, tentu ini akan menjadi perkembangan luar biasa karena Amerika Serikat dan China justru sedang bersaing keras untuk mendapatkan keunggulan dalam teknologi AI.
Namun, belum ada bukti kredibel yang menunjukkan Xi Jinping telah secara terbuka mendukung proposal Amodei tersebut. Pembicaraan mengenai koordinasi global memang menjadi bagian dari gagasan Amodei, termasuk kemungkinan melibatkan negara-negara dengan kepentingan geopolitik berbeda, tetapi itu tidak sama dengan adanya dukungan resmi dari Xi.
Jadi untuk saat ini, Urbie’s sebaiknya melihat klaim tersebut sebagai spekulasi, bukan fakta. Justru fakta yang sudah cukup menarik adalah dua tokoh dari perusahaan AI yang saling bersaing—Sam Altman dan Elon Musk—secara terbuka mengamini gagasan bahwa frontier AI membutuhkan pacing dan pengawasan yang lebih serius.
Pertanyaannya Bukan Lagi “Seberapa Cepat?”
Pada akhirnya, perdebatan ini mengubah satu pertanyaan fundamental tentang masa depan AI. Kalau sebelumnya industri sibuk bertanya “seberapa cepat kita bisa membuat AI yang lebih pintar?”, kini pertanyaan yang semakin sulit dihindari adalah “seberapa cepat kita boleh membangun AI sebelum kemampuan kita mengendalikannya tertinggal?”
Dan mungkin, Urbie’s, justru di situlah bagian paling menarik dari perkembangan AI hari ini. Ketika para pembuat teknologi mulai meminta dunia untuk tidak hanya terpukau pada seberapa cepat mesin berkembang, tetapi juga memastikan manusia masih punya waktu untuk memahami apa yang sedang mereka ciptakan, perlombaan AI memasuki babak yang jauh lebih serius.
