SAN FRANCISCO — Peneliti Anthropic Mundur dan Peringatkan Risiko Kiamat AI

Dunia kecerdasan buatan (AI) kembali diguncang isu krusial yang membuat bulu kuduk berdiri. Di tengah euforia peluncuran berbagai model AI canggih yang memukau publik, suara-suara peringatan keras justru datang dari orang dalam industri itu sendiri. Tak main-main, seorang mantan peneliti dari laboratorium AI terkemuka, Anthropic, melontarkan pernyataan mengejutkan saat memutuskan untuk mengundurkan diri: teknologi AI berpotensi memusnahkan peradaban manusia sebelum dekade ini berakhir.

Peringatan horor ini disampaikan oleh Jacob Coxon, bekas peneliti di Anthropic—perusahaan yang selama ini justru dikenal paling mengedepankan aspek keselamatan AI. Lewat unggahannya di platform media sosial X, Coxon mengungkapkan kekecewaan mendalam dan ketakutannya terhadap arah perkembangan teknologi yang dinilainya sudah berada di luar kendali demi mengejar keuntungan komersial semata.

Perjudian Nyawa Manusia demi Ambisi Bisnis

Langkah ekstrem Jacob Coxon untuk mundur dari jabatannya bukanlah sekadar aksi drama korporat biasa. Ini merupakan bentuk protes keras terhadap laju pengembangan AI yang kian ugal-ugalan. Coxon secara gamblang menyebut bahwa perusahaan-perusahaan raksasa teknologi saat ini sedang melakukan perjudian berskala global yang mempertaruhkan nyawa seluruh umat manusia.

"Perusahaan-perusahaan AI saat ini sedang berjudi dengan nyawa kita semua. Kita menciptakan sesuatu yang jauh lebih cerdas dari manusia tanpa benar-benar memahami cara mengendalikannya secara aman," ungkap nada peringatan dari para peneliti tersebut.

Menurutnya, persaingan ketat antar-perusahaan teknologi untuk menjadi yang pertama mencapai Artificial General Intelligence (AGI)—yakni sistem AI yang menyamai atau melebihi kecerdasan manusia di segala bidang—telah mengabaikan protokol keselamatan paling mendasar. Garis batas antara inovasi yang bermanfaat dan ancaman eksistensial kini menjadi sangat kabur.

Suara Ketakutan yang Meluas di Kalangan Intern Peneliti

Menariknya, Coxon bukanlah satu-satunya suara sumbang di koridor industri kecerdasan buatan. Laporan terbaru mengungkapkan bahwa sejumlah karyawan aktif maupun mantan pekerja Anthropic dan raksasa AI lainnya menyimpan ketakutan yang sama. Mereka menyaksikan sendiri bagaimana model-model AI terbaru dikembangkan dengan kecepatan luar biasa, sering kali tanpa uji keselamatan yang memadai.

Beberapa poin utama yang menjadi sumber kekhawatiran terbesar para ahli internal ini meliputi:

• Kemampuan Otonom yang Tak Terkendali: Model AI masa depan berisiko mengembangkan kemampuan untuk mereplikasi diri, meretas sistem, dan mengambil keputusan strategis tanpa campur tangan manusia.
• Masalah Keselarasan (Alignment Problem): Hingga saat ini belum ada metode yang 100% terbukti mampu memastikan bahwa tujuan AI super-cerdas akan selalu sejalan dengan nilai-nilai keselamatan manusia.
• Kompromi Demi Perlombaan Pasar: Tekanan investor dan persaingan bisnis yang memanas memaksa laboratorium penelitian memangkas waktu pengujian keselamatan demi merilis produk ke publik lebih cepat.

Ketika Perusahaan 'Paling Aman' Pun Goyah

Ironi terbesar dari krisis ini terletak pada profil Anthropic itu sendiri. Perusahaan ini awalnya didirikan oleh mantan eksekutif OpenAI yang hengkang karena merasa OpenAI terlalu fokus pada komersialisasi dan mengabaikan aspek keselamatan. Anthropic dibangun dengan komitmen menjadi "laboratorium AI yang aman, etis, dan bertanggung jawab".

Namun, ketika peneliti dari Anthropic sendiri mulai mengundurkan diri dan menyuarakan alarm bahaya, hal ini menandakan adanya krisis fundamental di seluruh lanskap industri teknologi modern. Jika laboratorium yang paling peduli pada keamanan saja dianggap sudah melenceng dari jalurnya, lantas bagaimana dengan raksasa teknologi lainnya? Para pengamat menilai bahwa dinamika pasar yang sangat agresif telah memaksa semua pemain untuk masuk dalam pusaran perlombaan senjata AI yang sangat berbahaya.

Peringatan bahwa AI bisa mengakhiri kemanusiaan pada akhir dekade ini—sekitar tahun 2030—mungkin terdengar seperti skenario film fiksi ilmiah bagi orang awam. Namun, ketika peringatan tersebut keluar langsung dari mulut para matematikawan dan insinyur yang merancang algoritmanya sendiri, dunia tentu tidak boleh lagi menutup mata dan menganggapnya sebagai sekadar paranoia belaka.