BALI — Anthropic, perusahaan di balik model AI seperti Claude, memperingatkan bahwa laju perkembangan teknologi saat ini mengarah pada sistem yang bisa membangun penerusnya sendiri. Dalam sebuah unggahan blog, Anthropic menyatakan bahwa meskipun skenario tersebut belum terjadi, pihaknya yakin “hal itu bisa datang lebih cepat dari yang dipersiapkan oleh sebagian besar institusi.”
AI yang Membangun AI: Antara Manfaat Ilmiah dan Risiko Bencana
Menurut Anthropic, kemampuan AI untuk mengembangkan dirinya sendiri bisa “membawa kebaikan besar bagi dunia” di bidang sains dan perawatan kesehatan. Namun di sisi lain, teknologi ini juga bisa “meningkatkan risiko manusia kehilangan kendali atas sistem AI.” Kekhawatiran ini mendorong Anthropic mengusulkan jeda global agar “struktur sosial dan penelitian keselarasan (alignment research) bisa mengimbangi kemajuan teknologi.”
Mengapa Usulan Ini Menuai Skeptisisme?
Usulan Anthropic datang saat perusahaan tersebut berada di jalur menuju kuartal pertama yang menguntungkan, sebuah pencapaian yang belum diraih oleh banyak pesaingnya. Laporan dari The Wall Street Journal mencatat bahwa para kritikus menilai peringatan Anthropic tentang teknologinya sendiri hanyalah “aksi pemasaran.” Tujuannya, menurut para kritikus, adalah untuk membuat Anthropic terlihat sebagai perusahaan AI yang paling etis atau produknya paling unggul.
Contoh yang sering disorot adalah perilisan terbatas model keamanan siber Mythos. Anthropic hanya menyediakan Mythos untuk sekelompok mitra terpilih karena khawatir kemampuannya menemukan celah keamanan bisa disalahgunakan. Namun, banyak pihak menilai langkah ini hanya untuk “membuat produk terlihat eksklusif” atau menutupi kenyataan bahwa Anthropic hanya ingin menjualnya ke perusahaan besar.
Dasar Riset dari Anthropic Institute
Usulan ini bukan sekadar opini. Anthropic mendasarkan rekomendasinya pada temuan dari Anthropic Institute, divisi riset yang didirikan pada Maret lalu. Lembaga ini bertugas “memberi tahu dunia” tentang tantangan yang muncul seiring pengembangan AI yang lebih canggih. Bersama para kolaborator, mereka akan meneliti apa yang diperlukan untuk “membangun sistem yang dibutuhkan agar perlambatan atau penghentian yang kredibel bisa terwujud.”
Bagaimana Cara Memastikan Semua Pihak Mematuhi Moratorium?
Anthropic mengakui bahwa usulannya hanya akan berhasil jika semua perusahaan AI global bersedia berhenti dalam waktu yang sama. “Perlambatan atau penghentian yang berarti membutuhkan banyak laboratorium yang berada di garis depan teknologi, di berbagai negara, untuk setuju berhenti dalam kondisi yang sama,” tulis Anthropic. “Ini juga membutuhkan kemampuan setiap pihak untuk memverifikasi bahwa yang lain benar-benar telah berhenti.”
Perusahaan ini membandingkan upaya tersebut dengan perjanjian senjata nuklir, meskipun mereka mengakui bahwa kesepakatan tersebut memakan waktu puluhan tahun untuk terwujud. “Kita tidak punya waktu selama itu,” tegas Anthropic, mengingat perkembangan AI yang sangat cepat. Rencananya, dalam beberapa bulan ke depan, Anthropic akan mengadakan diskusi dengan para pembuat kebijakan, peneliti, dan perusahaan AI lainnya, lalu mempublikasikan hasilnya.
