Anthropic, OpenAI Kurangi Bahasa Keamanan Saat Perlombaan AI Meningkat

Singkatnya

• TIME melaporkan bahwa Anthropic menghapus janji untuk menghentikan pelatihan tanpa jaminan perlindungan yang pasti.
• OpenAI juga menghapus kata “dengan aman” dari misinya setelah restrukturisasi menjadi entitas yang berorientasi profit.
• Para ahli mengatakan bahwa perubahan ini mencerminkan perubahan politik, ekonomi, dan intelektual.

Anthropic telah menghapus janji utama tentang keselamatan dari Kebijakan Skala Bertanggung Jawab mereka, menurut laporan dari TIME. Perubahan ini melonggarkan komitmen yang sebelumnya melarang pengembang AI Claude untuk melatih sistem AI canggih tanpa perlindungan yang dijamin. Langkah ini mengubah posisi perusahaan dalam perlombaan AI melawan pesaing seperti OpenAI, Google, dan xAI. Anthropic telah lama menganggap dirinya sebagai salah satu laboratorium yang paling fokus pada keselamatan di industri ini, tetapi di bawah kebijakan yang direvisi, Anthropic tidak lagi berjanji untuk menghentikan pelatihan jika mitigasi risiko tidak sepenuhnya diterapkan. “Kami merasa bahwa berhenti melatih model AI sebenarnya tidak akan membantu siapa pun,” kata kepala ilmuwan Anthropic, Jared Kaplan, kepada TIME. “Kami tidak merasa, dengan kemajuan pesat AI, bahwa masuk akal bagi kami untuk membuat komitmen sepihak… jika pesaing sedang melaju pesat.” 

Perubahan ini terjadi saat Anthropic terlibat dalam sengketa publik dengan Menteri Pertahanan AS, Pete Hegseth, karena menolak memberikan akses penuh ke Claude, menjadikannya satu-satunya laboratorium AI besar di antara Google, xAI, Meta, dan OpenAI yang mengambil sikap tersebut. Edward Geist, peneliti kebijakan senior di RAND Corporation, mengatakan bahwa kerangka “keamanan AI” sebelumnya muncul dari komunitas intelektual tertentu yang sudah ada sebelum model bahasa besar saat ini. “Beberapa tahun yang lalu, ada bidang keamanan AI,” kata Geist kepada Decrypt. “Keamanan AI dikaitkan dengan seperangkat pandangan tertentu yang berasal dari komunitas orang-orang yang peduli tentang AI yang kuat sebelum kita memiliki LLM ini.” Geist mengatakan bahwa para pendukung awal keamanan AI bekerja dari visi yang sangat berbeda tentang seperti apa kecerdasan buatan canggih itu.

“Mereka akhirnya memandang masalah ini dengan cara yang, dalam beberapa hal, membayangkan sesuatu yang secara kualitatif berbeda dari LLM saat ini, baik untuk lebih baik maupun lebih buruk,” kata Geist. Geist mengatakan bahwa perubahan bahasa ini juga mengirim sinyal kepada investor dan pembuat kebijakan. “Sebagian dari itu adalah memberi sinyal kepada berbagai konstituen bahwa banyak dari perusahaan ini ingin memberi kesan bahwa mereka tidak menahan diri dalam kompetisi ekonomi karena kekhawatiran tentang ‘keamanan AI,’” katanya, menambahkan bahwa terminologi itu sendiri sedang berubah sesuai zaman. Anthropic tidak sendiri dalam merevisi bahasa keselamatannya. Apa yang mendefinisikan keamanan AI? Laporan terbaru dari organisasi berita non-profit, The Conversation, menunjukkan bahwa OpenAI juga mengubah pernyataan misinya dalam pengajuan IRS 2024, menghapus kata “dengan aman.” Pernyataan sebelumnya berjanji untuk membangun AI umum yang “dengan aman memberi manfaat bagi umat manusia, tanpa dibatasi oleh kebutuhan menghasilkan keuntungan finansial.” Versi yang diperbarui sekarang menyatakan bahwa tujuannya adalah “untuk memastikan bahwa kecerdasan umum buatan memberi manfaat bagi seluruh umat manusia.” “Masalah dengan istilah keamanan AI adalah bahwa tidak ada yang benar-benar tahu apa artinya secara pasti,” kata Geist. “Lagipula, istilah keamanan AI juga diperdebatkan.” Kebijakan baru Anthropic menekankan langkah-langkah transparansi seperti menerbitkan “peta jalan keselamatan frontier” dan “laporan risiko” secara rutin, serta menyatakan akan menunda pengembangan jika mereka percaya ada risiko besar bencana.

Perubahan kebijakan Anthropic dan OpenAI terjadi saat perusahaan berusaha memperkuat posisi komersial mereka. Awal bulan ini, Anthropic mengumumkan mengumpulkan dana sebesar $30 miliar dengan valuasi sekitar $380 miliar. Pada saat yang sama, OpenAI menyelesaikan putaran pendanaan yang didukung oleh Amazon, Microsoft, dan Nvidia yang bisa mencapai $100 miliar. Anthropic dan OpenAI, bersama Google dan xAI, telah mendapatkan kontrak pemerintah yang menguntungkan dari Departemen Pertahanan AS. Namun, kontrak untuk Anthropic tampaknya diragukan karena Pentagon mempertimbangkan untuk memutuskan hubungan dengan perusahaan AI tersebut karena keluhan akses. Seiring masuknya modal ke sektor ini dan meningkatnya kompetisi geopolitik, Hamza Chaudhry, Pemimpin AI dan Keamanan Nasional di Future of Life Institute, mengatakan bahwa perubahan kebijakan ini mencerminkan dinamika politik yang berubah, bukan upaya mendapatkan bisnis Pentagon. “Kalau itu yang terjadi, mereka pasti akan mundur dari apa yang dikatakan Pentagon minggu lalu,” kata Chaudhry kepada Decrypt. “Dario [Amodei] tidak akan datang untuk bertemu.” Sebaliknya, Chaudhry mengatakan bahwa penulisan ulang ini mencerminkan titik balik dalam cara perusahaan AI berbicara tentang risiko seiring meningkatnya tekanan politik dan taruhan kompetitif. “Anthropic sekarang mengatakan, ‘Lihat, kami tidak bisa terus-menerus menyebut keselamatan, kami tidak bisa secara tanpa syarat menangguhkan, dan kami akan mendorong regulasi yang jauh lebih ringan,’” katanya.