Altman Menuduh Anthropic Melakukan 'Pemasaran Berbasis Ketakutan' untuk Mitos Claude

CEO OpenAI Sam Altman telah menuduh rivalnya Anthropic menggunakan “pemasaran berbasis ketakutan” untuk mempromosikan model AI Claude Mythos, menurut komentar yang dibuat di podcast Core Memory yang dibawakan oleh jurnalis teknologi Ashlee Vance. Altman berpendapat bahwa retorika berbasis ketakutan tersebut dirancang untuk membenarkan upaya menjaga sistem AI yang canggih agar tetap berada di bawah kendali “sekelompok orang yang lebih kecil,” meskipun ia mengakui bahwa beberapa kekhawatiran keselamatan memang sah.

Kritik Pemasaran Altman

Altman menyatakan bahwa meskipun ada kekhawatiran yang valid terkait keselamatan AI, “ini jelas pemasaran yang luar biasa untuk mengatakan: ‘Kami telah membangun sebuah bom. Kami akan menjatuhkannya ke atas kepala Anda. Kami akan menjual tempat perlindungan bom kepada Anda seharga $100 juta. Anda perlu itu untuk menjalankan semua barang Anda, tapi hanya jika kami memilih Anda sebagai pelanggan.’” Ia mencatat bahwa “tidak selalu mudah” menyeimbangkan kemampuan AI yang baru dengan keyakinan bahwa teknologi tersebut harus dapat diakses.

Altman mengakui bahwa “akan ada kekhawatiran keselamatan yang sah,” tetapi menyarankan bahwa pesan berbasis ketakutan dapat dipersenjatai untuk membenarkan kendali terpusat. Ia menyatakan: “jika yang Anda inginkan seperti ‘kita perlu kendali atas AI, hanya kita, karena kami orang-orang yang tepercaya’, saya pikir pemasaran berbasis ketakutan adalah cara yang paling efektif untuk membenarkan itu.”

Kemampuan dan Distribusi Claude Mythos

Model Anthropics Claude Mythos diumumkan bulan lalu dan telah menarik perhatian signifikan dari peneliti, pemerintah, dan industri keamanan siber. Menurut pengujian, model ini dapat secara otonom mengidentifikasi kerentanan perangkat lunak dan menjalankan operasi siber kompleks. Selama pengujian, Mythos mengidentifikasi ratusan kerentanan pada peramban Firefox milik Mozilla dan telah menunjukkan kemampuan untuk melakukan simulasi serangan siber berlapis.

Anthropic telah membatasi akses ke sistem melalui Project Glasswing, sebuah program terbatas yang memberi perusahaan-perusahaan tertentu—termasuk Amazon, Apple, dan Microsoft—kemampuan untuk menguji kapabilitasnya. Perusahaan ini juga telah berkomitmen pada sumber daya yang signifikan untuk mendukung upaya keamanan berbasis open-source, dengan alasan bahwa para pembela harus memperoleh manfaat dari teknologi tersebut sebelum teknologi itu menjadi lebih tersedia secara luas.

Kerangka Keselamatan dan Respons Pemerintah

Anthropic telah membingkai kapabilitas Mythos sebagai terobosan defensif—yang memungkinkan deteksi lebih cepat terhadap kekurangan perangkat lunak kritis—dan sebagai potensi risiko ofensif jika disalahgunakan. Model ini juga telah mengungkap keterbatasan dalam sistem evaluasi AI yang ada, dengan Anthropic mengakui bahwa banyak tolok ukur keamanan siber saat ini sudah tidak cukup untuk mengukur kapabilitas sistem terbarunya.

Meskipun ada seruan di beberapa bagian pemerintahan AS untuk menghentikan penggunaan teknologi tersebut karena kekhawatiran atas potensi penerapannya dalam perang dan pengawasan, Badan Keamanan Nasional (NSA) dilaporkan telah mulai menguji versi pratinjau model tersebut di jaringan yang diklasifikasikan. Di pasar prediksi Myriad, pengguna memberikan peluang 49% bahwa Claude Mythos akan dirilis kepada publik yang lebih luas sebelum 30 Juni.

Sekelompok peneliti mengklaim pekan lalu bahwa mereka mampu mereproduksi temuan Mythos menggunakan model yang tersedia secara publik.

Retorika Rilis AI yang Lebih Luas

Altman menyarankan bahwa retorika seputar sistem AI yang sangat berbahaya mungkin meningkat seiring peningkatan kapabilitas, tetapi berpendapat bahwa tidak semua klaim tersebut harus diterima begitu saja. Ia menyatakan: “Akan ada banyak retorika lagi tentang model-model yang terlalu berbahaya untuk dirilis. Akan ada juga model-model yang sangat berbahaya yang harus dirilis dengan cara-cara yang berbeda. Saya yakin Mythos adalah model yang hebat untuk keamanan siber, tetapi saya pikir kami punya rencana yang kami rasa baik untuk bagaimana kami mengeluarkan jenis kapabilitas ini ke dunia.”

Altman juga menolak saran bahwa OpenAI sedang mengurangi belanja infrastruktur, dengan mengatakan perusahaan itu akan terus memperluas kapasitas komputasinya. Ia mencatat: “Saya tidak tahu itu berasal dari mana… orang-orang benar-benar ingin menulis kisah tentang menarik diri. Tapi dalam waktu yang sangat singkat, itu akan lagi seperti, ‘OpenAI sangat ceroboh. Bagaimana mereka bisa membelanjakan jumlah gila sebesar itu?’"