Pejabat AS Memperingatkan Wall Street tentang Risiko AI Anthropic

Mitos Model Menyorot Risiko Keamanan

Fokusnya adalah pada model Mythos dari perusahaan Anthropic yang diduga mendeteksi dan memanfaatkan kerentanan dalam sistem operasi serta platform web. Selain itu, perusahaan tersebut mengakui bahwa model ini mampu mensimulasikan serangan ketika dipancing dalam kondisi yang terkontrol. Dengan demikian, pihak berwenang menganggap kemampuan semacam itu sebagai potensi ancaman jika disalahgunakan oleh individu yang berniat buruk. Hal ini meningkatkan pengawasan di bidang keuangan dan regulasi. Anthropic menikmati akses terbatas ke Mythos dan sedang mengembangkan aplikasi defensif dengan Project Glasswing. Perusahaan besar seperti Amazon, Apple, dan JPMorgan Chase menjadi bagian dari inisiatif tersebut. Selain itu, organisasi seperti Google, NVIDIA, dan Linux Foundation turut terlibat. Dengan menawarkan peningkatan keamanan perangkat lunak melalui deteksi kerentanan berbasis AI, kelompok-kelompok ini mengejar tujuan tersebut.

Perusahaan itu menginvestasikan banyak sumber daya untuk mempromosikan inisiatif ini dan memperluas cakupan pertahanan. Anthropic menyediakan hingga 100 juta kredit penggunaan dan 4 juta untuk pendanaan langsung. Selain itu, lebih dari 40 organisasi yang mengendalikan infrastruktur kritis mampu mengakses sistem tersebut. Upaya bersama ini bertujuan untuk menemukan dan menyelesaikan cacat berkeparahan tinggi pada perangkat lunak populer. Anthropic tetap menarik seiring perubahan dalam perkembangan hukum dan regulasi. Pemerintahan Trump mencoba mengambil langkah terhadap perusahaan itu dalam klasifikasinya, tetapi dicegah oleh pengadilan federal di San Francisco. Hakim Rita Lin memerintahkan bahwa penetapan tersebut tidak didasarkan secara substansial pada dasar undang-undang. Oleh karena itu, putusan ini hanya menjadi penangguhan sementara, karena perusahaan-perusahaan AI tetap berada di bawah pengawasan.

Perusahaan tersebut mencatat pertumbuhan keuangan yang kuat, dan pendapatan tahunan berulangnya meningkat tajam dalam beberapa bulan terakhir. Hal ini meningkatkan minat baik di bidang teknologi maupun keuangan. Selain itu, para analis masih menilai dampak keseluruhan pada perusahaan pesaing, seperti Palantir Technologies. Pelaku di dalam pasar terus memantau cara penerapan AI memengaruhi persaingan di industri. Inovasi terbaru di Anthropic telah memicu meningkatnya minat pada keamanan AI, persyaratan regulasi, dan konsekuensi pasar. Semua itu tetap berpengaruh dalam perdebatan kebijakan dan kesiapan finansial.

Artikel ini awalnya diterbitkan sebagai US Officials Warn Wall Street About the Risks of Anthropic AI on Crypto Breaking News – your trusted source for crypto news, Bitcoin news, and blockchain updates.