Pejabat AS Memperingatkan Wall Street Tentang Risiko AI Anthropic

Model Mythos Menandai Risiko Keamanan

Fokusnya adalah pada model Mythos oleh perusahaan Anthropic yang diduga mendeteksi dan menggunakan kerentanan dalam sistem operasi dan platform web. Selain itu, perusahaan mengakui bahwa model tersebut mampu mensimulasikan serangan ketika diprovokasi dalam kondisi terkontrol. Dengan demikian, otoritas menganggap kemampuan tersebut sebagai ancaman potensial ketika disalahgunakan oleh individu yang berniat jahat. Hal ini telah meningkatkan pengawasan di bidang keuangan dan regulasi. Anthropic menikmati akses terbatas ke Mythos dan mengembangkan aplikasi defensif dengan Project Glasswing. Perusahaan besar seperti Amazon, Apple, dan JPMorgan Chase adalah bagian dari inisiatif tersebut. Selain itu, organisasi seperti Google, NVIDIA dan Linux Foundation ikut terlibat. Menawarkan untuk meningkatkan keamanan perangkat lunak melalui deteksi kerentanan berbasis AI, kelompok-kelompok ini mengejar tujuan tersebut.

Perusahaan menginvestasikan banyak sumber daya dalam mempromosikan inisiatif dan memperdalam cakupan defensif. Anthropic menyediakan hingga 100 juta kredit penggunaan dan 4 juta dalam pendanaan langsung. Selain itu, lebih dari 40 organisasi yang mengendalikan infrastruktur kritis dapat mengakses sistem tersebut. Upaya bersama ini bertujuan untuk menemukan dan menyelesaikan cacat tingkat tinggi dalam perangkat lunak populer. Anthropic tetap menarik dengan perubahan dalam perkembangan hukum dan regulasi. Pemerintahan Trump mencoba mengambil langkah-langkah terhadap perusahaan dalam klasifikasinya tetapi dihentikan oleh pengadilan federal di San Francisco. Hakim Rita Lin memerintahkan bahwa penunjukan tersebut tidak berdasarkan hukum secara substansial. Oleh karena itu, putusan ini merupakan jeda sementara karena perusahaan AI tetap berada di bawah pengawasan.

Perusahaan telah mencatat pertumbuhan keuangan yang kuat, dan pendapatan berulang tahunannya telah meningkat tajam selama beberapa bulan terakhir. Hal ini telah meningkatkan minat baik dalam teknologi maupun keuangan. Selain itu, analis masih mengevaluasi dampak keseluruhan pada perusahaan pesaing, seperti Palantir Technologies. Para pelaku di pasar terus melacak cara implementasi AI mempengaruhi persaingan dalam industri. Inovasi terbaru di Anthropic telah membawa peningkatan minat dalam keamanan AI, persyaratan regulasi dan konsekuensi pasar. Hal-hal ini tetap berpengaruh dalam perdebatan kebijakan dan kesiapan keuangan.

Artikel ini awalnya diterbitkan sebagai Pejabat AS Memperingatkan Wall Street Tentang Risiko AI Anthropic di Crypto Breaking News – sumber terpercaya Anda untuk berita crypto, berita Bitcoin, dan pembaruan blockchain.