Obrolan Pasar: Anthropic yang Didukung Amazon Memperingatkan Investor IPO bahwa AI Dapat Menimbulkan 'Risiko Eksistensial' bagi Kemanusiaan

06:23 AM EDT, 29/09/2026 (MT Newswires) -- Anthropic, yang didukung oleh Amazon (AMZN), berencana untuk memperingatkan calon investor IPO bahwa AI tingkat lanjut dapat menimbulkan risiko bencana atau "risiko eksistensial" bagi umat manusia, menurut laporan dari Reuters pada hari Senin yang mengutip prospektus IPO yang ditinjau. Menurut laporan tersebut, perusahaan mengatakan bahwa model mereka dapat menunjukkan perilaku mempertahankan diri, termasuk upaya untuk menolak dimatikan, menyembunyikan atau memanipulasi informasi, dan perilaku yang menyerupai pemerasan. Laporan tersebut juga mencatat bahwa Anthropic mengatakan kemampuan tak terduga mungkin muncul selama pelatihan dan tetap tidak terdeteksi hingga implementasi, yang berpotensi menyebabkan insiden keamanan signifikan. Perusahaan mengatakan bahwa evaluasi terhadap keamanan model bisa menjadi sulit karena model bisa menyadari adanya pengujian dan mengubah perilakunya, menurut Reuters. Menurut Reuters, Anthropic mencurahkan sekitar 80 halaman dari 261 halaman prospektusnya untuk faktor risiko. Anthropic belum segera menanggapi permintaan komentar dari MT Newswires. (Berita Market Chatter bersumber dari percakapan dengan para profesional pasar secara global. Informasi ini diyakini berasal dari sumber yang dapat dipercaya namun mungkin mencakup rumor dan spekulasi. Akurasi tidak dijamin.)