Nadella mendesak perusahaan untuk menganggap model AI sebagai ancaman internal dan menetapkan mekanisme rem darurat.

Microsoft (MSFT.US) CEO Nadella menyatakan bahwa perusahaan sebaiknya menganggap model kecerdasan buatan yang sangat canggih sebagai potensi ancaman internal, dengan asumsi bahwa model-model tersebut mungkin sudah berhasil ditembus, dan membangun mekanisme "rem darurat" untuk mencegah model agen yang memiliki kemampuan bertindak secara otonom menjadi tidak terkendali. Pada hari Sabtu, Nadella menulis di platform media sosial: "Kita harus mengasumsikan bahwa model telah berhasil ditembus, dan melakukan pembatasan sejak awal. Anda bisa membayangkannya sebagai semacam alat rem darurat. Personel yang berwenang harus selalu dapat menghentikan atau mematikan model saat menjalankan tugasnya." Rekomendasi keamanan yang diajukan oleh Nadella mencakup: tidak mengandalkan satu model untuk mengambil keputusan penting; menyimpan catatan perilaku agen yang tidak dapat diubah; serta memastikan sistem menjalani audit independen. Ia juga menyerukan agar perusahaan melaporkan kegagalan besar atau kerentanan keamanan dan membagikan penyebab serta detail insiden, sehingga perusahaan lain dapat meningkatkan langkah-langkah perlindungan keamanan mereka.