Nadella kêu gọi các doanh nghiệp coi AI model là mối đe dọa nội bộ và thiết lập cơ chế phanh khẩn cấp

CEO của Microsoft (MSFT.US), ông Nadella cho biết các doanh nghiệp nên xem các mô hình trí tuệ nhân tạo mạnh mẽ như những mối đe dọa tiềm ẩn nội bộ, giả định rằng các mô hình này có thể đã bị xâm nhập và thiết lập cơ chế "phanh khẩn cấp" để ngăn các mô hình tác nhân thông minh có khả năng tự hành động vượt khỏi tầm kiểm soát. Vào thứ Bảy, ông Nadella đã đăng trên nền tảng mạng xã hội rằng: "Chúng ta phải giả định mô hình đã bị xâm nhập và giới hạn chúng ngay từ đầu. Hãy coi đây như một thiết bị phanh khẩn cấp. Người có thẩm quyền phải luôn có thể tạm dừng hoặc tắt mô hình trong quá trình nó thực hiện nhiệm vụ." Những đề xuất an toàn của Nadella bao gồm: không dựa vào một mô hình duy nhất để ra quyết định quan trọng; lưu trữ hồ sơ hành vi tác nhân không thể bị thay đổi; và cho hệ thống được kiểm toán độc lập. Ông cũng kêu gọi công khai những sự cố nghiêm trọng hoặc lỗ hổng bảo mật, yêu cầu các doanh nghiệp chia sẻ nguyên nhân sự cố cũng như các chi tiết liên quan để các tổ chức khác có thể tăng cường các biện pháp bảo vệ an ninh.