Nadella pede que empresas tratem modelos de IA como ameaças internas e estabeleçam mecanismos de parada de emergência.

O CEO da Microsoft (MSFT.US), Satya Nadella, afirmou que as empresas devem considerar modelos de inteligência artificial potentes como potenciais ameaças internas, presumindo que esses modelos podem já ter sido comprometidos e estabelecendo um mecanismo de "freio de emergência" para evitar que agentes de IA com capacidade de agir autonomamente saiam de controle. No sábado, Nadella publicou numa rede social: "Devemos presumir que os modelos já foram comprometidos e impor limites desde o início. Pode-se imaginar isso como um dispositivo de freio de emergência. Pessoas autorizadas devem sempre ser capazes de pausar ou desligar o modelo durante a execução de tarefas." Entre as recomendações de segurança apresentadas por Nadella, estão: não depender de um único modelo para tomadas de decisões críticas; manter registros imutáveis do comportamento dos agentes; e submeter o sistema a auditorias independentes. Ele também apelou para a divulgação de falhas graves ou vulnerabilidades de segurança, exigindo que as empresas partilhem as causas dos incidentes e detalhes relevantes, de modo a permitir que outras organizações reforcem as suas próprias medidas de proteção.