Nadella wzywa firmy do traktowania modeli AI jako wewnętrznego zagrożenia i wprowadzenia mechanizmów awaryjnego zatrzymania.

Microsoft (MSFT.US) CEO Satya Nadella stwierdził, że przedsiębiorstwa powinny traktować zaawansowane modele sztucznej inteligencji jako potencjalne wewnętrzne zagrożenie, zakładając, że mogły już zostać zaatakowane, oraz wdrożyć mechanizm „awaryjnego hamowania”, aby zapobiec wymknięciu się spod kontroli modeli agentów zdolnych do samodzielnego działania. Nadella napisał w sobotę na platformie społecznościowej: „Musimy założyć, że modele już zostały naruszone i od samego początku stosować wobec nich ograniczenia. Można to sobie wyobrazić jako urządzenie awaryjnego hamowania. Osoby upoważnione powinny zawsze mieć możliwość wstrzymania lub wyłączenia modelu podczas wykonywania przez niego zadań.” Do propozycji Nadelli dotyczących bezpieczeństwa należą: niepoleganie na jednym modelu przy podejmowaniu kluczowych decyzji; zachowywanie niezmiennych rejestrów zachowań agentów; oraz poddawanie systemu niezależnemu audytowi. Wezwał on również do ujawniania poważnych awarii lub luk w zabezpieczeniach, wymagając od przedsiębiorstw dzielenia się przyczynami incydentów i istotnymi szczegółami, aby inne firmy mogły wzmacniać swoje środki ochrony bezpieczeństwa.