Nadella insta a las empresas a considerar los modelos de IA como una amenaza interna y a establecer mecanismos de freno de emergencia.

El CEO de Microsoft (MSFT.US), Nadella, expresó que las empresas deben considerar a los potentes modelos de inteligencia artificial como posibles amenazas internas, asumir que estos modelos pueden haber sido vulnerados y establecer un mecanismo de “freno de emergencia” para evitar que los agentes inteligentes con capacidad de actuar de forma autónoma se descontrolen. Nadella publicó el sábado en una red social: “Debemos asumir que los modelos ya han sido comprometidos y aplicarles restricciones desde el principio. Se puede imaginar como un dispositivo de freno de emergencia. El personal autorizado siempre debe poder pausar o apagar el modelo durante la ejecución de tareas”. Entre las recomendaciones de seguridad de Nadella se incluyen: no depender de un solo modelo para tomar decisiones críticas; mantener registros inalterables del comportamiento de los agentes; y someter el sistema a auditorías independientes. Además, instó a divulgar fallos importantes o vulnerabilidades de seguridad, exigiendo que las empresas compartan las causas de los incidentes y los detalles correspondientes para que otras compañías puedan reforzar sus medidas de protección.