Buterin confía en que podría suceder lo contrario: la IA podría dar a los defensores las herramientas necesarias para crear software que sea significativamente más difícil de explotar desde el principio.
"Es cada vez más común decir que el hacking con IA significa que la ciberseguridad está condenada. Yo no estoy de acuerdo," escribió Buterin en un extenso y característico post en la red social X el miércoles.
Según el cofundador de Ethereum, la ciberseguridad debería favorecer naturalmente a los defensores una vez que los desarrolladores comiencen a aprovechar plenamente la verificación formal.
Buterin también vinculó esta creencia directamente con su propia exposición a las criptomonedas, revelando que aproximadamente el 90% de su patrimonio neto permanece en crypto.
Quienes continúan manteniendo cantidades significativas de crypto, argumentó, están apostando implícitamente a que se puedan construir sistemas digitales suficientemente seguros pese a atacantes cada vez más sofisticados.
"Si la IA puede probar Navier-Stokes y FLT, entonces la IA puede demostrar la declaración 'este programa es seguro' como un teorema matemático," escribió Buterin, refiriéndose al problema de Navier-Stokes y al Último Teorema de Fermat.
Su argumento se basa en la verificación formal, un método para demostrar matemáticamente que el software cumple con propiedades específicas.
Buterin exploró esta misma idea de forma extensa en su ensayo de mayo, en el que describió la verificación formal asistida por IA como una herramienta sumamente transformadora para el software crítico en seguridad. Sin embargo, demostrar que dicho software es seguro podría ser un desafío.
El problema de la definición
Buterin utilizó la app de mensajería encriptada Signal como ejemplo para mostrar por qué esto podría ser difícil.
Un atacante podría intentar falsificar mensajes, impedir que lleguen, reenviar mensajes antiguos, comprometer un servidor, manipular el proceso para descubrir la clave pública de otro usuario, o explotar una vulnerabilidad en el sistema operativo.
Otros problemas podrían surgir por bases de datos corruptas, bibliotecas maliciosas, compiladores o incluso fugas de información a nivel de hardware.
Aunque el contenido de una conversación se mantenga encriptado, un atacante igual podría averiguar quién está comunicándose. Como resultado, la definición matemática de lo que significa realmente "seguro" podría volverse extremadamente complicada.
"Así que... incluso las definiciones pueden ocupar más de mil líneas de código, y requieren un pensamiento profundo y cuidadoso para descifrarlas," escribió Buterin.
Atacante y defensor
Sin duda, sistemas de IA más capaces podrían facilitar mucho la búsqueda de vulnerabilidades.
Sin embargo, la misma mejora en el razonamiento de las máquinas también podría reducir drásticamente el costo de probar formalmente que el software se comporta según especificaciones de seguridad cuidadosamente construidas.
Ambos lados tendrán IA.
