Buterin yakin bahwa hasil yang sebaliknya bisa terjadi: AI dapat memberikan alat bagi para pembela untuk membangun perangkat lunak yang jauh lebih sulit dieksploitasi sejak awal.
"Semakin banyak pendapat umum bahwa peretasan AI berarti keamanan siber akan hancur. Saya tidak setuju," tulis Buterin dalam sebuah posting media sosial yang panjang dan substansial di X pada hari Rabu.
Menurut co-founder Ethereum, keamanan siber secara alami harus menguntungkan pembela begitu para pengembang mulai memanfaatkan verifikasi formal secara penuh.
Buterin juga mengaitkan keyakinan ini langsung dengan keterlibatannya dalam cryptocurrency, mengungkapkan bahwa sekitar 90% kekayaannya masih dalam bentuk crypto.
Seseorang yang terus memegang jumlah besar cryptocurrency, kata dia, secara implisit bertaruh bahwa sistem digital yang cukup aman bisa dibangun meskipun penyerangnya semakin canggih.
"Jika AI bisa membuktikan Navier-Stokes dan FLT, maka AI bisa membuktikan pernyataan 'program ini aman' sebagai sebuah teorema matematika," tulis Buterin, merujuk pada masalah Navier-Stokes dan Fermat's Last Theorem.
Argumennya didasarkan pada verifikasi formal, metode untuk menunjukkan secara matematis bahwa perangkat lunak memenuhi sifat tertentu.
Buterin secara mendalam mengeksplorasi gagasan ini dalam esai bulan Mei-nya, di mana ia menggambarkan verifikasi formal berbantuan AI sebagai alat transformatif besar untuk perangkat lunak yang kritis terhadap keamanan. Namun, membuktikan bahwa perangkat lunak seperti itu benar-benar aman bisa menjadi tantangan.
Masalah definisi
Buterin menggunakan aplikasi pesan terenkripsi Signal sebagai contoh untuk menunjukkan mengapa hal ini bisa menjadi sulit.
Penyerang mungkin mencoba memalsukan pesan, mencegah pesan sampai, memutar ulang pesan lama, meretas server, memanipulasi proses menemukan public key pengguna lain, atau mengeksploitasi kerentanan di sistem operasi.
Masalah lain bisa muncul dari basis data yang rusak, library berbahaya, kompilator, atau bahkan kebocoran informasi di level perangkat keras.
Walaupun isi percakapan tetap terenkripsi, penyerang tetap bisa mengetahui siapa yang sedang berkomunikasi. Akibatnya, definisi matematis mengenai arti "aman" bisa menjadi sangat rumit.
"Jadi ... bahkan definisi bisa lebih dari seribu baris kode, dan perlu pemikiran yang mendalam dan hati-hati untuk memahaminya," tulis Buterin.
Penyerang dan pembela
Tidak diragukan lagi, sistem AI yang lebih canggih dapat mempermudah menemukan kerentanan.
Namun, peningkatan kemampuan penalaran mesin juga dapat menurunkan secara dramatis biaya untuk membuktikan secara formal bahwa perangkat lunak berperilaku sesuai dengan standar keamanan yang telah dirancang dengan cermat.
Kedua sisi akan memiliki AI.
