Buterin tự tin rằng điều ngược lại hoàn toàn có thể xảy ra: AI có thể cung cấp cho các nhà phòng thủ những công cụ cần thiết để xây dựng phần mềm khó khai thác hơn rất nhiều ngay từ đầu.
"Ngày càng có nhiều ý kiến cho rằng sự tấn công bằng AI đồng nghĩa với việc an ninh mạng không còn hy vọng. Tôi không đồng ý," Buterin viết trong một bài đăng dài và giàu nội dung trên mạng xã hội X vào thứ Tư.
Theo đồng sáng lập Ethereum, an ninh mạng nên tự nhiên ưu tiên cho phía phòng thủ khi các nhà phát triển tận dụng tối đa việc xác minh hình thức.
Buterin cũng liên hệ niềm tin này trực tiếp tới trải nghiệm của bản thân với tiền mã hóa, tiết lộ rằng khoảng 90% giá trị tài sản ròng của ông vẫn nằm trong crypto.
Ông cho rằng bất cứ ai tiếp tục nắm giữ lượng lớn crypto đều mặc định đặt cược rằng các hệ thống số đủ an toàn vẫn có thể được xây dựng bất chấp kẻ tấn công ngày càng tinh vi.
"Nếu AI có thể chứng minh Navier-Stokes và FLT, thì AI cũng có thể chứng minh mệnh đề 'chương trình này an toàn' như một định lý toán học," Buterin viết, nhắc tới bài toán Navier-Stokes và Định lý cuối cùng của Fermat.
Lập luận của ông dựa trên xác minh hình thức, một phương pháp chứng minh bằng toán học rằng phần mềm đáp ứng các thuộc tính nhất định.
Buterin đã phân tích sâu ý tưởng này trong bài luận tháng Năm, nơi ông mô tả xác minh hình thức với sự hỗ trợ của AI là một công cụ chuyển đổi lớn đối với phần mềm có tầm quan trọng về bảo mật. Tuy nhiên, việc chứng minh phần mềm như vậy thực sự an toàn có thể sẽ rất thách thức.
Vấn đề định nghĩa
Buterin lấy ví dụ về ứng dụng nhắn tin mã hóa Signal để minh họa cho lý do khiến điều này có thể gặp khó khăn.
Một kẻ tấn công có thể cố gắng giả mạo tin nhắn, ngăn không cho tin nhắn đến nơi, phát lại các tin nhắn cũ, xâm nhập máy chủ, thao túng quá trình phát hiện khóa công khai của người dùng khác, hoặc khai thác lỗ hổng trong hệ điều hành.
Các vấn đề khác có thể phát sinh từ cơ sở dữ liệu bị tổn hại, thư viện độc hại, trình biên dịch hoặc thậm chí là rò rỉ thông tin ở cấp độ phần cứng.
Ngay cả khi nội dung cuộc trò chuyện vẫn được mã hóa, kẻ tấn công vẫn có thể biết ai đang liên lạc với ai. Do đó, định nghĩa toán học về "an toàn" thực sự có thể trở nên vô cùng phức tạp.
"Vậy nên ... thậm chí định nghĩa cũng có thể dài hàng nghìn dòng mã, và cần phải cân nhắc kỹ lưỡng để hiểu chúng," Buterin viết.
Kẻ tấn công và người phòng thủ
Không thể phủ nhận, các hệ thống AI mạnh hơn có thể giúp việc tìm ra lỗ hổng trở nên dễ dàng hơn.
Tuy nhiên, sự tiến bộ tương tự trong lý luận máy móc cũng có thể giảm đáng kể chi phí xác minh hình thức rằng phần mềm tuân theo các thông số kỹ thuật bảo mật đã xây dựng cẩn thận.
Cả hai bên đều sẽ có AI.
