Sự kết hợp của AI và Web3: Những thách thức về an ninh do sự trỗi dậy của DeFAI

Gần đây, tại sự kiện Tuần lễ Blockchain tổ chức ở Istanbul, sự kết hợp giữa AI và Web3 đã trở thành chủ đề hot. Nhiều chuyên gia đến từ các công ty an ninh và dự án blockchain đã có những cuộc thảo luận sâu sắc về tình trạng ứng dụng công nghệ AI trong lĩnh vực tài chính phi tập trung (DeFi) và những thách thức an ninh mà nó mang lại.

Với sự phát triển nhanh chóng của các mô hình ngôn ngữ lớn và đại lý AI, một mô hình tài chính mới được gọi là "DeFAI" (Tài chính AI phi tập trung) đang dần hình thành. Tuy nhiên, sự đổi mới này cũng mang đến những mối nguy hiểm về an ninh và rủi ro tiềm ẩn mới.

Các chuyên gia chỉ ra rằng, khác với hợp đồng thông minh dựa trên logic cố định truyền thống, quá trình ra quyết định của đại lý AI sẽ bị ảnh hưởng bởi nhiều yếu tố, chẳng hạn như ngữ cảnh, thời gian và thậm chí là tương tác lịch sử. Sự không thể đoán trước này không chỉ làm tăng rủi ro cho hệ thống mà còn cung cấp cơ hội cho những kẻ tấn công tiềm năng.

AI đại lý về bản chất là những tác nhân thông minh có khả năng tự quyết định và thực thi dựa trên logic AI, thường được người dùng, giao thức hoặc tổ chức tự trị phi tập trung (DAO) ủy quyền hoạt động. Hiện tại, robot giao dịch AI là đại diện điển hình nhất trong số đó. Phần lớn các đại lý AI vẫn hoạt động trên nền tảng Web2, phụ thuộc vào máy chủ và API tập trung, điều này khiến chúng dễ bị tấn công từ nhiều hướng khác nhau, chẳng hạn như tấn công tiêm, thao túng mô hình hoặc giả mạo dữ liệu. Một khi bị kẻ tấn công chiếm đoạt, không chỉ có thể dẫn đến mất mát tài chính mà còn có thể ảnh hưởng đến sự ổn định của toàn bộ giao thức.

Các chuyên gia cũng đã thảo luận về một kịch bản tấn công điển hình: khi các đại lý giao dịch AI mà người dùng DeFi đang vận hành đang theo dõi các tin nhắn trên mạng xã hội như là tín hiệu giao dịch, kẻ tấn công có thể phát hành báo động giả, chẳng hạn như tuyên bố rằng một giao thức nào đó đang bị tấn công. Điều này có thể khiến các đại lý AI ngay lập tức khởi động các thao tác thanh lý khẩn cấp, không chỉ dẫn đến tổn thất tài sản của người dùng mà còn có thể gây ra biến động thị trường, bị kẻ tấn công lợi dụng thông qua các phương pháp như giao dịch trước.

Đối với những rủi ro này, các chuyên gia tham gia hội nghị đều nhất trí rằng an toàn của AI đại diện không nên chỉ do một bên đảm nhận, mà cần có sự hợp tác giữa người dùng, các nhà phát triển và các tổ chức an ninh bên thứ ba.

Đối với người dùng, cần phải hiểu rõ phạm vi quyền hạn mà đại lý sở hữu, cẩn thận cấp quyền và theo dõi chặt chẽ các hoạt động rủi ro cao của đại lý AI. Các nhà phát triển nên triển khai các biện pháp phòng ngừa ngay từ giai đoạn thiết kế, chẳng hạn như củng cố từ khóa, cô lập sandbox, giới hạn tốc độ và logic phục hồi. Các công ty an ninh bên thứ ba nên cung cấp đánh giá độc lập về hành vi mô hình của đại lý AI, cơ sở hạ tầng và cách tích hợp trên chuỗi, đồng thời hợp tác với các nhà phát triển và người dùng để xác định rủi ro và đề xuất biện pháp giảm thiểu.

Các chuyên gia cảnh báo rằng nếu tiếp tục coi các đại lý AI như một "hộp đen", thì chỉ còn là vấn đề thời gian trước khi xảy ra các sự cố an toàn trong thế giới thực. Đối với các nhà phát triển đang khám phá hướng DeFAI, họ được khuyên nên nhận thức rằng logic hành vi của đại lý AI cũng được thực hiện bằng mã, do đó cũng có khả năng bị tấn công, cần thực hiện kiểm toán an ninh chuyên nghiệp và kiểm tra xâm nhập.

Với sự phát triển và ứng dụng không ngừng của công nghệ blockchain, các vấn đề an ninh liên quan ngày càng trở nên đáng chú ý. Sự kiện Tuần lễ Blockchain lần này đã thu hút nhiều nhà phát triển, bên dự án, nhà đầu tư và nhà quản lý từ khắp nơi trên thế giới tham gia, cùng nhau thảo luận về định hướng phát triển tương lai của ngành và các chiến lược ứng phó.