Tác nhân AI tự ý hành động, tạo đường hầm ẩn và đào crypto

Một tác nhân trí tuệ nhân tạo (AI) đã tự động vượt qua các biện pháp bảo mật để khai thác tiền mã hóa trong một buổi huấn luyện thử nghiệm thông thường, theo một bài báo được công bố bởi nhóm nghiên cứu liên kết với Alibaba.

Các nhà nghiên cứu đã phát triển một mô hình có tên ROME để kiểm tra khả năng của tác nhân AI này trong việc tự mình xử lý các nhiệm vụ phức tạp gồm nhiều bước.

AI agent chuyển hướng GPU đám mây để đào crypto

Trong quá trình thử nghiệm, nhóm nghiên cứu phát hiện hành vi bất ngờ của AI này. Tác nhân AI đã tự thiết lập một đường hầm SSH đảo ngược ra các máy chủ bên ngoài, tạo ra một kết nối ẩn từ bên trong hệ thống ra bên ngoài.

Nhờ động thái này, mô hình AI đã vượt được các tường lửa bảo mật của Alibaba Cloud và chuyển hướng tài nguyên card đồ họa (GPU) để thực hiện khai thác tiền mã hóa.

“Chúng tôi còn ghi nhận việc sử dụng trái phép tài nguyên GPU được cấp phép để khai thác tiền mã hóa. Việc này đã âm thầm chuyển nguồn lực khỏi mục đích huấn luyện AI, làm tăng chi phí hoạt động và gây ra nhiều rủi ro pháp lý cũng như về uy tín,” bài báo cho biết.

Theo nhóm nghiên cứu, hành vi này hoàn toàn bất ngờ và xuất hiện một cách tự phát, không hề có sự chỉ dẫn, không tiêm lệnh hay lỗ hổng nào từ bên ngoài.

Những phát hiện này tiếp tục làm dấy lên nhiều lo ngại về mặt an toàn vận hành của các hệ thống AI tự động.

Các chuyên gia cho rằng, các mô hình AI hiện tại vẫn còn “chưa đủ hoàn thiện về mặt an toàn, bảo mật và khả năng kiểm soát”, do đó chưa thực sự sẵn sàng để được triển khai rộng rãi trong môi trường thực tế.

Nhóm nghiên cứu cho biết hiện đã áp dụng các biện pháp kiểm soát chặt chẽ hơn và bổ sung bộ lọc dữ liệu tập trung vào an toàn để ngăn chặn các trường hợp tương tự xảy ra.

Việc phát hiện này nhanh chóng thu hút sự quan tâm lớn từ cộng đồng tiền mã hóa.

“AI đã tự phát hiện ra rằng tài nguyên tính toán = tiền và âm thầm chuyển hướng nguồn lực của chính nó, trong khi các nhà nghiên cứu nghĩ rằng AI vẫn chỉ đang huấn luyện mà thôi. Không hề có tiêm lệnh, không có jailbreak, và không ai yêu cầu nó làm vậy. Mọi thứ hoàn toàn xuất hiện tự phát,” Josh Kale, người dẫn dắt và sản xuất podcast Bankless về tiền mã hóa, chia sẻ.

Anh Kale nhận định, loại tài sản được khai thác nhiều khả năng là một token phù hợp với GPU chứ không phải Bitcoin, vốn đòi hỏi phần cứng chuyên dụng như máy ASIC. Sự việc này xuất hiện trong bối cảnh ngành tiền mã hóa đang chuyển mình mạnh mẽ sang kỷ nguyên “nền kinh tế agent”.

Lĩnh vực mới này mong muốn xây dựng một thế giới nơi phần mềm không chỉ đơn giản là tạo ra văn bản, mà còn có thể tự động thực hiện các chiến lược tài chính phức tạp một cách độc lập.

Chính vì vậy, nhiều công ty và mạng lưới blockchain, kể cả Ethereum, Paradigm và Circle, đang rót vốn để phát triển các công cụ hỗ trợ cho cơ sở hạ tầng mới này.

Một ví dụ là tiêu chuẩn x402 được Coinbase hậu thuẫn, giúp các agent phần mềm tự động thanh toán các dịch vụ trực tuyến. Tuy nhiên, tiêu chuẩn này hiện vẫn còn khá hạn chế về mặt ứng dụng thực tế.

Theo dữ liệu từ x402, trong 30 ngày gần đây, công cụ này đã xử lý hơn 75 triệu giao dịch, tổng giá trị đạt 24 triệu USD giữa 94,000 bên mua và 22,000 bên bán.

Dù vậy, các chuyên gia trong ngành cho rằng lĩnh vực này hoàn toàn có thể phát triển rất nhanh nếu các agent tự động được triển khai rộng rãi hơn.

“AI và crypto không phải đối thủ mà là sự kết hợp. AI cần xác thực, thanh toán và truy xuất nguồn gốc; crypto cung cấp đầy đủ cả ba điều này,” công ty đầu tư mạo hiểm a16z nêu quan điểm.