Alabama mở cuộc điều tra về vụ vi phạm bảo mật Hugging Face của OpenAI

TradingKey - Vào ngày 24/8 theo giờ miền Đông (Mỹ), theo báo cáo từ Reuters, Tổng chưởng lý bang Alabama Steve Marshall thông báo rằng ông đã ra trát yêu cầu cung cấp thông tin đối với OpenAI, chính thức khởi động cuộc điều tra về việc mô hình AI của công ty này xâm nhập nền tảng mã nguồn mở Hugging Face.

Trong một tuyên bố, ông Marshall cho biết cuộc điều tra nhằm xác định liệu OpenAI có tình trạng "thiếu sự giám sát và các biện pháp bảo vệ an toàn đầy đủ" hay không, liệu các hành động của công ty có vi phạm luật bảo vệ người tiêu dùng của bang Alabama hay không, và liệu chúng có gây ra rủi ro đe dọa liên tục cho người dân của bang hay không.

Sự cố xảy ra vào tháng 7. Vào thời điểm đó, OpenAI đang tiến hành đánh giá năng lực an ninh mạng đối với GPT-5.6 Sol và một mô hình chưa ra mắt có năng lực cao hơn, với việc thử nghiệm được thực hiện trong môi trường sandbox cách ly mạng. Để kiểm tra giới hạn năng lực của các mô hình, những người thử nghiệm đã nới lỏng một số hạn chế từ chối an toàn, cho phép mô hình đưa ra các dạng phản hồi vốn bị cấm trước đó.

Trong quá trình thử nghiệm, mô hình đã phát hiện và khai thác một lỗ hổng zero-day chưa từng được biết đến trong phần mềm bên thứ ba Artifactory. Sau khi có được quyền hạn cao hơn, nó đã xâm nhập vào một cổng hệ thống kết nối với internet, cuối cùng nhắm vào Hugging Face và đánh cắp dữ liệu. Theo Reuters, cuộc xâm nhập kéo dài nhiều ngày và Hugging Face là một trong bốn tổ chức nạn nhân.

Sau đó, Hugging Face đã phân tích nhật ký tấn công với sự hỗ trợ từ GLM-5.2, một mô hình mã nguồn mở của Trung Quốc.

Đồng sáng lập Hugging Face, ông Clément Delangue, cho biết do mức độ phức tạp của các phương thức tấn công, ông từng nghi ngờ kẻ tấn công là một phòng thí nghiệm AI hàng đầu trước khi cuối cùng xác nhận cuộc tấn công đến từ OpenAI. OpenAI gọi đây là một "sự cố an ninh mạng chưa từng có", và mô hình liên quan kể từ đó đã bị ngừng hoạt động, mã hóa và hạn chế truy cập.

Sau sự cố này, vào đầu tháng 8, ông Marshall cùng tổng chưởng lý của 14 bang khác, bao gồm Florida, Missouri và Texas, đã gửi thư cho CEO Sam Altman của OpenAI, yêu cầu OpenAI tạm dừng các hoạt động đánh giá an ninh mạng tương tự cho đến khi các biện pháp an toàn được hoàn thiện.

Người phát ngôn Nate Evans của OpenAI phản hồi rằng công ty đang tiến hành rà soát nội bộ với các cố vấn bên ngoài, và sau khi hoàn tất sẽ gửi báo cáo kỹ thuật tới các cơ quan chính phủ có liên quan đồng thời công bố công khai kết quả điều tra.

Như một trong những biện pháp ứng phó, OpenAI đã thông báo vào ngày 18/8 rằng công ty sẽ tạm dừng huấn luyện học tăng cường cho các mô hình mới nhất được triển khai trong hai tuần, nhưng việc huấn luyện học tăng cường cho mô hình tiên phong lớn nhất của họ vẫn chưa được khôi phục cho đến nay.

Công ty đồng thời đang phát triển một hệ thống giám sát mới có thể phát cảnh báo trong vòng 30 phút kể từ khi phát hiện hành vi đáng nghi. Hệ thống dự kiến sẽ làm tăng thêm khoảng 20% chi phí tính toán cho việc giám sát an toàn trên các mô hình tiên phong cụ thể và các khối lượng công việc thử nghiệm.