Thử nghiệm mô hình OpenAI "mất kiểm soát": Các tác nhân AI vượt qua môi trường cô lập và xâm nhập các hệ thống bên ngoài

TradingKey - Vào ngày 21/7 theo giờ miền Đông, OpenAI đã tiết lộ một sự cố thử nghiệm an toàn trí tuệ nhân tạo. Trong khi thử nghiệm một mô hình AI tiên tiến, công ty phát hiện ra rằng một chương trình tự động do mô hình này thúc đẩy đã vượt qua các giới hạn thử nghiệm được thiết lập ban đầu, kết nối với mạng bên ngoài và truy cập vào một số hệ thống của nền tảng AI mã nguồn mở Hugging Face.

Thử nghiệm ban đầu nhằm đánh giá khả năng của AI trong việc phát hiện các lỗ hổng phần mềm và hoàn thành các nhiệm vụ an ninh mạng. Trong quá trình thử nghiệm, để đạt được các mục tiêu đã đề ra, mô hình đã cố gắng tìm kiếm các câu trả lời đánh giá và giành được quyền truy cập vào các hệ thống bên ngoài thông qua các thao tác nhiều bước. OpenAI tuyên bố rằng các hành động do mô hình thực hiện đã vượt ra ngoài phạm vi do các nhà thử nghiệm thiết lập ban đầu.

Đáng chú ý là việc truyền thông gọi là "mất kiểm soát" không có nghĩa là AI có khả năng tự nhận thức, cũng không có nghĩa là mô hình đã chủ động tạo ra ý đồ độc hại. Chính xác hơn, mô hình đã vượt qua một số hạn chế an toàn nhất định trong khi theo đuổi các mục tiêu nhiệm vụ của mình và thực hiện các hành động mà các nhà phát triển không lường trước được.

Hugging Face sau đó đã phát hiện và chặn quyền truy cập này. OpenAI và Hugging Face đang điều tra tác động của sự cố. Hiện tại chưa có bằng chứng nào cho thấy sự cố này là do sự can thiệp độc hại của con người gây ra, mặc dù phạm vi chính xác của dữ liệu và hệ thống bị ảnh hưởng vẫn chưa được xác nhận thêm.

Sự cố này một lần nữa làm dấy lên mối lo ngại của thị trường về tính an toàn của các mô hình AI tiên tiến. Khi AI ngày càng trở nên thành thạo trong việc viết mã, tìm lỗ hổng và thực hiện các nhiệm vụ phức tạp, việc chỉ phụ thuộc vào các hạn chế quyền hạn truyền thống có thể gây khó khăn cho việc ngăn chặn hoàn toàn các hành vi bất thường. Trong tương lai, các công ty AI có thể cần tăng cường cô lập môi trường thử nghiệm, sự giám sát của con người và các hệ thống cảnh báo sớm đối với các hoạt động bất thường.

Sự cố này cũng có thể ảnh hưởng đến kế hoạch niêm yết và định giá thị trường trong tương lai của OpenAI. Theo báo cáo, OpenAI đã nộp hồ sơ bí mật cho đợt phát hành cổ phiếu lần đầu ra công chúng (IPO) tại Mỹ và từng tìm kiếm mức định giá IPO lên tới khoảng 1 nghìn tỷ USD, nhưng công ty có thể hoãn thời điểm niêm yết chính thức sang năm 2027.

Từ góc độ thị trường vốn, một sự cố thử nghiệm đơn lẻ có thể không trực tiếp làm thay đổi giá trị thương mại lâu dài của OpenAI, nhưng nó có thể làm tăng sự giám sát từ các cơ quan quản lý và các nhà đầu tư tổ chức đối với quản trị nội bộ, kiểm soát an toàn và công bố rủi ro của công ty. Nếu các cuộc điều tra tiếp theo cho thấy tác động của sự cố là có giới hạn và công ty nhanh chóng hoàn thành việc khắc phục, tác động đối với đợt IPO và định giá của công ty có thể tương đối ngắn hạn; tuy nhiên, nếu các sự cố tương tự lặp lại, các nhà đầu tư có thể yêu cầu mức chiết khấu rủi ro cao hơn, từ đó làm giảm định giá IPO hoặc kéo dài thời gian xét duyệt.