Mythos trở lại: các thử nghiệm của Anthropic cho thấy Fable 5 không riêng biệt rủi ro

Nguồn Beincrypto

Anthropic cho biết, quá trình kiểm tra nội bộ cho thấy Claude Fable 5 không gây ra rủi ro an ninh mạng nào đặc biệt, và Claude Mythos 5 sẽ quay lại toàn cầu vào ngày 02/07/2024.

Thông báo này được đưa ra cùng lúc với sự trở lại của Fable 5 trên toàn thế giới, sau 18 ngày tạm dừng do lệnh kiểm soát xuất khẩu của Mỹ vào ngày 12/06/2024. Anthropic đã kiểm tra các mô hình đối thủ để đánh giá thực sự mức độ nguy hiểm dẫn tới lệnh hạn chế này.

Tại sao Anthropic tạm ngưng Fable 5

Fable 5 và Mythos 5 được ra mắt vào ngày 09/06/2024, sử dụng cùng một mô hình cốt lõi nhưng Fable 5 thì mở rộng cho cộng đồng, còn Mythos 5 chỉ giới hạn cho một số đối tác tin cậy trong dự án Project Glasswing với mục đích phòng thủ an ninh mạng.

Lệnh kiểm soát xuất khẩu được ban hành sau khi các nhà nghiên cứu của Amazon tìm ra cách vượt qua các lớp bảo vệ của Fable 5. Kỹ thuật này đã khiến mô hình xác định được các điểm yếu phần mềm và thậm chí còn thể hiện một exploit thực tế trong một số trường hợp.

Kết quả kiểm tra của Anthropic cho thấy, Claude Opus 4.8, GPT-5.5 và Kimi K2.7 cũng có thể phát hiện được các lỗ hổng mà Fable 5 từng phát hiện như trong báo cáo của Amazon. Tất cả các mô hình được kiểm tra đều có thể tái hiện lại cách khai thác lỗ hổng đó.

Điều này cho thấy lệnh kiểm soát thực chất nhắm đến một vấn đề chung trong ngành AI chứ không riêng với Fable 5. Tuy nhiên, Anthropic vẫn phát triển bộ lọc mạnh hơn để ngăn chặn kỹ thuật này, và hiện tại bộ lọc này còn kiểm tra gắt gao hơn với cả các yêu cầu lập trình và debug thông thường.

Cách các biện pháp bảo vệ hoạt động thực tế

Fable 5 được Anthropic tích hợp biện pháp bảo vệ an toàn cao nhất từ trước đến nay. Bộ lọc này sẽ tự động chặn những yêu cầu chỉ cần có yếu tố rủi ro, không chỉ giới hạn với những yêu cầu rõ ràng là nguy hiểm. Sau khi có báo cáo của Amazon, bộ lọc mới đã được huấn luyện để chặn thủ thuật vượt bảo vệ trên hơn 99% số trường hợp, theo công bố từ Anthropic. Các yêu cầu bị chặn giờ đây sẽ tự động chuyển sang Opus 4.8 xử lý.

Tuy nhiên, việc tăng cường bảo vệ này cũng gây ảnh hưởng nhất định. Anthropic thừa nhận rằng bộ lọc có thể đánh dấu nhầm cả những yêu cầu lập trình và sửa lỗi vô hại, và cho biết sẽ tiếp tục điều chỉnh để giảm các trường hợp cảnh báo nhầm. Mythos 5, với số lượng biện pháp bảo vệ ít hơn, chỉ được mở lại cho các tổ chức đã được chính phủ phê duyệt vào ngày 26/06/2024.

Dữ liệu của chính Anthropic lại đặt ra một câu hỏi lớn hơn: Nếu những mô hình kém mạnh hơn đã có thể làm được điều mà Fable 5 từng bị cấm, thì tiêu chuẩn gì sẽ được các cơ quan quản lý áp dụng mỗi khi một mô hình AI tiên tiến mới được ra mắt?

Tuyên bố miễn trừ trách nhiệm: Chỉ dành cho mục đích thông tin. Hiệu suất trong quá khứ không đảm bảo cho kết quả trong tương lai.
placeholder
Forex hôm nay: Đợt bán tháo công nghệ toàn cầu ảnh hưởng đến tâm lý thị trườngDưới đây là những điều bạn cần biết vào thứ Sáu, ngày 26 tháng Sáu:
Tác giả  FXStreet
6 tháng 26 ngày Thứ Sáu
Dưới đây là những điều bạn cần biết vào thứ Sáu, ngày 26 tháng Sáu:
placeholder
Vàng giảm gần 4.050$ giữa bối cảnh không chắc chắn trong các cuộc đàm phán Mỹ - IranGiá vàng (XAU/USD) thu hút một số người bán quanh mức 4.060$ trong giờ giao dịch châu Á vào thứ Hai. Kim loại quý giảm giá trong bối cảnh bất ổn xoay quanh các cuộc đàm phán Mỹ-Iran và kỳ vọng diều hâu của Cục Dự trữ Liên bang Mỹ (Fed). Dữ liệu Bảng lương phi nông nghiệp (NFP) của Mỹ sẽ là tâm điểm vào cuối ngày thứ Năm.
Tác giả  FXStreet
6 tháng 29 ngày Thứ Hai
Giá vàng (XAU/USD) thu hút một số người bán quanh mức 4.060$ trong giờ giao dịch châu Á vào thứ Hai. Kim loại quý giảm giá trong bối cảnh bất ổn xoay quanh các cuộc đàm phán Mỹ-Iran và kỳ vọng diều hâu của Cục Dự trữ Liên bang Mỹ (Fed). Dữ liệu Bảng lương phi nông nghiệp (NFP) của Mỹ sẽ là tâm điểm vào cuối ngày thứ Năm.
placeholder
WTI giảm xuống dưới mức 70,00$ do bất ổn trong đàm phán ngừng bắn Mỹ-IranGiá dầu thô Mỹ West Texas Intermediate (WTI), chỉ số chuẩn dầu thô của Mỹ, đang giao dịch quanh mức 69,80$ trong đầu phiên giao dịch châu Âu vào thứ Hai. Giá WTI giảm do sự không chắc chắn xung quanh các cuộc đàm phán Mỹ-Iran.
Tác giả  FXStreet
6 tháng 29 ngày Thứ Hai
Giá dầu thô Mỹ West Texas Intermediate (WTI), chỉ số chuẩn dầu thô của Mỹ, đang giao dịch quanh mức 69,80$ trong đầu phiên giao dịch châu Âu vào thứ Hai. Giá WTI giảm do sự không chắc chắn xung quanh các cuộc đàm phán Mỹ-Iran.
placeholder
Đồng Yên Nhật giảm xuống mức thấp mới kể từ năm 1986 so với USD giữa bối cảnh chênh lệch lãi suất Mỹ-Nhật vẫn rộng kéo dàiCặp USD/JPY được xây dựng dựa trên đà đột phá của ngày trước đó và tiếp tục leo lên các mức cao mới trong nhiều thập kỷ qua trong phiên giao dịch châu Á vào thứ Tư.
Tác giả  FXStreet
9 giờ trước
Cặp USD/JPY được xây dựng dựa trên đà đột phá của ngày trước đó và tiếp tục leo lên các mức cao mới trong nhiều thập kỷ qua trong phiên giao dịch châu Á vào thứ Tư.
placeholder
Dự báo xu hướng giá Bitcoin: Dòng vốn ETF tiếp tục chảy ra hạn chế không gian phục hồi của giá Bitcoin, $58,000 trở thành mức then chốt cho phe bò và phe gấuTính đến phiên giao dịch châu Âu ngày 1/7, Bitcoin ( BTC) dao động quanh mức 58.700 USD, chạm mức thấp nhất kể từ đầu năm đến nay là 57.800 USD vào đầu ngày trước khi phục hồi nhẹ, dù vẫn
Tác giả  TradingKey
2 giờ trước
Tính đến phiên giao dịch châu Âu ngày 1/7, Bitcoin ( BTC) dao động quanh mức 58.700 USD, chạm mức thấp nhất kể từ đầu năm đến nay là 57.800 USD vào đầu ngày trước khi phục hồi nhẹ, dù vẫn
goTop
quote