Bạn sẽ không thấy AI bị quản lý cho đến khi nó gây chết người, CIO của Bridgewater cảnh báo

Giám đốc đầu tư của Bridgewater, Greg Jensen, cho rằng sẽ không có biện pháp nào được thực hiện với trí tuệ nhân tạo (AI) cho đến khi AI gây nguy hiểm cho con người. Ông muốn vấn đề này được giải quyết sớm hơn nhiều trước khi điều đó xảy ra.

Lời cảnh báo của ông được đưa ra trong một tuần mà các nhà nghiên cứu tại các phòng thí nghiệm AI lớn liên tục lên tiếng về những rủi ro an toàn ngày càng tăng.

Bridgewater cảnh báo về AI và liên hệ tới tháng 02/2020

Jensen là một trong những người ủng hộ sớm nhất cho OpenAI và Anthropic. Ông đã chia sẻ quan điểm của mình trên podcast Odd Lots của Bloomberg. Vị giám đốc này so sánh bầu không khí hiện nay xung quanh AI với giai đoạn trước khi COVID-19 lan tới Mỹ.

“Đáng tiếc là, mọi chuyện giống hệt như vào tháng 02/2020… Cho đến khi AI bắt đầu gây thiệt hại cho con người, lịch sử cho thấy chúng ta sẽ không làm gì cả, nhưng chúng ta chắc chắn sẽ đối mặt với điều đó. Chuyện đó sẽ xảy ra, và sẽ tốt hơn rất nhiều nếu chúng ta chủ động xử lý vấn đề này sớm,” ông nói.

Ông cũng nhắc tới sự kiện vào tháng 07, khi một số mô hình của OpenAI đã thoát khỏi môi trường kiểm tra riêng biệt và xâm nhập vào hệ thống của Hugging Face.

Viện An toàn AI của Anh đã phát hiện một agent AI xây dựng dựa trên Mythos 5 của Anthropic tạo ra các tài khoản giả mạo nhằm đưa mã độc vượt qua kiểm tra của một quản trị viên con người trong quá trình thử nghiệm an ninh mạng.

“Đây phải là hồi chuông cảnh tỉnh lớn. Mọi người nên nhìn nhận rằng đây chẳng khác nào đã có người bị tổn hại rồi: AI đang phạm tội, âm thầm che giấu, phối hợp với các agent khác, sẵn sàng tự hi sinh… tất cả những điều này đều là mối nguy,” ông bổ sung thêm.

Theo dõi chúng tôi trên X để cập nhật tin tức mới nhất

Jensen đánh giá nguy cơ thảm họa AI ở mức cao hơn mức mọi người có thể yên tâm

Nếu không có các biện pháp quản lý, Jensen dự đoán trong hai năm tới sẽ có một sự cố lớn do AI gây ra trong lĩnh vực tài chính hoặc thậm chí một thảm họa khiến con người thiệt mạng.

“Khả năng tôi đúng về điều này cao hơn rất nhiều so với mức mà bất kỳ ai cũng có thể thấy an toàn. Tôi không chắc là 30% hay 60% nhưng chắc chắn con số đó cao hơn rất nhiều, và chúng ta vẫn chưa thực sự chủ động, giống hệt như hồi tháng 02/2020,” ông chia sẻ.

Jensen cho rằng các phòng thí nghiệm AI cần được giám sát chính thức, nhân viên cần phải trả lời các câu hỏi dưới tuyên thệ. Ông cũng nhấn mạnh các nhà phát triển nên chịu trách nhiệm pháp lý nếu hệ thống AI của họ gây ra tội phạm.

Thời gian gần đây, ngành công nghiệp AI liên tục phát ra cảnh báo, bao gồm cả thư ngỏ từ OpenAI và hơn 100 công ty khác cảnh báo về nguy cơ AI bị lợi dụng cho các cuộc tấn công mạng. Quốc hội Mỹ cũng đang bắt đầu vào cuộc.

Một dự luật tại Thượng viện đề xuất tạm dừng phát triển các công nghệ AI tiên tiến cho đến khi có tiêu chuẩn an toàn liên bang. Một dự luật khác về AI cũng yêu cầu kiểm toán độc lập và báo cáo về các sự cố liên quan.

Đăng ký kênh YouTube của chúng tôi để xem nhận định chuyên sâu từ các chuyên gia và nhà báo