CEO Palantir đưa ra cảnh báo gây sốc khiến bạn phải suy nghĩ lại về AI

AI có thể sớm không chỉ dự đoán bạn sẽ mua gì, mà còn đoán được bạn đang nghĩ gì. Đây là cảnh báo từ CEO Palantir – Alex Karp.

Trong bối cảnh cổ phiếu AI tăng mạnh, những phát biểu của Karp khiến nhiều người lo ngại: Liệu công nghệ này sau này có thể bị dùng để dự đoán các suy nghĩ cá nhân của con người?

Liệu AI sắp đoán được suy nghĩ của bạn?

Hiện tại, các công ty đã ứng dụng AI để dự đoán khách hàng sẽ mua gì hoặc dự đoán khả năng trả nợ của ai đó. Các hệ thống này phân tích hành vi quá khứ để đưa ra dự báo cho hành động tiếp theo.

Karp cảnh báo rằng công nghệ này còn có thể tiến xa hơn nữa, có thể dự đoán ý nghĩ của con người ngay cả trước khi họ kịp hành động.

Palantir là công ty phát triển phần mềm mạnh mẽ, được sử dụng bởi quân đội và các cơ quan chính phủ tại Mỹ. Công nghệ của họ giúp phân tích dữ liệu chiến trường và hỗ trợ đưa ra quyết định quân sự.

Hiện tại, Karp cảnh báo rằng các hệ thống dự đoán tương tự có thể sẽ được áp dụng cho ngay cả người dân trong nước Mỹ. Những ý chính mà ông đưa ra gồm:

• Các phương pháp dự đoán này có thể được sử dụng cho những vấn đề nội bộ.
• Những hệ thống này hoàn toàn có thể “đoán” được ý nghĩ trong sinh hoạt hàng ngày của mọi người.
• Cần đưa ra biện pháp kiểm soát ngay từ bây giờ, trước khi công nghệ lan rộng.
• Nếu hạn chế AI trong quân đội, Mỹ có thể gặp bất lợi trước các đối thủ.

Ông cũng cho rằng các công ty có thể lợi dụng luật pháp, tuân thủ bề ngoài nhưng lại bỏ qua ý nghĩa thực sự của luật.

“Bạn có thể thực sự dự đoán hành vi của người khác – điều đó có nghĩa là bạn có thể đang đoán cả những gì họ sẽ nghĩ trong cuộc sống hằng ngày. Đây là điều chúng ta cần bắt đầu kiểm soát từ bây giờ,” Karp chia sẻ trong một buổi phỏng vấn gần đây.

Các nhà đầu tư có đang bỏ qua vấn đề đạo đức?

Các nhà đầu tư hiện vẫn chưa mấy quan tâm đến câu chuyện này. PLTR vừa lập đỉnh mới ở mức 212.94 USD vào hôm qua. Cổ phiếu hiện giao dịch quanh mốc 209 USD, tăng khoảng 25% trong tháng vừa qua và hơn 50% trong sáu tháng gần đây.

Trong 5 năm qua, cổ phiếu này đã tăng hơn 780%, đưa vốn hóa của Palantir vượt mốc 500 tỷ USD. Các hợp đồng lớn với chính phủ và nhu cầu sử dụng AI trong doanh nghiệp tăng mạnh là động lực giúp cổ phiếu bứt phá.

Đà tăng này khiến đa số chỉ chú ý tới tốc độ phát triển mà tạm bỏ qua câu chuyện quản trị. Tuy nhiên, lo ngại là hoàn toàn có cơ sở. Phát biểu của Karp đã đặt ra những câu hỏi về quyền riêng tư, quyền tự do cá nhân và ai sẽ là người kiểm soát giới hạn của công nghệ dự đoán này.

Giới hạn đối với các hệ thống dự đoán, phân tích hành vi cá nhân vẫn đang được tranh luận, bàn thảo. Các công ty công nghệ, cơ quan quản lý và tòa án đều đóng vai trò lớn trong việc xác định những ranh giới cuối cùng đó.

Đường đi sắp tới của cổ phiếu này sẽ phụ thuộc nhiều hơn vào yếu tố pháp lý thay vì đạo đức. Ở thời điểm hiện tại, thị trường vẫn đặt kỳ vọng tăng trưởng lên hàng đầu.