Một tuyên bố gây chú ý trong giới công nghệ gần đây đến từ Nate Soares, nhà nghiên cứu học máy kiêm Chủ tịch Viện Nghiên cứu Trí tuệ Máy móc (MIRI). Trong podcast The Most Interesting Thing in AI của tạp chí The Atlantic, ông cho biết tin vào khả năng trí tuệ nhân tạo (AI) gây ra thảm họa diệt vong cho nhân loại đến mức đã dừng đóng góp vào tài khoản hưu trí. Theo Soares, xác suất kịch bản này xảy ra trong 10 năm tới vượt 50%. Ông từng có quỹ hưu trí 401(k) trong thời gian làm việc tại Google, nhưng không bổ sung tiền vào tài khoản suốt khoảng một thập kỷ qua.
Dù đưa ra dự báo bi quan, Soares nhấn mạnh thảm họa không phải kết cục chắc chắn và ông vẫn đang nỗ lực để ngăn chặn viễn cảnh đó. Nhà nghiên cứu này là một trong những gương mặt nổi bật của nhóm cảnh báo về rủi ro AI, đồng thời có mối quan hệ hợp tác với Eliezer Yudkowsky, người đồng sáng lập MIRI. Những cảnh báo về nguy cơ AI vượt khỏi tầm kiểm soát của nhóm từng thu hút sự chú ý lớn từ truyền thông và giới hoạch định chính sách. Tuy nhiên, các ý kiến phản biện cho rằng giới nghiên cứu chưa đạt được đồng thuận về khả năng xảy ra một thảm họa như vậy, đặc biệt là những dự báo gắn với mốc thời gian cụ thể.
Trên thực tế, AI đã gây ra nhiều rủi ro đáng quan tâm mà không cần đạt đến cấp độ siêu trí tuệ. Công nghệ này có thể bị lợi dụng để tạo nội dung lừa đảo, thao túng người dùng hoặc hỗ trợ các hành vi gây hại. Những hệ thống AI cũng từng bị chỉ trích vì tác động tiêu cực đến nhóm người dùng dễ tổn thương. Đây là các vấn đề hiện hữu, đòi hỏi biện pháp kiểm soát và trách nhiệm rõ ràng từ doanh nghiệp phát triển công nghệ. Vì vậy, việc quá tập trung vào kịch bản AI hủy diệt nhân loại trong tương lai xa có thể khiến một số nguy cơ đang diễn ra bị xem nhẹ.
Phát biểu của Soares cũng đặt ra câu hỏi về cách mỗi người đánh giá rủi ro AI trong đời sống. Dự báo của một chuyên gia, dù có kinh nghiệm nghiên cứu, không đồng nghĩa với kết luận đã được kiểm chứng hay quan điểm chung của toàn ngành. Các con số xác suất như mức trên 50% cần được nhìn nhận trong bối cảnh đây là đánh giá cá nhân, thay vì dự báo khoa học đã đạt đồng thuận. Tương tự, quyết định ngừng tiết kiệm hưu trí của Soares phản ánh niềm tin riêng của ông, không phải khuyến nghị tài chính dành cho số đông.
Trong khi tương lai của AI vẫn còn nhiều tranh luận, các kế hoạch tài chính cá nhân nên dựa trên nhu cầu thực tế và khả năng dự phòng dài hạn. Nếu kịch bản xấu nhất không xảy ra, việc ngừng tích lũy có thể để lại hệ quả đáng kể khi về già. Ngược lại, những rủi ro AI đang hiện hữu vẫn cần được theo dõi và xử lý bằng các giải pháp cụ thể, thay vì chỉ tập trung vào viễn cảnh tận thế.