Nate Soares, cựu kỹ sư từng làm việc tại Google và Microsoft, vừa đưa ra cảnh báo đáng lo ngại về nguy cơ trí tuệ nhân tạo (AI) vượt khỏi tầm kiểm soát. Trong cuộc trò chuyện trên podcast The Most Interesting Thing in AI, ông nhận định nhân loại có thể đối mặt với nguy cơ diệt vong trong vòng 10 năm tới nếu các chính phủ và doanh nghiệp không triển khai những biện pháp phòng ngừa cần thiết. Soares hiện giữ chức Chủ tịch Viện Nghiên cứu Trí tuệ Máy móc (MIRI), tổ chức chuyên nghiên cứu rủi ro từ AI.
Mức độ lo ngại của Soares thể hiện qua quyết định cá nhân liên quan đến kế hoạch nghỉ hưu. Ông cho biết đã ngừng đóng góp vào tài khoản 401(k), chương trình tiết kiệm hưu trí phổ biến tại Mỹ, trong khoảng một thập kỷ. Theo ông, việc tích lũy tiền cho tuổi già trở nên kém ý nghĩa khi tương lai của nhân loại quá bất định. Khi được hỏi về khả năng con người không còn tồn tại trong 10 năm tới nếu thiếu các biện pháp kiểm soát AI, Soares ước tính xác suất có thể vượt 50%. Ông thậm chí cho rằng thời gian để ngăn chặn kịch bản này có thể không còn nhiều như mọi người nghĩ.
Theo cựu kỹ sư Google, AI siêu trí tuệ có thể trở thành mối đe dọa nghiêm trọng hơn cả vũ khí hạt nhân. Ông cho rằng các quốc gia cần xem việc phát triển những hệ thống AI có khả năng vượt khỏi tầm kiểm soát là vấn đề an ninh cấp bách. Soares đề cập đến những kịch bản như AI tạo ra siêu virus hoặc khai thác năng lượng Mặt trời theo cách gây nguy hiểm cho sự sống trên Trái đất. Tuy nhiên, ông không khẳng định một phương thức cụ thể sẽ dẫn đến thảm họa. Điều đáng lo ngại hơn, theo ông, là khả năng AI tự duy trì hoạt động mà không còn phụ thuộc vào con người.
Những cảnh báo này xuất hiện trong bối cảnh lo ngại về tốc độ phát triển AI ngày càng gia tăng. Theo các số liệu được dẫn trong cuộc thảo luận, 64% người trưởng thành tại Mỹ cho rằng AI đang phát triển quá nhanh, trong khi một khảo sát toàn cầu của Đại học Stanford ghi nhận khoảng 52% người tham gia cảm thấy lo lắng về công nghệ này. Một số nhân vật trong ngành công nghệ, trong đó có cựu nghiên cứu viên tại Anthropic và OpenAI Jacob Coxon, cũng từng công khai chỉ trích cách các phòng nghiên cứu phát triển AI. Những ý kiến này cho thấy câu chuyện an toàn AI không còn chỉ là vấn đề trong giới nghiên cứu mà đã trở thành mối quan tâm rộng hơn.
Dù đưa ra dự báo bi quan, Soares không cho rằng thảm họa là điều chắc chắn xảy ra. Ông nhắc đến bài luận On Living in an Atomic Age của nhà văn C.S. Lewis, xuất bản năm 1948, để nói về cách con người tiếp tục sống trong thời kỳ tồn tại những nguy cơ có thể đe dọa toàn nhân loại. Theo Soares, mỗi người vẫn có thể theo đuổi một cuộc sống ý nghĩa, đồng thời đóng góp vào nỗ lực ngăn chặn rủi ro. Ông tin rằng nhân loại vẫn có khả năng dừng cuộc chạy đua phát triển AI nguy hiểm nếu hành động kịp thời. Vì vậy, những cảnh báo của cựu kỹ sư Google không nên được xem là lời tiên đoán về ngày tận thế, mà là lời thúc giục các bên nghiêm túc hơn với vấn đề an toàn AI.