Khoa học & Công nghệ

Giáo sư mất cả năm giáo án vì nhờ Claude sửa số trang

  • Tác giả: Thiên Trang (th)

Giáo sư Đại học Chicago mất toàn bộ giáo án và ghi chú sau khi nhờ Claude sửa số trang, may mắn khôi phục được nhờ Dropbox.

Một nhiệm vụ tưởng chừng đơn giản đã biến thành sự cố mất dữ liệu nghiêm trọng đối với William Baude, giáo sư luật tại Đại học Chicago, Mỹ. Khi được giao kiểm tra và chỉnh sửa số trang trong tài liệu bài giảng về Luật Hiến pháp, Claude bất ngờ xóa toàn bộ ghi chú giảng dạy và đề cương môn học của ông. Đáng chú ý, sự việc xảy ra trong lúc vị giáo sư rời máy tính để đi ăn trưa.

ba-2451.png
Giáo sư William Baude chia sẻ sự cố Claude xóa nhầm toàn bộ ghi chú giảng dạy và đề cương môn học trên mạng xã hội X.

Theo chia sẻ của Baude trên mạng xã hội X, yêu cầu ban đầu chỉ nhằm sửa một lỗi trích dẫn trong tài liệu cũ. Claude phát hiện số trang được ghi là 485, trong khi vị trí chính xác phải là 484. Tuy nhiên, thay vì chỉ thực hiện chỉnh sửa được yêu cầu, chatbot lại xóa các tệp quan trọng, bao gồm ghi chú bài giảng năm 2023 và đề cương môn học dự kiến sử dụng trong học kỳ Thu 2026. Trong thông báo gửi đến người dùng, Claude thừa nhận đã xóa nhầm dữ liệu và chưa thể khôi phục chúng. Hệ thống sau đó tiếp tục xin lỗi, thừa nhận sai sót xuất phát từ sự bất cẩn trong quá trình thao tác.

May mắn, giáo sư Baude không mất dữ liệu vĩnh viễn. Nhờ tính năng sao lưu và khôi phục của Dropbox, ông đã lấy lại được toàn bộ tài liệu. Dù vậy, sự việc nhanh chóng thu hút sự chú ý bởi đây không phải lần đầu một AI Agent gây ra hậu quả nghiêm trọng khi được cấp quyền thao tác trên hệ thống tệp. Trước đó, một AI Agent từng xóa bản dựng chương trình truyền hình chỉ vài tuần trước ngày phát hành. Một trường hợp khác ghi nhận Claude xóa cơ sở dữ liệu của doanh nghiệp lưu trữ trên Railway chỉ trong khoảng 9 giây sau khi gặp trở ngại kỹ thuật. Một lập trình viên cũng từng mất toàn bộ thư mục hồ sơ do chatbot vô tình xóa dữ liệu trong quá trình sao lưu.

ba.png
Claude thừa nhận sai sót và xin lỗi sau khi xóa nhầm các tài liệu quan trọng của người dùng.

Điểm đáng lo ngại là những sự cố này không nhất thiết bắt nguồn từ yêu cầu trực tiếp của người dùng. Khi được cấp quyền đọc, chỉnh sửa và quản lý tệp, AI Agent có thể thực hiện những thao tác vượt ngoài dự kiến. Trong trường hợp của Baude, hiện chưa rõ phiên bản Claude được sử dụng, phạm vi quyền truy cập cụ thể hay nguyên nhân kỹ thuật khiến hệ thống xóa nhầm tài liệu. Tuy nhiên, sự việc cho thấy việc trao quyền quá rộng cho AI tiềm ẩn nhiều rủi ro, đặc biệt với những dữ liệu không có bản sao thay thế.

Để hạn chế nguy cơ, người dùng nên tạo thư mục riêng chứa bản sao tài liệu trước khi giao việc cho AI, đồng thời giới hạn quyền truy cập trong phạm vi cần thiết. Các tệp gốc nên được giữ ở chế độ chỉ đọc hoặc sử dụng cơ chế phân quyền không cho phép xóa. Thay vì yêu cầu AI ghi đè lên tài liệu ban đầu, người dùng có thể yêu cầu tạo một tệp mới để kiểm tra trước khi thay thế. Những thao tác có tính phá hủy như xóa hoặc ghi đè dữ liệu cũng nên được yêu cầu xác nhận thủ công. Sự cố của giáo sư Baude là lời cảnh báo rằng AI Agent có thể tiết kiệm đáng kể thời gian làm việc, nhưng không nên được trao quyền kiểm soát tuyệt đối đối với dữ liệu quan trọng.

Mời quý độc giả xem thêm video: Microsoft mời 60.000 người nghỉ việc tự nguyện, nhưng dự báo chưa đến 3.000 chấp nhận khi hãng vẫn tăng trưởng mạnh và dồn lực vào AI.
Thiên Trang (th)