Mới đây, Meta cho biết đang phát triển các công cụ mới để bảo vệ người dùng ở độ tuổi thanh thiếu niên trước các trò lừa đảo "tống tiền" trên nền tảng Instagram của mình.
Do đó, Meta đã lên kế hoạch và đang thử nghiệm công cụ "bảo vệ ảnh nhạy cảm". Đây là công cụ sử dụng AI, có khả năng tìm kiếm, phân tích và làm mờ những bức ảnh như vậy được gửi tới trẻ vị thành niên trên hệ thống nhắn tin của ứng dụng.
Bằng cách này, người nhận không phải xem những nội dung không mong muốn trên điện thoại của mình và có quyền lựa chọn tiếp tục xem hình ảnh hay không.
 |
Meta dùng AI để ngăn chặn nạn tống tiền người dùng. Ảnh Axios |
Meta nhấn mạnh công cụ mới sẽ giúp bảo vệ giới trẻ trước nguy cơ tống tiền bằng hình ảnh nhạy cảm, đồng thời những kẻ lừa đảo và tội phạm tiềm năng sẽ vướng phải nhiều khó khăn hơn khi tìm kiếm và tiếp cận người dùng thanh thiếu niên.
Ngoài ra, Meta cho biết sẽ sử dụng công cụ AI để xác định các tài khoản gửi đi những nội dung vi phạm đồng thiết lập biện pháp ngăn chặn nghiêm ngặt để những đối tượng có ý đồ xấu không thể tương tác với người dùng trẻ tuổi trên ứng dụng Instagram.
Meta cũng sẽ có giải pháp đưa ra lời khuyên và những thủ thuật đem lại an toàn cho bất kỳ ai gửi hoặc nhận những tin nhắn và hình ảnh không mong muốn.
Theo cơ quan chức năng Mỹ trong năm 2022, ghi nhận khoảng 3.000 thanh thiếu niên nước này trở thành nạn nhân của các vụ lừa đảo theo hình thức trên.
Trong khi đó, Meta cũng đã bị 40 bang cáo buộc lợi dụng người trẻ tuổi để kiếm lợi nhuận khi tạo ra mô hình kinh doanh khiến giới trẻ vùi đầu vào và gây tổn hại tới sức khỏe tâm thần.
Vào tháng 1/2024, Meta đã đưa thông báo về việc triển khai biện pháp bảo vệ người dùng là trẻ vị thành niên, bao gồm kiểm soát nội dung và tăng cường công cụ giám sát cho phụ huynh.