Meta ra mắt cảnh báo cha mẹ chủ động khi trẻ vị thành niên tìm kiếm các câu trích dẫn tự tử và nội dung tự gây hại

Meta đang tiến một bước quan trọng trong việc bảo vệ các thanh thiếu niên dễ bị tổn thương bằng cách giới thiệu hệ thống cảnh báo mới dành cho phụ huynh. Bắt đầu từ tháng 3 tại Vương quốc Anh, Mỹ, Úc và Canada, gã khổng lồ mạng xã hội sẽ thông báo cho phụ huynh khi con em họ liên tục tìm kiếm các trích dẫn tự tử, hướng dẫn tự làm tổn thương bản thân hoặc nội dung có hại liên quan trên Instagram. Đây là một bước chuyển lớn so với cách tiếp cận trước đây của Meta chỉ đơn giản là chặn hoặc ẩn nội dung đó—giờ đây công ty đang chủ động cảnh báo người giám hộ về các mẫu tìm kiếm của trẻ.

Cách hoạt động của hệ thống thông báo dành cho phụ huynh mới của Instagram

Các cảnh báo sẽ được gửi đến phụ huynh qua nhiều kênh: email, tin nhắn văn bản, WhatsApp hoặc thông báo trực tiếp trong ứng dụng. Phụ huynh đã đăng ký các công cụ giám sát tài khoản Teen của Instagram sẽ là những người đầu tiên nhận được các cảnh báo này. Hệ thống của Meta được thiết kế để phát hiện hai tình huống riêng biệt: khi trẻ thực hiện nhiều tìm kiếm về nội dung liên quan đến tự tử trong một khoảng thời gian ngắn, hoặc khi thuật toán của nền tảng phát hiện sự thay đổi đột ngột trong hành vi tìm kiếm chỉ về các chủ đề có hại.

Công ty nhấn mạnh rằng họ sẽ “thường thiên về thận trọng,” nghĩa là một số thông báo có thể được kích hoạt ngay cả khi chưa có dấu hiệu rõ ràng. Để giúp phụ huynh xử lý các tình huống nhạy cảm này, Meta sẽ kèm theo các nguồn tài nguyên được hỗ trợ bởi chuyên gia, trang bị cho các gia đình các chiến lược trò chuyện và các lựa chọn hỗ trợ sức khỏe tâm thần.

Các nhà vận động phòng chống tự tử lo ngại nghiêm trọng

Dù Meta có ý định tốt, các tổ chức phòng chống tự tử đã lên tiếng chỉ trích mạnh mẽ sáng kiến này. Họ lo ngại rằng hệ thống cảnh báo có thể phản tác dụng, khiến phụ huynh “hoảng loạn và không chuẩn bị kịp thời,” có thể gây hại nhiều hơn lợi. Các nhà phê bình cho rằng việc thông báo cho phụ huynh về các trích dẫn tự tử và tìm kiếm tự làm tổn thương mà không có bối cảnh hoặc hệ thống hỗ trợ phù hợp có thể kích hoạt các phản ứng quá mức có hại. Nhiều nhà vận động tin rằng nỗ lực của Meta sẽ hiệu quả hơn nếu tập trung vào việc ngăn chặn nội dung có hại xuất hiện trong nguồn cấp dữ liệu của người dùng ngay từ ban đầu, thay vì chỉ ghi lại hoạt động tìm kiếm sau này.

Meta bảo vệ phương pháp an toàn của mình

Đáp lại phản ứng dữ dội, Meta đã bảo vệ vị trí của mình bằng cách nhấn mạnh các biện pháp bảo vệ hiện có. Nền tảng này chặn các tìm kiếm các thuật ngữ có hại, giảm ưu tiên nội dung liên quan đến tự tử và tự làm tổn thương trong các đề xuất, và tự động chuyển hướng người dùng đến các nguồn hỗ trợ sức khỏe tâm thần. Meta cũng phủ nhận các cáo buộc rằng họ cố ý thúc đẩy các trích dẫn tự tử và nội dung có hại đến các thanh thiếu niên dễ bị tổn thương, khẳng định rằng các bài đăng này đang bị kiểm soát chặt chẽ. Công ty nhấn mạnh cam kết phát triển các công cụ an toàn mạnh mẽ hơn và giải quyết các nguyên nhân gốc rễ của việc lan truyền nội dung có hại.

Bức tranh toàn cầu: Áp lực pháp lý toàn cầu đối với mạng xã hội dành cho thanh thiếu niên

Thông báo này diễn ra trong bối cảnh các quốc gia trên thế giới đang tăng cường giám sát cách các nền tảng mạng xã hội ảnh hưởng đến người dùng trẻ. Úc đã ban hành lệnh cấm hoàn toàn truy cập mạng xã hội đối với người dưới 16 tuổi, trong khi Vương quốc Anh, Pháp và Tây Ban Nha đều đang xem xét các quy định chặt chẽ hơn để bảo vệ thanh thiếu niên. Tại Mỹ, các tòa án đang điều tra xem Meta có cố ý nhắm mục tiêu vào nhóm tuổi trẻ hơn hay không. Những động thái pháp lý này cho thấy hệ thống cảnh báo mới của Meta có thể là một phản ứng chủ động đối với các thách thức pháp lý và luật pháp tiềm tàng.

Thành công sẽ phụ thuộc vào điều gì

Thử thách thực sự đối với hệ thống thông báo mới của Meta sẽ nằm ở chất lượng triển khai. Thành công phụ thuộc vào ba yếu tố then chốt: độ chính xác của thuật toán trong việc phát hiện rủi ro thực sự so với báo động giả, việc phụ huynh nhận được hướng dẫn đầy đủ về cách phản ứng có trách nhiệm, và các nguồn hỗ trợ sức khỏe tâm thần theo dõi sau đó có sẵn dễ dàng hay không. Nếu thực hiện kém, các cảnh báo có thể trở thành những thông báo khác mà phụ huynh bỏ qua. Nếu thực hiện tốt, chúng có thể thực sự giúp các gia đình nhận diện và xử lý các hành vi đáng lo ngại trước khi chúng trở nên trầm trọng. Những tháng tới sẽ cho thấy liệu phương pháp này có đúng như lời hứa hay chỉ làm rõ thêm nỗi lo của các nhà phê bình.