Vào cuối tháng 1, tình nguyện viên tại đường dây trợ giúp của Liên minh Quốc gia về rối loạn ăn uống của Mỹ (NAED) nhận được một cuộc gọi. Người này cảnh báo cô thấy một xu hướng đáng báo động trên TikTok xuất hiện gần đây, New York Times đưa tin.
Cô cho biết hashtag #legginglegs đã bắt đầu phổ biến khi người dùng đăng bài về thân hình mảnh mai và cơ thể như vậy được cho là lý tưởng nhất để mặc quần legging.
Tổ chức này sau đó đã làm việc trực tiếp với các công ty truyền thông mạng xã hội bao gồm TikTok, Meta, Pinterest và nhanh chóng báo cáo xu hướng nói trên cho TikTok. Chưa đầy một ngày sau đó, TikTok đã cấm hashtag #legginglegs.
Hashtag "legging legs" bị gỡ bỏ nhanh chóng. Ảnh: New York Times.
Những nội dung độc hại xuất hiện liên tục
Các xu hướng như "legging legs" chỉ là một phần nhỏ trong lịch sử lâu dài của nội dung về hình ảnh cơ thể gây hại đã lan rộng trên Internet từ những ngày đầu các mạng xã hội xuất hiện.
Amanda Raffoul - giảng viên tại Trường Y Harvard và Bệnh viện Nhi Boston, người nghiên cứu về chứng rối loạn ăn uống, cho biết: “Ngay khi họ cấm một hashtag, một hashtag khác sẽ xuất hiện".
Tuy nhiên, Amanda và các chuyên gia về rối loạn ăn uống khác cho rằng sự phát triển của các nền tảng truyền thông mạng xã hội còn kéo theo một vấn đề nan giải hơn: Làm thế nào để tiếp cận các thuật toán được xây dựng dựa trên sở thích của người dùng để từ đó có thể quản lý được nguồn cung cấp dữ liệu gốc.
Chỉ khi tiếp cận được dữ liệu gốc mới có thể nhanh chóng ngăn chặn các nội dung này khi nó trở nên nguy hiểm đối với nhóm người dùng dễ bị tổn thương.
Ví dụ nếu một thanh thiếu niên tìm kiếm các ý tưởng ăn nhẹ lành mạnh hoặc tương tác với một số bài đăng nấu ăn nhất định thì khi đó các nền tảng mạng xã hội có thể đề xuất các video về thực phẩm ít calo cho anh ta.
Những hành động này của anh ta có thể là báo hiệu về sự quan tâm đến việc giảm cân sẽ diễn ra không lâu sau đó. Vì thế, thiếu niên này sẽ tiếp tục nhìn thấy gợi ý về việc hạn chế đồ ăn nhẹ hoặc chế độ ăn kiêng cấp tốc.
Sau đó, nguồn cấp dữ liệu của anh ta có thể chứa đầy các bài đăng ủng hộ các hành vi không lành mạnh hoặc tôn vinh một kiểu cơ thể này hơn những kiểu cơ thể khác.
Johanna Kandel - Giám đốc điều hành của Liên minh Quốc gia về rối loạn ăn uống - cho biết: “Tôi không nghĩ chúng ta đang ở trong một không gian có thể bỏ qua những tác hại có thể xảy ra khi sử dụng thuật toán".
Thực tế là các cá nhân có thể bắt đầu một hành trình thay đổi về sức khỏe thể chất chỉ trong vòng vài phút khi xem được những nội dung liên quan đến vấn đề này. Và nếu đó là nội dung không lành mạnh thì sẽ gây hại cho sức khỏe của họ”, Johanna nói thêm.
Các chuyên gia cho biết đối với các công ty được giao nhiệm vụ kiểm soát các nội dung, thực trạng này đang mở ra nhiều thách thức hơn. Không có ranh giới rõ ràng giữa tự do ngôn luận (tức là ai đó chia sẻ câu chuyện về quá trình hồi phục sau khi mắc phải chứng rối loạn ăn uống) và đăng những nội dung có thể gây ra chứng rối loạn ăn uống.
Hay lằn ranh giữa việc đăng những công thức nấu ăn lành mạnh với khuyến khích các hành vi ăn uống có hại cho những người đang phải vật lộn với chứng rối loạn này.
Kandel, người làm việc với các công ty truyền thông xã hội bao gồm TikTok, để giải quyết các nội dung có hại, cho biết cô không nhớ một xu hướng có hại nào được xác định và gỡ bỏ nhanh chóng như việc TikTok xóa hashtag "legging legs".
Trong nhiều năm, các chuyên gia y tế đã lo lắng về vai trò của mạng xã hội trong việc phát triển chứng rối loạn ăn uống và các vấn đề sức khỏe tâm thần khác. Theo Liên minh Quốc gia về rối loạn ăn uống, hơn 29 triệu người Mỹ mắc chứng rối loạn ăn uống nghiêm trọng và mọi người ở mọi lứa tuổi, mọi chủng tộc, mọi giới tính đều có thể mắc chứng rối loạn ăn uống.
Mọi người ở mọi lứa tuổi, mọi chủng tộc, mọi giới tính đều có thể mắc chứng rối loạn ăn uống. Ảnh minh họa: María Alconada Brooks/The Washington Post.
Sự tinh vi của các thuật toán
Thế nhưng hiện nay, các thuật toán đang xác định được nhiều nguồn cung cấp dữ liệu dựa trên các hoạt động trên mạng xã hội hơn bao giờ hết. Jillian Lampert - Giám đốc chiến lược của The Emily Program - cho biết mặc dù mọi người có thể chọn người họ theo dõi, nhưng hành động trước đó của họ có thể xác định nội dung xuất hiện ở những vị trí khác, chẳng hạn như trang “dành cho bạn” hoặc “khám phá”.
Tiến sĩ Lampert cho biết, khi còn là một thiếu niên vào những năm 1980, cô đã gặp những thông tin về “thân hình lý tưởng” hoặc chế độ ăn kiêng khắc nghiệt trên các tạp chí, phim ảnh và chương trình truyền hình. Và cô khẳng định việc tiếp cận những thông tin như thế này là điều không thể tránh khỏi đối với giới trẻ ngày nay.
Tiến sĩ Lampert nói rằng cô hiểu cách người dùng sử dụng mạng xã hội và những gì họ thấy trực tuyến là một phần quan trọng trong công việc tại The Emily Program. Bởi vì các thuật toán truyền thông xã hội phụ thuộc một phần vào người bạn theo dõi và nội dung bạn tương tác, nên các nhà cung cấp sẽ hỏi khách hàng những tài khoản nào họ có thể cần theo dõi vì lợi ích của chính họ.
Các thuật toán có thể cung cấp nội dung có hại một cách tinh vi nhưng đồng thời cũng có thể là vũ khí mạnh mẽ để chống lại các nội dung đó. Khi Emily Pearl, một nhà tư vấn truyền thông xã hội, nhìn thấy “#legginglegs” trên TikTok, phản ứng phẫn nộ của cô ấy đã thu hút được lượng lớn người xem.
“Mạng xã hội có thể cung cấp rất nhiều nội dung độc hại, nó thực sự khiến tôi choáng váng”, cô Pearl nói trong video hơn 11 triệu lượt xem của mình.
Cô Pearl cho biết mặc dù cô biết cách xác định nội dung có vấn đề ở nguồn cấp dữ liệu của mình ở một mức độ nào đó, nhưng cô lo lắng nếu các cháu gái, hoặc những người trẻ khác vì họ có thể không nhận thức được mức độ nguy hại của các video mà họ xem.
“Cần phải có nhiều biện pháp an toàn hơn để bảo vệ những đứa trẻ khỏi các nội dung độc hại trên mạng xã hội”, cô khẳng định.