Trong một nghiên cứu với hơn 37.000 tình nguyện viên, Mozilla phát hiện ra rằng 71% các video được đề xuất trên YouTube đã bị người tham gia gắn cờ là phản cảm.
YouTube sử dụng thuật toán phức tạp để đưa ra những video đề xuất tiếp theo cho người xem. Tuy nhiên, theo một nghiên cứu từ Mozilla Foundation, tổ chức phi lợi nhuận về phần mềm, thuật toán này có nhiều khả năng sẽ đề xuất các video có nội dung khiêu dâm và nhạy cảm thay vì những video liên quan đến sở thích cá nhân.
Trong một nghiên cứu với hơn 37.000 tình nguyện viên, Mozilla phát hiện ra rằng 71% các video được đề xuất trên YouTube đã bị người tham gia gắn cờ là phản cảm. Cụ thể, người tham gia đã sử dụng tiện ích mở rộng của trình duyệt để theo dõi việc xem YouTube của họ trong hơn 10 tháng và khi họ gắn cờ một video có vấn đề, tiện ích mở rộng này sẽ ghi lại nếu họ xem video đó qua đề xuất của YouTube hay của chính họ.
Người xem phản ánh video đề xuất của YouTube có nội dung phản cảm. Ảnh: VidIQ.
Những video đề xuất này thường có nội dung ngụy khoa học, thuyết âm mưu 11/9, ngược đãi động vật, ủng hộ quyền lực tối cao của người da trắng... Ngoài ra, một phụ huynh nói với Mozilla rằng cô con gái 10 tuổi của họ đã "rơi vào vực thẳm" vì xem những video ăn kiêng khắc nghiệt trong khi tìm kiếm nội dung liên quan đến nhảy khiêu vũ. Điều này đã khiến cô bé phải hạn chế thói quen ăn uống của mình.
Những video này được đề xuất vì khả năng lan truyền cũng như khả năng thu hút lượt xem của chúng. Khi những video đề xuất mang lại hàng nghìn hoặc hàng triệu lượt xem thì thuật toán đề xuất có thể lưu hành nội dung đó đến người dùng, thay vì tập trung vào sở thích cá nhân của họ.
Sau vụ phản ánh từ người xem, YouTube đã xóa 200 video bị gắn cờ.
"Công ty đã giảm các đề xuất về nội dung được xác định là có hại xuống dưới 1% số video được xem", người đại diện của YouTube chia sẻ với The Wall Street Journal.
Dù đã đồng ý về việc xóa các video có nội dung bạo lực hoặc phân biệt chủng tộc, YouTube lại từ chối công khai bất kỳ thông tin nào về cách hoạt động chính xác của thuật toán đề xuất, đồng thời khẳng định nó là độc quyền. Do đó, việc YouTube có thực sự cải tiến thuật toán để tránh lan truyền video phản cảm hay không, thay vì chỉ xử lý từng trường hợp được báo cáo, vẫn là câu hỏi không lời đáp.
YouTube sử dụng thuật toán phức tạp để đưa ra những video đề xuất tiếp theo cho người xem. Tuy nhiên, theo một nghiên cứu từ Mozilla Foundation, tổ chức phi lợi nhuận về phần mềm, thuật toán này có nhiều khả năng sẽ đề xuất các video có nội dung khiêu dâm và nhạy cảm thay vì những video liên quan đến sở thích cá nhân.
Trong một nghiên cứu với hơn 37.000 tình nguyện viên, Mozilla phát hiện ra rằng 71% các video được đề xuất trên YouTube đã bị người tham gia gắn cờ là phản cảm. Cụ thể, người tham gia đã sử dụng tiện ích mở rộng của trình duyệt để theo dõi việc xem YouTube của họ trong hơn 10 tháng và khi họ gắn cờ một video có vấn đề, tiện ích mở rộng này sẽ ghi lại nếu họ xem video đó qua đề xuất của YouTube hay của chính họ.
Người xem phản ánh video đề xuất của YouTube có nội dung phản cảm. Ảnh: VidIQ.
Những video đề xuất này thường có nội dung ngụy khoa học, thuyết âm mưu 11/9, ngược đãi động vật, ủng hộ quyền lực tối cao của người da trắng... Ngoài ra, một phụ huynh nói với Mozilla rằng cô con gái 10 tuổi của họ đã "rơi vào vực thẳm" vì xem những video ăn kiêng khắc nghiệt trong khi tìm kiếm nội dung liên quan đến nhảy khiêu vũ. Điều này đã khiến cô bé phải hạn chế thói quen ăn uống của mình.
Những video này được đề xuất vì khả năng lan truyền cũng như khả năng thu hút lượt xem của chúng. Khi những video đề xuất mang lại hàng nghìn hoặc hàng triệu lượt xem thì thuật toán đề xuất có thể lưu hành nội dung đó đến người dùng, thay vì tập trung vào sở thích cá nhân của họ.
Sau vụ phản ánh từ người xem, YouTube đã xóa 200 video bị gắn cờ.
"Công ty đã giảm các đề xuất về nội dung được xác định là có hại xuống dưới 1% số video được xem", người đại diện của YouTube chia sẻ với The Wall Street Journal.
Dù đã đồng ý về việc xóa các video có nội dung bạo lực hoặc phân biệt chủng tộc, YouTube lại từ chối công khai bất kỳ thông tin nào về cách hoạt động chính xác của thuật toán đề xuất, đồng thời khẳng định nó là độc quyền. Do đó, việc YouTube có thực sự cải tiến thuật toán để tránh lan truyền video phản cảm hay không, thay vì chỉ xử lý từng trường hợp được báo cáo, vẫn là câu hỏi không lời đáp.
Theo ICT News
