YouTube trở thành điểm tụ họp của những kẻ ấu dâm

Một nhóm nghiên cứu phát hiện hệ thống đề xuất tự động của YouTube đang tập hợp các video trẻ em và giới thiệu chúng cho những người có xu hướng ấu dâm.

Christiane C. không lo nghĩ gì khi cô con gái 10 tuổi và một người bạn đăng tải đoạn video chúng đang chơi ở bể bơi.

"Video đó trong sáng, nó không phải là vấn đề lớn", Christiane, cư dân ngoại ô Rio de Janeiro, nói với New York Times.

Vài ngày sau, con gái cô chia sẻ tin tức thú vị: Video có hàng nghìn lượt xem. Chẳng bao lâu, nó đã đạt mốc 400.000 - con số đáng kinh ngạc cho video về một đứa trẻ trong bộ đồ tắm hai mảnh với bạn của cô bé.

"Tôi đã xem video một lần nữa và tôi đã rất sợ số lượt xem", Christiane nói. Cô có lý do để sợ hãi.

Sân chơi nguy hiểm trên YouTube

Một nhóm nghiên cứu phát hiện hệ thống đề xuất tự động của YouTube đã bắt đầu hiển thị video này cho những người dùng từng xem video về trẻ em mặc trang phục ít vải. Hệ thống đề xuất là thứ điều khiển phần lớn trong hàng tỷ lượt xem trên YouTube bằng cách gợi ý những gì người dùng nên xem tiếp theo.

Các nhà nghiên cứu cho biết YouTube quản lý video từ các kho lưu trữ. Trong nhiều trường hợp, thuật toán của nó giới thiệu người dùng đến các video như trên sau khi họ xem nội dung có chủ đề tình dục.

Kết quả là một danh mục các video mà các chuyên gia nói rằng tình dục hóa trẻ em.

"Chính thuật toán của YouTube đã kết nối các kênh này. Đó là điều đáng sợ", Jonas Kaiser, một trong ba nhà nghiên cứu tại Trung tâm Internet và Xã hội Berkman Klein của Đại học Harvard, cho biết.

YouTube tro thanh diem tu hop cua nhung ke au dam hinh anh 1
"Tôi sợ hãi bởi số lượt xem", Christiane C., một phụ nữ người Brazil, nói về đoạn video mà con gái cô đăng tải trên YouTube. Ảnh: New York Times.

Video của con gái Christiane được quảng cáo bởi các hệ thống YouTube vài tháng sau khi công ty được cảnh báo rằng nó có vấn đề về ấu dâm. Vào tháng 2, Wired và các hãng tin khác cho biết những kẻ săn mồi đang sử dụng phần bình luận của các video trên YouTube với trẻ em để hướng dẫn những kẻ ấu dâm khác.

YouTube đã vô hiệu hóa bình luận trên nhiều video có trẻ em sau khi nhìn nhận vấn đề là "rất đáng lo ngại".

Nhưng hệ thống đề xuất vẫn tồn tại đã tập hợp những video như vậy vào một kho lưu trữ mới có thể được xem dễ dàng và đẩy chúng ra cho lượng lớn khán giả.

YouTube không bao giờ đặt mục tiêu phục vụ người dùng có xu hướng ấu dâm, nhưng hệ thống tự động lại đưa ra những đề xuất mà Kaiser nói là "hợp ý nhưng ghê tởm".

Người dùng không cần phải tìm kiếm video của trẻ em để xem chúng. Nền tảng có thể dẫn họ đến đó thông qua tiến trình đề xuất.

Vì vậy, một người dùng xem các video khiêu dâm có thể được đề xuất các video về những phụ nữ trẻ hơn, sau đó là những phụ nữ tạo dáng khiêu khích trong quần áo trẻ em. Cuối cùng, một số người dùng có thể được xem video về các bé gái khoảng 5 hoặc 6 tuổi mặc đồ tắm, thay quần áo hoặc xoạc chân.

Jennifer O’Connor, Giám đốc Sản phẩm của YouTube, cho biết công ty đã cam kết xóa bỏ việc khai thác trẻ em trên nền tảng của mình và đã làm việc không ngừng nghỉ kể từ tháng 2 để cải thiện việc thực thi.

"Bảo vệ trẻ em đứng đầu danh sách của chúng tôi", cô nói.

Nhưng YouTube đã không đưa ra một thay đổi mà các nhà nghiên cứu kiến nghị: tắt hệ thống đề xuất của họ trên video của trẻ em, mặc dù nền tảng có thể tự động xác định các video đó. 

Công ty cho biết vì các đề xuất là yếu tố điều hướng lưu lượng truy cập lớn nhất, việc loại bỏ chúng sẽ làm tổn thương "những người sáng tạo" sống dựa vào những lượt click. YouTube nói sẽ giới hạn các đề xuất trên các video mà họ cho là khiến trẻ em gặp nguy hiểm.

Lượng người xem lớn

YouTube mô tả hệ thống đề xuất của mình là "trí thông minh nhân tạo không ngừng học hỏi những đề xuất nào sẽ khiến người dùng tiếp tục theo dõi". Công ty cho biết những đề xuất này thúc đẩy 70% lượt xem nhưng không tiết lộ chi tiết về cách hệ thống đưa ra lựa chọn của mình.

Một số nghiên cứu đã tìm thấy cái gọi là "hiệu ứng hang thỏ". Theo đó, nền tảng này dẫn người xem đến các video hoặc chủ đề cực đoan hơn, được cho là giữ chân họ.

Ví dụ, khi xem một vài video về trang điểm, người dùng có thể được đề xuất một video trang điểm được lan truyền. Bạn xem clip về xe đạp và YouTube có thể gợi ý các vụ tai nạn đua xe đạp gây sốc.

YouTube tro thanh diem tu hop cua nhung ke au dam hinh anh 2
Trụ sở chính của YouTube tại San Bruno, California. Ảnh: AFP/Getty.

Khi tìm hiểu về cách YouTube điều hướng các video ở Brazil, nhóm nghiên cứu của Kaiser nhận thấy YouTube có thể giới thiệu dòng video gần như vô tận về trẻ nhỏ, chủ yếu từ Mỹ Latin và Đông Âu.

Số lượt xem bất thường, đôi khi lên tới hàng triệu, chỉ ra rằng hệ thống đã tìm thấy khán giả cho các video và đang gắn kết người xem.

Theo các nhà tâm lý học, bằng cách hiển thị các video về trẻ em bên cạnh nội dung tình dục thông thường, cũng như hiển thị số lượt xem cao của các video, YouTube có nguy cơ làm xói mòn điều cấm kỵ đối với ấu dâm.

Các nhà nghiên cứu cho biết hầu hết người xem chỉ dừng lại ở việc xem các hình ảnh tình dục. Tuy nhiên, một số video trên YouTube bao gồm các liên kết đến các tài khoản mạng xã hội của trẻ em.

"Nhiều người tích cực tham gia trò chuyện với trẻ em và rất giỏi trong việc dụ dỗ chúng đăng những bức ảnh khêu gợi hơn hoặc tham gia vào hoạt động tình dục và quay video", tiến sĩ Marcus Rogers, nhà tâm lý học tại Đại học Purdue và vừa hoàn thành nghiên cứu về nội dung khiêu dâm trẻ em, cho biết.

YouTube không cho phép trẻ em dưới 13 tuổi mở các kênh. Công ty nói rằng họ thực thi chính sách chặt chẽ.

Theo Jenny Coleman, Giám đốc của Stop It Now, một tổ chức chống lại nạn bóc lột tình dục của trẻ em, đối với các bậc cha mẹ, không có giải pháp dễ dàng.

"Ngay cả những gia đình cẩn thận nhất cũng có thể bị cuốn vào thứ gì đó có hại hoặc phạm tội", cô nói.

Một tổ chức địa phương đã liên lạc với Christiane và đề nghị cô chia sẻ kinh nghiệm của mình.

Cô đang vật lộn để giải quyết những gì đã xảy ra. Cô băn khoăn không biết nói gì với chồng. Cô bày tỏ sự bối rối trước hệ thống vận hành của YouTube và cô lo lắng làm thế nào để giữ con gái mình an toàn.

"Điều duy nhất tôi có thể làm là cấm con bé đăng bất cứ thứ gì trên YouTube", cô nói.

 
 
List comment
 
Keysight Technologies mua lại công ty chuyên về tự động kỹ thuật số thông minh Eggplant
icon

Hãng công nghệ đo lường điện tử Keysight Technologies vừa công bố hoàn tất việc mua lại Eggplant - công ty chuyên về tự động kỹ thuật số thông minh, từ tập đoàn Carlyle.

 
Hơn 11.000 học sinh cả nước dự vòng quốc gia thi giải Toán, Vật lí qua mạng
icon

Hơn 11.000 học sinh từ 50 tỉnh thành trên cả nước đã tham dự vòng quốc gia cuộc thi giải Toán, Vật lí qua mạng Internet - Violympic năm học 2019 - 2020 được tổ chức ngày 28/6.

 
Sửa xong cáp biển APG, Internet Việt Nam đi quốc tế bình thường trở lại
icon

Việc sửa chữa, khắc phục các sự cố xảy ra ngày 30/4 và 23/5/2020 trên tuyến cáp quang biển APG đã được đối tác quốc tế hoàn thành, khôi phục hoàn toàn dung lượng kết nối Internet Việt Nam đi quốc tế.

 
Điều gì sẽ xảy ra sau chiến dịch tẩy chay quảng cáo Facebook?
icon

Tuần trước, hàng loạt công ty ra mặt ủng hộ chiến dịch tẩy chay quảng cáo trên Facebook #StopHateForProfit. Chuyện sẽ diễn biến theo chiều hướng nào?

 
Cập nhật những xu hướng công nghệ mới nhất hội tụ tại Schneider Electric Innovation Day 2020
icon

Thế giới đang chuyển mình nhanh chóng, và các doanh nghiệp, trong guồng quay kinh tế số, cũng đã không ngừng chuyển đổi để tạo ra lợi thế cạnh tranh riêng. Vậy đâu là hướng đi để các doanh nghiệp có thể chuyển đổi số linh hoạt nhất? 

 
 
YouTube thay đổi chính sách tính phí tại Hàn Quốc sau khi bị phạt tiền
icon

Ngày 25/6, Ủy ban Truyền thông Hàn Quốc (KCC) cho biết, Hàn Quốc là quốc gia đầu tiên mà Google sẽ thay đổi chính sách tính phí cho dịch vụ cao cấp của YouTube (YouTube Premium) kể từ ngày 28/8.

Mark Zuckerberg cuối cùng cũng phải nhượng bộ
icon

Bị gần 100 đối tác quay lưng, Mark Zuckerberg cho biết Facebook sẽ siết chặt chính sách quảng cáo và dán nhãn nội dung trên nền tảng của mình.

Công bố 6 dịch vụ công mới trên Cổng dịch vụ công quốc gia
icon

Buổi họp báo công bố 6 dịch vụ mới cung cấp cho người dân, doanh nghiệp trên Cổng dịch vụ công quốc gia sẽ được tổ chức ngày 1/7 tới tại Hà Nội.

Bảy trường đại học kỹ thuật tại Việt Nam thống nhất phát triển chương trình đào tạo
icon

Để nâng cao chất lượng đào tạo, phù hợp với thông lệ và chuẩn mực quốc tế, lần đầu tiên 7 trường đại học kỹ thuật hàng đầu Việt Nam đã cùng ký kết thống nhất những nguyên tắc chung trong phát triển chương trình đào tạo Kỹ sư.

Elon Musk chế giễu CEO Amazon là kẻ bắt chước
icon

CEO Tesla Elon Musk công khai gọi Jeff Bezos, CEO Amazon, là kẻ bắt chước sau khi có tin Amazon mua lại startup xe tự lái Zoox.  

 
123

Giấy phép hoạt động báo chí: Số 09/GP-BTTTT, Bộ Thông tin và Truyền thông cấp ngày 07/01/2019.

Tòa soạn: Tầng 7, Tòa nhà Cục Tần số Vô tuyến điện, 115 Trần Duy Hưng, Quận Cầu Giấy, Hà Nội

Điện thoại: 024 3 936 9966 - Fax: 024 3 936 9364

Hotline nội dung: 0888 911 911 - Email: toasoan@ictnews.vn

123