Cấm khiêu dâm, Tumblr chặn nhầm cả thịt gà, bàn chải

Vào ngày 17/12, Tumblr sẽ cấm vĩnh viễn nội dung người lớn, đồng thời xoá mọi bỏ nội dung khiêu dâm từ trước như một động thái nhằm lọc lại nền tảng mạng xã hội này.

Theo Motherboard, quyết định trên của Tumblr vấp phải làn sóng phản đối từ những trang Web chuyên cung cấp nội dung người lớn. Thuật toán của Tumblr đã thể hiện sự yếu kém khi "gắn cờ" những nội dung hoàn toàn vô tội. Cụ thể, hình ảnh của một con ngựa một sừng đang nôn mửa, hình miếng thịt gà tươi trong siêu thị, ảnh chiếc máy chải giày đều bị dán mác hình ảnh khỏa thân, thô tục.

Hình ảnh con ngựa một sừng bị gắn cờ vi phạm trên Tumblr. Ảnh: Motherboard.

Người đại diện của Tumblr cho rằng việc "gắn cờ" được thực hiện bởi công nghệ machine learning kết hợp với đội ngũ chuyên gia An toàn và Bảo mật của riêng Tumblr. Tuy nhiên, Jeff D'Onofrio thừa nhận thuật toán nhận diện nội dung nhạy cảm của Tumblr còn lâu mới hoàn thiện được.

"Lọc bỏ những nội dung như khỏa thân vì mục đích chính trị hay tượng khỏa thân của David là rất khó khăn. Chúng ta dựa vào những công cụ tự động nhằm nhận diện nội dung đen, từ đó chúng sẽ tự học hỏi dần. Chúng tôi biết rằng sẽ có nhiều sai lầm, nhưng chúng tôi luôn cố gắng hết sức để đưa Tumblr vào khuôn phép", Jeff D'Onofrio trả lời Motherboard.

Hiện Tumblr đang gửi email cho những người dùng có nội dung bị gắn cờ cảnh báo, thông báo nội dung của họ sẽ bị đưa vào chế độ riêng tư. Người dùng cũng có thể khiếu nại nếu cho rằng nội dung của mình hoàn toàn hợp lệ.

"Chúng tôi muốn phát triển cộng đồng một cách nghiêm túc, chúng tôi phải thay đổi", Giám đốc điều hành Jeff D'Onofrio cho hay. Hồi tháng 8/2018, Tumblr cũng thông báo sẽ mạnh tay với các trường hợp phát tán nội dung khiêm dâm để trả thù, ngôn từ kích động hoặc hưởng ứng các vụ xả súng trong trường học.

"Còn rất nhiều trang web người lớn khác cho người xem. Với Tumblr, chúng tôi muốn nỗ lực tạo ra môi trường thân thiện nhất với tất cả mọi người", Jeff D'Onofrio cho biết.

Hình ảnh con gà trong siêu thị bị gắn mác nội dung khỏa thân. Ảnh: Motherboard.

Jilian York, Giám đốc tổ chức Tư do ngôn luận quốc tế trong lĩnh vực công nghệ thông tin cho rằng vấn đề kiểm duyệt dựa vào công cụ tự động và đưa ra nhiều kết quả sai lệch tồn tại ở rất nhiều nền tảng.

"Microsoft Bing khi mới ra đời cũng gặp vấn đề tương tự, những từ khóa như 'ức gà' hay 'ung thư vú' sẽ bị kiểm duyệt. Tumblr cần phải bớt dựa dẫm vào công cụ tự động mà phải tập trung điều chỉnh chính sách kiểm duyệt kĩ càng hơn", Jilian nói.