Facebook, YouTube có thể chặn video bạo lực nhờ công nghệ này

ictnews Để ngăn chặn phát tán video bạo lực như vụ xả súng tại New Zealand, Facebook và YouTube có thể sử dụng công nghệ có tên digital hashing.

Gần 18 tiếng sau vụ tấn công giết chết 49 người tại New Zealand, video quay lại cảnh tàn sát vẫn xuất hiện trên YouTube và Facebook. Một số chuyên gia cho rằng các hãng nên ứng dụng rộng rãi công nghệ mà họ đang sử dụng trong việc chống lại khiêu dâm trẻ em và vi phạm bản quyền để ngăn chặn phát tán các video bạo lực.

Video livestream dài 17 phút do kẻ thủ ác quay và đăng trên Facebook. Facebook cho biết đã gỡ video nhanh chóng nhưng nhiều giờ sau, các bản đăng lại vẫn tồn tại. Twitter đã chặn tài khoản đăng video và xóa các phiên bản khác trên nền tảng. YouTube sử dụng cả nguồn lực con người lẫn công nghệ để gỡ nội dung vi phạm chính sách.

Theo các chuyên gia, công nghệ “băm điện tử” (digital hashing) nên được sử dụng tốt hơn để chặn việc đăng lại các video dù không thể tóm gọn video quay trực tiếp. YouTube nói rằng họ dùng công nghệ băm để ngăn chặn việc tải lên video xả súng tại New Zealand nhưng với các video có chứa một phần trong clip gốc, họ phải dựa vào hệ thống báo cáo của người dùng.

Trong một tuyên bố, Facebook nói đã bổ sung mỗi video tìm được vào cơ sở dữ liệu nội bộ để phát hiện và tự động xóa các bản sao của video. Facebook xóa video khỏi Facebook Live và băm nó để tự động xóa video có hình ảnh tương tự ra khỏi Facebook và Instagram. Dù vậy, công ty không bình luận vì sao vài phần của video gốc vẫn còn trên nền tảng vài giờ sau.

Theo Hany Farid, giáo sư khoa học máy tính của trường cao đẳng Dartmouth, người đang dùng công nghệ hash để đối phó với khiêu dâm trẻ em, nếu Facebook sử dụng hàm băm mạnh hơn, công ty có thể tìm thấy phần lớn các bài đăng lại. Ngoài ra, bất kỳ phiên bản nào lọt lưới sau đó có thể bị băm và bổ sung vào chung cơ sở dữ liệu để ngăn chặn việc tải lên sau này.

Các mạng xã hội như Facebook đang phụ thuộc ngày càng lớn vào trí tuệ nhân tạo (AI) để báo cáo nội dung bạo lực. Tuy nhiên, quy trình không ổn định do nhiều yêu tố, chẳng hạn số lượng nội dung được tải lên hàng ngày hay AI không thể hiểu được bối cảnh mà sự việc diễn ra. Facebook, Google và Twitter dùng công nghệ băm để chống lại nội dung bất hợp pháp như khiêu dâm trẻ em, vi phạm bản quyền và video đi ngược với điều khoản dịch vụ.

Công nghệ hashing hoạt động như thế nào?

Công nghệ hashing sẽ chia video thành nhiều khung hình và gán cho mỗi khung hình một chữ ký số độc nhất (hay hash). Hash này được tổng hợp vào trong cơ sở dữ liệu trung tâm, nơi mọi bức ảnh, video đăng trên nền tảng sẽ được đối chiếu với bộ dữ liệu ấy. Hệ thống đòi hỏi một cơ sở dữ liệu hình ảnh, không sử dụng trí tuệ nhân tạo để xác định cái nào là ảnh mà chỉ phát hiện sự tương đồng giữa ảnh và video.

Hash có lợi thế ở quy mô. Năm 2008, Farid hợp tác với Microsoft tạo ra PhotoDNA, một hệ thống có thể nhanh chóng phát hiện khiêu dâm trẻ em ở quy mô lớn. PhotoDNA đang được dùng bởi nhiều nền tảng công nghệ lớn. Tốc độ xử lý của nó rất nhanh, cho phép xử lý hàng tỷ lượt tải mỗi ngày.

Theo Farid, mỗi ảnh mà người dùng tải lên Facebook trong 10 năm qua đều được quét qua cơ sở dữ liệu nội dung lạm dụng tình dục trẻ em. Các nền tảng cũng dùng công nghệ hash để kiểm soát các video xâm phạm bản quyền. Nếu muốn đăng một tập phim Avengers lên YouTube, bạn không thể làm điều đó nhờ công nghệ hash.

Trong các năm qua, các hãng công nghệ quan tâm nhiều hơn đến công nghệ hash trong việc ngăn chặn video khủng bố. Sau nhiều năm gặp khó khăn, Facebook, YouTube, Twitter và Microsoft đã cùng nhau tạo ra Diễn đàn Internet chống khủng bố toàn cầu, duy trì cơ sở dữ liệu nội dung về chủ nghĩa khủng bố.

Giáo sư Farid cho rằng công nghệ hash đã thể hiện tính hiệu quả trong chống lại lạm dụng trẻ em, vi phạm bản quyền, khủng bố, vì vậy nó cũng có thể ứng dụng trong các video bạo lực. Quyết định có ứng dụng nó hay không là câu hỏi về ý chí và chính sách chứ không phải về công nghệ.

26 sản phẩm, dịch vụ an toàn thông tin Việt nhận danh hiệu “Chìa khóa vàng” 2022

Danh hiệu “Chìa khóa vàng” năm 2022 vừa được trao cho cho 26 sản phẩm, dịch vụ an toàn thông tin Make in Vietnam tiêu biểu và 12 lượt doanh nghiệp an toàn thông tin xuất sắc ở 4 lĩnh vực.

Chuyên gia CMC Telecom chỉ cách tăng hiệu quả cộng tác nhóm bằng công nghệ

Sáng 8/12 vừa qua, CMC Telecom phối hợp Microsoft tổ chức hội thảo trực tuyến cho doanh nghiệp về "Giải pháp cộng tác nhóm hiệu quả với Microsoft" trên nền tảng Microsoft Teams.

Lãnh đạo Foxconn lo ngại mất vị thế trong chuỗi cung ứng toàn cầu

Nhà sáng lập Foxconn, đối tác cung ứng lớn của Apple bày tỏ lo ngại về việc công ty này đang mất dần vị thế trong chuỗi cung ứng toàn cầu

Google gặp sự cố gián đoạn dịch vụ, nhiều website lớn thiệt hại doanh thu

Một dịch vụ của Google được sử dụng bởi nhiều website phổ biến, đã gặp sự cố gián đoạn kéo dài khoảng 3 tiếng vào ngày 8/12, gây thiệt hại lớn tới doanh thu của nhiều tờ báo trong thời điểm nghỉ lễ quan trọng.

Xem trực tiếp World Cup 2022, Croatia vs Brazil, 22h00 ngày 9/12

Kênh VTV2 để xem trận đấu giữa Croatia và Brazil hôm nay có trên những hệ thống truyền hình trực tuyến như VTV News, VTV Go, VTVcab ON, hay cả FPT Play, TV360...

Xem trực tiếp World Cup 2022, Hà Lan vs Argentina, 2h00 ngày 10/12

Kênh VTV3 để xem trận đấu giữa Hà Lan và Argentina hôm nay có trên những hệ thống truyền hình trực tuyến như VTV News, VTV Go, VTVcab ON, hay cả FPT Play, TV360...

Khơi dậy tinh thần Việt Nam để cùng xây dựng đất nước tốt đẹp hơn

Việc Bộ TT&TT phát động Diễn đàn Quốc gia Phát triển doanh nghiệp công nghệ số Việt Nam là muốn khơi dậy tinh thần Việt Nam, để chúng ta cùng nhau xây dựng đất nước ngày càng tốt đẹp hơn.

Thị trường Việt Nam đủ lớn cho phát triển sản phẩm bảo vệ gia đình trên không gian mạng

Thứ trưởng Bộ TT&TT Nguyễn Huy Dũng cho rằng, Việt Nam hiện có gần 100 triệu dân, khoảng 27 triệu gia đình và với mục tiêu mỗi hộ có một đường cáp quang, mỗi người dân có một smartphone nên rất cần sản phẩm an toàn thông tin bảo vệ cho gia đình.

Góc tối đáng sợ của những thử thách lan truyền trên TikTok Icon

Nhiều trẻ em đã thiệt mạng sau khi thực hiện theo các thử thách nguy hiểm được lan truyền trên TikTok. Trong khi TikTok phổ biến đối với trẻ em hơn bất cứ nền tảng nào.

Lần đầu Việt Nam thử nghiệm 5G và xuất khẩu thiết bị Make in Việt Nam sang Ấn Độ

Đây là lần đầu tiên các thiết bị mạng 5G Make in Việt Nam được đưa sang thị trường nước ngoài. Sự kiện này đánh dấu một bước tiến mới của ngành viễn thông.

Đang cập nhật dữ liệu !