Bóng ma Deepfake trỗi dậy: Phát hiện 14.678 video ghép mặt người nổi tiếng, 96% số này có nội dung khiêu dâm

Theo thống kê, 96% video deepfake có nội dung đồi truỵ, với hầu hết nạn nhân đều là các ca sĩ, diễn viên nữ nổi tiếng bị ghép mặt vào các bộ phim khiêu dâm.

Sự phát triển của công nghệ kéo theo vô vàn hệ lụy và nguy hiểm nhất nhì trong số đó, chính là Deepfake - công nghệ ứng dụng trí thông minh nhân tạo (AI) để làm giả danh tính, cụ thể ở đây là giả mạo khuôn mặt.Theo đó, công nghệ này sử dụng dữ liệu về đặc điểm khuôn mặt, hình thể vốn đã được thu thập, sau đó hợp nhất lại bởi trí tuệ nhân tạo (AI). Từ đó, Deepfake có thể gán khuôn mặt của người này sang người khác, với độ chân thực vượt ra khỏi trí tưởng tượng, khiến người xem không thể phân biệt đâu là video thật, đâu là ghép.

Đáng nói, phần mềm này được xây dựng để phô diễn sức mạnh của trí tuệ nhân tạo, nhưng đang bị lợi dụng để tấn công người khác, và nạn nhân có thể là bất cứ ai: Từ người nổi tiếng, chính trị gia, quan chức cấp cao...cho đến cả những người bình thường.

96% video deepfake trên mạng có nội dung khiêu dâm, nạn nhân đều là nghệ sĩ nữ

Theo Forbes, việc tạo video bằng công nghệ Deepfake đang trở nên dễ dàng hơn bao giờ hết, khi phần mềm dùng để tạo ra những video giả mạo này đang được phổ biến rộng rãi trên những trang web chia sẻ mã nguồn như Github, hay các diễn đàn trực tuyến nổi tiếng như 4chan. Bất kỳ người dùng có một chút kiến thức công nghệ và máy móc đủ mạnh giờ đây đều có thể tải những bộ công cụ và tự mình tạo ra các video deepfake.

Bóng ma Deepfake trỗi dậy: Phát hiện 14.678 video ghép mặt người nổi tiếng, 96% số này có nội dung khiêu dâm - Ảnh 1.

Độ chân thực của công nghệ Deepfake khiến người xem khó có thể phân biệt thật/giả

Vào năm 2017, các video deepfake đầu tiên đã xuất hiện trên một chuyên mục phụ của nền tảng mạng xã hội Reddit, với nội dung là người nổi tiếng hoán đổi gương mặt vào các ngôi sao phim cấp ba. Tuy nhiên, sau 2 năm, số lượng những video có nội dung tương tự đang tăng lên chóng mặt. Thực tế, người dùng có thể dễ dàng tìm thấy một loạt video deepfake có nội dung nhạy cảm được đăng tải trên các nền tảng mạng xã hội.

Việc kiểm duyệt những video dạng này là rất khó khăn, khi chúng có thể dễ dàng xuất hiện trở lại ngay sau khi bị xóa bởi đội ngũ quản trị mạng xã hội. Các trang web bao gồm Pornhub, Twitter và Reddit đã cấm nội dung khiêu dâm do AI tạo ra, nhưng những video có nội dung 18+ vẫn có thể dễ dàng tìm thấy chỉ bằng việc tìm kiếm trên Google.

Bóng ma Deepfake trỗi dậy: Phát hiện 14.678 video ghép mặt người nổi tiếng, 96% số này có nội dung khiêu dâm - Ảnh 2.

Gal Gadot chỉ là một trong số hàng trăm nghệ sĩ nổi tiếng là nạn nhân của Deepfake

Theo thống kê của Deeptrace, một công ty có trụ sở tại Amsterdam chuyên phát hiện những nội dung được tạo ra bởi trí tuệ nhân tạo, có tới 96% video deepfake có nội dung đồi truỵ. Hầu hết nạn nhân đều là các ca sĩ, diễn viên nữ nổi tiếng bị ghép mặt vào các bộ phim khiêu dâm.

Công ty này cũng cho biết, hiện có khoảng 14.678 video deepfake trên Internet, tăng tới 84% so với con số 7.964 video tính đến tháng 12/2018. Để có thể thống kê, Deeptrace sử dụng một công cụ tự động nhằm theo dõi các diễn đàn trực tuyến và các mạng xã hội, nơi người dùng thường trao đổi và bàn luận về các nội dung liên quan.

"Chúng tôi phát hiện ra bốn trang web khiêu dâm hàng đầu chuyên đăng tải các video deepfake có tổng lượt xem lên tới 134 triệu. Có tới hàng trăm nữ diễn viên, ca sĩ hay người nổi tiếng trên toàn thế giới là nạn nhân (bị ghép mặt)" CEO Deeptrace, ông Giorgio Patrini cho biết trong một báo cáo . "Lượng người xem quá lớn này cho thấy sự tồn tại của một thị trường nơi các trang web tạo và lưu trữ các video có nội dung khiêu dâm bằng công nghệ deepfake. Xu hướng này sẽ tiếp tục phát triển trừ khi các biện pháp ngăn chặn được đưa ra."

Đáng chú ý, Deeptrace cũng ghi nhận sự gia tăng của các dịch vụ tạo video Deepfake, khi những người có nhu cầu chỉ cần bỏ ra một khoản tiền để ‘đặt hàng" các video dạng này.

Bóng ma Deepfake trỗi dậy: Phát hiện 14.678 video ghép mặt người nổi tiếng, 96% số này có nội dung khiêu dâm - Ảnh 3.

Các công cụ tạo video sử dụng công nghệ Deepfake đang ngày càng phổ biến

Báo cáo từ Deeptrace cũng nhấn mạnh, công nghệ AI đã bị lạm dụng để nhắm mục tiêu vào phụ nữ bằng cách tạo ra các video khiêu dâm không đồng thuận. "Tác động của Deepfake đã có thể cảm nhận được trên phạm vi toàn cầu", công ty cho biết. "Chúng tôi hy vọng báo cáo này sẽ thúc đẩy thêm các buổi thảo luận về chủ đề này và nhấn mạnh tầm quan trọng của việc phát triển một loạt các biện pháp đối phó để bảo vệ các cá nhân và tổ chức khỏi các ứng dụng có hại của Deepfake."

Tuy nhiên, nguy cơ từ Deepfake không dừng lại ở các con số thống kê đơn thuần. Trong một cuộc phỏng vấn với đài CNBC, phó giáo sư ngành khoa học máy tính tại Đại học Nam California, Hao Li cảnh báo mọi người sẽ được chứng kiến những đoạn video sử dụng công nghệ Deepfake "chân thực đến hoàn hảo" trong vòng từ 6 đến 12 tháng tới.

"Hiện nay bạn vẫn rất dễ để nhận biết bằng mắt hầu hết các video deepfake, ông Hao Li khẳng định. "Nhưng cũng có những ví dụ thực sự, thực sự thuyết phục. Sớm thôi, sẽ đến lúc không còn cách nào để chúng ta có thể thực sự phát hiện ra deepfake nữa, do đó chúng ta sẽ phải tìm các giải pháp khác"".

Tham khảo Forbes

 
 
List comment
 
Keysight Technologies mua lại công ty chuyên về tự động kỹ thuật số thông minh Eggplant
icon

Hãng công nghệ đo lường điện tử Keysight Technologies vừa công bố hoàn tất việc mua lại Eggplant - công ty chuyên về tự động kỹ thuật số thông minh, từ tập đoàn Carlyle.

 
Hơn 11.000 học sinh cả nước dự vòng quốc gia thi giải Toán, Vật lí qua mạng
icon

Hơn 11.000 học sinh từ 50 tỉnh thành trên cả nước đã tham dự vòng quốc gia cuộc thi giải Toán, Vật lí qua mạng Internet - Violympic năm học 2019 - 2020 được tổ chức ngày 28/6.

 
Sửa xong cáp biển APG, Internet Việt Nam đi quốc tế bình thường trở lại
icon

Việc sửa chữa, khắc phục các sự cố xảy ra ngày 30/4 và 23/5/2020 trên tuyến cáp quang biển APG đã được đối tác quốc tế hoàn thành, khôi phục hoàn toàn dung lượng kết nối Internet Việt Nam đi quốc tế.

 
Điều gì sẽ xảy ra sau chiến dịch tẩy chay quảng cáo Facebook?
icon

Tuần trước, hàng loạt công ty ra mặt ủng hộ chiến dịch tẩy chay quảng cáo trên Facebook #StopHateForProfit. Chuyện sẽ diễn biến theo chiều hướng nào?

 
Cập nhật những xu hướng công nghệ mới nhất hội tụ tại Schneider Electric Innovation Day 2020
icon

Thế giới đang chuyển mình nhanh chóng, và các doanh nghiệp, trong guồng quay kinh tế số, cũng đã không ngừng chuyển đổi để tạo ra lợi thế cạnh tranh riêng. Vậy đâu là hướng đi để các doanh nghiệp có thể chuyển đổi số linh hoạt nhất? 

 
 
YouTube thay đổi chính sách tính phí tại Hàn Quốc sau khi bị phạt tiền
icon

Ngày 25/6, Ủy ban Truyền thông Hàn Quốc (KCC) cho biết, Hàn Quốc là quốc gia đầu tiên mà Google sẽ thay đổi chính sách tính phí cho dịch vụ cao cấp của YouTube (YouTube Premium) kể từ ngày 28/8.

Mark Zuckerberg cuối cùng cũng phải nhượng bộ
icon

Bị gần 100 đối tác quay lưng, Mark Zuckerberg cho biết Facebook sẽ siết chặt chính sách quảng cáo và dán nhãn nội dung trên nền tảng của mình.

Công bố 6 dịch vụ công mới trên Cổng dịch vụ công quốc gia
icon

Buổi họp báo công bố 6 dịch vụ mới cung cấp cho người dân, doanh nghiệp trên Cổng dịch vụ công quốc gia sẽ được tổ chức ngày 1/7 tới tại Hà Nội.

Bảy trường đại học kỹ thuật tại Việt Nam thống nhất phát triển chương trình đào tạo
icon

Để nâng cao chất lượng đào tạo, phù hợp với thông lệ và chuẩn mực quốc tế, lần đầu tiên 7 trường đại học kỹ thuật hàng đầu Việt Nam đã cùng ký kết thống nhất những nguyên tắc chung trong phát triển chương trình đào tạo Kỹ sư.

Elon Musk chế giễu CEO Amazon là kẻ bắt chước
icon

CEO Tesla Elon Musk công khai gọi Jeff Bezos, CEO Amazon, là kẻ bắt chước sau khi có tin Amazon mua lại startup xe tự lái Zoox.  

 
123

Giấy phép hoạt động báo chí: Số 09/GP-BTTTT, Bộ Thông tin và Truyền thông cấp ngày 07/01/2019.

Tòa soạn: Tầng 7, Tòa nhà Cục Tần số Vô tuyến điện, 115 Trần Duy Hưng, Quận Cầu Giấy, Hà Nội

Điện thoại: 024 3 936 9966 - Fax: 024 3 936 9364

Hotline nội dung: 0888 911 911 - Email: toasoan@ictnews.vn

123