Bóng ma Deepfake trỗi dậy: Phát hiện 14.678 video ghép mặt người nổi tiếng, 96% số này có nội dung khiêu dâm

Theo thống kê, 96% video deepfake có nội dung đồi truỵ, với hầu hết nạn nhân đều là các ca sĩ, diễn viên nữ nổi tiếng bị ghép mặt vào các bộ phim khiêu dâm.

Sự phát triển của công nghệ kéo theo vô vàn hệ lụy và nguy hiểm nhất nhì trong số đó, chính là Deepfake - công nghệ ứng dụng trí thông minh nhân tạo (AI) để làm giả danh tính, cụ thể ở đây là giả mạo khuôn mặt.Theo đó, công nghệ này sử dụng dữ liệu về đặc điểm khuôn mặt, hình thể vốn đã được thu thập, sau đó hợp nhất lại bởi trí tuệ nhân tạo (AI). Từ đó, Deepfake có thể gán khuôn mặt của người này sang người khác, với độ chân thực vượt ra khỏi trí tưởng tượng, khiến người xem không thể phân biệt đâu là video thật, đâu là ghép.

Đáng nói, phần mềm này được xây dựng để phô diễn sức mạnh của trí tuệ nhân tạo, nhưng đang bị lợi dụng để tấn công người khác, và nạn nhân có thể là bất cứ ai: Từ người nổi tiếng, chính trị gia, quan chức cấp cao...cho đến cả những người bình thường.

96% video deepfake trên mạng có nội dung khiêu dâm, nạn nhân đều là nghệ sĩ nữ

Theo Forbes, việc tạo video bằng công nghệ Deepfake đang trở nên dễ dàng hơn bao giờ hết, khi phần mềm dùng để tạo ra những video giả mạo này đang được phổ biến rộng rãi trên những trang web chia sẻ mã nguồn như Github, hay các diễn đàn trực tuyến nổi tiếng như 4chan. Bất kỳ người dùng có một chút kiến thức công nghệ và máy móc đủ mạnh giờ đây đều có thể tải những bộ công cụ và tự mình tạo ra các video deepfake.

Bóng ma Deepfake trỗi dậy: Phát hiện 14.678 video ghép mặt người nổi tiếng, 96% số này có nội dung khiêu dâm - Ảnh 1.

Độ chân thực của công nghệ Deepfake khiến người xem khó có thể phân biệt thật/giả

Vào năm 2017, các video deepfake đầu tiên đã xuất hiện trên một chuyên mục phụ của nền tảng mạng xã hội Reddit, với nội dung là người nổi tiếng hoán đổi gương mặt vào các ngôi sao phim cấp ba. Tuy nhiên, sau 2 năm, số lượng những video có nội dung tương tự đang tăng lên chóng mặt. Thực tế, người dùng có thể dễ dàng tìm thấy một loạt video deepfake có nội dung nhạy cảm được đăng tải trên các nền tảng mạng xã hội.

Việc kiểm duyệt những video dạng này là rất khó khăn, khi chúng có thể dễ dàng xuất hiện trở lại ngay sau khi bị xóa bởi đội ngũ quản trị mạng xã hội. Các trang web bao gồm Pornhub, Twitter và Reddit đã cấm nội dung khiêu dâm do AI tạo ra, nhưng những video có nội dung 18+ vẫn có thể dễ dàng tìm thấy chỉ bằng việc tìm kiếm trên Google.

Bóng ma Deepfake trỗi dậy: Phát hiện 14.678 video ghép mặt người nổi tiếng, 96% số này có nội dung khiêu dâm - Ảnh 2.

Gal Gadot chỉ là một trong số hàng trăm nghệ sĩ nổi tiếng là nạn nhân của Deepfake

Theo thống kê của Deeptrace, một công ty có trụ sở tại Amsterdam chuyên phát hiện những nội dung được tạo ra bởi trí tuệ nhân tạo, có tới 96% video deepfake có nội dung đồi truỵ. Hầu hết nạn nhân đều là các ca sĩ, diễn viên nữ nổi tiếng bị ghép mặt vào các bộ phim khiêu dâm.

Công ty này cũng cho biết, hiện có khoảng 14.678 video deepfake trên Internet, tăng tới 84% so với con số 7.964 video tính đến tháng 12/2018. Để có thể thống kê, Deeptrace sử dụng một công cụ tự động nhằm theo dõi các diễn đàn trực tuyến và các mạng xã hội, nơi người dùng thường trao đổi và bàn luận về các nội dung liên quan.

"Chúng tôi phát hiện ra bốn trang web khiêu dâm hàng đầu chuyên đăng tải các video deepfake có tổng lượt xem lên tới 134 triệu. Có tới hàng trăm nữ diễn viên, ca sĩ hay người nổi tiếng trên toàn thế giới là nạn nhân (bị ghép mặt)" CEO Deeptrace, ông Giorgio Patrini cho biết trong một báo cáo . "Lượng người xem quá lớn này cho thấy sự tồn tại của một thị trường nơi các trang web tạo và lưu trữ các video có nội dung khiêu dâm bằng công nghệ deepfake. Xu hướng này sẽ tiếp tục phát triển trừ khi các biện pháp ngăn chặn được đưa ra."

Đáng chú ý, Deeptrace cũng ghi nhận sự gia tăng của các dịch vụ tạo video Deepfake, khi những người có nhu cầu chỉ cần bỏ ra một khoản tiền để ‘đặt hàng" các video dạng này.

Bóng ma Deepfake trỗi dậy: Phát hiện 14.678 video ghép mặt người nổi tiếng, 96% số này có nội dung khiêu dâm - Ảnh 3.

Các công cụ tạo video sử dụng công nghệ Deepfake đang ngày càng phổ biến

Báo cáo từ Deeptrace cũng nhấn mạnh, công nghệ AI đã bị lạm dụng để nhắm mục tiêu vào phụ nữ bằng cách tạo ra các video khiêu dâm không đồng thuận. "Tác động của Deepfake đã có thể cảm nhận được trên phạm vi toàn cầu", công ty cho biết. "Chúng tôi hy vọng báo cáo này sẽ thúc đẩy thêm các buổi thảo luận về chủ đề này và nhấn mạnh tầm quan trọng của việc phát triển một loạt các biện pháp đối phó để bảo vệ các cá nhân và tổ chức khỏi các ứng dụng có hại của Deepfake."

Tuy nhiên, nguy cơ từ Deepfake không dừng lại ở các con số thống kê đơn thuần. Trong một cuộc phỏng vấn với đài CNBC, phó giáo sư ngành khoa học máy tính tại Đại học Nam California, Hao Li cảnh báo mọi người sẽ được chứng kiến những đoạn video sử dụng công nghệ Deepfake "chân thực đến hoàn hảo" trong vòng từ 6 đến 12 tháng tới.

"Hiện nay bạn vẫn rất dễ để nhận biết bằng mắt hầu hết các video deepfake, ông Hao Li khẳng định. "Nhưng cũng có những ví dụ thực sự, thực sự thuyết phục. Sớm thôi, sẽ đến lúc không còn cách nào để chúng ta có thể thực sự phát hiện ra deepfake nữa, do đó chúng ta sẽ phải tìm các giải pháp khác"".

Tham khảo Forbes

 
 
List comment
 
Đánh thức sức mạnh nội lực có đưa Việt Nam trở thành con rồng châu Á?
icon

Tốc độ phát triển của nền kinh tế và tổ chức, doanh nghiệp nói riêng phụ thuộc vào tốc độ nhận thức về tầm quan trọng trong việc chuyển đổi số của bộ phận lãnh đạo. Ngay bây giờ, họ cần thức tỉnh và bước ra khỏi vùng an toàn.

 
Chủ tịch VINASA được bầu giữ chức Chủ tịch Ủy ban Thành phố thông minh ASOCIO
icon

Ủy ban Thành phố thông minh trực thuộc Tổ chức Công nghiệp điện toán châu Á – châu Đại Dương (ASOCIO) vừa được thành lập. Ông Trương Gia Bình, Chủ tịch VINASA, Phó Chủ tịch ASOCIO đã được bầu giữ chức Chủ tịch đầu tiên của Ủy ban này.

 
Tìm lời giải về nguồn thu cho báo chí Việt Nam
icon

Nhiều cơ quan báo chí đã sụt giảm doanh thu đến 50%, thậm chí 60-70% do tác động của dịch Covid-19. Do vậy, nhiều mô hình kinh doanh đang được cân nhắc nhằm tìm ra lời giải cho báo chí Việt Nam.

 
Apple sẽ khó duy trì được tỷ lệ chia sẻ doanh thu 30%
icon

Theo Andreas Lober, chuyên gia trong lĩnh vực bản quyền, việc Apple tạm thoát án phạt 15 tỷ USD của Ủy ban châu Âu không đồng nghĩa với việc sẽ thoát khỏi ‘vòng kim cô’ của Ủy ban chuyên về chống độc quyền và cạnh tranh không lành mạnh này.

 
Bộ TT&TT giục các sở xây dựng Kiến trúc ICT phát triển đô thị thông minh
icon

Theo Cục Tin học hóa, Bộ TT&TT, việc xây dựng Kiến trúc ICT phát triển đô thị thông minh (ĐTTM) rất quan trọng, giúp địa phương xác định tầm nhìn và kế hoạch tổng thể, lâu dài, đồng thời đảm bảo tính đồng bộ, bền vững trong phát triển ĐTTM.

 
 
TP.HCM: Địa phương đầu tiên công bố chương trình chuyển đổi số
icon

Bí thư Thành ủy TP.HCM Nguyễn Thiện Nhân khẳng định chương trình chuyển đổi số tại TP.HCM hướng tới mục tiêu gia tăng năng suất lao động, giảm chi phí, phục vụ người dân và doanh nghiệp tốt hơn.

TP.HCM tăng khả năng cung cấp dịch vụ công trực tuyến với nền tảng LGSP
icon

Nền tảng kết nối, chia sẻ dữ liệu thành phố HCM LGSP mới được công bố giúp cho TP.HCM tăng khả năng cung cấp dịch vụ công trực tuyến (DVCTT) mức độ cao cho người dân, doanh nghiệp.

Văn hoá doanh nghiệp: Năng lực cạnh tranh độc quyền của mỗi doanh nghiệp trong thời đại 4.0
icon

Cơn bão của Chuyển đổi số và cuộc cách mạng Công nghiệp 4.0 đang “nổi lên” trên toàn cầu. Thị trường ngày càng trở nên biến động hơn bao giờ hết trước những biến cố bất ngờ như dịch COVID-19. 

Gần 1.000 nhân viên LinkedIn bị sa thải vì Covid-19
icon

LinkedIn, mạng xã hội tuyển dụng của Microsoft vừa thông báo cắt giảm 960 vị trí, tương đương 6% nhân sự toàn cầu do ảnh hưởng của dịch Covid-19.  

Thêm một trang web phim 'lậu' lớn ở Việt Nam bị ngừng hoạt động
icon

Bằng các biện pháp kĩ thuật từ phía nhà mạng viễn thông, các trang web xem phim 'lậu' đang dần biến mất khỏi lãnh thổ Việt Nam.

 
123

Giấy phép hoạt động báo chí: Số 09/GP-BTTTT, Bộ Thông tin và Truyền thông cấp ngày 07/01/2019.

Tòa soạn: Tầng 7, Tòa nhà Cục Tần số Vô tuyến điện, 115 Trần Duy Hưng, Quận Cầu Giấy, Hà Nội

Điện thoại: 024 3 936 9966 - Fax: 024 3 936 9364

Hotline nội dung: 0888 911 911 - Email: toasoan@ictnews.vn

123