Những dòng code bẩn đưa người nổi tiếng vào phim khiêu dâm

Ứng dụng trí tuệ nhân tạo để ghép mặt vào video, thường được gọi là deepfake, đang ngày càng phổ biến và nguy hiểm hơn. Đây là một hiểm họa thực sự trên Internet.

cong nghe deepfake anh 1

Vào đầu tháng 3, cộng đồng mạng ngạc nhiên với video quay với nhân vật chính là diễn viên Tom Cruise diễn ảo thuật, kể một câu chuyện cười và tập đánh golf.

“Tôi sẽ cho bạn thấy một phép ảo thuật. Nó là thật đấy”, Tom Cruise trong video vừa nói, vừa diễn trò với một đồng xu.

Tuy nhiên, nhân vật trong video thực tế không phải diễn viên nổi tiếng. Khuôn mặt Tom Cruise thực chất đã được ghép vào thân của một người khác một cách gần như hoàn hảo, nhờ ứng dụng trí tuệ nhân tạo thường được gọi là deepfake.

Danh sách nạn nhân deepfake ngày càng dài

Nhiều diễn viên nổi tiếng tại Hollywood đã bị ghép mặt bằng deepfake vào các video phim nóng.

Tháng 12/2017, deepfake trở thành danh từ khi người dùng có tên "deepfakes" công bố một loạt video khiêu dâm trên diễn đàn Reddit. Người dùng này đã sử dụng AI để ghép mặt các diễn viên nổi tiếng như Scarlett Johansson hay Gal Gadot vào cơ thể của những diễn viên khiêu dâm.

cong nghe deepfake anh 2

Khuôn mặt diễn viên Tom Cruise bị ghép vào video bằng công nghệ deepfake.

Tuy vậy, không chỉ người nổi tiếng mới là nạn nhân. Tháng 4/2018, Rana Ayyub, một nhà báo điều tra tại Ấn Độ, được báo tin về video khiêu dâm ghép mặt của cô vào cơ thể một phụ nữ khác.

Khi cô biết được điều này, video đã được chia sẻ hàng nghìn lần trên Facebook, Twitter, WhatsApp. Ayyub, 34 tuổi đã đối mặt với rất nhiều lời dọa nạt, tấn công trên mạng, nhưng lần này thì khác.

“Đoạn phim đã thực sự đánh gục tôi. Điều duy nhất tôi cảm thấy là phải chăng đây là hình ảnh mà mọi người nghĩ về tôi. Nó còn đáng sợ hơn nhiều so với một lời đe dọa đánh đập”, Ayyub kể lại trải nghiệm đáng sợ này với India Today.

Những ứng dụng deepfake ngày càng dễ sử dụng, thậm chí được phát hành rộng rãi. Giữa năm 2019, phần mềm Dee****e xuất hiện với khả năng tạo nên hình ảnh khỏa thân giả chỉ bằng vài cái click chuột.

cong nghe deepfake anh 3

Hình ảnh được tạo ra từ phần mềm Dee****e. (Ảnh: The Verge)

Dee****e sử dụng công nghệ deepfake để tạo ra hình ảnh giả. Người dùng có thể tải về miễn phí trên Windows, hoặc bỏ 99 USD để có hình ảnh chất lượng cao hơn. Phần mềm này sau đó đã bị gỡ bỏ.

Hiện nay, có thể bắt gặp rất nhiều video deepfake trên mạng. Chúng có thể mang tính vui vẻ, như cho Tom Cruise diễn ảo thuật, diễn viên đóng vai Jon Snow xin lỗi khán giả Game of Thrones vì phim quá dở. Tuy nhiên, chúng cũng có thể mang lại hậu quả khi bị lạm dụng.

Chia sẻ video deepfake có phải là tội ác?

 

Hầu hết video phim nóng ghép mặt bằng deepfake đều bị phản ứng dữ dội. Vào tháng 1, dân mạng Hàn Quốc gọi nhau ký tên để có luật xử lý những ứng dụng ghép mặt, sau khi nhiều video ghép mặt diễn viên, ca sĩ Hàn Quốc xuất hiện trên mạng.

Chỉ sau một ngày, trang kêu gọi ký tên đã được hơn 330.000 người ủng hộ. “Deepfake rõ ràng là tội phạm tình dục”, một người ủng hộ nhấn mạnh.

Deepfake rõ ràng là tội phạm tình dục.

Những người ủng hộ việc quản lý video deepfake tại Hàn Quốc.

Sự đa dạng của những thể loại video deepfake, cùng với chất lượng càng ngày càng giống thật đang tạo ra lằn ranh mập mờ về mặt pháp lý.

Vào cuối tháng 2, Ủy ban luật pháp Anh và xứ Wales đã đề xuất đưa việc chia sẻ video phim người lớn deepfake trở thành hành vi vi phạm pháp luật.

Việc chia sẻ phim, ảnh nóng không được phép tại Anh đã bị luật pháp nước này quy định là phạm pháp từ năm 2015. Đề xuất mới sẽ đưa cả những video deepfake vào khuôn khổ.

“Rõ ràng là cần những điều chỉnh về luật”, Giáo sư luật Penney Lewis, thành viên hội đồng cho biết.

cong nghe deepfake anh 4

Với công nghệ deepfake, chỉ cần có đủ dữ liệu, kẻ gian có thể giả mạo bất kỳ ai. (Ảnh: MIT Technology Review).

Bên cạnh những video nhạy cảm, deepfake còn có thể tạo ra tác hại nghiêm trọng nếu được sử dụng cho mục đích chính trị. Đoạn video ghép mặt cựu Tổng thống Mỹ Barack Obama, từng được lan truyền năm 2018, cho thấy những nhân vật chính trị hàng đầu cũng có thể trở thành nạn nhân.

Năm 2019, đến lượt bà Nancy Pelosi, Chủ tịch Hạ viện Mỹ trở thành nạn nhân. Video bị chỉnh sửa cho thấy hình ảnh bà Pelosi phát biểu trong khi đang say, lời nói không được rõ ràng.

Vào cuối năm 2019, bang California, Mỹ đã thông qua bộ luật quy định hành vi tạo hoặc chia sẻ video deepfake là phạm pháp. Luật này chỉ rõ những video chỉnh sửa có chứa hình ảnh, video hoặc giọng nói của các chính trị gia trong vòng 60 ngày của cuộc bầu cử là vi phạm pháp luật.

Tuy nhiên, nhiều chuyên gia cho rằng rất khó để áp dụng các bộ luật khi chính những “bộ lọc” deepfake cũng chưa thể chạy hoàn chỉnh. Năm 2019, CEO Facebook Mark Zuckerberg thừa nhận các thuật toán của mạng xã hội này chưa thể nhận ra video bị chỉnh sửa đủ nhanh. Chính Zuckerberg cũng trở thành nạn nhân của một video deepfake chỉ trích công ty của ông.

Trong bài viết cho Wall Street Journal, Giáo sư Cass Sunstein của đại học Harvard nhận định quản lý deepfake sẽ là vấn đề khó. Mấu chốt của những quốc gia như Mỹ là cân bằng giữa quản lý video giả và tự do ngôn luận.

“Tự do ngôn luận có thể là quyền quan trọng nhất của chúng ta, nhưng những công ty tư nhân và cơ quan công đều phải tìm cách điều chỉnh những quy định lâu năm để đối phó với những mối nguy hại khó lường”, Giáo sư Sunstein kết luận.

(Theo Zing)

Từ vụ lộ clip đen: Deepfake ẩn chứa nhiều nguy hiểm vì sao giới trẻ vẫn mê?

Từ vụ lộ clip đen: Deepfake ẩn chứa nhiều nguy hiểm vì sao giới trẻ vẫn mê?

Deepfake trong vài năm trở lại đây thực sự đã khiến vấn đề về hình ảnh, video trên Internet trở nên phức tạp hơn bao giờ hết.

Chủ đề :
 
List comment
 
3 lý do để tôi từ bỏ Facebook
icon

Nếu bạn đã thử bỏ Facebook hàng nghìn lần nhưng không được thì đừng lo, tôi cũng vậy.

 
“Đùa dại” khiến khách hàng “suýt đau tim”, một dịch vụ giao thức ăn bị kêu gọi tẩy chay
icon

Một công ty chuyên dịch vụ giao thức ăn tận nhà đang bị đông đảo khách hàng phản đối, kêu gọi tẩy chay do một trò “đùa dại” mà không nghĩ đến hậu quả.

 
Sự chính xác, chuyên nghiệp của Bill Gates
icon

Không cần kịch bản soạn sẵn, Bill Gates thể hiện rõ hiểu biết của bản thân về chủ đề được nói tới. Bên cạnh đó, ông tỏ ra cực kỳ tỉ mỉ về mặt thời gian.

 
Trò đùa Cá tháng Tư của các hãng công nghệ
icon

Thuốc nhuộm tóc Razer, smartwatch tự hủy là trò đùa của một số hãng công nghệ trong ngày Cá tháng Tư năm nay.

 
Sử dụng smartphone đang cắm sạc trong lúc tắm, cô gái bị điện giật tử vong
icon

Một cô gái trẻ người Nga đã bị điện giật dẫn đến tử vong do sử dụng smartphone đang cắm sạc trong nhà tắm. Con trai 4 tuổi của cô gái này đã phải chứng kiến khoảnh khắc đau đớn của mẹ mình.

 
 
Bi hài thanh niên mất vợ vì cố giữ Bitcoin, nhất quyết không bán
icon

Một quyết định sai lầm có thể phá vỡ hạnh phúc của cả một gia đình. Đây là điều mà một người chơi Bitcoin kể về cuộc hôn nhân đổ vỡ của anh ấy.

Trùm mafia bị bắt trong thời gian lẩn trốn vì đam mê lập kênh nấu ăn trên YouTube
icon

Những hình xăm đặc trưng đã tố cáo YouTuber của một kênh nấu ăn kiểu Ý chính là một tay trùm mafia đình đám.

Vinfuture nhận được hơn 500 đăng ký tham gia gửi đề cử từ 36 quốc gia
icon

Ngày 29/03/2021, Quỹ VinFuture công bố sau hơn 1 tháng mở cổng tiếp nhận, giải thưởng khoa học toàn cầu VinFuture có hơn 500 nhà khoa học, tổ chức uy tín đến từ hơn 36 quốc gia, đại diện cho 6 châu lục đăng ký tham gia gửi đề cử.

Trải nghiệm thi thử cho học sinh, chuẩn bị cho kỳ thi THPT Quốc gia 2021
icon

Tham gia trải nghiệm các kỳ thi thử giúp các học sinh làm quen với kỳ thi, đánh giá năng lực và kịp thời nỗ lực học tập, trau dồi thêm kiến thức.

Vì tiền, game thủ nổi tiếng livestream liên tục 2 tuần
icon

Với mỗi lượt đăng ký theo dõi mới, streamer nổi tiếng Ludwig phải tiếp tục livestream thêm 20 giây.

 
123

Giấy phép hoạt động báo chí: Số 09/GP-BTTTT, Bộ Thông tin và Truyền thông cấp ngày 07/01/2019.

Tòa soạn: Tầng 7, Tòa nhà Cục Tần số Vô tuyến điện, 115 Trần Duy Hưng, Quận Cầu Giấy, Hà Nội

Điện thoại: 024 3 936 9966 - Fax: 024 3 936 9364

Hotline nội dung: 0888 911 911 - Email: toasoan@ictnews.vn

123