Những dòng code bẩn đưa người nổi tiếng vào phim khiêu dâm

Ứng dụng trí tuệ nhân tạo để ghép mặt vào video, thường được gọi là deepfake, đang ngày càng phổ biến và nguy hiểm hơn. Đây là một hiểm họa thực sự trên Internet.

cong nghe deepfake anh 1

Vào đầu tháng 3, cộng đồng mạng ngạc nhiên với video quay với nhân vật chính là diễn viên Tom Cruise diễn ảo thuật, kể một câu chuyện cười và tập đánh golf.

“Tôi sẽ cho bạn thấy một phép ảo thuật. Nó là thật đấy”, Tom Cruise trong video vừa nói, vừa diễn trò với một đồng xu.

Tuy nhiên, nhân vật trong video thực tế không phải diễn viên nổi tiếng. Khuôn mặt Tom Cruise thực chất đã được ghép vào thân của một người khác một cách gần như hoàn hảo, nhờ ứng dụng trí tuệ nhân tạo thường được gọi là deepfake.

Danh sách nạn nhân deepfake ngày càng dài

Nhiều diễn viên nổi tiếng tại Hollywood đã bị ghép mặt bằng deepfake vào các video phim nóng.

Tháng 12/2017, deepfake trở thành danh từ khi người dùng có tên "deepfakes" công bố một loạt video khiêu dâm trên diễn đàn Reddit. Người dùng này đã sử dụng AI để ghép mặt các diễn viên nổi tiếng như Scarlett Johansson hay Gal Gadot vào cơ thể của những diễn viên khiêu dâm.

cong nghe deepfake anh 2

Khuôn mặt diễn viên Tom Cruise bị ghép vào video bằng công nghệ deepfake.

Tuy vậy, không chỉ người nổi tiếng mới là nạn nhân. Tháng 4/2018, Rana Ayyub, một nhà báo điều tra tại Ấn Độ, được báo tin về video khiêu dâm ghép mặt của cô vào cơ thể một phụ nữ khác.

Khi cô biết được điều này, video đã được chia sẻ hàng nghìn lần trên Facebook, Twitter, WhatsApp. Ayyub, 34 tuổi đã đối mặt với rất nhiều lời dọa nạt, tấn công trên mạng, nhưng lần này thì khác.

“Đoạn phim đã thực sự đánh gục tôi. Điều duy nhất tôi cảm thấy là phải chăng đây là hình ảnh mà mọi người nghĩ về tôi. Nó còn đáng sợ hơn nhiều so với một lời đe dọa đánh đập”, Ayyub kể lại trải nghiệm đáng sợ này với India Today.

Những ứng dụng deepfake ngày càng dễ sử dụng, thậm chí được phát hành rộng rãi. Giữa năm 2019, phần mềm Dee****e xuất hiện với khả năng tạo nên hình ảnh khỏa thân giả chỉ bằng vài cái click chuột.

cong nghe deepfake anh 3

Hình ảnh được tạo ra từ phần mềm Dee****e. (Ảnh: The Verge)

Dee****e sử dụng công nghệ deepfake để tạo ra hình ảnh giả. Người dùng có thể tải về miễn phí trên Windows, hoặc bỏ 99 USD để có hình ảnh chất lượng cao hơn. Phần mềm này sau đó đã bị gỡ bỏ.

Hiện nay, có thể bắt gặp rất nhiều video deepfake trên mạng. Chúng có thể mang tính vui vẻ, như cho Tom Cruise diễn ảo thuật, diễn viên đóng vai Jon Snow xin lỗi khán giả Game of Thrones vì phim quá dở. Tuy nhiên, chúng cũng có thể mang lại hậu quả khi bị lạm dụng.

Chia sẻ video deepfake có phải là tội ác?

 

Hầu hết video phim nóng ghép mặt bằng deepfake đều bị phản ứng dữ dội. Vào tháng 1, dân mạng Hàn Quốc gọi nhau ký tên để có luật xử lý những ứng dụng ghép mặt, sau khi nhiều video ghép mặt diễn viên, ca sĩ Hàn Quốc xuất hiện trên mạng.

Chỉ sau một ngày, trang kêu gọi ký tên đã được hơn 330.000 người ủng hộ. “Deepfake rõ ràng là tội phạm tình dục”, một người ủng hộ nhấn mạnh.

Deepfake rõ ràng là tội phạm tình dục.

Những người ủng hộ việc quản lý video deepfake tại Hàn Quốc.

Sự đa dạng của những thể loại video deepfake, cùng với chất lượng càng ngày càng giống thật đang tạo ra lằn ranh mập mờ về mặt pháp lý.

Vào cuối tháng 2, Ủy ban luật pháp Anh và xứ Wales đã đề xuất đưa việc chia sẻ video phim người lớn deepfake trở thành hành vi vi phạm pháp luật.

Việc chia sẻ phim, ảnh nóng không được phép tại Anh đã bị luật pháp nước này quy định là phạm pháp từ năm 2015. Đề xuất mới sẽ đưa cả những video deepfake vào khuôn khổ.

“Rõ ràng là cần những điều chỉnh về luật”, Giáo sư luật Penney Lewis, thành viên hội đồng cho biết.

cong nghe deepfake anh 4

Với công nghệ deepfake, chỉ cần có đủ dữ liệu, kẻ gian có thể giả mạo bất kỳ ai. (Ảnh: MIT Technology Review).

Bên cạnh những video nhạy cảm, deepfake còn có thể tạo ra tác hại nghiêm trọng nếu được sử dụng cho mục đích chính trị. Đoạn video ghép mặt cựu Tổng thống Mỹ Barack Obama, từng được lan truyền năm 2018, cho thấy những nhân vật chính trị hàng đầu cũng có thể trở thành nạn nhân.

Năm 2019, đến lượt bà Nancy Pelosi, Chủ tịch Hạ viện Mỹ trở thành nạn nhân. Video bị chỉnh sửa cho thấy hình ảnh bà Pelosi phát biểu trong khi đang say, lời nói không được rõ ràng.

Vào cuối năm 2019, bang California, Mỹ đã thông qua bộ luật quy định hành vi tạo hoặc chia sẻ video deepfake là phạm pháp. Luật này chỉ rõ những video chỉnh sửa có chứa hình ảnh, video hoặc giọng nói của các chính trị gia trong vòng 60 ngày của cuộc bầu cử là vi phạm pháp luật.

Tuy nhiên, nhiều chuyên gia cho rằng rất khó để áp dụng các bộ luật khi chính những “bộ lọc” deepfake cũng chưa thể chạy hoàn chỉnh. Năm 2019, CEO Facebook Mark Zuckerberg thừa nhận các thuật toán của mạng xã hội này chưa thể nhận ra video bị chỉnh sửa đủ nhanh. Chính Zuckerberg cũng trở thành nạn nhân của một video deepfake chỉ trích công ty của ông.

Trong bài viết cho Wall Street Journal, Giáo sư Cass Sunstein của đại học Harvard nhận định quản lý deepfake sẽ là vấn đề khó. Mấu chốt của những quốc gia như Mỹ là cân bằng giữa quản lý video giả và tự do ngôn luận.

“Tự do ngôn luận có thể là quyền quan trọng nhất của chúng ta, nhưng những công ty tư nhân và cơ quan công đều phải tìm cách điều chỉnh những quy định lâu năm để đối phó với những mối nguy hại khó lường”, Giáo sư Sunstein kết luận.

(Theo Zing)

Từ vụ lộ clip đen: Deepfake ẩn chứa nhiều nguy hiểm vì sao giới trẻ vẫn mê?

Từ vụ lộ clip đen: Deepfake ẩn chứa nhiều nguy hiểm vì sao giới trẻ vẫn mê?

Deepfake trong vài năm trở lại đây thực sự đã khiến vấn đề về hình ảnh, video trên Internet trở nên phức tạp hơn bao giờ hết.

Chủ đề :
 
List comment
 
G-Group triển khai ứng dụng công nghệ hỗ trợ hoạt động phòng chống Covid-19
icon

Khi dịch bệnh Covid-19 bùng phát, Tập đoàn Công nghệ G-Group đã chủ động phối hợp cùng các lực lượng tuyến đầu, quyết liệt và nhanh chóng đưa nhiều giải pháp công nghệ vào hoạt động phòng chống dịch, chung tay hỗ trợ công tác chung của Chính phủ.

 
DrAid - Công cụ sàng lọc và tiên lượng điều trị Covid-19 ứng dụng AI đầu tiên tại Việt Nam
icon

DrAid cho Covid-19 - sản phẩm ứng dụng Trí tuệ nhân tạo của Công ty Cổ phần VinBrain (thuộc Tập đoàn Vingroup) - vừa được Hội đồng Khoa học Bộ Y tế nghiệm thu và đặc biệt kiến nghị nên sớm đưa vào sử dụng hàng ngày tại các bệnh viện.

 
GapoWork ra mắt tính năng họp nhóm online Zoom cho doanh nghiệp, tổ chức giáo dục và trường học
icon

Nền tảng làm việc và giao tiếp cho doanh nghiệp GapoWork vừa công bố hợp tác tích hợp toàn diện với nền tảng họp trực tuyến Zoom tại thị trường Việt Nam và sẽ tài trợ miễn phí tài khoản Zoom cho 1.000 trường học trên toàn quốc.

 
Bức thư sai tên gửi Thống đốc ngân hàng Timor và hành trình 9 năm của Viettel tại quốc gia trẻ nhất Đông Nam Á
icon

Trong suốt chặng đường 9 năm, Telemor có sứ mệnh rất rõ ràng là đem đến cuộc sống tốt hơn cho người dân Đông Timor.

 
21 thanh niên vào rừng nhậu rồi khoe trên Facebook, bị phạt 210 triệu đồng
icon

Thời điểm Long An đang thực hiện giãn cách xã hội, 21 thanh niên rủ nhau vào rừng mở tiệc ăn nhậu rồi còn khoe trên Facebook, vụ việc đã khiến nhóm bị xử phạt 210 triệu đồng vì những hành vi vi phạm.

 
 
TikToker khoe dùng thẻ cán bộ để đi loanh quanh Hà Nội khi giãn cách
icon

Với tấm thẻ màu đỏ có dòng chữ 'thẻ cán bộ' trong tay, chủ tài khoản TikTok P.N.T cho biết mình có thể đi loanh quanh Hà Nội khi có chốt kiểm soát dịch.

'Chúng tôi đang chạy đua từng ngày để Việt Nam tự chủ vắc-xin công nghệ mới'
icon

Bà Lê Ngọc Chi, Tổng Giám đốc VinBioCare chia sẻ về kế hoạch sản xuất vắc-xin VBC-COV19-154 phòng Covid-19 'Made in Vietnam' đang được cộng đồng quan tâm.

Phạt 12,5 triệu đồng với 'hoa khôi' khoe tiêm vắc xin Covid-19 không cần đăng ký
icon

Thanh tra Bộ TT&TT vừa quyết định phạt tiền bà V.P.A với mức 12,5 triệu đồng vì đã đăng tải thông tin sai sự thật “Tiêm vắc xin Covid-19 không cần đăng ký”, “Được ưu tiên tiêm vắc xin Pfizer” trên mạng xã hội.

3.000 Giỏ quà nghĩa tình tiếp tục đến tay người dân khó khăn tại Cần Giờ và 5 quận tại TP.HCM
icon

Trong hai ngày 24 và 25/7, đã có thêm 3.000 giỏ quà nghĩa tình được vận chuyển đến Cần Giờ cùng 5 quận, nâng tổng số giỏ quà gửi đến tay người dân có hoàn cảnh khó khăn tại các quận, huyện trên địa bàn TP.HCM là 5.000 giỏ. 

Cô gái Ba Lan bán tình yêu ảo với giá 250.000 USD
icon

Marta Rentel tuyên bố mình là người đầu tiên bán “tình yêu ảo” dưới dạng tài sản kỹ thuật số NFT.

 
123

Giấy phép hoạt động báo chí: Số 09/GP-BTTTT, Bộ Thông tin và Truyền thông cấp ngày 07/01/2019.

Tòa soạn: Tầng 7, Tòa nhà Cục Tần số Vô tuyến điện, 115 Trần Duy Hưng, Quận Cầu Giấy, Hà Nội

Điện thoại: 024 3 936 9966 - Fax: 024 3 936 9364

Hotline nội dung: 0888 911 911 - Email: toasoan@ictnews.vn

123