Những dòng code bẩn đưa người nổi tiếng vào phim khiêu dâm

Ứng dụng trí tuệ nhân tạo để ghép mặt vào video, thường được gọi là deepfake, đang ngày càng phổ biến và nguy hiểm hơn. Đây là một hiểm họa thực sự trên Internet.

cong nghe deepfake anh 1

Vào đầu tháng 3, cộng đồng mạng ngạc nhiên với video quay với nhân vật chính là diễn viên Tom Cruise diễn ảo thuật, kể một câu chuyện cười và tập đánh golf.

“Tôi sẽ cho bạn thấy một phép ảo thuật. Nó là thật đấy”, Tom Cruise trong video vừa nói, vừa diễn trò với một đồng xu.

Tuy nhiên, nhân vật trong video thực tế không phải diễn viên nổi tiếng. Khuôn mặt Tom Cruise thực chất đã được ghép vào thân của một người khác một cách gần như hoàn hảo, nhờ ứng dụng trí tuệ nhân tạo thường được gọi là deepfake.

Danh sách nạn nhân deepfake ngày càng dài

Nhiều diễn viên nổi tiếng tại Hollywood đã bị ghép mặt bằng deepfake vào các video phim nóng.

Tháng 12/2017, deepfake trở thành danh từ khi người dùng có tên "deepfakes" công bố một loạt video khiêu dâm trên diễn đàn Reddit. Người dùng này đã sử dụng AI để ghép mặt các diễn viên nổi tiếng như Scarlett Johansson hay Gal Gadot vào cơ thể của những diễn viên khiêu dâm.

cong nghe deepfake anh 2

Khuôn mặt diễn viên Tom Cruise bị ghép vào video bằng công nghệ deepfake.

Tuy vậy, không chỉ người nổi tiếng mới là nạn nhân. Tháng 4/2018, Rana Ayyub, một nhà báo điều tra tại Ấn Độ, được báo tin về video khiêu dâm ghép mặt của cô vào cơ thể một phụ nữ khác.

Khi cô biết được điều này, video đã được chia sẻ hàng nghìn lần trên Facebook, Twitter, WhatsApp. Ayyub, 34 tuổi đã đối mặt với rất nhiều lời dọa nạt, tấn công trên mạng, nhưng lần này thì khác.

“Đoạn phim đã thực sự đánh gục tôi. Điều duy nhất tôi cảm thấy là phải chăng đây là hình ảnh mà mọi người nghĩ về tôi. Nó còn đáng sợ hơn nhiều so với một lời đe dọa đánh đập”, Ayyub kể lại trải nghiệm đáng sợ này với India Today.

Những ứng dụng deepfake ngày càng dễ sử dụng, thậm chí được phát hành rộng rãi. Giữa năm 2019, phần mềm Dee****e xuất hiện với khả năng tạo nên hình ảnh khỏa thân giả chỉ bằng vài cái click chuột.

cong nghe deepfake anh 3

Hình ảnh được tạo ra từ phần mềm Dee****e. (Ảnh: The Verge)

Dee****e sử dụng công nghệ deepfake để tạo ra hình ảnh giả. Người dùng có thể tải về miễn phí trên Windows, hoặc bỏ 99 USD để có hình ảnh chất lượng cao hơn. Phần mềm này sau đó đã bị gỡ bỏ.

Hiện nay, có thể bắt gặp rất nhiều video deepfake trên mạng. Chúng có thể mang tính vui vẻ, như cho Tom Cruise diễn ảo thuật, diễn viên đóng vai Jon Snow xin lỗi khán giả Game of Thrones vì phim quá dở. Tuy nhiên, chúng cũng có thể mang lại hậu quả khi bị lạm dụng.

Chia sẻ video deepfake có phải là tội ác?

 

Hầu hết video phim nóng ghép mặt bằng deepfake đều bị phản ứng dữ dội. Vào tháng 1, dân mạng Hàn Quốc gọi nhau ký tên để có luật xử lý những ứng dụng ghép mặt, sau khi nhiều video ghép mặt diễn viên, ca sĩ Hàn Quốc xuất hiện trên mạng.

Chỉ sau một ngày, trang kêu gọi ký tên đã được hơn 330.000 người ủng hộ. “Deepfake rõ ràng là tội phạm tình dục”, một người ủng hộ nhấn mạnh.

Deepfake rõ ràng là tội phạm tình dục.

Những người ủng hộ việc quản lý video deepfake tại Hàn Quốc.

Sự đa dạng của những thể loại video deepfake, cùng với chất lượng càng ngày càng giống thật đang tạo ra lằn ranh mập mờ về mặt pháp lý.

Vào cuối tháng 2, Ủy ban luật pháp Anh và xứ Wales đã đề xuất đưa việc chia sẻ video phim người lớn deepfake trở thành hành vi vi phạm pháp luật.

Việc chia sẻ phim, ảnh nóng không được phép tại Anh đã bị luật pháp nước này quy định là phạm pháp từ năm 2015. Đề xuất mới sẽ đưa cả những video deepfake vào khuôn khổ.

“Rõ ràng là cần những điều chỉnh về luật”, Giáo sư luật Penney Lewis, thành viên hội đồng cho biết.

cong nghe deepfake anh 4

Với công nghệ deepfake, chỉ cần có đủ dữ liệu, kẻ gian có thể giả mạo bất kỳ ai. (Ảnh: MIT Technology Review).

Bên cạnh những video nhạy cảm, deepfake còn có thể tạo ra tác hại nghiêm trọng nếu được sử dụng cho mục đích chính trị. Đoạn video ghép mặt cựu Tổng thống Mỹ Barack Obama, từng được lan truyền năm 2018, cho thấy những nhân vật chính trị hàng đầu cũng có thể trở thành nạn nhân.

Năm 2019, đến lượt bà Nancy Pelosi, Chủ tịch Hạ viện Mỹ trở thành nạn nhân. Video bị chỉnh sửa cho thấy hình ảnh bà Pelosi phát biểu trong khi đang say, lời nói không được rõ ràng.

Vào cuối năm 2019, bang California, Mỹ đã thông qua bộ luật quy định hành vi tạo hoặc chia sẻ video deepfake là phạm pháp. Luật này chỉ rõ những video chỉnh sửa có chứa hình ảnh, video hoặc giọng nói của các chính trị gia trong vòng 60 ngày của cuộc bầu cử là vi phạm pháp luật.

Tuy nhiên, nhiều chuyên gia cho rằng rất khó để áp dụng các bộ luật khi chính những “bộ lọc” deepfake cũng chưa thể chạy hoàn chỉnh. Năm 2019, CEO Facebook Mark Zuckerberg thừa nhận các thuật toán của mạng xã hội này chưa thể nhận ra video bị chỉnh sửa đủ nhanh. Chính Zuckerberg cũng trở thành nạn nhân của một video deepfake chỉ trích công ty của ông.

Trong bài viết cho Wall Street Journal, Giáo sư Cass Sunstein của đại học Harvard nhận định quản lý deepfake sẽ là vấn đề khó. Mấu chốt của những quốc gia như Mỹ là cân bằng giữa quản lý video giả và tự do ngôn luận.

“Tự do ngôn luận có thể là quyền quan trọng nhất của chúng ta, nhưng những công ty tư nhân và cơ quan công đều phải tìm cách điều chỉnh những quy định lâu năm để đối phó với những mối nguy hại khó lường”, Giáo sư Sunstein kết luận.

(Theo Zing)

Từ vụ lộ clip đen: Deepfake ẩn chứa nhiều nguy hiểm vì sao giới trẻ vẫn mê?

Từ vụ lộ clip đen: Deepfake ẩn chứa nhiều nguy hiểm vì sao giới trẻ vẫn mê?

Deepfake trong vài năm trở lại đây thực sự đã khiến vấn đề về hình ảnh, video trên Internet trở nên phức tạp hơn bao giờ hết.

Chủ đề :
 
List comment
 
Những sự cố hy hữu 'cười ra nước mắt' khi họp trực tuyến
icon

Sự ảnh hưởng của dịch bệnh trên toàn cầu khiến nhiều cuộc họp đã phải chuyển sang hình thức trực tuyến, kéo theo đó là không ít sự cố hy hữu và 'cười ra nước mắt'.

 
Quán lẩu ở TP.HCM khuyến mãi cho khách cài Pi Network là sai luật
icon

Ngày 1/3, một cửa hàng lẩu băng chuyền thông báo trên trang fanpage, kêu gọi thực khách khi tham gia Pi Network có thể nhận được các ưu đãi khuyến mãi.

 
'Người hùng' đỡ cháu bé rơi từ tầng 12 nhận 'bão like' của cộng đồng mạng
icon

Một tài khoản mang tên Nguyễn Ngọc Mạnh, được cho là Facebook của nam thanh niên đã đỡ cháu bé rơi từ tầng 12A chung cư, tăng hàng chục nghìn người theo dõi và vô số bình luận cảm ơn.

 
Nhà chiêm tinh xinh đẹp dự đoán giá Ethereum như thế nào trong năm 2021?
icon

Khi cô gái chiêm tinh Maren Altman làm video dự đoán giá Ethereum trên YouTube mới đây, cộng đồng tiền mật mã không thể nào bỏ qua. Theo phương pháp chiêm tinh của Maren Altman, đợt tăng giá cuối tháng 1, đầu tháng 2 có thể được dự báo sớm.

 
Tìm thấy điện thoại bị thất lạc sau 3 năm ở nơi không ai ngờ đến
icon

Một người đàn ông sống tại Trung Quốc đã làm mất chiếc điện thoại của mình vào năm 2018 và mới đây đã tìm lại được ở một vị trí mà không ai có thể ngờ đến.

 
 
Bùng nổ toilet hạng sang ở Thái Lan
icon

Một hệ thống toilet công cộng chất lượng cao có trả phí ngày càng được nhiều người quan tâm do vấn đề vệ sinh, sức khỏe giữa đại dịch Covid-19.

Quảng cáo sai phép, nam thanh niên Hà Nội bị phạt 12,5 triệu đồng
icon

Quảng cáo thực phẩm sai phép trên trang thông tin điện tử, một nam thanh niên ở Hà Nội đã bị xử phạt vi phạm hành chính với số tiền 12,5 triệu đồng. 

Những sự cố làm việc trực tuyến oái oăm của năm 2021
icon

Đầu 'năm Covid thứ hai', những sự cố khi làm việc qua phần mềm họp trực tuyến vẫn thường xuyên xảy ra. Một số trường hợp tạo tiếng cười giải trí, nhưng cũng có một hội đồng nhà trường ở Mỹ phải từ chức vì hậu quả sự cố.

Giá Bitcoin giảm sốc sau phát ngôn gây bão của Bill Gates
icon

Từ mức giá cao nhất mọi thời đại 58.000 USD, giá Bitcoin đã giảm sốc 10.000 USD chỉ sau 10 tiếng đồng hồ.

Thế hệ Z kỳ thị biểu tượng 'Cười ra nước mắt', dùng emoji theo cách riêng
icon

'Khóc cười', hay 'Cười ra nước mắt', vẫn đang là biểu tượng cảm xúc được sử dụng nhiều nhất trên mạng. Dù vậy Thế hệ Z cảm thấy biểu tượng này đã nhạt nhẽo, và tìm cách thể hiện cảm xúc sáng tạo hơn.

 
123

Giấy phép hoạt động báo chí: Số 09/GP-BTTTT, Bộ Thông tin và Truyền thông cấp ngày 07/01/2019.

Tòa soạn: Tầng 7, Tòa nhà Cục Tần số Vô tuyến điện, 115 Trần Duy Hưng, Quận Cầu Giấy, Hà Nội

Điện thoại: 024 3 936 9966 - Fax: 024 3 936 9364

Hotline nội dung: 0888 911 911 - Email: toasoan@ictnews.vn

123