Facebook có thể phát hiện nguồn gốc deepfake

Các nhà nghiên cứu AI của Facebook và Đại học bang Michigan (Mỹ) vừa phát triển phần mềm mới, cho phép truy xuất nguồn gốc deepfake.  

Facebook có thể phát hiện nguồn gốc deepfake
Một ví dụ về deepfake do CNBC tạo ra. 

Deepfake là các video được chỉnh sửa bằng trí tuệ nhân tạo (AI). Chúng ngày càng trở nên hoàn thiện hơn trong vài năm gần đây, khiến người xem khó xác định được đây là video thật hay giả.

Dù vậy, các nhà nghiên cứu Facebook khẳng định phần mềm AI mới của họ có thể được đào tạo để biết được một video là deepfake hay không chỉ từ hình ảnh hay khung hình cắt ra từ video. Không chỉ có vậy, nó còn xác định được loại AI dùng để tạo ra deepfake, dù kỹ thuật này khó tới đâu.

Năm ngoái, Đại học bang Michigan (MSU) phát hiện họ có thể xác định được loại camera được sử dụng để chụp tấm ảnh nào đó. Tal Hassner, người đứng đầu về nghiên cứu ứng dụng tại Facebook, chia sẻ đã hợp tác với MSU cho phần mềm mới.

“Mèo vờn chuột”

Deepfake không phải điều tốt lành gì với Facebook khi mạng xã hội này liên tục tìm cách xóa bỏ nội dung giả mạo ra khỏi nền tảng. Công ty cấm deepfake vào tháng 1/2020 nhưng không thể loại bỏ hoàn toàn.

Theo ông Hassner, phát hiện deepfake giống như trò chơi mèo vờn chuột, khi deepfake ngày càng dễ sản xuất nhưng lại khó xác định. Một trong các ứng dụng chính của deepfake hiện nay là trong công nghiệp khiêu dâm, nơi gương mặt một người bị ghép vào cơ thể người khác. Các ngôi sao cũng khốn khổ với deepfake vì họ thường xuất hiện trong những video giả mạo. Chẳng hạn, nhiều video của diễn viên Tom Cruise trên TikTok thu hút hơn 50 triệu lượt xem và khán giả không biết được họ đang xem video thật hay giả.

 

Bất kỳ ai cũng có thể tạo video deepfake thông qua các ứng dụng miễn phí như FakeApp, Faceswap. Chuyên gia deepfake Nina Schick khẳng định không dễ phát hiện deepfake. Bà cho rằng dù công trình của Facebook và MSU là bước tiến lớn, điều quan trọng là các mô hình phát hiện deepfake hoạt động thế nào trong thực tế. Một trong các thách thức lớn hiện tại là có nhiều cách đánh lừa mô hình phát hiện deepfake. Ông Tassner cũng thừa nhận rất có thể thế lực xấu sẽ qua mặt được phần mềm.

Nhìn chung, deepfake có hai loại: một loại hoàn toàn do AI tạo ra, một  loại sử dụng các nguyên tố của AI để “bóp méo” nội dung đa phương tiện gốc. Bà Schick đặt câu hỏi liệu công cụ của Facebook có áp dụng cho loại thứ hai được không, do không bao giờ có một mô hình nào áp dụng được cho mọi tình huống. Tuy nhiên, Xiaoming Liu của MSU cho biết phần mềm đã được đánh giá và xác nhận trên cả hai trường hợp deepfake.

Chris Ume, nghệ sỹ đứng sau video deepfake Tom Cruise, chia sẻ công nghệ deepfake đang phát triển nhanh chóng. Có nhiều công cụ AI khác nhau và anh sử dụng kết hợp để đạt chất lượng mong muốn cho kênh TikTok của mình.

Không rõ Facebook sẽ áp dụng phần mềm phát hiện deepfake trên nền tảng như thế nào. Ông Tassner cho hay, công ty chưa thảo luận về sản phẩm. Để phục vụ cho công trình nghiên cứu, Facebook đã thu thập và phân loại 100 mô hình deepfake khác nhau.

Du Lam (Theo CNBC)

3 nữ sinh bị đe dọa bằng clip nóng giả mạo được tạo bởi công nghệ deepfake

3 nữ sinh bị đe dọa bằng clip nóng giả mạo được tạo bởi công nghệ deepfake

Một người phụ nữ sống tại bang Pennsylvania đã bị bắt giữ sau khi bà này sử dụng công nghệ deepfake để tạo ra những video, ảnh "nóng" giả mạo để đe dọa 3 nữ sinh học chung với con gái của mình.

Chủ đề : facebook
 
List comment
 
Doanh nghiệp công nghệ Việt phát triển trợ lý ảo giúp truy vết Covid-19
icon

Trợ lý ảo voiceBot truy vết Covid-19 do doanh nghiệp Việt Nam phát triển đã thực hiện 2.2 triệu cuộc gọi tới người dân, góp phần phát hiện hàng nghìn trường hợp có triệu chứng nhiễm bệnh.

 
Cổ phiếu công nghệ Trung Quốc tại Mỹ bay 145 tỷ USD chỉ trong tuần này
icon

Cổ phiếu các hãng công nghệ Trung Quốc niêm yết tại Mỹ giảm ngày thứ ba liên tiếp giữa những nỗ lực siết chặt quản lý của nhà chức trách.  

 
Xem bản đồ dịch tễ Covid-19 của Hậu Giang ở đâu?
icon

Bản đồ của tỉnh Hậu Giang hiển thị đầy đủ các khu vực cảnh báo biểu tượng gạch chéo đỏ. là những khu vực có ca nhiễm, nghi nhiễm Covid-19, hoặc những nơi các bệnh nhân Covid-19 đã đến, những nơi đang thiết lập vùng cách ly y tế.

 
Tổng đài 1022 quá tải, Sở Thông tin và Truyền thông TP.HCM nghiên cứu mở thêm kênh tiếp nhận
icon

Bên cạnh việc đề xuất hỗ trợ thêm lực lượng nhân viên trực tổng đài, Sở TT&TT cũng đang nghiên cứu mở rộng thêm kênh tiếp nhận để nâng cao năng lực đáp ứng.  

 
Xem bản đồ dịch tễ Covid-19 của Bến Tre ở đâu?
icon

Bản đồ thông tin dịch tễ Covid-19 của Bến Tre có chức năng lọc hiển thị các địa điểm xét nghiệm Covid-19, khu vực phong tỏa, khu cách ly tập trung, chốt kiểm soát dịch, nơi bệnh nhân từng đến trong 14 ngày...

 
 
Apple, Microsoft, Google làm ăn ra sao trong mùa dịch?
icon

Apple, Microsoft và Google vừa báo cáo kết quả kinh doanh quý II thành công bất chấp đại dịch Covid-19.  

Apple dự báo thiếu chip làm iPhone
icon

Thiếu hụt chip toàn cầu không chỉ ảnh hưởng tới sản lượng iPad và iMac mà sẽ khiến tăng trưởng iPhone chậm lại, theo báo cáo mới nhất của Apple.

Hứa hẹn lợi nhuận khủng, các sàn đầu tư tiền ảo liên tục 'bay màu'
icon

Chỉ trong vòng vài tháng qua, hàng loạt sàn giao dịch đầu tư tiền ảo, bảo hiểm vốn 100% lần lượt 'bốc hơi'. Điều này khiến hàng trăm nhà đầu tư mất trắng tiền tỷ.

Elon Musk mỉa mai Apple
icon

Trong hội nghị công bố kết quả kinh doanh của Tesla, tỷ phú Elon Musk đã hai lần chế nhạo Apple.

'Không ai muốn trở thành Jack Ma tiếp theo': Mô hình Big Tech của Trung Quốc khác gì so với Mỹ?
icon

Mỹ và Trung Quốc – 2 nền kinh tế lớn nhất thế giới – đang chọn 2 con đường hoàn toàn khác nhau để đối mặt với quyền lực khổng lồ mà các tập đoàn công nghệ tư nhân đã tích lũy được.

 
123

Giấy phép hoạt động báo chí: Số 09/GP-BTTTT, Bộ Thông tin và Truyền thông cấp ngày 07/01/2019.

Tòa soạn: Tầng 7, Tòa nhà Cục Tần số Vô tuyến điện, 115 Trần Duy Hưng, Quận Cầu Giấy, Hà Nội

Điện thoại: 024 3 936 9966 - Fax: 024 3 936 9364

Hotline nội dung: 0888 911 911 - Email: toasoan@ictnews.vn

123