Kiểm soát mạng xã hội đến đâu sau vụ xả súng ở New Zealand?

Sau vụ xả súng ở New Zealand, nhiều chính phủ đang đặt ra vấn đề liệu có nên đưa ra luật để buộc các mạng xã hội kiểm soát nội dung tốt hơn?

Những tội ác lan truyền rất nhanh trên mạng. Video về vụ xả súng ngày 15/3 tại New Zealand đã bị chia sẻ một cách chóng mặt, và các nền tảng mạng xã hội như Google, Facebook đã rất bị động để ngăn chặn sự lan truyền này. Đó là lý do nhiều chính phủ cho rằng mạng xã hội không còn đủ khả năng, và phải có sự can thiệp từ chính phủ.

AI có thể, và không thể làm gì?

Trong một thế giới hoàn hảo, thuật toán của YouTube, Facebook sẽ ngay lập tức nhận biết được một video vi phạm và xử lý nó, khiến cho người xem thông thường không bao giờ biết đến sự tồn tại của video vi phạm.

Trong thực tế, khi Brenton Tarrat truyền trực tiếp cảnh xả súng của mình, chỉ có khoảng 200 người xem được video gốc. Nhưng khi Facebook xóa video đó 12 phút sau khi nó kết thúc, đã có hàng nghìn bản sao lan truyền khắp trên Internet.

Chúng xuất hiện trên Twitter, nơi video tự bật và khiến người dùng không kịp trở tay. Chúng xuất hiện trên Reddit, ở mục “cảnh mọi người chết”. Tất nhiên, chúng cũng xuất hiện trên YouTube, nền tảng video lớn nhất thế giới.

Kiem soat mang xa hoi den dau sau vu xa sung o New Zealand? hinh anh 1
Kẻ thủ ác đã chuẩn bị rất kỹ lưỡng để vụ việc xuất hiện trên tất cả các mạng xã hội lớn, có thể được chia sẻ nhiều nhất.

Facebook cho biết họ đã chặn khoảng 1,2 triệu bản sao trên nền tảng của mình ngay khi chúng còn chưa hiện lên cho người dùng. Tuy nhiên vẫn còn tới 300.000 bản sao khác lọt khỏi bộ lọc và về sau mới bị xóa. Vào giai đoạn cao điểm, cứ 1 giây lại có 1 video được tải lên, theo lời kể của Giám đốc sản phẩm YouTube Neal Mohan.

Trong vụ việc này, sự quyết tâm của con người đã vượt qua máy móc, và hậu quả là mọi người trên khắp thế giới phải xem hình ảnh dã man.

Washington Post.

Cách hoạt động của những bộ lọc chạy bằng AI của YouTube là ban đầu chúng phải “học” để nhận biết với dữ liệu sẵn có, như các khẩu hiệu của khủng bố hay phim khiêu dâm trẻ em. Nếu sau đó phát hiện các video có nội dung tương tự, chúng có thể nhận biết và loại bổ ngay.

Tuy nhiên với những clip chưa bao giờ thấy, các bộ lọc AI sẽ rất vất vả nhận biết. Đó là chưa kể những người tải clip lên còn có thể thực hiện một số thao tác đánh lừa bộ lọc như thay đổi kích thước, tốc độ clip hoặc lật ngược clip lại.

“Việc chặn video như vậy giống như chơi trò đập chuột chũi. Nhiều người rất giỏi những trò như thế này. Họ sẽ tìm ra cách để vượt qua bộ lọc”, Rasty Turek, CEO của công ty cung cấp công nghệ nhận biết bản quyền Pex chia sẻ.

Facebook, YouTube từng phải ra điều trần trước quốc hội Mỹ về vấn đề bộ lọc video bạo lực, kinh dị. Họ đã hứa sẽ cải thiện bộ lọc, nhưng cuối cùng vẫn chưa thể đối phó những video livestream như vụ việc vừa qua.

Kiem soat mang xa hoi den dau sau vu xa sung o New Zealand? hinh anh 2
Facebook đã xóa ngay lập tức hơn 1 triệu video về vụ xả súng, nhưng vẫn còn hàng trăm nghìn video tồn tại đủ để người khác xem được. Ảnh: Mashable.

Không dừng ở trách nhiệm khi vụ việc xảy ra, mạng xã hội đúng ra đã có thể nhận biết những vấn đề của tên Tarrant từ trước đó. Hai ngày trước vụ xả súng, hắn đăng một loạt ảnh súng đạn lên Twitter đính kèm tên của những kẻ giết người hàng loạt. Hắn cũng thường xuyên nhắc tới những câu khẩu hiệu đề cao người da trắng thượng đẳng hay những dấu hiệu của phát xít.

Trước đó nhiều tuần, hắn đã đăng tải những video đầy tính phân biệt chủng tộc lên Twitter. Bản thông báo dài 87 trang cũng được đăng lên Twitter nhiều giờ trước khi vụ xả súng diễn ra. Không một hành động nào trong số này được nhận biết là có vấn đề. Tài khoản Twitter của kẻ giết người vẫn còn tồn tại tới sau vụ xả súng mới bị xóa.

Giới hạn của tự do và kiểm soát

Nếu như Tarrant là một người Mỹ, tài khoản Twitter của hắn sẽ được bảo vệ bởi quyền tự do ngôn luận trong hiến pháp. Dù vậy, những bức ảnh súng đạn của hắn có thể là đủ khiến cơ quan bảo vệ pháp luật để ý.

“Nếu một kẻ đăng ảnh súng, đạn với tên của những tên giết người hàng loạt đính kèm, Twitter cần phải kiểm tra xem hắn viết về những gì và báo với cơ quan bảo vệ pháp luật”, Robert Evans, nhà báo tại Bellingcat chia sẻ.

Sau vụ tấn công, Twitter đã xóa tài khoản của Tarrant, nhưng nhiều người dùng YouTube đã đăng tải lại những hình ảnh, thông báo và cả video truyền trực tiếp của hắn. Đến lúc này, một nhà mạng đã phải can thiệp. Vodafone New Zealand đã chặn các kết nối tới các website ủng hộ thuyết da trắng thượng đẳng để tránh sự lan truyền.

“Đây là hành động chưa từng có. Tuy nhiên Vodafone không bao giờ bỏ qua những hành động khủng bố”, ông Jason Paris, CEO của Fodafone New Zealand cho biết.

Kiem soat mang xa hoi den dau sau vu xa sung o New Zealand? hinh anh 3
Thủ tướng New Zealand, bà Jacinda Ardern đã lên tiếng chỉ trích Facebook trước quốc hội nước này vì thiếu trách nhiệm trong vụ việc vừa qua. Ảnh: Getty.

Những nền dân chủ trên thế giới đều không muốn can thiệp quá sâu vào nội dung trên mạng, bởi họ lo sợ kiểm soát thái quá có thể khiến đất nước giống như Trung Quốc. Dù vậy, vẫn có những giới hạn. Bộ Nội vụ New Zealand cho biết chia sẻ video vụ xả súng ngày 15/3 là phạm tội. Ngày 19/3, 1 thanh niên 18 tuổi đã bị bắt tại New Zealand vì chia sẻ video này.

Sau vụ xả súng, nhiều nhà làm luật đã lên tiếng về việc kiểm soát các công ty công nghệ, để họ kiểm soát lại nội dung được chia sẻ trên mạng xã hội.

“Dù mục đích là để bảo vệ công dân khỏi những điều xấu trên mạng chứ không phải để kiểm soát, thì những người theo trường phái tiến bộ sẽ rất khó khăn để cân bằng giữa tự do và lựa chọn cắt đức các dịch vụ như YouTube, Facebook”, ông Ari Ezra Waldman, giáo sư về luật công nghệ tại đại học luật New York cho biết.

Tại chính nước Mỹ, những điều luật về kiểm soát nội dung vẫn chưa được thông qua. Hiện tại, điều luật duy nhất bắt các mạng xã hội chịu trách nhiệm về nội dung chia sẻ trên mạng là liên quan đến các nội dung về mua bán, trao đổi nô lệ tình dục.

Kiem soat mang xa hoi den dau sau vu xa sung o New Zealand? hinh anh 4
Người đứng đầu ủy ban an ninh nội địa của hạ viện Mỹ, ông Bennie Thompson đã yêu cầu Facebook, YouTube điều trần trước hạ viện về các hành động của họ sau vụ việc ở New Zealand. Ảnh: Getty.

Những gã khổng lồ công nghệ Mỹ, do vậy, còn gặp khó khăn nhiều hơn ở nước ngoài. Năm 2018, Liên minh châu Âu thông qua đạo luật GDPR, yêu cầu các công ty phải tôn trọng dữ liệu riêng tư của người dùng. Những nhà làm luật châu Âu cũng đã nhắc tới việc kiểm soát về nội dung sau sự việc ở New Zealand.

“Hôm nay, những nền tảng mạng xã hội đã mất kiểm soát. Họ trở thành nạn nhân của một vụ tẩn công khủng bố tệ hại, nhưng không cho thấy khả năng và trách nhiệm. Chúng ta không thể tiếp tục thế này. Hôm nay, chúng ta phải giành lại sự kiểm soát từ những kẻ đầu sỏ thiếu trách nhiệm ở thung lũng Silicon”, ông Tom Watson, phó lãnh đạo đảng Lao động của Anh bày tỏ.

“Vào thời điểm nào đó, chúng ta buộc phải kiểm soát. Trách nhiệm của mỗi chính phủ là bảo vệ công dân, và nếu chúng tôi thấy anh là một mối nguy, chúng tôi sẽ kiểm soát”, ông Frans Timmermans, phó chủ tịch liên minh châu Âu cũng nêu quan điểm tương tự tại Diễn đàn chính sách thế giới, ngày 18/3.

Tại New Zealand, thủ tướng Jacinda Ardern cũng chỉ trích Facebook trước quốc hội vào ngày 19/3.

“Họ là nhà xuất bản chứ không chỉ là đơn vị trung gian. Không thể có chuyện luôn được hưởng lợi mà không phải chịu trách nhiệm gì”, bà Ardern cho biết.

Kiem soat mang xa hoi den dau sau vu xa sung o New Zealand? hinh anh 5
Có lẽ Facebook, YouTube chỉ cảm thấy sức ép khi các hãng rút quảng cáo, như P&G và Disney đã làm với YouTube. Ảnh: Getty.

Dù vậy, sức ép lớn nhất đối với những gã khổng lồ công nghệ có thể đến từ đối tác. Tại Mỹ, những công ty như Proter & Gamble hay Walt Disney chi hàng trăm triệu USD mỗi năm cho YouTube. Họ đều đã cắt bớt hợp đồng quảng cáo khi những nội dung khủng bố xuất hiện trên nền tảng này.

“Những công ty này đều hoạt động với mục đích lớn nhất là lợi nhuận. Thuật toán của họ không được tối ưu để cắt giảm nội dung độc hại. Lợi nhuận là trước tiên”, ông Henry Fernandez, nhà nghiên cứu tại Center for American Progress chia sẻ.

“Khi những người trẻ tuổi hơn được bầu lên, họ sẽ sử dụng mạng xã hội thường xuyên như một kênh giao tiếp. Tôi hy vọng lúc đó họ sẽ hiểu được sâu sắc hơn về cách sử dụng luật pháp để kiểm soát mạng xã hội”, ông Fernandez nói.

Nhưng đến lúc đó, mạng xã hội sẽ làm gì để tránh xảy ra thảm họa tiếp theo?

Momo xuất hiện trong video hoạt hình YouTube, dọa giết người xem Thử thách Momo khiến trẻ em có nguy cơ tự sát vừa bị phát hiện ẩn chứa bên trong các video tưởng chừng vô hại trên YouTube. Momo xuất hiện ở phút 01:49.

 

Hỗ trợ xử lý 1.234 sự cố tấn công mạng vào hệ thống tại Việt Nam trong tháng 1

Trong tháng 1, Cục An toàn thông tin ghi nhận, cảnh báo và hướng dẫn xử lý 1.234 cuộc tấn công mạng gây ra sự cố vào các hệ thống thông tin tại Việt Nam, tăng 25,6% so với tháng 12/2022 và giảm 10,8% so với cùng kỳ năm ngoái.

Google sắp có các tính năng trí tuệ nhân tạo

CEO Google tiết lộ công ty chuẩn bị tích hợp các tính năng trí tuệ nhân tạo (AI) vào công cụ tìm kiếm.

Sự nguy hiểm khi viết bằng ChatGPT

ChatGPT hay các chương trình trí tuệ nói chung giúp người dùng soạn thảo văn bản nhanh hơn, song đi cùng với sự thuận tiện là không ít rủi ro.

ChatGPT khuynh đảo thế giới, Mỹ mở rộng lệnh cấm Huawei Icon

ChatGPT khuynh đảo thế giới; Mỹ mở rộng lệnh cấm Huawei... là những thông tin nổi bật trong bản tin Công nghệ thứ 7 tuần này.

Đã có lịch khắc phục sự cố trên nhánh S6 của tuyến cáp quang biển APG

Sự cố xảy ra ngày 26/12/2022 trên nhánh S6 gần HongKong (Trung Quốc) của cáp biển APG dự kiến sẽ được khắc phục trong tháng 3. Trong khi đó, các lỗi trên nhánh S9 của tuyến APG và 3 tuyến cáp biển khác hiện chưa có lịch sửa chữa.

Những công việc trước nguy cơ bị ChatGPT xoá sổ

ChatGPT là cái tên đang "làm mưa làm gió" trên các diễn đàn gần đây với khả năng trả lời trực tiếp cho bất kỳ câu hỏi nào. Theo các chuyên gia, nhiều ngành nghề sẽ bị ảnh hưởng bởi các chatbot giống như ChatGPT.

Mạng VinaPhone bị sự cố mất sóng cục bộ tại Hà Nội

Khoảng 4h chiều nay, nhiều thuê bao của VinaPhone gặp tình trạng không thể liên lạc được. VinaPhone cho biết nhà mạng này bị sự cố cục bộ trong thời gian ngắn và đã khắc phục xong.

Người dùng Facebook không thể thu hồi tin nhắn trên Messenger

Ngày 3/2, một số người dùng mạng xã hội Facebook cho biết họ không thể sử dụng tính năng thu hồi tin nhắn trên ứng dụng Messenger.

Apple đối mặt với suy thoái

Doanh thu quý cuối năm 2022 của Apple giảm 5%, mức giảm sâu nhất kể từ năm 2016.

Vai trò tối quan trọng của an ninh - bảo mật trong thời ‘Internet vạn vật’

Thế giới đã chứng kiến làn sóng tăng tốc triển khai các thiết bị kết nối mới. Tuy nhiên, tốc độ ứng dụng các thiết bị này được cho rằng có thể đe dọa các giao thức bảo mật cơ bản.

Đang cập nhật dữ liệu !