Quốc hội Mỹ bức xúc vì AI của Amazon nhận diện 28 nghị sỹ là tội phạm truy nã

Liệu AI đã đủ trưởng thành để tham gia vào các hoạt động điều tra, nhận diện gương mặt tội phạm giúp cảnh sát?

Theo Gizmodo, phần mềm nhận diện khuôn mặt gây tranh cãi của Amazon có tên Rekognition đã xác định nhầm 28 nghị sỹ thuộc Quốc hội Mỹ là những kẻ phạm tội. Sai lầm của Rekognition chỉ bị phát hiện khi Liên đoàn tự do dân sự Mỹ ở Bắc California (ACLU) sử dụng AI này để thử quét khuôn mặt của 535 nghị sỹ quốc hội Mỹ và đối chiếu với bộ dữ liệu 25 ngàn bức ảnh chụp phạm nhân công khai.

Rekognition đã nhận diện 28 nghị sỹ Quốc hội Mỹ là phạm nhân truy nã. Có khoảng 11 trong số các nghị sỹ Quốc hội bị xác định sai là người da màu, một sự khác biệt đáng báo động. Các thử nghiệm cho thấy, khả năng nhận diện khuôn mặt của AI thường kém chính xác hơn đối với những người da màu. Tính tổng thể Quốc hội Mỹ, tỷ lệ lỗi chỉ là 5% nhưng với các nghị sỹ là người da màu, tỷ lệ lỗi lên tới 39%.

Trong số những người bị xác định nhầm là phạm nhân có 6 người là nghị sỹ của nhóm Congressional Black Caucus (một tổ chức chính trị do các nghị sỹ là người Mỹ gốc Phi trong Quốc hội Mỹ lập nên) đã gửi thư tới CEO Amazon Jeff Bezos vào hôm thứ Sáu (27/7) sau khi ACLU phát hành các tài liệu nội bộ chỉ ra sai lầm của AI Rekognition.

Luis Gutiérrez và Mark DeSaulnier, hai trong số các nghị sỹ Quốc hội Mỹ gửi thư cho Jeff Bezos yêu cầu tạm dừng sử dụng Rekognition.

Bức thư có đoạn ghi: "Công nghệ nhận diện khuôn mặt ngày càng chính xác, dễ sử dụng và tiết kiệm chi phí hơn. Chúng tôi hiểu rằng, công nghệ sẽ giúp việc thực thi pháp luật trở nên thuận lợi và dễ dàng hơn. Tuy nhiên công nghệ này luôn đi kèm với rủi ro, bao gồm cả việc xâm phạm quyền riêng tư, thiên vị, phân biệt chủng tộc và giới tính".

Về phần mình, Amazon thừa nhận công nghệ này vẫn chưa thực sự hoàn hảo và còn nảy sinh một số lỗi lập trình. Hơn nữa việc AI phải nhận diện hàng trăm khuôn mặt không có trong dữ liệu hệ thống có thể làm nảy sinh những sai lầm trong việc nhận diện và đối chiếu. Tuy nhiên Amazon cũng cam kết sẽ tiếp tục cải thiện AI sao cho đạt ngưỡng chính xác tối đa lên tới 95%.

Amazon gần đây liên tục khuyến khích các cơ quan thực thi pháp luật thí điểm sử dụng AI Rekognition để phục vụ cho điều tra. Tuy nhiên theo công bố của ACLU,  nếu AI vẫn còn tình trạng xác định nhầm người da màu như hiện nay thì sẽ gây ra những sai lầm chết người.

AI Rekognition bắt đầu được sử dụng từ hồi tháng 5/2018 tại sở cảnh sát Orlando. Chi phí sử dụng cho mỗi lần phát hiện chỉ khoảng 12 USD (279 ngàn đồng).

Vụ việc trên là bằng chứng rõ ràng nhất cho những hạn chế của AI trong việc tham gia vào các hoạt động đời sống, đặc biệt là phát hiện tội phạm và hỗ trợ cảnh sát.

 
Chủ đề :
 
List comment
 

Hưởng ứng chương trình “Sóng và máy tính cho em”, Sở Giáo dục và Đào tạo Hà Nội đã tổ chức trao hỗ trợ đợt 6 năm học 2021-2022 chương trình “Sóng và máy tính cho em”.

 

Các chuyên gia thuộc công ty Cortical Labs, Australia đã thành công nghiên cứu cách tích hợp nơ ron thần kinh sinh học với chip xử lý thông tin truyền thống.

 

Cả bệnh nhân và nhà cung cấp dịch vụ đều nhanh chóng thích nghi với các dịch vụ chăm sóc sức khoẻ từ xa để đối phó với đại dịch toàn cầu.

 

Kể từ ngày 1/10/2020 đến ngày 31/12/2021, Cục An toàn thông tin đã cấp gần 6.000 tên định danh cho các cá nhân, tổ chức. Đơn vị này nhận định, nhu cầu đăng ký sử dụng tên định danh để quảng cáo dịch vụ có xu hướng gia tăng.

 

Mua sắm online và thanh toán kỹ thuật số tiếp tục tăng giai đoạn cuối năm cho thấy người dân vẫn giữ thói quen vốn đã hình thành trong giai đoạn giãn cách.

 
 

Covid-19 mang đến những thách thức lớn cho cả nhân loại và hủy diệt không ít doanh nghiệp. Nhưng trong nghịch cảnh, vẫn có nhiều công ty tìm thấy ‘ánh sáng cuối con đường’ và vươn lên mạnh mẽ.

Khu nông nghiệp ứng dụng công nghệ cao Quảng Ninh được xây dựng tại xã Hồng Thái Tây, thị xã Đông Triều, tỉnh Quảng Ninh với tổng diện tích tự nhiên toàn khu là 106 ha.

iSee - Trợ lý ảo hỗ trợ người dân và doanh nghiệp Lạng Sơn thực hiện thủ tục hành chính công, dịch vụ công vừa được địa phương này đưa vào sử dụng.

Tinh tế khởi động chương trình bình chọn cho các sản phẩm được yêu thích trong năm 2021 ở các lĩnh vực như điện thoại, xe, camera, điện tử tiêu dùng,...

Thế Giới Di Động chính thức trở thành nhà bán lẻ đa ngành khi mở mới 5 chuỗi kinh doanh thời trang, đồ thể thao, mẹ và bé, trang sức, xe đạp. Có gì bên trong những cửa hàng này?  

 
123

Giấy phép hoạt động báo chí: Số 09/GP-BTTTT, Bộ Thông tin và Truyền thông cấp ngày 07/01/2019.

Tòa soạn: Tầng 7, Tòa nhà Cục Tần số Vô tuyến điện, 115 Trần Duy Hưng, Quận Cầu Giấy, Hà Nội

Điện thoại: 024 3 936 9966 - Fax: 024 3 936 9364

Hotline nội dung: 0888 911 911 - Email: toasoan@ictnews.vn

123