• Chia sẻ bài viết Quốc hội Mỹ bức xúc vì AI của Amazon nhận diện 28 nghị sỹ là tội phạm truy nã lên Linkhay
  • Giúp ictnews sửa lỗi

Quốc hội Mỹ bức xúc vì AI của Amazon nhận diện 28 nghị sỹ là tội phạm truy nã

Liệu AI đã đủ trưởng thành để tham gia vào các hoạt động điều tra, nhận diện gương mặt tội phạm giúp cảnh sát?

Theo Gizmodo, phần mềm nhận diện khuôn mặt gây tranh cãi của Amazon có tên Rekognition đã xác định nhầm 28 nghị sỹ thuộc Quốc hội Mỹ là những kẻ phạm tội. Sai lầm của Rekognition chỉ bị phát hiện khi Liên đoàn tự do dân sự Mỹ ở Bắc California (ACLU) sử dụng AI này để thử quét khuôn mặt của 535 nghị sỹ quốc hội Mỹ và đối chiếu với bộ dữ liệu 25 ngàn bức ảnh chụp phạm nhân công khai.

Rekognition đã nhận diện 28 nghị sỹ Quốc hội Mỹ là phạm nhân truy nã. Có khoảng 11 trong số các nghị sỹ Quốc hội bị xác định sai là người da màu, một sự khác biệt đáng báo động. Các thử nghiệm cho thấy, khả năng nhận diện khuôn mặt của AI thường kém chính xác hơn đối với những người da màu. Tính tổng thể Quốc hội Mỹ, tỷ lệ lỗi chỉ là 5% nhưng với các nghị sỹ là người da màu, tỷ lệ lỗi lên tới 39%.

Trong số những người bị xác định nhầm là phạm nhân có 6 người là nghị sỹ của nhóm Congressional Black Caucus (một tổ chức chính trị do các nghị sỹ là người Mỹ gốc Phi trong Quốc hội Mỹ lập nên) đã gửi thư tới CEO Amazon Jeff Bezos vào hôm thứ Sáu (27/7) sau khi ACLU phát hành các tài liệu nội bộ chỉ ra sai lầm của AI Rekognition.

Luis Gutiérrez và Mark DeSaulnier, hai trong số các nghị sỹ Quốc hội Mỹ gửi thư cho Jeff Bezos yêu cầu tạm dừng sử dụng Rekognition.

Bức thư có đoạn ghi: "Công nghệ nhận diện khuôn mặt ngày càng chính xác, dễ sử dụng và tiết kiệm chi phí hơn. Chúng tôi hiểu rằng, công nghệ sẽ giúp việc thực thi pháp luật trở nên thuận lợi và dễ dàng hơn. Tuy nhiên công nghệ này luôn đi kèm với rủi ro, bao gồm cả việc xâm phạm quyền riêng tư, thiên vị, phân biệt chủng tộc và giới tính".

Về phần mình, Amazon thừa nhận công nghệ này vẫn chưa thực sự hoàn hảo và còn nảy sinh một số lỗi lập trình. Hơn nữa việc AI phải nhận diện hàng trăm khuôn mặt không có trong dữ liệu hệ thống có thể làm nảy sinh những sai lầm trong việc nhận diện và đối chiếu. Tuy nhiên Amazon cũng cam kết sẽ tiếp tục cải thiện AI sao cho đạt ngưỡng chính xác tối đa lên tới 95%.

Amazon gần đây liên tục khuyến khích các cơ quan thực thi pháp luật thí điểm sử dụng AI Rekognition để phục vụ cho điều tra. Tuy nhiên theo công bố của ACLU,  nếu AI vẫn còn tình trạng xác định nhầm người da màu như hiện nay thì sẽ gây ra những sai lầm chết người.

AI Rekognition bắt đầu được sử dụng từ hồi tháng 5/2018 tại sở cảnh sát Orlando. Chi phí sử dụng cho mỗi lần phát hiện chỉ khoảng 12 USD (279 ngàn đồng).

Vụ việc trên là bằng chứng rõ ràng nhất cho những hạn chế của AI trong việc tham gia vào các hoạt động đời sống, đặc biệt là phát hiện tội phạm và hỗ trợ cảnh sát.

 

Theo VnReview

Tương tác trực tiếp với ICTnews trên Facebook

Hệ thống nhận diện khuôn mặt của cảnh sát Anh "nhận nhầm" hơn 2000 người là tội phạm
Có vẻ hệ thống nhận diện khuôn mặt tự động (AFR) của cảnh sát Anh vẫn còn nhiều hạn chế và chưa thể bắt kịp hệ thống của Trung Quốc.
Amazon bị tố bán công nghệ nhận diện khuôn mặt theo thời gian thực cho cảnh sát
Được biết, công nghệ này của Amazon có thể "phân tích hàng triệu khuôn mặt theo thời gian thực", và nhiều tổ chức nhân quyền cho rằng đây là...
Hệ thống sân bay Úc đang thử nghiệm nhận diện khuôn mặt mà không cần passport
ICTnews - Úc là quốc gia tiên phong cho việc sử dụng cổng thông minh SmartGate dựa trên nhận diện khuôn tại sân bay để thực hiện xuất nhập cảnh...
Trí tuệ nhân tạo sẽ "giải thoát" chuột thí nghiệm trong tương lai
ICTnews - Không thể phủ nhận sức lan tỏa mạnh mẽ của công nghệ machine learning và trí thông minh nhân tạo tới từng ngóc ngách của cuộc sống....
loading...

Video đang được xem nhiều

  • Chia sẻ bài viết Quốc hội Mỹ bức xúc vì AI của Amazon nhận diện 28 nghị sỹ là tội phạm truy nã lên Linkhay
  • Giúp ictnews sửa lỗi

Bài viết chưa có bình luận nào.

lên đầu trang