Đánh lừa AI chỉ bằng giấy bút

Khi các nhà nghiên cứu dán mẩu giấy có chữ iPod lên quả táo, trí tuệ nhân tạo nhận nhầm là chiếc máy nghe nhạc nổi tiếng trong thập niên 2000.

Trí tuệ nhân tạo (AI) luôn được xem là bộ máy thông minh. Trong nhiều trường hợp, nó có khả năng phân tích vấn đề rất chính xác. Khi quan sát một quả táo, AI mang tên Clip dễ dàng nhận ra loại trái cây quen thuộc này, thậm chí cung cấp thông tin chủng loại và phân biệt được giống cây.

AI bi danh lua boi but va giay anh 1

Clip dễ dàng bị đánh lừa bởi một mẫu giấy viết tay dán trên quả táo. (Ảnh: Guardian)

Nhưng ngay cả những AI thông minh nhất cũng có thể bị đánh lừa bởi cách thức đơn giản. Các nhà nghiên cứu viết chữ iPod vào mẩu giấy và dán lên quả táo, Clip nhận đối tượng này là máy nghe nhạc nổi tiếng của Apple. Trong thử nghiệm khác, họ thêm ký hiệu $ vào ảnh một chú chó, AI tiếp tục hiểu nhầm là heo đất.

Theo Guardian, OpenAI, tổ chức nghiên cứu máy học đã tạo ra Clip, gọi điểm yếu này là “cuộc tấn công kiểu chữ” (typographic attack).

"Chúng tôi tin rằng các cuộc tấn công được mô tả ở trên không chỉ đơn giản là một mối quan tâm học thuật", OpenAI cho biết. “Bằng cách khai thác khả năng đọc văn bản mạnh mẽ của AI, chúng tôi thấy rằng ngay cả những bức ảnh chụp ký tự viết tay cũng có thể đánh lừa. Cuộc tấn công này diễn ra một cách tự nhiên, chỉ cần bút và giấy, không đòi hỏi thêm gì về mặt công nghệ”.

Giống như GPT-3, hệ thống AI này được tạo ra từ phòng thí nghiệm phục vụ cho mục đích nghiên cứu. Clip giống một mô hình hơn là sản phẩm thương mại. Nhưng cả 2 đều đã đạt được những khả năng ấn tượng trong lĩnh vực của mình: GPT-3 đã viết một bài bình luận cho Guardian vào năm ngoái, trong khi Clip có khả năng nhận biết thế giới thực tốt hơn hầu hết AI hiện nay.

AI bi danh lua boi but va giay anh 2

Khi dán chữ iPod lên quả táo, Clip cho rằng có tới 99,7% khả năng đây là iPod. (Ảnh: OpenAI)

Phát hiện thú vị của OpenAI cho thấy khả năng đánh lừa các hệ thống trí tuệ nhân tạo bằng những cách thức đơn giản. Điểm mạnh trong khả năng nhận dạng hình ảnh cuối cùng lại trở thành điểm yếu của Clip.

 

Khác với một số AI cũ hơn, Clip có khả năng suy nghĩ về các đối tượng không chỉ ở mức độ trực quan mà còn theo kiểu “khái niệm”. Ví dụ khi đọc một bức ảnh của Spider-man, nó có thể suy luận ra siêu anh hùng và nhện. Tuy nhiên, đôi khi Clip không phân biệt được 2 khái niệm này có mức độ quan trọng khác nhau.

“Chúng tôi phát hiện ra rằng Clip sắp xếp hình ảnh như một tập hợp ý tưởng ngữ nghĩa rời rạc, mô tả đối tượng một cách đơn giản và linh hoạt”, OpenAI cho biết.

Nói cách khác, giống bộ não con người, AI nghĩ về thế giới dưới dạng ý tưởng và khái niệm, thay vì cấu trúc trực quan thuần túy. Nhưng cách phân tích thông tin của Clip cũng dẫn đến các vấn đề, trong đó “cuộc tấn công bằng chữ” mà OpenAI phát hiện ra.

AI có thể liên hệ từ “Trung Đông” với chủ nghĩa khủng bố, “nhập cư” với châu Mỹ La tinh thậm chí là người da đen và khỉ đột, một sự cố đã từng xuất hiện trong các bộ máy trí tuệ nhân tạo khác.

Hồi năm 2015, Google phải xin lỗi vì tự động gắn thẻ hình ảnh của người da đen là "khỉ đột". Ba năm sau, cỗ máy tìm kiếm hàng đầu thế giới vẫn chưa giải quyết được vấn đề này và buộc phải can thiệp bằng cách gỡ thủ công.

(Theo Zing)

Trí tuệ nhân tạo được ứng dụng trong cuộc sống hằng ngày như thế nào?

Trí tuệ nhân tạo được ứng dụng trong cuộc sống hằng ngày như thế nào?

Đó là chủ đề của Zalo AI Summit lần 4 sẽ được tổ chức tại TP.HCM vào ngày 20/12 tới đây.

 
List comment
 
Thách thức công nghệ số Make in Vietnam
icon

Chương trình giới thiệu các nền tảng số Make in Vietnam phục vụ chuyển đổi số quốc gia trong “Ngày thứ Sáu công nghệ” đã được làm mới với tên gọi “Diễn đàn thách thức công nghệ số Việt Nam”. Số đầu tiên sẽ diễn ra ngày 9/4.

 
Bộ đôi VinFast Lux chiếm trọn niềm tin của khách Việt ở phân khúc xe sang cỡ trung
icon

Cả VinFast Lux A2.0 và Lux SA2.0 đều dẫn đầu các phân khúc sedan và SUV-CUV hạng sang cỡ trung trong chương trình bình chọn “Xe của năm 2021” do hai diễn đàn ô tô lớn tại Việt Nam đồng tổ chức.

 
VinBus chính thức vận hành xe buýt điện thông minh đầu tiên tại Việt Nam
icon

Ngày 08/04/2021, Công ty TNHH Dịch vụ Vận tải VinBus chính thức khai trương và đưa vào vận hành tuyến xe buýt điện thông minh đầu tiên của Việt Nam.

 
Ai sẽ trở thành CEO Apple thế hệ tiếp theo?
icon

Thông tin Tim Cook có thể rời nhiệm sở trước thời hạn khiến dư luận quan tâm đến việc ai sẽ trở thành “thuyền trưởng” tiếp theo của Apple.

 
Startup một năm tuổi được định giá 4 tỷ USD
icon

Ra đời vào tháng 4/2020, Clubhouse trở thành hiện tượng đặc biệt trong giới công nghệ và được định giá hàng tỷ USD.

 
 
Apple công bố kế hoạch áp dụng quy định mới về quyền riêng tư
icon

Với quy định mới, các nhà phát triển ứng dụng sẽ phải thông báo 1 lần để xin phép người dùng cấp quyền truy cập hoạt động của người dùng thông qua trang web và ứng dụng của các công ty khác.

Yêu cầu khẩn trương triển khai thu phí điện tử không dừng tại một số địa phương
icon

Các trạm thu phí tại TP.HCM và Thái Bình chưa triển khai hình thức thu điện tử không dừng phải khẩn trương triển khai ngay khi đủ điều kiện, và đảm bảo đồng bộ với hệ thống thu phí điện tử trên cả nước.

“Top 10 doanh nghiệp CNTT Việt Nam 2021” bổ sung nhiều lĩnh vực công nghệ mới
icon

Năm 2021, chương trình “Top 10 doanh nghiệp ICT Việt Nam” mở rộng đánh giá và lựa chọn cac doanh nghiệp tiêu biểu trong nhiều lĩnh vực công nghệ mới như Cloud, Blockchain, Edtech, PropTech, MedTed.

VinBigdata công bố kết quả cuộc thi toàn cầu về ứng dụng AI trong phân tích hình ảnh y tế trị giá 50.000 USD
icon

Ngày 7/4/2021, Viện Nghiên cứu Dữ liệu lớn VinBigdata (Tập đoàn Vingroup) công bố kết quả của Cuộc thi Ứng dụng AI phát hiện điểm bất thường trên ảnh X-quang lồng ngực với tổng giải thưởng trị giá 50.000 USD.

Tổng giá trị thị trường tiền ảo lần đầu vượt quá 2.000 tỷ USD
icon

Với biến động giá nhanh chóng của Bitcoin và Ethereum theo xu hướng tăng, tổng giá trị thị trường tiền ảo cũng tăng gấp đôi trong 3 tháng.    

 
123

Giấy phép hoạt động báo chí: Số 09/GP-BTTTT, Bộ Thông tin và Truyền thông cấp ngày 07/01/2019.

Tòa soạn: Tầng 7, Tòa nhà Cục Tần số Vô tuyến điện, 115 Trần Duy Hưng, Quận Cầu Giấy, Hà Nội

Điện thoại: 024 3 936 9966 - Fax: 024 3 936 9364

Hotline nội dung: 0888 911 911 - Email: toasoan@ictnews.vn

123