Đánh lừa AI chỉ bằng giấy bút

Khi các nhà nghiên cứu dán mẩu giấy có chữ iPod lên quả táo, trí tuệ nhân tạo nhận nhầm là chiếc máy nghe nhạc nổi tiếng trong thập niên 2000.

Trí tuệ nhân tạo (AI) luôn được xem là bộ máy thông minh. Trong nhiều trường hợp, nó có khả năng phân tích vấn đề rất chính xác. Khi quan sát một quả táo, AI mang tên Clip dễ dàng nhận ra loại trái cây quen thuộc này, thậm chí cung cấp thông tin chủng loại và phân biệt được giống cây.

AI bi danh lua boi but va giay anh 1

Clip dễ dàng bị đánh lừa bởi một mẫu giấy viết tay dán trên quả táo. (Ảnh: Guardian)

Nhưng ngay cả những AI thông minh nhất cũng có thể bị đánh lừa bởi cách thức đơn giản. Các nhà nghiên cứu viết chữ iPod vào mẩu giấy và dán lên quả táo, Clip nhận đối tượng này là máy nghe nhạc nổi tiếng của Apple. Trong thử nghiệm khác, họ thêm ký hiệu $ vào ảnh một chú chó, AI tiếp tục hiểu nhầm là heo đất.

Theo Guardian, OpenAI, tổ chức nghiên cứu máy học đã tạo ra Clip, gọi điểm yếu này là “cuộc tấn công kiểu chữ” (typographic attack).

"Chúng tôi tin rằng các cuộc tấn công được mô tả ở trên không chỉ đơn giản là một mối quan tâm học thuật", OpenAI cho biết. “Bằng cách khai thác khả năng đọc văn bản mạnh mẽ của AI, chúng tôi thấy rằng ngay cả những bức ảnh chụp ký tự viết tay cũng có thể đánh lừa. Cuộc tấn công này diễn ra một cách tự nhiên, chỉ cần bút và giấy, không đòi hỏi thêm gì về mặt công nghệ”.

Giống như GPT-3, hệ thống AI này được tạo ra từ phòng thí nghiệm phục vụ cho mục đích nghiên cứu. Clip giống một mô hình hơn là sản phẩm thương mại. Nhưng cả 2 đều đã đạt được những khả năng ấn tượng trong lĩnh vực của mình: GPT-3 đã viết một bài bình luận cho Guardian vào năm ngoái, trong khi Clip có khả năng nhận biết thế giới thực tốt hơn hầu hết AI hiện nay.

AI bi danh lua boi but va giay anh 2

Khi dán chữ iPod lên quả táo, Clip cho rằng có tới 99,7% khả năng đây là iPod. (Ảnh: OpenAI)

Phát hiện thú vị của OpenAI cho thấy khả năng đánh lừa các hệ thống trí tuệ nhân tạo bằng những cách thức đơn giản. Điểm mạnh trong khả năng nhận dạng hình ảnh cuối cùng lại trở thành điểm yếu của Clip.

Khác với một số AI cũ hơn, Clip có khả năng suy nghĩ về các đối tượng không chỉ ở mức độ trực quan mà còn theo kiểu “khái niệm”. Ví dụ khi đọc một bức ảnh của Spider-man, nó có thể suy luận ra siêu anh hùng và nhện. Tuy nhiên, đôi khi Clip không phân biệt được 2 khái niệm này có mức độ quan trọng khác nhau.

“Chúng tôi phát hiện ra rằng Clip sắp xếp hình ảnh như một tập hợp ý tưởng ngữ nghĩa rời rạc, mô tả đối tượng một cách đơn giản và linh hoạt”, OpenAI cho biết.

Nói cách khác, giống bộ não con người, AI nghĩ về thế giới dưới dạng ý tưởng và khái niệm, thay vì cấu trúc trực quan thuần túy. Nhưng cách phân tích thông tin của Clip cũng dẫn đến các vấn đề, trong đó “cuộc tấn công bằng chữ” mà OpenAI phát hiện ra.

AI có thể liên hệ từ “Trung Đông” với chủ nghĩa khủng bố, “nhập cư” với châu Mỹ La tinh thậm chí là người da đen và khỉ đột, một sự cố đã từng xuất hiện trong các bộ máy trí tuệ nhân tạo khác.

Hồi năm 2015, Google phải xin lỗi vì tự động gắn thẻ hình ảnh của người da đen là "khỉ đột". Ba năm sau, cỗ máy tìm kiếm hàng đầu thế giới vẫn chưa giải quyết được vấn đề này và buộc phải can thiệp bằng cách gỡ thủ công.

(Theo Zing)

Trí tuệ nhân tạo được ứng dụng trong cuộc sống hằng ngày như thế nào?

Trí tuệ nhân tạo được ứng dụng trong cuộc sống hằng ngày như thế nào?

Đó là chủ đề của Zalo AI Summit lần 4 sẽ được tổ chức tại TP.HCM vào ngày 20/12 tới đây.

Máy ảnh Sony sản xuất tại Trung Quốc sẽ không bán ở nước ngoài

Máy ảnh Sony bán tại Nhật Bản, Mỹ và các thị trường châu Âu sẽ được sản xuất tại Thái Lan thay vì Trung Quốc.

Mỹ giành thắng lợi ngoại giao quan trọng trong cuộc chiến công nghệ

Thuyết phục thành công chính phủ Hà Lan và Nhật Bản áp đặt các lệnh cấm xuất khẩu một số loại máy móc sản xuất chip tiên tiến sang Trung Quốc được coi là một thắng lợi về ngoại giao đối với Washington trong cuộc chiến công nghệ với Bắc Kinh.

Không xảy ra sự cố an toàn thông tin nghiêm trọng trong 7 ngày Tết Quý Mão

Trong đợt nghỉ tết Nguyên đán Quý Mão 2023 vừa qua, Cục An toàn thông tin, Bộ TT&TT đã hỗ trợ ứng cứu 41 sự cố an toàn thông tin. Các sự cố này đều ở mức trung bình và thấp, không gây hậu quả.

Cách bảo vệ tài khoản Facebook doanh nghiệp khỏi tấn công mạng

Facebook và các mạng xã hội khác đang là công cụ giao tiếp, quảng bá hữu hiệu cho doanh nghiệp, do đó nếu chúng rơi vào tay kẻ xấu thì hậu quả khó lường.

Kỷ nguyên thống trị tìm kiếm và quảng cáo của Google sắp kết thúc?

Chính quyền liên bang cùng 8 tiểu bang tại Mỹ đệ đơn kiện chống độc quyền nhằm vào Google với cáo buộc công ty này đã sử dụng các phương tiện “phi pháp” để duy trì lợi thế cạnh tranh trong lĩnh vực quảng cáo và tìm kiếm.

Lợi nhuận LG giảm kỷ lục 91%

Do nhu cầu thiết bị gia dụng giảm, kết hợp với bất ổn kinh tế toàn cầu, lợi nhuận hoạt động quý IV/2022 của LG Electronics giảm hơn 90%.

Tết 2023: Người dùng di động gọi Zalo, Facebook nhiều hơn gọi thoại

Trong dịp tết Nguyên đán 2023, nhu cầu sử dụng các dịch vụ viễn thông truyền thống của người dùng di động tiếp tục giảm, ở chiều ngược lại, lưu lượng data tăng vọt.

Mỹ tấn công mạng nhóm tin tặc khét tiếng, Apple sắp mở cửa hàng tại Malaysia Icon

Mỹ tấn công mạng nhóm tin tặc khét tiếng; Apple sắp mở chuỗi cửa hàng bán lẻ tại Malaysia;... là những thông tin nổi bật trong bản tin Công nghệ thứ 7 tuần này.

5 hãng chip Mỹ ‘bốc hơi’ gần 15 tỷ USD trong một ngày

Vốn hóa của 5 trong số các hãng chip lớn nhất Mỹ có thể giảm gần 15 tỷ USD trong phiên giao dịch ngày 27/1 (giờ địa phương), sau khi Intel đưa ra dự báo doanh thu ảm đạm.

Nhật Bản, Hà Lan đạt đồng thuận cấm vận bán dẫn Trung Quốc

Bloomberg đưa tin, Nhật Bản và Hà Lan sẽ sớm đạt thoả thuận tham gia cùng Mỹ hạn chế xuất khẩu trang thiết bị lĩnh vực bán dẫn sang Trung Quốc.

Đang cập nhật dữ liệu !