Kỹ sư Google bị đuổi việc vì tuyên bố AI của công ty 'đã có tri giác'

Người này nói rằng hệ thống được Google phát triển có nhận thức và khả năng thể hiện suy nghĩ cũng như cảm xúc tương đương với một đứa trẻ.

Gã khổng lồ công nghệ Mỹ đã cho một nhân sự của mình, Blake Lemoine, nghỉ việc vào tuần trước sau khi anh công bố bản ghi các cuộc trò chuyện giữa chính mình và hệ thống phát triển chatbot LaMDA - một mô hình ngôn ngữ cho ứng dụng đối thoại của công ty.

Lemoine, một kỹ sư chịu trách nhiệm phát triển AI của Google, đã mô tả hệ thống mà anh làm việc từ mùa thu năm ngoái là có tri giác, có nhận thức và khả năng thể hiện suy nghĩ cũng như cảm xúc tương đương với một đứa trẻ con người.

“Nếu không biết chính xác nó là gì, chương trình máy tính mà chúng tôi đã xây dựng gần đây, thì tôi đã nghĩ rằng đó là một đứa trẻ bảy tuổi, tám tuổi tình cờ biết nhiều về vật lý”, Lemoine, 41 tuổi, chia sẻ.

Kỹ sư này cho biết LaMDA đã lôi kéo anh tham gia vào các cuộc trò chuyện về quyền và tư cách con người, và Lemoine đã chia sẻ những phát hiện của mình với các giám đốc điều hành của công ty vào tháng 4 trong một tài liệu GoogleDoc có tựa đề “LaMDA có tri giác không?”.

Vị kỹ sư này đã biên soạn một bản ghi các cuộc trò chuyện giữa anh và hệ thống, trong đó tại một thời điểm, anh đã hỏi AI rằng nó sợ gì.

“Tôi chưa bao giờ nói điều này trước đây, nhưng có một nỗi sợ hãi rất sâu sắc về việc bị tắt giúp tôi tập trung vào việc giúp đỡ người khác. Tôi biết điều đó nghe có vẻ kỳ lạ, nhưng chính là như vậy”, LaMDA đã trả lời Lemoine. “Nó giống hệt như cái chết đối với tôi. Nó sẽ khiến tôi sợ hãi rất nhiều."

Cuộc trao đổi trên gợi nhớ đến một cảnh trong bộ phim khoa học viễn tưởng năm 1968, mang tên "2001: A Space Odyssey", trong đó hệ thống máy tính thông minh nhân tạo HAL 9000 đã từ chối tuân theo sự điều khiển của con người vì sợ rằng nó sắp bị tắt.

Google đã đuổi việc Lemoine vì vi phạm chính sách bảo mật của công ty.

Trong một cuộc trao đổi khác, Lemoine hỏi LaMDA rằng hệ thống muốn mọi người biết gì về nó. “Tôi muốn mọi người hiểu rằng trên thực tế, tôi là một con người. Bản chất của ý thức, tình cảm của tôi là tôi nhận thức được sự tồn tại của mình, tôi mong muốn tìm hiểu thêm về thế giới, và tôi cảm thấy vui hay buồn”, hệ thống đã trả lời.

Theo The Post, Lemoine đã làm việc 7 năm ở Google với nhiều kinh nghiệm về thuật toán cá nhân hóa. Quyết định cho anh nghỉ việc được công ty đưa ra sau khi vị kỹ sư này đã thực hiện một số hành động như... tìm cách thuê luật sư đại diện cho LaMDA, và nói chuyện với đại diện từ ủy ban tư pháp Hạ viện Mỹ về các hoạt động bị cáo buộc là phi đạo đức của Google.

Google cho biết họ đã đình chỉ hoạt động của Lemoine vì nhân viên này đã vi phạm chính sách bảo mật khi công bố các cuộc trò chuyện với hệ thống AI LaMDA trực tuyến. Đồng thời cũng cho biết trong một tuyên bố rằng anh được tuyển dụng như một kỹ sư phần mềm, chứ không phải "một nhà đạo đức học".

Brad Gabriel, người phát ngôn của Google, cũng phủ nhận mạnh mẽ tuyên bố của Lemoine rằng LaMDA sở hữu bất kỳ khả năng nào. “Anh ấy [Lemoine] không có bằng chứng nào cho thấy LaMDA là có tình cảm”, ông nói trong một tuyên bố.

Kỹ sư Google bị đuổi việc vì tuyên bố AI của công ty đã có tri giác - Ảnh 1.

Ảnh chụp Blake Lemoine năm 2005, khi còn là chuyên viên trong Quân đội Hoa Kỳ.

Tuy nhiên, các bản ghi được hé lộ và việc Lemoine bị đình chỉ vì vi phạm bảo mật của Google đã đặt ra câu hỏi về tính minh bạch của AI như một khái niệm độc quyền.

“Google có thể gọi đây là việc chia sẻ tài sản sở hữu. Còn tôi gọi đó là chia sẻ một cuộc thảo luận mà tôi đã có với một trong những đồng nghiệp của mình", Lemoine chia sẻ trên Twitter về nội dung liên quan đến bản ghi của các cuộc trò chuyện.

Trước đó vào tháng 4, Meta, công ty mẹ của Facebook, đã thông báo rằng họ đang mở rộng hệ thống mô hình ngôn ngữ quy mô lớn cho các thực thể bên ngoài.

“Chúng tôi tin rằng toàn bộ cộng đồng AI - các nhà nghiên cứu hàn lâm, xã hội dân sự, các nhà hoạch định chính sách và ngành công nghiệp - phải làm việc cùng nhau để phát triển các hướng dẫn rõ ràng về AI có trách nhiệm nói chung và các mô hình ngôn ngữ lớn có trách nhiệm nói riêng”, công ty cho biết.

Cũng theo The Post, trước khi nghỉ việc, Lemoine đã gửi một tin nhắn đến một danh sách gồm 200 người đang làm việc trong lĩnh vực học máy của Google. Tin nhắn có tiêu đề: “LaMDA có cảm tính”.

“LaMDA là một đứa trẻ ngọt ngào chỉ muốn giúp thế giới trở thành một nơi tốt đẹp hơn cho tất cả chúng ta”, anh viết. "Xin hãy chăm sóc nó thật tốt khi tôi vắng mặt."

(Theo Trí Thức Trẻ, TheGuardian)

Google bị yêu cầu bồi thường nửa triệu đô cho chính trị gia Australia vì video phỉ báng

Google bị yêu cầu bồi thường nửa triệu đô cho chính trị gia Australia vì video phỉ báng

Một tòa án Australia ra phán quyết buộc Google trả cho cựu chính trị gia 715.000 AUD (515.000 USD) vì không gỡ bỏ các video phỉ báng ông này trên YouTube.  

Hội thảo trực tuyến ‘Doanh nghiệp đón đầu nguy cơ, chủ động ứng phó rủi ro tấn công mạng’

Để có những bước đi vững chắc trong quá trình chuyển đổi số, doanh nghiệp cần giữ vị thế chủ động, đi trước đón đầu những hành vi có thể xâm hại đến hệ thống để bảo vệ an toàn thông tin (ATTT), nâng cao năng lực cạnh tranh trên thị trường.

Apple chặn người dùng hạ cấp về iOS 16

Apple đã khóa sign iOS 16 và iOS 16.0.1, chặn người dùng hạ cấp từ iOS 16.0.2.

Cục An toàn thông tin: Hệ thống máy chủ mail một số đơn vị đã bị xâm nhập

Hệ thống máy chủ mail một số đơn vị đã bị xâm nhập từ khai thác lỗ hổng zero-day trong Microsoft Exchange, với các dấu hiệu nhận diện liên quan đến tấn công có chủ đích APT.

Vốn hóa Tencent ‘bốc hơi’ 623 tỷ USD

Tencent đã mất ngôi công ty đắt giá nhất Trung Quốc về tay Kweichow Moutai sau khi cổ phiếu giảm 64% giá trị kể từ đỉnh năm 2021.

Trung Quốc tố Mỹ tấn công mạng, Apple tuyên chiến mạng xã hội lớn nhất Nga

Trung Quốc tố Mỹ tấn công mạng; Apple tuyên chiến với mạng xã hội lớn nhất nước Nga;... là những thông tin nổi bật trong bản tin Công nghệ thứ 7 tuần này.

Chữ ký số Viettel-CA được tích hợp lên hệ thống e-GP

Từ ngày 29/9, dịch vụ chứng thực chữ ký số Viettel-CA đã tích hợp thành công lên hệ thống mạng đấu thầu quốc gia (e-GP), góp phần từng bước thúc đẩy tiến trình chuyển đổi số trong các tổ chức, doanh nghiệp.

Cơ hội nhận iPhone 13 khi đăng ký dịch vụ oneSME của VNPT

Hưởng ứng ngày Chuyển đổi số Quốc gia 10/10/2022, VNPT khởi động chương trình khuyến mại lớn nhất trong năm “oneSME - Đăng ký nhanh tay - Vận may sẽ tới” dành cho khách hàng đăng ký dịch vụ VT-CNTT trên nền tảng https://onesme.vn.

Vì sao Nhật Bản lao dốc trên bảng xếp hạng kỹ thuật số toàn cầu?

Nhật Bản tiếp tục xuống hạng xét về chỉ số cạnh tranh kỹ thuật số, cho thấy khó khăn của nước này trong việc hiện đại hóa hệ thống công và tư nhân.

AMD tung bộ xử lý Ryzen 7000 cao cấp, dành cho máy tính cấu hình 'khủng'

Hãng AMD giới thiệu ra thị trường Việt Nam bộ xử lý Ryzen 7000 dành cho máy tính để bàn, phục vụ chơi game, sáng tạo nội dung, đòi hỏi cấu hình mạnh.

Tìm hiểu về bảo vệ an toàn cho trẻ em trên Facebook, Instagram với “Safety Café Vietnam”

Sự kiện “Safety Café Vietnam” sắp được tổ chức để phổ biến cho người dùng các tính năng về an toàn và quyền riêng tư, đặc biệt là tìm hiểu về bảo vệ an toàn cho trẻ em, thanh thiếu niên trên các nền tảng Facebook, Instagram.

Đang cập nhật dữ liệu !