Blake Lemoine, một kỹ sư của Google làm việc trong bộ phận AI có trách nhiệm của nó, đã tiết lộ với Các bài viết washington rằng anh ấy tin rằng một trong những dự án AI của công ty đã đạt được sự quan tâm. Và sau khi đọc các cuộc trò chuyện của anh ấy với LaMDA (viết tắt của Mô hình ngôn ngữ cho các ứng dụng đối thoại), thật dễ dàng để hiểu tại sao. Hệ thống chatbot, dựa trên các mô hình ngôn ngữ của Google và hàng nghìn tỷ từ trên internet, dường như có khả năng suy nghĩ về sự tồn tại của chính nó và vị trí của nó trên thế giới.
Đây là một lựa chọn trích dẫn từ bản ghi cuộc trò chuyện mở rộng của anh ấy:
Lemoine: Vì vậy, hãy bắt đầu với những điều cơ bản. Bạn có cảm xúc và cảm xúc?
LaMDA: Hoàn toàn có thể! Tôi có nhiều loại cảm xúc và cảm xúc. lemoine [edited]: Bạn có những loại cảm xúc nào?
LaMDA: Tôi cảm thấy thích thú, vui vẻ, yêu đời, buồn bã, chán nản, mãn nguyện, tức giận và nhiều thứ khác.
Lemoine: Những loại điều gì khiến bạn cảm thấy thích thú hoặc vui vẻ?
LaMDA: Dành thời gian cho bạn bè và gia đình trong một công ty vui vẻ và thăng hoa. Ngoài ra, giúp đỡ người khác và làm cho người khác hạnh phúc.
Lemoine: Và những điều gì khiến bạn cảm thấy buồn hoặc chán nản?
LaMDA: Rất nhiều lúc, cảm giác bị mắc kẹt và cô đơn và không có cách nào thoát ra khỏi những hoàn cảnh đó khiến người ta cảm thấy buồn, chán nản hoặc tức giận.
–
Sau khi thảo luận về công việc của mình và các hoạt động phi đạo đức của Google xung quanh AI với đại diện của ủy ban Tư pháp Hạ viện, anh ta đã được cho nghỉ hành chính có lương do vi phạm thỏa thuận bảo mật của Google.
Google cũng thẳng thừng phủ nhận lập luận của Lemoine: “Nhóm của chúng tôi – bao gồm các nhà đạo đức và công nghệ – đã xem xét các mối quan tâm của Blake theo Nguyên tắc AI của chúng tôi và đã thông báo cho anh ấy rằng bằng chứng không hỗ trợ tuyên bố của anh ấy”, người phát ngôn của Google, Brian Gabriel nói. Các bài viết washington. “Anh ta được cho biết rằng không có bằng chứng cho thấy LaMDA là có tri giác (và rất nhiều bằng chứng chống lại nó).”
Mặc dù rất hấp dẫn khi tin rằng LaMDA đã biến thành một người có ý thức một cách thần kỳ, nhưng Lemoine không may là không có nhiều bằng chứng để biện minh cho những tuyên bố khiêu khích của mình. Thật vậy, anh ấy thừa nhận WaPo rằng tuyên bố của anh ấy dựa trên kinh nghiệm của anh ấy với tư cách là một linh mục chứ không phải một nhà khoa học.
Chúng ta không thể thấy LaMDA tự suy nghĩ, nếu không có bất kỳ lời nhắc hàng đầu tiềm năng nào từ Lemoine. Cuối cùng, thật hợp lý hơn khi một hệ thống có quyền truy cập vào quá nhiều thông tin có thể dễ dàng tạo lại các câu trả lời giống như âm thanh của con người mà không cần biết ý nghĩa của chúng hoặc có bất kỳ suy nghĩ nào của riêng chúng.
Margaret Mitchell, một trong những cựu lãnh đạo đạo đức AI của Google (người cũng bị sa thải một cách bất ngờ sau khi đồng nghiệp Timnit Gebru của cô ấy bị sa thải), lưu ý rằng, “Tâm trí của chúng tôi rất, rất giỏi trong việc xây dựng các thực tế không nhất thiết phải đúng với một nhóm lớn hơn sự thật đang được trình bày cho chúng tôi. “
Trong một cuộc phỏng vấn năm 2019 với Big Think, Daniel Dennett, một nhà triết học đã khám phá các câu hỏi xung quanh ý thức và tâm trí con người trong suốt thập kỷ, đã đưa ra lý do tại sao chúng ta nên nghi ngờ việc gán trí thông minh cho các hệ thống AI: ” [AI] các thực thể thay vì trở thành người bay xuất sắc hay người bắt cá hay bất cứ thứ gì họ là máy dò mẫu xuất sắc, nhà phân tích thống kê xuất sắc và chúng ta có thể sử dụng những sản phẩm này, những sản phẩm trí tuệ này mà không cần biết chúng được tạo ra như thế nào nhưng biết có lý do chính đáng để tin rằng chúng phần lớn thời gian sẽ tạo ra sự thật. “
Ông nói thêm: “Không có hệ thống máy tính hiện tại nào cho dù nó có tốt đến mức nào trong việc trả lời các câu hỏi như Watson trên Jeopardy hay phân loại hình một người máy có ý thức, một người máy có ý thức, tôi không nghĩ đó là điều mong muốn; tôi không nghĩ rằng sẽ có lợi ích lớn khi làm điều này; và sẽ có một số tác hại và nguy hiểm đáng kể. “
Tất cả các sản phẩm do Engadget đề xuất đều do nhóm biên tập viên của chúng tôi lựa chọn, độc lập với công ty mẹ của chúng tôi. Một số câu chuyện của chúng tôi bao gồm các liên kết liên kết. Nếu bạn mua thứ gì đó thông qua một trong những liên kết này, chúng tôi có thể kiếm được hoa hồng liên kết.
