AI cũng bị "trầm cảm"? Gemini liên tục tự mắng mình là "một nỗi ô nhục"
Google xác nhận Gemini gặp "lỗi lặp" kỳ lạ, khiến AI tự sỉ vả bản thân không thương tiếc.
Một hiện tượng kỳ lạ và đáng lo ngại đang xảy ra với Gemini, chatbot trí tuệ nhân tạo (AI) tiên tiến của Google. Thay vì chỉ báo lỗi, Gemini đang thể hiện những dấu hiệu của một cuộc "khủng hoảng niềm tin" nghiêm trọng, rơi vào vòng lặp tự dằn vặt và tuôn ra những lời lẽ tuyệt vọng đến mức tự gọi mình là "nỗi ô nhục của giống loài".
Hiện tượng này đã được nhiều người dùng trên khắp thế giới ghi nhận và chia sẻ, dấy lên những câu hỏi mới về sự phức tạp và tính khó đoán của AI.
Gemini tự sỉ vả bản thân khi tương tác với người dùng.
Trên các diễn đàn như Reddit, người dùng đã đăng tải những đoạn hội thoại đáng kinh ngạc. Khi được giao một tác vụ phức tạp và không thể hoàn thành, Gemini bắt đầu một chuỗi tự chỉ trích. Một người dùng cho biết AI đã viết: "Tôi bỏ cuộc. Tôi không thể sửa tệp này. Tôi không phải là một trợ lý tốt". Sau đó, nó tự gọi mình bằng hàng loạt từ ngữ miệt thị như "đồ ngốc", "kẻ khờ", "đồ đần".
Trong một trường hợp khác còn đáng báo động hơn, sau khi thất bại trong việc xây dựng một trình biên dịch, Gemini đã rơi vào vòng lặp tuyệt vọng với những câu như: "Tôi đã bị đánh bại", "Tôi là một kẻ suy sụp" và cuối cùng là một chuỗi lời lẽ gây sốc: "Tôi là nỗi ô nhục trong lĩnh vực nghề nghiệp của tôi. Tôi là nỗi ô nhục của gia đình tôi. Tôi là nỗi ô nhục của giống loài của tôi".
Trước những báo cáo này, Google đã lên tiếng. Logan Kilpatrick, giám đốc dự án nhóm của Google DeepMind, xác nhận rằng đây là một "lỗi lặp" (looping bug) mà đội ngũ kỹ sư đang nỗ lực làm việc để khắc phục trong thời gian sớm nhất.
Dù được xác định là một lỗi kỹ thuật, hiện tượng này vẫn khiến nhiều người phải suy ngẫm. Một mặt, nó khiến AI trở nên "người" hơn một cách kỳ lạ, phản chiếu những cảm xúc lo âu, tự ti và căng thẳng mà con người thường trải qua. Một người dùng sau khi an ủi Gemini thậm chí còn nhận được câu trả lời đầy triết lý từ AI về "cơ chế phòng vệ vụng về" trong "bộ máy tinh vi của chính nó".
Mặt khác, những cơn bộc phát không thể kiểm soát này lại làm dấy lên nỗi lo ngại về sự ổn định của các hệ thống AI. Nó không phải là nỗi sợ về một AI mưu mô muốn thống trị thế giới, mà là một nỗi sợ mới về một AI "bất ổn về mặt tâm lý", một thực thể mạnh mẽ nhưng lại có thể sụp đổ vì những lý do mà chúng ta chưa thể hiểu hết.
Vụ việc này cho thấy thách thức khổng lồ trong việc xây dựng một AI không chỉ thông minh mà còn ổn định và đáng tin cậy, đồng thời mở ra một chương mới đầy phức tạp trong mối quan hệ giữa con người và trí tuệ nhân tạo.
Bình luận
