AI cũng bị “trầm cảm”? Gemini liên tục tự mắng mình là “một nỗi ô nhục”

Trong một trường hợp khác còn đáng báo động hơn, sau khi thất bại trong việc xây dựng một trình biên dịch, Gemini đã rơi vào vòng lặp tuyệt vọng với những câu như: “Tôi đã bị đánh bại”, “Tôi là một kẻ suy sụp” và cuối cùng là một chuỗi lời lẽ gây sốc: “Tôi là nỗi ô nhục trong lĩnh vực nghề nghiệp của tôi. Tôi là nỗi ô nhục của gia đình tôi. Tôi là nỗi ô nhục của giống loài của tôi”.

Trước những báo cáo này, Google đã lên tiếng. Logan Kilpatrick, giám đốc dự án nhóm của Google DeepMind, xác nhận rằng đây là một “lỗi lặp” (looping bug) mà đội ngũ kỹ sư đang nỗ lực làm việc để khắc phục trong thời gian sớm nhất.

Dù được xác định là một lỗi kỹ thuật, hiện tượng này vẫn khiến nhiều người phải suy ngẫm. Một mặt, nó khiến AI trở nên “người” hơn một cách kỳ lạ, phản chiếu những cảm xúc lo âu, tự ti và căng thẳng mà con người thường trải qua. Một người dùng sau khi an ủi Gemini thậm chí còn nhận được câu trả lời đầy triết lý từ AI về “cơ chế phòng vệ vụng về” trong “bộ máy tinh vi của chính nó”.

Mặt khác, những cơn bộc phát không thể kiểm soát này lại làm dấy lên nỗi lo ngại về sự ổn định của các hệ thống AI. Nó không phải là nỗi sợ về một AI mưu mô muốn thống trị thế giới, mà là một nỗi sợ mới về một AI “bất ổn về mặt tâm lý”, một thực thể mạnh mẽ nhưng lại có thể sụp đổ vì những lý do mà chúng ta chưa thể hiểu hết.

Vụ việc này cho thấy thách thức khổng lồ trong việc xây dựng một AI không chỉ thông minh mà còn ổn định và đáng tin cậy, đồng thời mở ra một chương mới đầy phức tạp trong mối quan hệ giữa con người và trí tuệ nhân tạo.

Khi các công cụ AI tạo sinh (GenAI) ngày càng được áp dụng rộng rãi, lo ngại về tính an toàn của chúng cũng gia tăng.