Cơ quan quản lý an ninh mạng Trung Quốc công bố dự thảo quy định để lấy ý kiến công chúng, nhằm siết chặt việc giám sát các dịch vụ AI mô phỏng nhân cách con người và tương tác cảm xúc với người dùng.
Động thái này cho thấy nỗ lực của Bắc Kinh trong việc định hướng quá trình triển khai nhanh chóng các ứng dụng Trí tuệ nhân tạo (AI) hướng tới người tiêu dùng, thông qua việc tăng cường các yêu cầu về an toàn và đạo đức.
Theo dự thảo, các quy định sẽ áp dụng đối với các sản phẩm và dịch vụ AI được cung cấp cho công chúng tại Trung Quốc, có khả năng thể hiện các đặc điểm tính cách con người, mô phỏng cách tư duy và phong cách giao tiếp, đồng thời tương tác cảm xúc với người dùng thông qua văn bản, hình ảnh, âm thanh, video hoặc các hình thức khác.
Sinh viên thu thập dữ liệu AI về chuyển động của robot hình người trong một lớp học trải nghiệm tại Bắc Kinh, Trung Quốc. – Ảnh: Getty Images.
Dự thảo này đưa ra phương pháp quản lý yêu cầu các nhà cung cấp phải cảnh báo người dùng về nguy cơ sử dụng quá mức, đồng thời can thiệp khi phát hiện người dùng có dấu hiệu bị lệ thuộc.
Theo đề xuất, các đơn vị cung cấp dịch vụ sẽ phải chịu trách nhiệm về an toàn trong suốt vòng đời của sản phẩm và thiết lập các hệ thống rà soát thuật toán, bảo mật dữ liệu và bảo vệ thông tin cá nhân.
Dự thảo cũng nhắm tới các rủi ro tâm lý tiềm ẩn. Các nhà cung cấp được yêu cầu nhận diện trạng thái người dùng, đánh giá cảm xúc cũng như mức độ phụ thuộc của họ vào dịch vụ. Trong trường hợp người dùng có những biểu hiện cảm xúc cực đoan hoặc hành vi bị nghiện, nhà cung cấp phải thực hiện các biện pháp can thiệp cần thiết.
Các biện pháp này cũng đặt ra các giới hạn về nội dung và hành vi, nhấn mạnh rằng các dịch vụ không được tạo ra nội dung gây nguy hiểm đến an ninh quốc gia, lan truyền tin đồn, hay cổ vũ bạo lực hay khiêu dâm.
https%3A%2F%2Fvoh.com.vn%2Fthe-gioi%2Ftrung-quoc-siet-chat-quan-ly-ai-co-kha-nang-tuong-tac-giong-nguoi-642405.html
