Hiểu đúng và ứng dụng hiệu quả

AI tạo sinh có tiềm năng cách mạng hóa giáo dục đại học, nhưng nó cũng tiềm ẩn nhiều rủi ro. Các công cụ công nghệ này có thể tạo ra nội dung lệch lạc hoặc gây hiểu nhầm. Nhiều nghiên cứu cho thấy AI có thể sản sinh hình ảnh và văn bản duy trì các định kiến về giới tính, chủng tộc, xu hướng chính trị và nhiều yếu tố khác. Khi AI tạo sinh ngày càng được tích hợp sâu rộng vào giáo dục đại học, việc tiếp cận có chủ đích để xử lý những phức tạp này là hết sức cần thiết.

Nhận diện và ứng phó với thiên lệch nội dung trong AI

Các vấn đề về thiên lệch trong hệ thống AI đã xuất hiện từ trước khi công cụ AI tạo sinh ra đời. Ví dụ, trong dự án Gender Shades, Buolamwini đã kiểm tra các hệ thống phân loại giới tính thương mại dựa trên AI và phát hiện sự chênh lệch lớn về độ chính xác giữa các giới tính và màu da khác nhau. Các hệ thống này hoạt động tốt hơn với khuôn mặt nam giới và người có làn da sáng màu. Đáng chú ý nhất, tỷ lệ lỗi cao nhất được ghi nhận ở nhóm nữ giới có làn da tối màu.

Các công cụ AI tạo sinh hiện nay cũng gặp vấn đề tương tự. Chẳng hạn, một phân tích năm 2023 trên hơn 5.000 hình ảnh được tạo bởi công cụ Stable Diffusion cho thấy nó khuếch đại đồng thời các định kiến về giới và chủng tộc. Những thành kiến này có thể gây hậu quả thực tế nghiêm trọng. Ví dụ, nếu các phần mềm “họa sĩ phác họa ảo” của cảnh sát sử dụng AI tạo sinh thiên lệch, điều này có thể làm tăng nguy cơ gây hại – từ thương tích thân thể đến việc bị bắt giam trái pháp luật – đối với các cộng đồng vốn đã dễ bị tổn thương. Ngoài ra, vẻ ngoài khách quan của công nghệ có thể khiến con người ít sẵn sàng thừa nhận vấn đề thiên lệch trong các kết quả đầu ra. 

Vì sao AI vẫn chưa hoàn hảo – Góc nhìn kỹ thuật

Các hệ thống AI tạo sinh có thể tạo ra nội dung sai lệch và thiên lệch vì nhiều lý do:

Nguồn dữ liệu huấn luyện: Các mô hình AI tạo sinh được huấn luyện trên khối lượng dữ liệu khổng lồ từ Internet. Dữ liệu này chứa cả thông tin chính xác lẫn sai lệch, cũng như các thiên kiến xã hội và văn hóa. Vì các mô hình này chỉ đơn giản là bắt chước các mẫu trong dữ liệu huấn luyện mà không phân biệt thật giả, chúng có thể tái tạo bất kỳ sai lệch hoặc định kiến nào.

Giới hạn của mô hình tạo sinh: Các mô hình AI tạo sinh vận hành giống như các công cụ “tự động hoàn thiện nâng cao” – chúng dự đoán từ hoặc chuỗi tiếp theo dựa trên các mẫu đã quan sát. Mục tiêu của chúng là tạo ra nội dung nghe hợp lý, chứ không phải xác minh tính chính xác. Do đó, độ chính xác trong các kết quả đầu ra thường chỉ là ngẫu nhiên. Điều này dẫn đến việc chúng có thể sản xuất nội dung nghe có vẻ hợp lý nhưng thực chất lại sai lệch.

Thách thức nội tại trong thiết kế AI: Công nghệ đứng sau các công cụ AI tạo sinh không được thiết kế để phân biệt giữa sự thật và giả dối. Ngay cả khi mô hình AI chỉ được huấn luyện bằng dữ liệu hoàn toàn chính xác, bản chất tạo sinh của nó vẫn có thể tạo ra nội dung mới, có khả năng sai lệch, bằng cách kết hợp các mẫu theo những cách không lường trước được.

Hiện tượng “ảo giác” và thiên lệch trong kết quả đầu ra của AI tạo sinh bắt nguồn từ chính dữ liệu huấn luyện, cách thức thiết kế dựa trên mô hình mẫu, và những hạn chế cố hữu của công nghệ AI. Việc thừa nhận và xử lý những thách thức này sẽ là yếu tố then chốt khi AI tạo sinh ngày càng được ứng dụng vào các quá trình ra quyết định trong nhiều lĩnh vực.

Chiến lược thông minh để ứng dụng AI hiệu quả và an toàn

Bạn có thể áp dụng những chiến lược sau để giảm thiểu vấn đề “ảo giác” và thiên lệch trong công cụ AI tạo sinh:

Đánh giá phê phán các kết quả của AI: Khác với con người, hệ thống AI không có khả năng suy nghĩ hay hình thành niềm tin. Chúng hoạt động hoàn toàn dựa trên thuật toán và dữ liệu huấn luyện, không có khả năng lý luận hay tự phản tư. Vì vậy, người dùng cần tiếp cận kết quả của AI với con mắt phê phán và đánh giá bằng lý trí con người.

Đa dạng hoá nguồn tham chiếu: Luôn luôn kiểm tra chéo tính chính xác của nội dung do AI tạo ra. Chiến lược quan trọng nhất là đối chiếu kết quả AI với các nguồn đáng tin cậy như các ấn phẩm học thuật được truy cập qua Thư viện MIT. Ngoài ra, bạn cũng nên so sánh kết quả từ nhiều nền tảng AI khác nhau để có cái nhìn toàn diện hơn về chất lượng của từng công cụ.

AI tạo sinh mang đến tiềm năng to lớn để cải thiện cách chúng ta giảng dạy, nghiên cứu và vận hành. Tuy nhiên, cần ghi nhớ rằng các công cụ AI có thể tạo ra thông tin sai lệch và khuếch đại định kiến có hại. Dù AI là một công cụ mạnh mẽ, yếu tố con người vẫn đóng vai trò không thể thay thế. Bằng cách hợp tác, chúng ta có thể tận dụng tốt những gì AI mang lại, đồng thời giảm thiểu các hạn chế vốn có của nó.

(Nguồn: MIT Sloan Technology)