Trong một ví dụ gần đây về việc sử dụng trí tuệ nhân tạo (AI) sinh tạo cho những nhiệm vụ mà có thể không phù hợp, Nevada dự kiến sẽ trở thành bang đầu tiên áp dụng công nghệ Google AI này để đưa ra khuyến nghị về các đơn kháng cáo trợ cấp thất nghiệp. Với việc các hệ thống này dễ gặp phải lỗi, thiên kiến và sai lệch, đã xuất hiện những lo ngại chính đáng về động thái này. Ngoài ra, việc tòa án có thể không lật lại các phán quyết dựa trên sai sót của AI càng làm gia tăng những lo ngại này.
Hệ thống AI sinh tạo do Google cung cấp ở Nevada sẽ được triển khai trong vài tháng tới, theo báo cáo của Gizmodo. Chức năng của nó là phân tích biên bản phiên điều trần kháng cáo thất nghiệp và đưa ra khuyến nghị cho con người đưa ra phán quyết cuối cùng.
Sở Lao động, Đào tạo và Phục hồi chức năng của Nevada (DETR) đã chi 1.383.838 USD cho công nghệ AI, sử dụng dịch vụ đám mây của Google mang tên Vertex AI Studio. Hệ thống sẽ tạo ra các khuyến nghị dựa trên biên bản của các phiên điều trần kháng cáo và các phán quyết, so sánh thông tin với các trường hợp trước đó.
Hệ thống này được giới thiệu nhằm rút ngắn quy trình kháng cáo. Ông Carl Stanfield, quản lý công nghệ thông tin của DETR, cho biết nhân viên mất trung bình khoảng ba giờ để viết một quyết định. Hệ thống AI sẽ giảm thời gian này xuống chỉ còn năm phút trong một số trường hợp. Điều này đặc biệt hữu ích ở Nevada, nơi đang tồn đọng hơn 40.000 đơn kháng cáo do sự gia tăng yêu cầu trợ cấp thất nghiệp trong thời gian đại dịch.
Nhược điểm lớn nhất là trí tuệ nhân tạo AI vẫn có tiếng xấu về việc đưa ra thông tin sai lệch và thường xuyên bịa đặt. Bộ Lao động, Đào tạo và Cải cách Nguồn nhân lực (DETR) cho biết mọi khuyến nghị từ AI sẽ được ít nhất một nhân viên kiểm tra. Nếu nhân viên đó đồng ý, quyết định sẽ được phê duyệt. Ngược lại, tài liệu sẽ được chỉnh sửa và cơ quan sẽ điều tra nguyên nhân xảy ra sự cố.
“Không có quyết định nào do AI tạo ra mà không có sự can thiệp của con người và quá trình xem xét bởi con người,” ông Christopher Sewell, giám đốc DETR, cho biết.
Google đã tuyên bố sẽ phối hợp với Nevada để “xác định và giải quyết bất kỳ thiên kiến tiềm ẩn nào” và để “giúp họ tuân thủ các yêu cầu liên bang và tiểu bang.”
Có những lo ngại rằng nhân viên của DETR sẽ cảm thấy bị áp lực phải nhanh chóng hoàn tất quá trình xem xét các khuyến nghị của AI, nhằm rút ngắn thời gian xử lý hồ sơ. Điều này đặc biệt đáng lo ngại vì nó có thể ảnh hưởng đến khả năng kháng cáo của người nộp đơn.
“Trong những trường hợp liên quan đến các câu hỏi về sự thật, tòa án quận không thể thay thế phán quyết của mình cho phán quyết của người giám sát kháng cáo,” bà Elizabeth Carmona, luật sư cao cấp tại Dịch vụ Pháp lý Nevada, cho biết với Gizmodo. Điều này có nghĩa là tòa án có thể không đủ khả năng lật ngược một quyết định của con người dựa trên lỗi của AI. Việc xác định nguồn gốc lỗi cũng có thể gặp khó khăn.
Mặc dù có những lo ngại chính đáng này, nhưng không nên ngạc nhiên khi thấy nhiều tiểu bang bắt đầu sử dụng AI để tăng tốc quy trình bằng cách hỗ trợ trong việc đưa ra những quyết định quan trọng.
Theo Techspot