Phát hiện ra AI tuyển dụng "trọng nam khinh nữ", Amazon buộc phải tắt nó đi

Sau nhiều lần tinh chỉnh mà không thành công, Amazon đã từ bỏ dự án tuyển dụng bằng AI của mình.

Theo Reuters, năm 2014, Amazon đã thành lập một nhóm kỹ thuật tại Edinburgh, Scotland với nhiệm vụ tìm cách tự động hóa việc tuyển dụng. Nhóm này đã tạo ra 500 mẫu máy tính để rà soát CV của các ứng viên mà họ tuyển trước đây nhằm lọc ra khoảng 50.000 thuật ngữ chính. Sau đó, hệ thống sẽ tìm kiếm trên web để lựa chọn và đề xuất các ứng viên phù hợp với công việc.


AI tự kết luận rằng đàn ông thích hợp hơn với các công việc tại Amazon.

"Theo nghĩa đen, khi đua cho hệ thống này 100 ứng viên, nó sẽ chọn cho bạn 5 ứng viên tốt nhất và chúng tôi sẽ tuyển những người đó", một nguồn tin nội bộ chia sẻ với Reuters.

Tuy nhiên, một năm sau, các kỹ sư của Amazon phát hiện ra hệ thống AI tuyển dụng của họ có một vấn đề khá nghiêm trọng: Nó không thích phụ nữ. Nguyên nhân của vấn đề này là do AI đã phân tích các bản lý lịch được gửi tới cho Amazon trong 10 năm qua để tích lũy dữ liệu về ứng viên.

Dựa trên dữ liệu thu thập được, AI tự kết luận rằng đàn ông thích hợp hơn với các công việc tại Amazon. Nhóm kỹ thuật phát hiện ra rằng AI đã tự động giảm điểm số của các bản CV có từ phụ nữ và loại các ứng viên từng học hai trường đại học chỉ dành cho nữ sinh.

Các kỹ sư của Amazon đã sửa hệ thống để khắc phục những hình thức thiên vị kể trên. Tuy nhiên, họ sợ rằng AI sẽ tìm ra cách mới để đối xử bất công với các ứng viên.


Jeff Bezoz - ông chủ của Amazon.

Trọng nam khinh nữ không phải là vấn đề duy nhất với AI tuyển dụng này. Nguồn tin nội bộ chia sẻ với Reuters rằng AI cũng đề xuất các ứng viên không đủ năng lực cho vị trí tuyển dụng.

Sau những tinh chỉnh vất vả, cuối cùng năm ngoái Amazon đã từ bỏ dự án tuyển dụng bằng AI bởi các giám đốc đã mất niềm tin vào nó. Các chuyên gia tuyển dụng của Amazon cũng xem qua danh sách khuyến nghị mà AI cung cấp nhưng không bao giờ dựa hoàn toàn vào nó.

"Các nhà tuyển dụng của Amazon không bao giờ sử dụng cách này để tuyển ứng viên cho các công việc của mình", phát ngôn viên của Amazon tuyên bố.

Cập nhật: 16/10/2018 Theo Trí Thức Trẻ/cafebiz
Danh mục

Công nghệ mới

Phần mềm hữu ích

Khoa học máy tính

Phát minh khoa học

AI - Trí tuệ nhân tạo

Khám phá khoa học

Sinh vật học

Khảo cổ học

Đại dương học

Thế giới động vật

Danh nhân thế giới

Khoa học vũ trụ

1001 bí ẩn

Ngày tận thế

Chinh phục sao Hỏa

Kỳ quan thế giới

Người ngoài hành tinh - UFO

Trắc nghiệm Khoa học

Lịch sử

Khoa học quân sự

Tại sao

Địa danh nổi tiếng

Bệnh và thông tin bệnh

Y học - Sức khỏe

Môi trường

Bệnh Ung thư

Virus Covid 19

Ứng dụng khoa học

Khoa học & Bạn đọc

Câu chuyện khoa học

Công trình khoa học

Sự kiện Khoa học

Thư viện ảnh

Góc hài hước

Video