Nhà nghiên cứu Joy Buolamwini và các cộng sự đã xây dựng một bộ dữ liệu gồm 1.270 khuôn mặt của các chính trị gia, được lựa chọn dựa vào xếp hạng quốc gia của họ xét về bình đẳng giới (nói một cách khác quốc gia có nhiều phụ nữ làm việc trong các công sở). Nhóm nghiên cứu sau đó tiến hành kiểm tra mức độ chính xác của 3 hệ thống nhận diện mặt do Microsoft, IBM và Megvii (công ty ở Trung Quốc) phát triển.

Kết quả thu được cho thấy, sự thiếu chính xác trong việc nhận diện giới tính phụ thuộc vào màu da của đối tượng. Việc nhận diện nhầm giới tính xảy ra không đầy 1% đối với đàn ông da sáng màu, 7% với phụ nữ da sáng màu nhưng tới 12% nam giới da tối màu và 35% phụ nữ da tối màu.

Đây không phải là lần đầu tiên các chuyên gia phát hiện sự thiếu chính xác của công nghệ nhận diện mặt. Tuy nhiên, nghiên cứu mới đã cung cấp thêm bằng chứng cho thấy nhu cầu phải có các bộ dữ liệu phong phú hơn cũng như sự đa dạng trong những người sáng tạo và triển khai các công nghệ như thế này, nhằm giúp có được các thuật toán nhận diện chính xác các cá nhân bất kể giới tính, chủng tộc hay các đặc điểm khác.

Năm 2015, Google từng bị một kỹ sư phần mềm lên án vì nhận diện nhầm những người bạn da đen của anh là "đười ươi" trong ứng dụng Photos. Đại gia công nghệ Mỹ đã cam kết sẽ sửa lỗi này nhưng thực tế, hãng bị cáo buộc chỉ loại bỏ từ "đười ươi" khỏi danh bạ kết quả tìm kiếm trong ứng dụng.