Công nghệ nhận diện khuôn mặt đang là một trong những lĩnh vực “hot” nhất hiện nay, bởi nó có tiềm năng sử dụng trong rất nhiều lĩnh vực, từ dân dụng đến an ninh, quốc phòng. Amazon - một trong những công ty đang nằm trong “cuộc đua nghìn tỉ” với Google và Apple – cũng đang phát triển công nghệ này. Phiên bản của họ có tên Rekognition, dự kiến sẽ được dùng cho cảnh sát Mỹ.
Để thử nghiệm tính năng nhận diện khuôn mặt mà Amazon phát triển, người ta cho nó dữ liệu 25.000 khuôn mặt tội phạm và 535 đại biểu Quốc hội Mỹ. Kết quả? 28 người trong số các đại biểu Quốc hội bị nhận diện là… tội phạm, một kết quả đáng lo ngại khi công nghệ này sẽ được sử dụng bởi cảnh sát trong tương lai.
Những đại biểu quốc hội bị nhận diện nhầm là tội phạm.Đại diện Amazon nói rằng lý do của việc phát hiện sai lầm là do lỗi của đội ngũ thử nghiệm đã cân chỉnh không chính xác. Thông thường, Rekognition sẽ nhận diện người ta nếu khuôn mặt của họ giống 80% với một khuôn mặt nào đó trong cơ sở dữ liệu, và đội ngũ thử nghiệm đã dùng mức 80% này. Trong khi đó, Amazon khuyến cáo mức thấp nhất nên dùng cho các lực lượng bảo vệ pháp luật là 95%, bởi một nhận diện sai lầm sẽ mang đến hậu quả rất tệ hại.
Thử nghiệm này cũng phần nào cho thấy Rekognition… phân biệt chủng tộc, một vấn đề đã được phát hiện từ lâu trong các phần mềm khác. Dù chỉ có 20% đại biểu Quốc hội Mỹ là người da màu, có đến 40% số người bị nhận nhầm là tội phạm là người da màu.
Quy trình của công nghệ nhận diện Rekcognition.Thật ra, công nghệ Rekognition đã được cảnh sát Mỹ sử dụng từ nhiều tháng qua. Hồi tháng 5/2018, một báo cáo cho thấy cảnh sát thành phố Orlando đã dùng nó trên trực thăng, trong khi cảnh sát Oregon cũng dùng nó để nhận diện tội phạm dựa trên dữ liệu khuôn mặt của 300.000 tội phạm.
Sau thử nghiệm này, một số đại biểu Quốc hội Mỹ đã có phản ứng quyết liệt trong một lá thư ngỏ gửi đến Jeff Bezos, chủ sở hữu Amazon. “Những mối quan ngại nghiêm túc đã được đưa ra về hiểm họa mà công nghệ nhận diện khuôn mặt có thể gây ra cho quyền riêng tư và quyền công dân, đặc biệt là khi được dùng làm công cụ theo dõi của chính phủ,” lá thư này viết.
Dùng nhận diện khuôn mặt bắt tội phạm trong đám đông 60.000 người
