AI 얼굴인식 시스템의 오류로 5개월 이상 억류된 50대 여성
테네시주에 사는 50세 할머니 앤젤라 립스는 AI 얼굴인식 도구가 자신을 노스다코타주의 범죄와 연결시키면서 5개월 이상 감옥에 갇혔습니다. 본인은 평생 그 주에 가본 적이 없다고 주장하고 있는데요.
노스다코타주 파고 경찰은 이 사건에서 "몇 가지 오류"가 있었음을 인정하고 운영 개선을 약속했지만, 직접적인 사과는 하지 않았습니다.
어떻게 이런 일이 발생했나
립스는 2024년 7월 14일 테네시주에서 체포되었습니다. 그러나 몇 주 전부터 파고에서는 이미 그녀의 체포 영장이 발부되어 있었는데요. 파고는 테네시에서 1,000마일 이상 떨어진 곳입니다.
파고 경찰청장 데이브 지볼스키는 CNN에 보낸 이메일에서 은행 사기 사건 용의자를 찾기 위해 "협력 기관의 얼굴인식 기술과 추가적인 독립적 수사 절차"를 사용했다고 밝혔습니다. 그런데 현실은 조금 달랐습니다.
문제의 AI 시스템
지볼스키 청장은 화요일 기자회견에서 이웃 도시인 웨스트 파고 경찰청의 AI 시스템 정보에 대한 신뢰도가 "문제의 일부"라고 인정했습니다. 그리고 이렇게 덧붙였습니다.
"어느 시점에 웨스트 파고 경찰이 자체 AI 얼굴인식 시스템을 구입했는데, 경영진 수준에서 우리는 이를 알지 못했습니다. 우리가 알았다면 그것을 사용하지 않았을 것이고, 현재는 금지되어 있습니다."
웨스트 파고 경찰은 Clearview AI라는 스타트업의 시스템을 사용 중입니다. 이 회사는 소셜 미디어를 포함해 인터넷에서 수집한 수십억 개의 사진 데이터베이스를 보유하고 있습니다.
웨스트 파고 경찰 성명에 따르면, Clearview AI가 "앤젤라 립스와 유사한 특징을 가진 잠재적 용의자"를 식별했고, 웨스트 파고 경찰이 그 정보를 파고 경찰에 공유했다는 것입니다. 다만 웨스트 파고 경찰은 그들의 관할권 내 사기 사건에 대해 어떤 혐의도 제기하지 않았다고 명시했습니다.
수사에 립스를 범죄와 연결시키기 위해 다른 어떤 증거를 사용했는지는 불명확합니다.
확산되는 문제
립스의 사건은 경찰 당국이 AI를 포함한 새로운 기술을 빠르게 도입하고 있는 와중에 발생했습니다. 그런데 경찰의 AI 기술 사용은 비판을 받고 있으며, 이미 여러 오인 사건과 연결되어 있습니다.
공포와 수치심
파고 판사는 2024년 7월 1일 전국 신병인도 권한이 있는 립스의 체포 영장에 서명했습니다. 그녀는 7월 14일 체포되어 테네시 감옥에서 3개월 이상을 보낸 후 신병인도되었습니다.
10월이 되어서야 테네시 법 집행 당국이 노스다코타 카스 카운티 보안관 사무실에 립스의 신병인도 포기 서류를 제출했다고 합니다. 그녀는 중죄 절도와 중죄 개인정보 무단 사용을 포함한 여러 혐의에 직면해 있었습니다.
테네시 당국이 노스다코타 동료들에게 립스의 체포를 알리는 데 이렇게 오래 걸린 이유는 명확하지 않습니다. 파고 경찰은 립스가 테네시 감옥에서 노스다코타로 이송되기 전에 보낸 시간이 보호관찰 위반으로 복역한 기간 때문인지, 아니면 신병인도에 저항했기 때문인지 파악할 수 없다고 CNN에 전했습니다.
립스는 자신의 펀딩 페이지에서 노스다코타로의 신병인도 경험을 이렇게 표현했습니다.
"평생 처음 비행기를 탔습니다. 정말 겁이 났고, 지쳤고, 수치심을 느꼈어요."
결국 풀려나다
파고에서 립스에게 변호사가 배정되었고, 그 변호사는 범죄 발생 당시 립스가 테네시에 있었음을 보여주는 은행 기록을 찾아냈습니다.
12월 12일, 파고 경찰에 따르면 검사 사무실이 담당 경찰에게 변호측이 "잠재적으로 무죄를 증명하는 증거"를 제출했다고 알렸습니다.
12월 23일, 담당 경찰, 검사, 판사는 "추가 수사를 위해 합의로 혐의를 기소 없이 기각하기로" 합의했습니다. 립스는 크리스마스 이브인 12월 24일 석방되었습니다.
남겨진 상처
립스는 테네시주의 어머니이자 다섯 명의 할머니입니다. 신병인도되기 전까지 평생 노스다코타에 가본 적이 없었습니다.
그녀의 변호사들은 CNN에 이렇게 말했습니다.
"트라우마, 자유 박탈, 명예훼손은 쉽게 복구할 수 없습니다."
변호사들은 립스가 인터뷰를 할 수 없다고 덧붙였습니다. 5개월 이상의 투옥 생활은 그녀에게 깊은 상처를 남겼던 것 같습니다.