생체인식 AI 에 대한 기고문입니다.

https://www.mk.co.kr/news/business/view/2021/06/608876

2020년 1월, 로버트 윌리엄스는 집앞에서 기다리던 디트로이트 경찰에게 중범죄 절도범으로 아내와 두 딸 앞에서 체포되었다. 경찰은 윌리엄스가 2018년 디트로이트 매장에서 3,800 달러 상당의 시계를 훔친 사진 속의 범인과 동일인이라고 믿었으나 증거를 찾지 못하자, “컴퓨터가 틀린 거 같다”고 고백했다. AI 안면인식 시스템의 결과를 추가적인 수사의 단서로만 사용하여야 했으나 디트로이트 경찰은 오직 안면인식 결과만을 가지고 체포 영장까지 발부했던 것이다.

이와 같은 오용으로 인해 논란이 증폭되고 있지만 안면인식을 비롯한 생체인식 AI는 적절히 사용될 경우 많은 혜택을 가져다 준다. 아이폰의 안면인식 시스템은 보안이 필요한 여러 애플리케이션에 대한 로그인 절차를 간소화해 주고 중요한 정보의 노출을 차단해 준다. 중국의 바이두는 과거나 미래의 얼굴을 예측하는 교차연령 안면인식 AI를 개발하여 10살때 유괴된 아이를 27년이 지난 후에 부모품에 돌려 주었다. 컴퓨터 비젼 시스템과 얼굴, 음성, 감정을 인식할 수 있는 기능을 적절히 결합한 AI 시스템은 앞을 볼 수 없는 사람들의 눈이 되어 줄 수도 있고, 사람의 얼굴을 기억하지 못해 대인 관계에 심각한 불편을 겪는 안면인식 장애인들에게 새로운 삶을 열어 줄 수도 있다.

생체인식 시스템은 마케팅 전략에도 유용하게 사용된다. 감정 AI 전문기업 어펙티바(Affectiva)는 광고를 시청할때 나타나는 표정을 분석, 정서적 반응을 평가함으로써 광고의 효율성을 측정하는 AI를 개발했는데, 삼성, 디즈니, 코카콜라 등 많은 글로벌 기업들이 이를 이용하고 있다. 생체인식 AI를 동물에 적용하기 위한 연구도 한창이다. 최근 네덜란드 바흐닝언대학 연구진은 소, 돼지의 귀와 눈에 나타나는 변화를 추적하여 9가지 감정 상태를 파악할 수 있는 AI를 개발했는데, 이러한 AI가 더욱 진전된다면 농장주들이 가축의 심리, 건강 상태에 따라 적절하게 대처할 수 있도록 해 주어 동물 복지와 생산성 향상에 기여할 수 있을 것이다.

이렇게 많은 장점에도 불구하고 생체인식 AI에 대한 우려가 큰 이유는 시스템의 정확성, 안정성이 아직 확보되지 않고 편향성이 해소되지 않은 상태에서 AI에 대한 과신으로 인한 오용에서 비롯된다. 예를 들어, 구직 인터뷰에서 지원자의 표정이나 목소리를 분석하는 감정분석AI의 사용이 증가하고 있는데, 일부 AI는 다른 인종에 비해 흑인들의 표정을 더 부정적인 감정의 표현으로 평가하는 것으로 나타났다. 특히 법집행에서 사용되는 생체인식 AI에 대한 우려가 큰데, 개인정보, 집회의 자유 등에 대한 침해와 함께 차후에 혐의가 없는 것으로 드러나더라도 AI가 범죄자로 잘못 지목한 사람들이 겪는 고통을 보상하기 어렵기 때문이다. 2015년 AI의 안면인식 결과를 바탕으로 은행강도 혐의로 기소된 스티브 탤리는 소송을 통해 결국 혐의를 벗었지만, 체포과정에서 심각한 부상을 입었고 집과 직장, 자녀까지 잃게 되었다.

이러한 우려 속에서 아마존, 마이크로소프트, IBM은 최근 안면인식 AI를 법집행 기관에 판매하지 않기로 했고, 미국의 여러 도시는 안면인식 AI의 사용을 금지했다. 그러나ㅡ 안면인식 AI의 활용을 비교적 투명하게 공개하고 규정된 절차를 마련한 라스베가스 경찰은 안면인식 AI는 범죄를 예방하고 시민의 생명을 구하는 데 필수적이라고 평가한다. 실제로, 잘못된 유죄 판결의 희생양이 된 사람들을 면책하고 이를 위한 제도개혁을 추진하는 이노센스 프로젝트에 따르면 잘못된 판결의 대다수는 그릇된 증언에 기인함에도 불구하고, 증인에 의한 신원확인은 여전히 형사피고인에 대한 가장 강력한 증거로 사용되고 있다. 안면인식 시스템이 적절하게 활용된다면 이러한 사례를 예방하는 데에도 도움이 될 것이다. 생체인식AI의 가치를 개발하고 사회에 유용한 방향으로 활용하는 길은 오용으로 인한 부작용이 지나치게 커지기 전에 적절한 사용을 위한 지침을 마련하는 일이다.