매일경제 기고문입니다.
http://www.mk.co.kr/news/business/view/2020/07/752062

전미 교육통계청에 따르면 2018년 기준 미국대학 종신교수 중 39%가, 종신교수트랙의 50%가 여성이었다. 그러나, ‘교수’란 단어를 구글에서 검색하면 남자교수의 이미지가 대부분이고 여자교수는 10%에도 못미친다. 검색엔진이 이렇게 현실과 동떨어진 결과를 보여주는 이유는 AI 기계학습 데이타에 나타난 선입견, 편견 등이 그대로 반영되었기 때문이다.

이처럼 편향된 데이타에 의존한 AI시스템은 종종 인간사회에 내재되어 있는 편견을 강화시킬뿐만 아니라 생명을 다루는 의료 분야에서도 치명적인 결과를 가져올 수 있다. ‘심장마비’라는 단어를 검색하면 구글 이미지엔진은 대부분 중년 후반의 남자가 가슴을 움켜쥐고 고통을 호소하는 사진을 보여 준다. 그러나, 다양한 연구결과에 따르면 심혈관 질환은 미국 여성의 주요 사망원인이며, 특히 젊은 세대와 사회 경제적 지위가 낮은 계층에서는 여성이 남성보다 심장마비에 걸릴 확률이 더 높은 것으로 나타났다. 심장마비를 정확하게 진단할 확률도 여성환자가 남성환자에 비해 낮은 것으로 나타났는데, 이는 심장질환 예측 모델을 개발하는 데 사용된 데이타가 대부분 남성의 것이어서 여성에 대한 예측모델의 정확성이 잘 검증되어 있지 않기 때문이다. 예를 들어, 다수의 여성(특히 젊은 여성) 심장마비 환자는 남성 환자에게서 흔히 나타나는 가슴통증이 아니라 위통, 숨가쁨, 구역질 등의 비정형적 증세를 수반한다. 이로 인해 심장마비 오진 가능성은 여성에게 훨씬 높고, 결과적으로 심장마비가 발생할 경우 여성의 사망확률이 더 높다는 것이다.

데이타 편향성으로 인한 문제는 AI 가 적용되는 모든 영역에 잠재되어 있다. 하버드 대학의 스위니 교수는 2013년 흑인들이 흔히 사용하는 이름을 검색할 경우 백인들이 사용하는 이름에 비해 ‘체포’에 관한 정보를 제공하는 광고가 눈에 띄게 많이 나타난다는 사실을 발견했다. 현존하는 AI 안면인식 시스템은 백인남성의 얼굴을 여성이나 다른 인종의 얼굴보다 더 정확하게 판별하는데 이 역시 기계학습에 사용된 데이타의 편향성 때문이다.

신용평가, 대출심사를 담당하는 AI 시스템은 현금을 주로 사용하는 취약계층에 불리한 결정을 내릴 가능성이 많은데 이는 신용카드나 전자결제 데이타는 풍부한 반면 현금결제에 대한 데이타를 수집하는 것은 쉽지 않은 데 기인한다. 이런 점을 인식하여 최근 유럽연합(EU)이 제정한 일반데이타 보호규정(GDPR)은 신용카드나 주택자금 융자금리와 같은 AI 알고리즘에 기반한 결정에 대해 소비자들이 합리적인 설명을 요구할 권리가 있다고 규정하고 있다.

데이타가 편향되어 있지 않더라도 AI 알고리즘이 여과없이 적용되어 나타날 수 있는 문제점도 적절한 개입을 통해 개선할 필요가 있다. 예를 들어, 미국의 일부 도시에서는 효율성을 높이기 위해 무작위로 식당들을 선택하는 대신, AI를 사용하여 위반확률이 높은 식당들을 예측하고 이에 따라 선별적으로 위생검사를 실시한다. 그러나, 한 보건당국은 AI가 선별한 지역이 소득이 낮은 곳에 위치한, 이익률이 작은 곳에 집중되어 있다는 사실을 발견하고 이런 지역의 식당들이 과도하게 표적이 되는 것을 피하기 위해 지역별 검사횟수의 상한선을 AI 알고리즘에 설정하였다.

인력채용 과정에서 차별을 줄이고자 한다면 지원자의 성별이나 인종을 고려하지 않도록 AI 시스템을 설계할 수 있다. 실제로 유니레버는 이와 같은 채용 알고리즘을 사용하여 고용에 소요되는 시간을 획기적으로 단축하는 동시에 채용된 인력의 성별, 인종별 다양성을 증가시킬 수 있었다.

여느 기술과 마찬가지로 AI 가 지닌 가능성을 인류에 유익하게 만드는 일은 데이타에 내재되어 있는 편견이나 선입견, 그리고 가치판단을 배제한 알고리즘이 적용되어 나타날 수 있는 문제들을 인식, 수정하려는 인간의 노력에 달려 있다. 이것이 어려운 이유는, 죠지 플로이드의 죽음으로 인해 부각된 미국사회의 흑인 인종차별 문제에서 드러난 것처럼, 인간의 무의식 깊숙히 내재된 편견은 인식하기도 쉽지 않거니와 편견을 편견으로 인정하지 못하는 인간의 한계 때문이다.