매일경제 컬럼입니다.

https://www.mk.co.kr/news/business/view/2021/01/42398/

이미지 인식, 음성 인식, 언어 번역 등의 영역에서 거둔 눈부신 성과를 바탕으로 오늘날 AI는 인류역사를 바꾸어 놓을 파괴적 기술로 평가됨에도 불구하고 아직 약한(좁은) AI라 불린다. 그 이유는 무었일까? 2011년 제퍼디라는 퀴즈쇼에서 74연승자 제닝스와 러터라는 전설적인 우승자들을 꺽은 IBM왓슨을 생각해 보자. 왓슨은 퀴즈쇼를 넘어 질병을 진단하고 치료를 제안하는 의료시스템을 비롯 법률, 재무, 고객서비스 등 다양한 분야에서 활동하고 있다. 그렇다면 왓슨은 일반적 인공지능이라고 볼 수 있지 않을까? 문제는 의료, 법률 등의 분야에서 요구되는 능력은 명확한 정답이 존재하는 퀴즈나 일정한 규칙아래 진행되는 게임에서 필요했던 것과는 다르다는 점이다. 즉, 각각의 영역에서 활동하는 왓슨은 여전히 별개의 좁은 AI들이고, 왓슨이라는 이름은 IBM의 다양한 제품군을 통칭하는 브랜드일 뿐이다.

이렇게 하나의 영역에서 특정한 과제만을 수행할 수 있는 현존 AI는 여러가지 한계를 지닌다. 먼저, 지도학습에 기반한 대부분의 AI는 대량의 데이타를 필요로 한다. 빅데이타 시대에도 잘 큐레이션된 데이타를 축적하는 것은 많은 시간과 비용을 필요로 하고 나아가 개인정보보호에 대한 규제는 그 어려움을 가중시킨다. 이러한 특성은, 예를 들어 아이가 처음 접하는 동물을 인지하기 위해 수천개의 사진을 필요로 하지 않듯 소규모 데이타학습이 가능한 인간인식과 대조된다. 뿐만 아니라, 빅데이타로 학습된 AI조차도, 예를 들어, 넘어져 있는 의자, 전복된 버스처럼 학습데이타에 포함되어 있지 않는 상황에 직면하면 인지능력이 현저히 저하된다.

이처럼 일반화능력이 결여된 AI의 특성은 종종 예측불가능한 행동으로 이어진다. 2016년 자율주행모드의 테슬라는 대형 트레일러트럭을 인식하지 못하고 트레일러 아래로 질주하여 운전자가 사망했는데, 사후조사를 통해 테슬라는 문제점을 보완했지만 AI가 사용하는 알고리즘의 불투명성으로 인한 예측 불가능성은 여러 가지 문제를 초래한다. 적대적 공격은 그 대표적인 예이다. 정지신호표지에 작은 스티커를 붙이면 AI는 속도제한표시로 인식하기도 하고, 특정한 그림이 그려진 티셔츠를 입을 경우 AI가 인식하지 못하는 투명인간이 될 수도 있다. 이는 자율주행차, 의료이미지 등 생명과 직결된 영역에서 치명적인 약점으로 남아 있다.

이러한 문제점들의 근원에는 추론능력의 결여라는 AI의 한계가 자리잡고 있다. 이 때문에 AI는 어린아이 수준의 간단한 질문도 다를 수 없는데, 예를 들어 그림에서 나무와 동물 중 어느 것이 많은가, 맨 위 블록을 제거하면 블록탑이 무너질까 등에 대한 질문에 AI는 답을 하지 못한다.

이와 같은 한계를 극복하기 위한 연구는 힌튼, 벤지오, 르쿤으로 대표되는 머신러닝의 틀안에서 문제점을 개선하기 위한 노력, 그리고 상징적(symbolic) AI와 머신러닝을 결합하려는 시도로 분류할 수 있다. 오늘날 AI는 종종 머신러닝과 동일시되고 있지만, AI의 역사에서 오랫동안 주도적인 위치를 차지했던 것은 인간의 인지시스템을 모방하여 상징, 즉 특정 사물을 나타내는 추상적 개념을 처리하는 규칙체계를 기반으로 AI를 개발하고자 했던 상징적 AI (기호주의)였다. 다양한 영역에서 방대한 수의 추상개념들을 연결하는 규칙체계를 구축하려는 이런 노력은 큰 성과를 보이지 못하고 결국 머신러닝에 자리를 내 주었으나, 이제 머신러닝의 발전을 바탕으로 그 적절한 역할을 찾으려는 연구가 진행 중이다. 뉴로심볼릭(Neurosymbolic) AI라 불리는 이 영역은 패턴인식에 뛰어난 머신러닝의 장점을 살리는 동시에 AI에 추론능력을 부여하고자 하는 시도인데, MIT-IBM그룹의 연구가 대표적이고 뉴욕대의 마커스와 전 MIT교수 브룩스가 주도하는 로버스트AI사는 최근 170억의 투자유치를 이루기도 했다. 어느 쪽이 미래의 AI를 주도할 것인가를 예측하기는 이르지만, 뉴로심볼릭AI의 노력이 성과를 거둘 경우 소량의 데이타로 설명가능한 AI를 개발하는 데 큰 진전을 이룰 것으로 보인다.