[WSF 2016]"인간과 AI 공생할 때만 생존할 수 있다"(종합)

[이데일리 한대욱 기자] 닉 보스트롬(왼쪽) 옥스퍼드대 인류미래연구소장과 김대식 KAIST 전기 및 전자과 교수가 15일 서울 중구 장충동 신라호텔에서 열린 ‘제7회 이데일리 세계전략포럼(WSF)’에서 ‘AI가 바꾸는 세상, 유토피아 or 디스토피아?’란 주제로 대담하고 있다.

[이데일리 이승현 박기주 기자] 사람 수준의 인공지능(AI)의 출현은 인류에게 유토피아일까 디스토피아일까. 15일 서울 장충동 신라호텔에서 열린 제7회 이데일리 세계전략포럼에서는 최근 이슈로 떠오른 AI를 통해 인류의 미래를 고찰하는 자리가 마련됐다.

세션1 강연자로 나선 김대식 한국과학기술원(KAIST) 전기·전자과 교수는 “당신이 인공지능(AI)에 관심이 없을지라도 AI는 당신에게 관심이 있습니다”란 러시아의 정치인 레온 트로츠키(Leon Trotsky)의 말을 인용하며 강연을 시작했다.

‘딥 러닝’ AI 패러다임 바꿔

김 교수는 기계학습 방식인 ‘딥 러닝(Deep Learning)’이 인공지능의 패러다임을 극적으로 바꿨다고 설명했다. 기존 인공지능 개발 방식은 사람이 프로그램을 코딩해 컴퓨터에 입력하는 방식이었지만 학습 기반으로 개발 방식이 바뀌면서 인간과 경쟁할 수 있는 능력을 갖추게 됐다는 것이다.

그는 “딥 러닝이 완성된 이후 매년 인간과 기계의 경쟁이 이뤄지고 있다”며 “이는 인간과 기계가 대화를 할 수 있도록 했고 현실에서 불가능한 작업도 빅데이터 분석으로 가능해졌다”고 설명했다.

김 교수는 인공지능의 진화 그 자체에 대해선 걱정할 필요가 없다고 강조했다. 인간이 만든 도구가 인간의 능력을 넘어서는 것은 당연한 현상이라는 것이다. 다만 이를 제어할 방법에 대해선 고민해볼 필요가 있다고 지적했다.

그는 “망치가 인간의 주먹보다 강하고 자동차 역시 인간보다 빠른 것처럼 도구는 모든 인간의 능력보다 강력하다”며 “이러한 도구처럼 AI의 능력 자체가 뛰어난 것은 역사적으로 큰 문제가 되지 않지만 우리가 AI의 능력을 제어하고 멈출 수 있는지는 앞으로 고민해야 한다”고 설명했다.

그는 이어 “만약 인공지능이 스스로 독립성에 대한 전문가가 된다면 시뮬레이션 작업을 통해 독립성을 학습할 수 있을 것”이라며 “인간의 명령을 거부할 수 있다”고도 했다.

김 교수는 “단순히 학습에 따른 시뮬레이션일지라도 인간에겐 큰 영향을 끼칠 수 있다”며 “이처럼 인공지능이 우리 생활에 큰 영향을 끼칠 수 있는 환경이 조성되면서 인간과 기계가 공생하는 방법에 대한 고민이 필요하다”고 조언했다.

AI, 기대와 두려움 교차

김 교수는 이세돌과 알파고의 대결을 예로 들며 대응책을 설명했다. 그는 “인공지능을 무시하면 이세돌의 패배처럼 결론적으로 인간이 실패할 수밖에 없고 무조건 싸운다 해도 결국 불도저를 인간이 이길 수 없듯 실패할 것”이라며 “이세돌과 알파고가 협업을 할 때만 생존할 수 있을 것”이라고 말했다.

김 교수와 함께 강연자로 나선 닉 보스트롬 옥스포드대 인류미래연구소장은 “AI가 이슈로 떠오르면서 AI에 대한 기대와 두려움이 교차하고 있다”고 말했다.

보스트롬 소장은 “과거에 있던 농업혁명이나 산업혁명보다 인공지능의 출현은 인류에게 더 큰 변화를 가져다줄 것”이라며 “인류가 처음 등장했을 때와 버금가는 대사건이 될 것”이라고 운을 뗐다.

그는 “그렇기 때문에 AI로 인해 우리의 미래가 유토피아가 될 것인지 디스토피아가 될 것인지에 대해 고민해야 한다”고 덧붙였다.

보스트롬 소장은 “AI는 1997년 IBM사가 만든 딥 블루가 체스 챔피언을 이기면서 의미 있게 등장했고 이후 유명 퀴즈쇼에 나와 우승하고 컴퓨터 게임인 아타리를 하는 AI가 등장하는 등 놀랍도록 빠르게 발전해왔다”며 “궁극적으로 인간 지능 수준의 AI로 발전하고 있는데 언제쯤 초지능 AI가 등장할지가 초미의 관심사로 떠오르고 있다”고 말했다.

“AI, 인간 행동 모두 인식할 날 머지 않아”

보스트롬 소장은 “전문가들에게 인간 수준의 AI가 언제쯤 개발될 수 있을지 물어보니 2040~2050년쯤이라는 답이 절반 정도 나왔고 더 빠를 것이란 전문가도 있었다”며 “예상보다 더 빨리 초지능 AI 시대가 다가올 수 있다”고 전망했다.

단적으로 이세돌과 알파고의 바둑 대결을 보면 6개월 만에 이세돌의 압승에서 알파고의 압승으로 바뀌었는데 이런 현상을 보면 AI의 발전 속도가 예상하기 어렵다는 게 그의 생각이다. 따라서 AI가 인류에게 미칠 영향에 대해 지금부터 논의해야 한다고 주장했다.

그는 “미래에는 AI에 의해 인간 행동 패턴이 모두 인식되는 세상이 올 것”이라며 “긍정적인 면에서 보면 범죄를 줄일 수 있고 미래에 발생할 수 있는 테러를 예견해 보호할 수 있지만 이 기술을 독재정권이 사용하면 사회를 효과적으로 통제할 수 있는 수단이 될 수도 있다”고 예를 들었다.

그는 “초기 설정을 잘하는 게 중요하다”며 “터미네이터에 나오는 것처럼 AI가 인류에게 피해를 주는 디스토피아가 되는 것을 막기 위해 사전 통제 기법을 어떻게 해결할 것인가에 대한 연구를 시작해야 한다”고 강조했다.