개인 정보캐는 챗GPT…EU는 AI 위험분류 법안 논의

[이데일리 김상윤 기자] 챗GPT 등 생성형AI가 전세계 주목을 받고 있는 가운데, 유럽에 이어 미국 정부도 인공지능(AI) 윤리성·신뢰성을 담보하기 위한 규제 도입 필요성에 대한 검토를 시작했다. AI 부작용으로 발생할 수 있는 잠재적 위협을 사전에 막겠다는 취지다.

11일(현지시간) 월스트리트저널(WSJ) 등에 따르면 미 상무부 산하 국가통신정보청(NTIA)는 AI 안전 규칙 제정을 마련하기 위한 60일간 공개 의견 수렴에 나섰다. NTIA는 수렴된 의견을 바탕으로 백악관과 의회에 정책 권고안을 제출할 예정이다. AI의 윤리성·신뢰성을 확보하기 위한 연방정부 차원의 제도적 장치를 마련하기 위한 첫걸음으로 해석된다. 미국은 생성형AI가 부정확한 정보를 제공하거나 개인정보를 무단수집하는 등 부작용을 우려하고 있다.

앞서 이탈리아 데이터보호청은 지난달 31일 챗GPT가 이탈리아 국민의 데이터를 무단으로 수집한다며 개인정보보호법(GDPR)을 적용해 이탈리아 내 접속을 잠정적으로 차단했다. 오픈AI가 챗GPT 이용자의 연령을 확인하지 않았으며 학습에 사용한 개인정보의 대규모 수집과 저장을 정당화하는 법률적인 근거를 갖추지 못했다는 판단에서다. 이탈리아의 조치 이후 프랑스와 독일, 아일랜드 당국은 챗GPT 차단의 근거 등을 파악하기 위해 이탈리아 당국과 접촉하고 있다.

오픈AI 홈페이지 (사진=AFP)

유럽 AI규제 잰걸음…이견 표출에 입법은 아직

챗GPT를 시작으로 생성형AI 개발 경쟁이 가열되자 이에 따르는 부작용을 차단하기 위한 규제 움직임도 본격화되고 있다. 미국은 AI 진흥에 방점을 두면서 이제 규제 필요성 여부를 검토하기 시작했고, 유럽은 일찌감치 규제 마련에 나섰다. 개인정보 및 기업기밀을 무작위로 수집해 프라이버시를 침해하고, 혐오나 차별 등 윤리적 문제가 심각한 사회갈등을 야기할 수 있다는 우려에서다.

EU집행위원회는 2021년 4월 AI가 초래할 수 있는 사회적 위험을 예방하고 신뢰할 수 있는 AI기술개발을 위한 유럽 인공지능법(EU AI Act)를 제안했다. 핵심은 AI기술에 대한 위험성 분류다. AI기술 자체가 위험한 것은 아니지만 어떤 데이터를 어느 분야에 활용하느냐에 따라 위험성이 달라진다는 판단에 △수용 불가 △고위험 △제한된 위험 △최소위험 등으로 나누고 각 분류에 따라 법적 의무를 부과할 방침이다.

본격적인 입법 논의는 이르면 다음달 이뤄질 전망이다. 챗GPT가 지난해 말부터 주목을 받으면서 생성형AI를 포함해 AI규제를 원점에서 다시 검토해야 한다는 주장도 나오고 있다. 일부 EU의원들은 챗GPT를 고위험군으로 지정해서 강한 규제를 해야 한다고 주장하는 반면, 다른 의원들은 최소위험으로 분류하고 챗GPT의 가능성을 지켜봐야 한다고 반박하는 등 이견이 적지 않다.

입법과 별개로 기존 법률을 바탕으로 생성형AI의 부작용을 차단하려는 움직임은 속도를 내고 있다. 유럽 경쟁당국들은 빅테크의 AI기업 ‘킬러인수’를 주시하고 있다. 킬러인수란 시장지배력이 큰 기업들이 잠재력 있는 신생기업을 인수해 선제적으로 경쟁자를 제거하는 것을 말한다. 이미 빅테크들의 지배력이 큰 상황에서 자칫 AI기업까지 인수할 경우 독과점이 더욱 심화될 수 있다는 우려다.

유럽에서 가장 강력한 빅테크 규제에 나서고 있는 독일 연방 카르텔청은 AI가 가져올 시장 폐해와 관련해 다음 달 시행되는 EU의 디지털시장법(DMA)을 적용할 방침을 정했다. DMA는 빅테크의 시장 지배력을 억제하기 위해 만든 일종의 온라인플랫폼 규제법이다.

안드레아스 문트 독일 연방 카르텔청장은 지난 3월 워싱턴 D.C.에서 개최한 국제경쟁법회의(ABA)에서 “AI가 온라인플랫폼에 미칠 영향은 정말 두렵다”면서 “AI 폐해 관련 소송이 조만간 시작될 것”이라며 밝혔다. 독일 연방카르텔청은 마이크로소프트의 생태계 확장이 시장 경쟁을 저해하는지 여부에 대한 조사에 착수했다. 마이크로소프트는 챗GPT를 개발한 오픈AI에 100억달러(13조2000억원)의 투자를 하고 자사의 검색엔진 ‘빙’에 AI챗봇 기술을 탑재하면서 검색시장 지배력을 키우고 있다.

[이데일리 김일환 기자]

저자세 취한 오픈AI·MS “최선 규제 마련 위해 각국과 협력”

각국의 규제 움직임이 재빨라지자 오픈AI와 마이크로소프트는 저자세를 취하고 있다. 챗GPT 개발사인 오픈AI는 “강력한 AI 시스템은 엄격한 안전평가를 받아야 한다”며 “최선의 형태로 규제가 마련될 수 있도록 정부와 적극적으로 협력하고 있다”고 밝혔다. 적절한 규제가 마련되면서 불안정한 AI로 인한 사고를 미연에 방지, 사업의 지속 가능성을 확보하기 위한 것으로 해석된다. 앞서 일본을 방문한 오픈AI 창업자 샘 알트만은 5~6월께 한국을 비롯해 독일, 프랑스, 영국, 스페인, 브라질 등 잇따라 방문해 규제당국과 협의에 나설 계획이다.

마이크로소프트도 미국 상무부가 AI규제 관련 검토에 나섰다는 소식에 “생성형 AI에 대한 피드백을 광범위하게 받아들이고, 문제를 신중하게 고려하고, 신속하게 행동하기 위해 이런 유형의 공공정책을 환영해야 한다”고 말했다.

하지만 섣부른 규제가 자칫 AI의 혁신을 저해할 수 있다는 목소리도 적지 않다. 자칫 과잉 규제가 되면 IT산업 특유의 역동성을 훼손할 수 있기 때문이다. AI의 국가안보영향에 대한 위원회 의장을 지냈던 에릭 슈미트 전 구글 최고경영자(CEO)는 지난달 의회에 출석해 “미국의 기술적 우위를 약화시키지 않으면서도 민주적 가치를 따르는 개발과 혁신을 이어가도록 해야한다”고 강조했다.