첨단 AI 안전성 테스트 결과, 정부와 공유…美 AI 규제안 공개

AI 생성 콘텐츠엔 워터마크 부착해야
"새로운 기업, 시장 진입 저해" 우려도
"내가 언제 저런 말 했지" 바이든, 자기 딥페이크 본 경험 소개
  • 등록 2023-10-31 오후 1:52:39

    수정 2023-10-31 오후 7:20:39

[이데일리 박종화 기자] 미국 바이든 행정부가 인공지능(AI) 안전성 확보를 위한 행정명령을 내놨다. 첨단 AI에 대한 안전성 시험 결과를 미국 정부에 공유하도록 하는 게 핵심이다. AI 규제 법규 마련을 위한 각국 움직임이 점점 빨라지고 있다.

(사진=게티이미지)


바이든 “위험 없이 AI 잠재력 실현하려면 통제해야”

30일(현지시간) 파이낸셜타임스(FT) 등에 따르면 백악관은 AI 안전성 확보를 위한 행정명령을 이날 공개했다. 조 바이든 대통령은 “AI의 잠재력을 실현하면서 위험을 피하려면 이 기술을 통제하는 것 외에는 방법이 없다”고 말했다. 바이든은 자신이 나온 딥페이크(AI를 이용해 만든 진짜 같은 가짜 이미지·영상)를 보고 “내가 언제 그런 말을 했지”라고 자문한 적이 있다고 자신의 경험도 소개했다.

이번 행정명령에서 눈에 띄는 건 국가 안보나 경제 안보 등에 심각한 영향을 줄 수 있는 첨단 AI를 개발할 때 안전성 테스트 결과를 정부와 공유하도록 하는 조항이다. 첨단 AI에 대해선 기업이 민감하게 여길 수 있는 부분까지 정부가 파악하겠다는 뜻이다. AI가 생물학적 무기나 핵무기 제조에 악용될 수 없다는 걸 입증해야 한다는 내용도 안전성 테스트 항목에 포함됐다.

또한 AI 생성 콘텐츠에 워터마크를 부착하도록 하는 지침도 마련하기로 했다. AI가 만든 정교한 사진이나 영상이 사기나 가짜뉴스 등에 악용되는 걸 막기 위해서다. 특히 내년 대선을 앞두고 미국에선 AI를 악용한 가짜뉴스 범람이 우려되는 상황이었다. AI를 이용한 차별 방지, AI 관련 개인정보보호 규정 정비, 독점 방지 및 경쟁 촉진 등도 이번 행정명령에 포함됐다. 행정명령은 앞으로 90일 내에 발효할 예정이다. 바이든 행정부는 장기적으로 이번 행정명령을 뒷받침할 수 있는 AI 규제 법률 제정도 준비하고 있다.

브래드 스미스 마이크로소프트(MS) 부회장은 이번 행정명령에 대해 “AI 거버넌스에서 또 다른 중요한 진전”이라고 평가했다. 반면 테크기업 단체인 넷초이스는 “새로운 기업·(기성기업의)경쟁사가 시장에 진입하는 걸 막고 미국의 (기술) 혁신에서 연방정부의 힘을 크게 키울 것”이라고 우려했다.

中·英·EU도 AI 규제 잰걸음

이번 행정명령은 오는 1~2일 영국에서 열리는 AI 안보 정상회의 이틀 전에 나왔다. AI 안보 정상회의에는 영국, 미국, 중국 등 주요국 대표는 물론 구글, 오픈AI, MS, 삼성전자(005930), 네이버 등 AI 업계 주요 기업들도 참석한다. AI 윤리와 사이버 안보, AI발(發) 가짜뉴스 등이 논의될 예정인데 AI 규제를 단독 주제로 각국 정부와 기업이 한자리에 모이는 건 이번이 처음이다.

최근 미국과 영국뿐 아니라 각국은 AI 관련 규제 마련에 잰걸음을 하고 있다. AI 산업이 빠르게 성장하면서 기존 법규로는 제대로 된 관리가 어려울뿐더러 규제를 통해 신산업 표준을 선점하기 위해서다. 중국은 지난 7월 발표한 ‘생성형 AI 산업 관리 규정’을 통해 생성형 AI 제품을 출시하기 전 당국에서 사전 보안 평가를 받도록 했다. 유럽의회도 AI 학습 데이터 공개, 불법 콘텐츠 제작 방지 기능 구비 등 내용을 담은 AI법 초안을 지난 6월 의결했다.

바이든 행정부 고위관계자는 “EU와 AI 규제 마련 경쟁을 하고 있지 않다”면서 “이번 행정명령을 준비하며 EU와 폭넓게 소통했다”고 FT에 설명했다.

이데일리
추천 뉴스by Taboola

당신을 위한
맞춤 뉴스by Dable

소셜 댓글

많이 본 뉴스

바이오 투자 길라잡이 팜이데일리

왼쪽 오른쪽

스무살의 설레임 스냅타임

왼쪽 오른쪽

재미에 지식을 더하다 영상+

왼쪽 오른쪽

두근두근 핫포토

  • 이즈나, 혼신의 무대
  • 만화 찢고 나온 미모
  • MAMA 여신
  • 지드래곤 스카프 ‘파워’
왼쪽 오른쪽

04517 서울시 중구 통일로 92 케이지타워 18F, 19F 이데일리

대표전화 02-3772-0114 I 이메일 webmaster@edaily.co.krI 사업자번호 107-81-75795

등록번호 서울 아 00090 I 등록일자 2005.10.25 I 회장 곽재선 I 발행·편집인 이익원 I 청소년보호책임자 고규대

ⓒ 이데일리. All rights reserved