이데일리

메타 부사장 "AGI도 오픈소스 공개…차기 '라마'는 크로스 모달리티"
[이데일리 최정희 기자] “메타의 장기적인 목표는 범용 인공지능(AGI)을 구축하고 이를 책임감 있게 오픈소스로 공개해 모든 사람이 인공지능(AI) 혜택을 누릴 수 있도록 하는 것이다.”마노하 팔루리(Manohar Paluri) 메타 생성형AI 부사장은 10일 서울 강남 센터필드 메타 오피스에서 열린 ‘AI 미디어 브리핑 행사’에서 이 같이 밝혔다. 마노하 팔루리 메타 생성형 인공지능(AI) 부사장은 10일 서울 강남 센터필드 메타 오피스에서 열린 ‘AI 미디어 브리핑 행사’에서 발언을 하고 있다.(출처: 메타)◇ 메타 “라마 오픈소스 활용해 6만 5000개 이상 AI모델 개발”메타는 최근 거대 언어모델(LLM)인 생성형AI 라마(Llama) 3.2를 포함해 총 네 번의 LLM모델을 오픈소스로 공개했다. 라마 모델은 4억회 이상 다운로드됐다. 이는 작년 대비 10배 이상 증가한 수치다. 팔루리 부사장은 “라마 모델은 교육, 헬스케어 분야 등 스타트업부터 대기업까지 수 많은 비즈니스에 다양한 용도로 활용되고 있다”며 “라마도 파생된 AI모델은 약 6만 5000개 이상에 달한다”고 밝혔다. 구글의 제미나이 등이 오픈소스를 공개하지 않는 것과 달리 메타는 라마 시리즈를 오픈소스로 공개하고 있다. 팔루리 부사장은 메타가 오픈소스 접근 방식을 추구하는 이유에 대해 “개방형 생태계가 기술 혁신의 속도를 가속화하고 안전성과 투명성을 높이는 데 기여할 수 있기 때문”이라며 “오픈소스 모델은 개발자로 하여금 본인만의 모델을 훈련하고 미세조정할 수 있도록 해 오랫동안 지속가능한 시스템을 구축할 수 있도록 돕는다”고 설명했다. ‘라마’ 파운데이션 모델을 기초로 개발자들이 본인들이 원하는 데이터 등을 파인튜닝(Fine tuning)해 원하는 모델을 커스터마이징(Customizing)할 수 있다. 라마 시리즈가 개발될수록 비용도 저렴해졌다. AI모델이 100만개 토큰(단어 등)을 처리할 때 사용되는 비용은 라마 3.1이 여타 모델 대비 가장 저렴하다. 2년간 비용이 절반 가량 감소했다. 팔루리 부사장은 “개발자 입장에선 100배 가량 비용이 절감된 것”이라고 짚었다. 실제로 한국과학기술정보연구원(KISTI)은 라마 모델을 기반으로 과학기술 데이터를 추가 학습시킨 ‘고니(KONI)’라는 AI모델을 만들기도 했다. 장광선 KISTI 선임연구원은 “국내 연구기관, 공공기관에 특화된 과학기술정보 서비스를 제공하는 것을 목표로 하고 있다”며 “내년 1월부터 과학기술 정보에 특화된 연구자용 AI 에이전트를 만들 것”이라고 밝혔다. 이어 “다른 파운데이션 모델도 있지만 라마를 했을 때 가장 우수한 성능을 보였고 오픈AI의 챗GPT보다 정보 유출 우려가 낮았다”고 덧붙였다. 에임인텔리전스는 라마의 오픈소스를 바탕으로 AI취약점을 탐지, 최소화하는 솔루션을 개발, ‘라마 임팩트 이노베이션 어워즈’에서 수상을 하기도 했다. ◇ 내년엔 ‘젠 라마’ 출시…“뮤비 젠, 딥페이크 악용보다 긍정 측면 많아”라마는 내년께 ‘gen Llama’로 긴 문장의 글을 제공하고 이미지와 오디오, 비디오, 텍스트 등 서로 다른 정보의 종류를 연관성있게 학습하는 ‘크로스 모달리티’를 가능하게끔 하고 다른 나라의 언어도 쉽게 통합할 수 있도록 하는 AI모델을 출시할 예정이다. 팔루리 부사장은 “미래 기반이 될 메타AI는 모든 앱과 웹을 포괄하는 어시스던트가 될 것”이라며 “모든 앱, 웹에서 매일 40억명의 사람들을 지원하는 엔진이 라마가 될 것”이라고 밝혔다. 다만 메타가 원하는 장기 목표인 ‘AGI’가 다가가려면 아직은 멀었다는 평가다. 팔루리 부사장은 “AGI에 도달하려면 지각, 추론능력, 계획, 실행 등을 계속 반복하는 순환구조를 만들어야 한다. 이 단계가 되면 커스터마이징이 전혀 필요가 없게 되는데 아직 멀었다”면서도 “일부에선 커스터마이징이 필요 없는 경우도 늘어나고 있기 때문에 많은 성과가 있었다”고 밝혔다. 최근 메타가 공개한 ‘동영상 생성형AI’ 뮤비 젠은 기존 이미지와의 합성이 용이해 딥페이크(허위 영상물)를 만들기 쉬워지고 그로 인해 성범죄물로 활용되는 것 아니냐는 우려도 제기된다. 팔루리 부사장은 “AI영상물을 생성하는 경우 워터마크가 삽인된다”며 “신기술이 어떤 것이든 좋은 사례도 있겠지만 나쁜 사례도 존재하기 때문에 이런 부분을 완화하는 것이 중요하다”고 설명했다. 뮤비 젠에는 메타 ‘FAIR연구팀’이 개발한 영상 속에 특정 ‘물체’를 탐색하고 추축하는 기술이나 새 소리 등 소리를 생성하고 추출하는 기술 등이 활용됐다. 특히 특정 ‘물체’를 추출하는 기술은 해양과학, 의료 분야에도 활용된다. 메타가 ‘라마’ 등 AI를 통한 수익화에 대한 질문도 나왔다. 팔루리 부사장은 “메타는 근본 기술에 투자하는데 이는 수 십년이 필요하다. 그 결과 데이터센터, 파이토치(PyTorch) 등 혁신 기술을 업계 최초로 소개해왔고 이러한 연구를 통해 일상에서 제품이 사용되도록 해 수익화를 이뤄왔다”며 “AI역시 근본 기술에서 시작해 제품 확장, 수익화로 이어질 것”이라고 밝혔다.

2024.10.10 I 최정희 기자

네카오·구글도 나섰다…딥페이크 성범죄 ‘이렇게’ 차단한다
(사진=게티이미지)[이데일리 최정희 기자] 생성형 인공지능(AI)을 활용해 딥페이크(Deepfake·이미지 합성 기술) 성범죄 영상물을 쉽게 만들 수 있게 됨에 따라 이를 차단하기 위한 노력들도 강화되고 있다. 네이버, 카카오 등에선 ‘딥페이크’가 검색되는데 제한을 두고 있고 구글은 AI를 활용해 만들어진 이미지, 동영상 등에 눈에 보이지 않는 워터마크를 삽입하고 있다. 29일 관련 업계에 따르면 네이버는 딥페이크 성범죄물 유포 등 방지를 위해 전일(28일)부터 ‘딥페이크 기술을 이용한 이미지, 영상 등 신고 채널’을 운영하고 있다. ‘딥페이크 제작’이라고 검색하면 ‘딥페이크 기술 접근, 활용함에 있어 공직선거법, 성폭력처벌법 등 법령에 위반되거나 제3자의 권리를 침해하지 않도록 유의해달라’는 문구가 뜨는 등 주의 안내문을 제공하고 있다. 또 딥페이크 검색 결과와 관련 AI 자동 필터링을 통해 불법 콘텐츠에 노출되지 않도록 하고 있다. 출처: 각사카카오는 딥페이크 영상물이 확산되는 것을 막기 위해 사전 조치로 올해 1월부터 한국인터넷자율정책기구(KISO)와 협의해 다음(Daum) 검색에 ‘딥페이크 관련 검색어’를 청소년 보호 검색어로 지정했다. 청소년 보호 검색어로 지정되면 검색 결과를 제한거나 차단하게 된다. 이는 4월 총선을 앞두고 정치와 관련된 딥페이크 유통을 막기 위한 조치였다. 카카오톡도 딥페이크 유통을 최소화하기 위해 모니터링을 강화하고 제재 정책도 시행하고 있다. 오픈채팅, 다음, 카카오 내 공개 게시판 서비스에 딥페이크 유통을 감시하는 모니터링을 실시하고 딥페이크 배포 및 제공 행위에 대해 카카오톡 전체 서비스에 대한 이용을 영구 제한하는 정책을 시행하고 있다. 또 카카오톡은 이달 ‘페이크 시그널’ 기능을 신규 도입해 사칭을 통한 사기 등에 선제 대응하도록 경고 메시지를 전달토록 하고 있다.구글은 AI모델 결과물이 점점 더 정교해지면서 콘텐츠 악용 가능성이 커지고 있어 작년부터 AI로 생성한 이미지, 오디오에 눈에 띄지 않은 비가시성 워터마크를 삽입하는 ‘신스ID(SynthID)’ 기술을 도입했다. 구글은 5월 텍스트, 동영상에도 이를 확대 적용했다. 구글은 ‘책임감있는 생성형 AI툴킷(Responsible Generative AI Toolkit)’을 통해 ‘신스ID’ 텍스트 워터마킹 기술을 오픈소스로 공개할 예정이다. 카카오도 이미지 생성형 모델인 ‘칼로(Karlo)’와 이미지 생성 앱 ‘비 디스커버(B DISCOVER)’에 각각 비가시성 워터마크, 가시성 워터마크를 도입했으나 지난 달 중단했다. 카카오가 준비중인 새로운 AI서비스에 집중하기 위해 기존 서비스를 재정비하는 과정에서 중단했다. 한편 방송통신심의위원회는 전일 딥페이크 성범죄물 삭제·차단이 24시간 이내 이뤄지도록 텔레그램 등 국내외 온라인 플랫폼 업체들과 협의체를 구성했다. 방심위에 따르면 딥페이크 성범죄물 관련 심의요청은 2021년 총 1900여건에서 작년 7200여건, 올 들어 7월말까지 6400여건으로 3년 새 6배 이상 폭증하고 있다. 윤석열 대통령은 제37회 국무회의에서 딥페이크 단속 강화를 지시했다.

2024.08.29 I 최정희 기자

'창과 방패'…AI 위협 막으려면 글로벌 거버넌스 필요
[이데일리 임유경 기자] 생성형 인공지능(AI)으로 제작한 이미지합성조작물(딥페이크)이 전 세계적으로 사회 혼란을 야기하는 위험 요소로 부상했다. 여기에 더해 범용인공지능(AGI) 개발이 본격화하면서 인류를 위협하는 AI의 출현을 걱정하는 목소리도 높아지고 있다. 글로벌 빅테크들과 미디어, 콘텐츠 생산기업 등은 일찌감치 이를 막기 위한 가이드라인 생성에 힘을 합쳐왔다. 동시에 자체 기술도 개발 중이다. 그러나 시각물에 대해서만이라는 한계가 있고, 전 세계적인 AI 거버넌스 합의가 이뤄지지 못한 상황이다. 이에 오는 21일 열리는 ‘AI 서울 정상회의’에 이목이 쏠리고 있다.신스ID가 적용된 경우 구글AI 등 생성형 AI로 만든 이미지를 식별해 낼 수 있다.(이미지=구글 딥마인드)◇C2PA·신스ID 등장했지만…글로벌 AI 거버넌스 합의는 아직딥페이크 위협이 본격화되면서 디지털 콘텐츠 출처와 진위여부 확인을 위해 출범한 C2PA 연합에 참여하는 기업도 늘고 있다. C2PA는 지난 2021년 어도비, 마이크로소프트(MS), 인텔 등이 주도해 만들어졌다. 글로벌 IT 기업에 딥페이크 차단에 대한 책임감을 강화하는 목소리가 커지면서 회원사가 빠르게 늘어 구글, 메타, 틱톡, 오픈AI, 셔터스톡 등 1500여 개 이상의 기업이 참여하고 있다. C2PA 표준 기술인 콘텐츠 인증을 적용하면 타사 플랫폼에서 제작된 AI 콘텐츠에도 AI 생성 라벨을 자동으로 붙일 수 있다. 이달 초 숏폼 플랫폼 틱톡이 회원사 중 처음으로 이 기술을 서비스에 도입했다. AI 생성 라벨은 C2PA의 검증 툴로 분석 가능하다. 사용자는 AI 생성 콘텐츠가 언제, 어디서, 어떻게 제작·편집됐는지 알 수 있게 된다.구글은 연례 기술 콘퍼런스 I/O에서 AI를 활용한 가짜뉴스 생성, 딥페이크를 막기 위해 신스ID(SynthID) 업데이트를 발표했다. 신스ID는 AI가 생성한 콘텐츠에 눈에 보이지 않는 워터마크를 삽입해 높은 정확도로 식별하는 기술이다. 이미지와 오디오에 먼저 적용했는데, 올해부터 텍스트와 동영상까지 확대 적용하기로 했다.오픈AI는 이달 초 자사 이미지 생성 모델 달리(DALL-E)를 공개, 만들어진 이미지를 98.8% 정확도로 식별할 수 있는 도구를 출시했다. 19일 이메일 인터뷰에서 오픈AI는 최근 AGI 위험 대응팀인 ‘슈퍼 얼라인먼트팀’ 해체가 AI 안전을 등한시하는 행보 아니냐고 묻자 “AI 안전 문제를 다루는 안전 시스템팀이 별도로 존재하고 지난 12월 AI의 잠재적 위험을 모니터링, 평가, 예측, 보호할 수 있는 대비(Preparedness) 프레임워크를 출시했다. AI 연구원과 국가 안보 전문가로 구성된 전담 팀도 구성해 운영하고 있다”고 해명했다. 다만 이같은 노력으로도 할루시네이션(환각현상) 등 생성형 AI의 근본적인 특성으로 인해 혼란이 발생하는 부분은 해결하기 어려운 상황이다. 정혜동 한국전자기술연구원(KETI) 융합지능기획단 부단장은 “생성형AI가 기본적으로 추론의 결과로 가장 확률이 높은 답변을 내놓는 방식이라 할루시네이션은 굉장히 풀기 어려운 숙제”라고 짚었다.◇韓주도 AI 서울 정상회의, 거버넌스 합의 이뤄질까이런 가운데 서울에서 ‘AI 서울 정상회의’가 열려 세계의 이목이 쏠린다. 주요국 정상과 글로벌 IT 기업 수장들이 안전·포용·혁신을 기본 원칙으로 한 AI 거버넌스에 합의하는 중대한 이벤트가 될 전망이다.과학기술정보통신부에 따르면 오는 21일, 22일 양일간 ‘AI 서울 정상회의’가 열린다. 지난해 11월 영국 블레츨리 파크에서 처음 개최된 ‘AI 안전성 정상회의’에 이어 두 번째로 개최되는 AI 관련 국제 행사다. 우리 정부는 AI 안전에만 주제를 국한하지 않고 혁신·포용까지 확대해 AI 거버넌스의 3대 목표를 국제사회에 제시할 계획이다.21일 화상 회의로 진행되는 정상세션에는 주요국 정상, 국제기구 수장, 빅테크 대표가 참석할 예정이다. 참석자 명단은 아직 비공개다. 이튿날 대면 행사로 열리는 장관 세션은 19개국 이상의 정부, 산업계, 학계 및 시민사회의 주요 인사들이 참해 ‘AI 안전성 확립 역량 강화’ 와 ‘지속 가능한 AI 발전 촉진’을 주제로 논의를 진행한다. 같은 날 열리는 AI 글로벌 포럼에선 글로벌 AI 거버넌스 구축이 논의를 위한 협력이 논의된다. 제이슨 권 오픈AI 최고전략책임자(CSO), 너태샤 크램턴 마이크로소프트(MS) 최고 AI 책임자(CAIO), 톰 루 구글 딥마인드 부사장, 이상호 카카오 CAIO, 하정우 네이버 AI 이노베이션 센터장 등이 참석할 것으로 전해진다.이번 행사에서 글로벌 빅테크들은 안전한 AI 개발을 위한 자구책을 소개할 것으로 보인다. 구글 딥마인드는 AI 모델의 안전성을 평가하는 프레임워크를 발표할 예정이다. 모델의 지속적인 평가를 통해 AI가 인간을 조종하는 등 중요한 능력 수준에 이르는 것을 조기에 발견하고 적절하게 대처하는 것이 목표다. 딥마인드 블로그에 따르면 모델 훈련에 사용되는 컴퓨팅 파워가 6배 증가하거나 모델이 3개월 동안 미세 조정될 때마다 모델을 재평가한다. 안전한 AI 활용과 혁신 지속 사이 균형을 갖춘 IT 기업들의 합의문이 나올지도 관심이다. 그동안 자율 규제에 초점이 맞춰진 합의는 몇 차례 있었다. 2월 선거에서 기만적 AI 사용을 막자는 뮌헨 기술협약이 대표적이다. 하지만 지나친 규제가 AI 혁신의 발목을 잡지 말아야 한다는 기업들의 공통된 인식이 반영된 합의문은 아직 없었다. 순다르 피차이 구글 CEO는 I/O에서 “혁신을 장려하면서도 피해를 줄이는 방식의 규제를 마련해야 한다”는 입장을 밝히기도 했다.여현덕 KAIST 기술경영전문대학원 교수는 “AI가 스스로 의식을 갖고 인간의 제어를 벗어나는 수준의 AGI 등장에 대해선 많은 학자들이 회의적인 입장”이라며 “지레 과도한 규제를 미리 만들면 전체 AI 연구가 위축될 수밖에 없다”고 조언했다.

2024.05.20 I 임유경 기자

인스타그램에 게시되는 AI 제작 콘텐츠에 '꼬리표' 붙인다
[이데일리 강민구 기자] 다음 달부터 인스타그램, 페이스북, 스레드에 게시되는 인공지능(AI) 생성 콘텐츠에는 ‘특별한’ 꼬리표가 달라붙게 됐다.(자료=메타)메타는 자사 플랫폼에 게시되는 AI 생성 콘텐츠와 조작된 정보에 대처하기 위해 ‘인공지능으로 만들었음(Made with AI)’이라는 워터마크를 부착하기로 했다고 밝혔다.메타는 지난 2월부터 AI 생성 비디오, 오디오, 이미지 콘텐츠를 식별하기 위해 업계 파트너들과 공통 기술 표준을 확립하기 위해 논의해왔다. 그 결과, 5월부터 이같은 라벨을 붙이기로 했다.다만, 콘텐츠가 정책을 위반하지 않는 이상 표현의 자유를 침해하지 않기 위해 라벨만 붙이고 조작된 콘텐츠를 삭제하는 정책은 중단할 예정이다.메타는 “AI를 사용해 사실적인 이미지가 언제 생성되거나 편집됐는지 사람들이 알도록 도울 계획”이라며 “AI 파트너십 등을 통해 업계 동료와도 계속 협력하고 정부, 시민 사회와 대화하며 기술 발전에 따라 대응을 해나가려고 한다”고 설명했다.

2024.04.07 I 강민구 기자

尹대통령도 당한 '딥페이크'…슈퍼 선거의 해 흔드는 최대 변수되나
최근 확산된 윤석열 대통령 딥페이크 영상. 방송통신위원회는 해당 영상을 차단하는 조치를 내렸다.(출처: 틱톡)[이데일리 최정희 기자] 올해는 전 세계 76개국에서 42억명의 유권자가 투표를 하는 ‘슈퍼 선거의 해’이다. 슈퍼 선거의 해에 가장 큰 걸림돌로 ‘딥페이크(Deepfake·실제와 비슷하게 조작된 디지털 영상물)’가 지목되고 있다. 최근 윤석열 대통령도 딥페이크의 표적이 됐다. 윤 대통령의 양심선언이라고 밝힌 영상이 사회관계망서비스(SNS)에서 무차별적으로 유통됐는데 알고보니 짜깁기한 ‘딥페이크’ 영상으로 밝혀졌다. 방송통신심의위원회는 23일 긴급통신소위원회를 열고 해당 영상을 차단하는 조치를 의결했다. 방통위는 해당 영상을 대통령을 이용해 사회적 혼란을 일으키는 국내 ‘첫 딥페이크’물이라고 판단했다. 미국, 튀르키예 등 선거가 있는 나라 곳곳에서도 딥페이크로 몸살을 앓고 있다. 올해는 인공지능(AI)이 유권자에게 영향을 미치고 선거 결과에 영향을 미치는 최초의 선거가 될 것이라는 우려가 나오고 있다. ◇ ‘선거판’ 뒤흔드는 딥페이크4월 10일 총선을 앞둔 상황에서 윤 대통령의 ‘양심고백’ 연설이 틱톡, 메타 등 SNS를 뒤흔들었다. 해당 영상에서 윤 대통령은 “무능하고 부패한 윤석열 정부는 특권과 반칙, 부정과 부패를 일삼았다. 저 윤석열은 상식에서 벗어난 이념에 매달려 대한민국을 망치고 국민을 고통에 빠뜨렸다”고 말한다. 문제는 이 영상이 가짜라는 점이다. 2022년 2월 대선 후보였던 윤 대통령의 TV연설의 장면을 짜깁기한 것이다. 이에 방통위는 해당 영상을 삭제, 유통 금지 조치 등을 내렸다. 김수경 대통령실 대변인은 이와 관련 “허위조작 영상에 강력하게 대응할 방침”이라며 “민주주의의 꽃인 총선을 앞두고 허위 조작 영상이 확대 재생산되지 않도록 우리 사회 전체가 힘을 모으길 기대한다”고 밝혔다. 미국도 11월 대선을 앞두고 딥페이크가 속을 썩이고 있다. 지난달 23일, 뉴햄프셔주 예비선거를 앞두고 조 바이든 미 대통령의 목소리를 흉내 낸 딥페이크 전화가 유권자들에게 걸려온 것이다. 수 천 명의 유권자들은 “11월 선거를 위해 표를 아껴둬라. 이번 투표는 도널드 트럼프를 당선시킬 가능성이 높다”며 투표하지 말라는 바이든 대통령의 전화를 받았다. 이는 텍사스에 본사를 둔 라이프코퍼레이션(Life Corporation)이 대통령 목소리를 모방해 만든 딥페이크 인공지능(AI) 생성 메시지였다. 튀르키예에서 나타난 딥페이크 영상은 딥페이크가 선거에 상당한 영향을 미칠 수 있음을 암시한다. 작년 5월 대선 당시 쿠르드족 분리주의 무장단체 쿠르디스탄노동자당(PKK)이 야당 연합의 케말 클르츠다로을루 후보를 지지하는 영상이 확산됐다. 문제는 선거가 끝난 후에야 이 영상이 가짜임이 드러났다. 클르츠다로을루 후보는 이 영상으로 인해 선거에서 졌다고 토로했다. ◇ ‘가짜’ 표시해도 이미지는 타격딥페이크는 AI가 실제와 구별하기 어려운 가짜 오디오, 사진, 동영상을 생상하는 기술을 말한다. 문제는 선거를 앞두고 가짜 영상이 판을 칠 가능성이 높아지고 있다는 점이다. 무엇보다 슈퍼 선거의 해인 만큼 딥페이크가 선거에 영향을 줄 수 있다는 점이 크게 우려되고 있다. 이에 각국들은 딥페이크 영상을 막기 위해 조치들을 강화하는 분위기다. 딥페이크는 잘만 활용하면 비용 절감, 업무 효율성을 높인다는 강점이 있기 때문에 그 자체가 불법은 아니다. 특히 AI기술 발달과 함께 나타난 현상이기 때문에 미래 기술을 발전시키면서도 부작용을 낮춰는 데 초점이 맞춰지고 있다. 미국에선 작년 10월 딥페이크 영상, 사진, 음향에 의무적으로 워터마크를 부착하는 행정명령을 시행했다. 또 워터마크 표시를 지우는 행위에 대해서도 처벌할 수 있는 조항이 만들어졌다. 유럽연합(EU)도 마찬가지다. 그러나 우리나라는 AI 부작용을 막는 법안 추진 자체가 답보 상태다. 작년 5월 이상헌 더불어민주당 의원이 발의한 AI산출물에 대한 표시를 의무화하는 콘텐츠산업진흥법 개정안이 제출됐지만 계류되고 있다. 문제는 숏츠 등 짧은 영상 컨텐츠가 유행하는 등 이미지 정치가 중요한 상황에서 해당 영상이 이미 가짜라는 것을 알고 있음에도 그 영상이 주는 이미지에서 자유로울 수 있을까에 대한 부분이다. USA투데이에 따르면 크레이그 홀먼, 비영리단체 ‘퍼블릭 씨티즌(Public Citizen)’의 국회의사당 로비스트는 “올해가 AI가 유권자에게 영향을 미치고 선거 결과에 영향을 미치는 최초의 딥페이크 선거 주기가 될 것”이라고 경고했다. 그는 바이든 대통령이 재선에 도전하겠다고 발표한 직후 공화당 전국위원회가 만든 광고를 봤는데 중국이 대만을 폭격하는 장면, 수 천명의 사람들이 국경을 넘어 미국으로 몰려가는 장면 등이 담겨 있었다. 이에 대해 그는 “가짜영상임을 알고 있음에도 시각적으로 그 차이를 구분할 수 없었다”고 밝혔다. AI가 가져올 후폭퐁을 이해하는 등의 교육이 필요해지고 있다는 지적도 나온다.

2024.02.24 I 최정희 기자

[목멱칼럼]AI시대, 오펜하이머의 고뇌
[하민회 이미지21대표·경영 컨설턴트] 세계적인 화제작 ‘오펜하이머’가 관객 200만명을 넘겼다. 원작은 2006년 퓰리처상 수상작인 ‘아메리칸 프로메테우스-로버트 오펜하이머 평전’이다. 인간에게 불을 가져다줬다는 이유로 제우스로부터 쇠사슬에 묶인 채 독수리에게 간을 쪼아 먹히는 형벌을 받은 프로메테우스에 ‘원자폭탄의 아버지’ 로버트 오펜하이머를 빗댓다. 사실 ‘오펜하이머’는 보기 편한 영화는 아니다. 1930~50년대 이념과 전쟁의 격동기 세계정세에 대한 이해와 현대물리학의 태동기에 활동했던 천재물리학자들과 그 업적에 대한 사전 지식이 어느 정도 있어야 러닝타임 3시간이 지루하지 않다. 그럼에도 불구하고 ‘오펜하이머’는 한동안 가슴을 울리는 공감 포인트가 있다. “나는 이제 죽음이요, 세상의 파괴자가 됐다.” 1945년 7월 16일 뉴멕시코에서 원자폭탄의 가공할 파괴력을 확인한 ‘트리니티 실험’ 직후 오펜하이머는 넋나간 표정으로 힌두 경전 바가바드 기타의 한 구절을 중얼거렸다. 인류를 구하고자 개발한 핵무기의 위력을 확인하는 순간 그는 두려움과 후회에 휩싸였다. 이 순간을 말하는 ‘오펜하이머 모멘트’는 새로운 기술로 의도치 않은 결과를 초래하는 것은 과학자에게도 책임이 있다는 의미로 쓰인다. AI 과학계가 요즘을 ‘오펜하이머 모멘트’로 부른다고 한다. AI 과학자의 관점이 맨해튼 프로젝트 당시 과학자 관점과 비슷하기 때문이다. 오펜하이머가 핵무기를 개발하기 위한 ‘맨해튼 프로젝트’에 나선 건 나치보다 먼저 핵폭탄을 개발해야 한다는 위기감 때문이었지만 결국 인류는 지구를 몇 번이고 절멸시킬 수 있을 만큼의 핵폭탄을 품고 살게 됐다. 기술 선도 국가와 빅테크 사이에 팽배한 ‘더 나은 AI를 하루라도 먼저 만들어야 한다’ 는 경쟁적 사고는 오펜하이머의 위기감과 닮았다. AI는 종종 핵무기에 비유된다. AI의 개발속도는 기하급수적인데다 어느 날 인간이 제어할 수 없는 순간이 올지도 모른다. 심지어 그 순간을 인간이 알아채지도 못한다면? ‘오펜하이머’ 개봉일에 미국에서는 백악관과 오픈AI, 구글, 마이크로소프트, 메타, 아마존, 인플렉션, 엔트로픽 등 생성AI 서비스를 개발 중인 빅테크 7개사가 AI 위험관리와 관련된 자율규제 안에 합의했다. 인류에게 실존적 위협이 될 수 있다는 경고를 우려한 조치였다. 합의에 따르면 앞으로 AI가 생성하는 차별적 행위에 대해서는 우선적 연구와 외부감사를 진행하고 사회적인 위험을 조장하거나 국가 안보 문제를 유발하는 인공지능 모델에 대해서는 회사 내외부에서 레드팀을 구성해야 한다. 또 AI로 생성된 오디오, 시각 콘텐츠는 사용자가 식별할 수 있도록 ‘워터마크’를 사용하게 된다. 정치적 실리와 거대 자본의 힘 앞에서 자율적 규제의 효력이 얼마나 될지 회의적으로 보는 일부 시선도 있지만 최소한의 무분별한 행동을 방지하려는 합의라는 점에선 긍정적인 출발이다. 영화 ‘오펜하이머’는 책임에 대한 이야기다. 감독인 크리스토퍼 놀런은 AI 연구자들이 오펜하이머와 비슷하다며 결과를 책임지지 못할 일을 하고 있다고 지적했다. AI 개발은 주로 데이터와 연산에 기반한 인지 능력 증강에 중점을 두고 있다. 상식이나 윤리, 감정적인 측면은 배제된 채 여전히 속수무책이다. 그런 의미에서 AI는 핵무기보다 더 위험할지 모른다. 폭발력을 가시적으로 확인하지 못하는 블랙박스이기 때문이다. 더욱이 AI기술이 교육, 의료, 법률, 자율주행 등 인간의 일상 전반에 광범위하게 사용된다는 점을 감안한다면 잠재된 부작용은 상상 그 이상이다. 기술은 중립적이지만 사용자의 욕망에 휘둘리기 쉽다. 늦기 전에 인류의 공생을 위해 신뢰할 수 있는 AI기술을 공론화하고 준비해야 한다.

2023.08.29 I 송길호 기자

CD 없는 앨범? 위버스 앨범·네모 앨범이 뭐길래
저스트비의 네모 앨범 이미지(사진=네모즈랩)[이데일리 스타in 윤기백 기자] “스마트 앨범을 아시나요?”LP, 카세트테이프, CD를 잇는 차세대 음반으로 ‘스마트 앨범’이 주목받고 있다. 스마트 앨범은 CD 없이도 음악을 들을 수 있는 신개념 앨범이다. CD 대신 포토카드와 인증서 등 최소한의 구성품만 담고, 전용 앱에 정품을 인증하면 음악과 사진 등을 무한대로 즐길 수 있다. 현재 상용화된 스마트 앨범으로는 네모즈랩이 제작한 ‘네모 앨범’, 하이브가 제작한 ‘위버스 앨범’이 대표적이다.◇작지만 풍성한 스마트 앨범 ‘네모 앨범’네모 앨범은 신용카드 크기의 작고 가벼운 외형을 갖췄다. NFC(근거리 무선통신)와 네모 코드라는 디지털 워터마크 코드로 전용 앱 ‘네모즈’(Nemoz)를 통해 앨범을 정품 인증하면 스마트폰에서 음악 콘텐츠를 즐길 수 있다. 부가 기능도 다양하다. 네모 앨범은 글로벌 팬들을 위해 12개 국어로 가사와 앨범 정보를 제공하고, 한국어 발음을 따라 할 수 있도록 다국어 음차(발음)까지 지원한다. 또 앨범에 담긴 음악 외에도 사진, 오디오, 동영상, AR, VR 등 다양한 형태의 콘텐츠도 함께 제공한다. 무엇보다 앨범 발매 이후에도 관련 콘텐츠가 지속적으로 업데이트된다는 점은 네모 앨범만의 장점이다.MCND 네모 앨범 이미지(사진=네모즈랩)기획사 입장에서는 앨범 제작과 유통 비용을 줄일 수 있다는 장점이 있다. CD 앨범에 비해 구성품이 간소하다는 점에서 제작 비용의 부담을 덜 수 있고, 저장매체가 아닌 인쇄물로 분류됨에 따라 관세가 면제돼 배송비 절감 효과도 있다고 네모즈랩 측은 설명했다. 특히 서클차트(구 가온차트), 한터차트의 앨범 판매량에 반영되는 것은 물론, 구성품을 줄여 친환경을 추구한다는 점에서 ESG 가치도 실현했다.네모 앨범으로 신보를 발매하는 아티스트도 점차 늘고 있다. 지난 4월 미니 2집 ‘저스트 비건’을 발매한 그룹 저스트비를 시작으로 MCND, 블리처스, 이보람, 선예 등이 네모 앨범을 발매했다. MCND의 미니 4집 ‘디 어스: 시크릿 미션 챕터2’ 네모 앨범을 구입한 30대 여성 김수지 씨는 “크기도 작고 패키지도 귀여워서 CD 앨범보다 소장하기 더 좋다”며 “외국어로 번역된 가사도 볼 수 있고 발음하는 법도 나와 있어 여러모로 유용하다”고 만족감을 표했다.제이홉 위버스 앨범 이미지(사진=하이브)◇‘다채로운 디자인’ 위버스 앨범도 주목하이브가 제작한 ‘위버스 앨범’도 주목받고 있다. 앞서 ‘네모 앨범’이 NFC 방식으로 정품을 인증한다면, ‘위버스 앨범’은 QR코드를 통해 인증을 한다는 것이 차이점이다. 위버스 앨범은 전용 앱인 ‘위버스 앨범’을 설치한 뒤 QR코드로 정품 인증을 하면 CD 앨범과 동일하게 음원과 디지털 사진 콘텐츠를 즐길 수 있다. 위버스 앨범은 패키지 디자인이 앨범마다 다르다는 게 특징이다. 최근 첫 솔로앨범 ‘잭 인 더 박스’를 발매한 방탄소년단(BTS) 제이홉의 경우 ‘위버스 앨범’ 형태로만 발매했는데, 앨범명을 직관적으로 표현한 ‘박스’ 디자인 패키지로 제작돼 눈길을 끈다. 세븐틴, 프로미스나인의 위버스 앨범은 한 통의 편지를 떠올리게 하는 감각적인 패키지로 발매돼 디자인과 휴대성을 다 잡았다는 평을 받고 있다.세븐틴 위버스 앨범 이미지(사진=하이브)세븐틴의 정규 4집 ‘페이스 더 선’ 위버스 앨범을 구매했다는 20대 여성 심은경 씨는 “집에 CD 플레이어가 없어 앨범을 사도 CD로 음악을 들을 수가 없었다”며 “반면 위버스 앨범은 전용 앱을 설치하면 스마트폰으로 노래를 들을 수 있고, 여러 장을 구매할 경우 필요한 구성품(포토카드)만 얻을 수 있어 좋다”고 말했다.네모 앨범을 개발한 전수진 네모즈랩 대표는 “요즘 K팝 팬들은 앨범을 굿즈처럼 구매하고 있다”며 “시대가 변하고 기술이 발전한 만큼, 소장 가치가 있으면서도 트렌디하게 음악을 즐길 수 있는 법을 선호한다”고 말했다. 이어 “CD 앨범은 유용성이 떨어지고 간편하게 음악을 들을 수 있는 기능을 상실한 지 오래”라며 “CD는 음원밖에 담을 수 없지만, 스마트 앨범은 음원, 영상, 이미지 등을 제약 없이 담을 수 있다는 점에서 앞으로 수요가 폭발적으로 늘어날 것”이라고 전망했다.

2022.08.03 I 윤기백 기자

네이버 AI 스피커의 진화.."연인 목소리로 말하고 내 목소리 알아듣고"

네이버 AI 스피커의 진화.."연인 목소리로 말하고 내 목소리 알아듣고"
[이데일리 김혜미 기자] 네이버(035420)가 연예인은 물론 가족이나 연인 등 지인들의 목소리로 말하는 AI(인공지능) 스피커 서비스를 내놓는다. 네이버는 이른 시일 내에 유명인의 음성합성 서비스부터 선보일 계획이다.4일 네이버는 서울 강남구 역삼동 ‘D2 스타트업 팩토리’에서 기술 포럼을 열어 4시간 분량의 음성 샘플 만으로도 특정인의 목소리를 살려낼 수 있는 합성기를 최초로 만들어냈으며, 조만간 특정인의 목소리 서비스가 이뤄질 것이라고 밝혔다.다만 가족 등 주변인들의 음성 합성 서비스 시기는 구체적으로 정해지지 않았다.기본적으로 기계가 특정인의 목소리를 자연스럽게 흉내내기 위해서는 일정량의 음성 샘플이 필요하다. 보통은 100시간 이상의 분량이 필요한 것으로 알려져있으며 구글의 경우에도 최소 40시간 이상은 돼야 한다는 것이 업계 중론이다.그러나 네이버는 고품질 음원을 지원하는 ‘웨이브넷’과 적은 양의 데이터베이스(DB) 만으로도 학습할 수 있는 ‘ITFTE’ 기술을 결합해 4시간 분량의 음성 샘플 만으로도 특정인의 목소리를 구현할 수 있게 됐다고 설명했다.이 기술은 지난 6월28일 일본에서 열린 ‘라인 컨퍼런스 2018’에서 최초 공개됐다. 당시 발표자로 나선 마스다준 라인주식회사 CSMO(전략마케팅임원)은 직접 4시간 분량의 음성 샘플을 활용, 본인의 목소리로 스피커와 직접 대화를 주고 받는 과정을 시연하기도 했다.마스다준 라인주식회사 CSMO가 지난달 말 라인 컨퍼런스 2018에서 직접 본인의 목소리 음성합성을 시연하는 모습. 네이버 제공음성 샘플은 단순한 글보다는 내용이 풍부하고 다양한 글이 담긴 출판물을 읽는 편이 유사성을 높여준다. 네이버는 궁극적으로 누구나 자유롭게 녹음하고 원하는 곳에 사용할 수 있게 연구를 진행하고 있다.김재민 네이버 클로바 보이스 리더는 “기존에 유명인들의 음성 녹음이 필요했던 부분이라든지 애니메이션 음성 더빙 등 활용할 수 있는 곳이 많다”고 말했다.이는 지난 5월 초 구글이 공개한 ‘구글 듀플렉스’가 국내 기술로도 충분히 구현될 수 있음을 나타내는 것이다. 당시 구글은 AI가 사람을 대신해 음식점에 전화를 걸어 자연스럽게 예약하는 모습을 시연한 바 있다. 구글은 연내 AI 스피커인 구글 홈의 구글 어시스턴트에서 가수 존 레전드의 목소리로 답변해주는 기능을 선보이겠다고 언급하기도 했다.네이버는 이르면 이달 중 실제 인물의 음성 서비스를 선보일 계획이지만 구글 듀플렉스와 동일한 서비스는 서두르지 않고 있다. 한익상 네이버 음성인식 기술 담당 리더는 “내부적으로 검토해보긴 했으나 서비스를 우선 순위에 두고 있지는 않다”고 말했다.네이버는 음성 합성 기술 발달로 인해 발생할 수 있는 윤리적인 문제에 관해서는 ‘워터마크’로 해소할 수 있다고 설명했다. 합성음을 실행하기 전후 알림음으로 음악이나 메시지를 삽입하는 것이다. 구글 듀플렉스가 안내메시지를 사전에 실행하는 것과 같은 방식이다.또는 코덱 형태로 음성파일에 부가정보를 삽입하는 방식의 워터마크도 가능하다.김재민 리더는 “현재 만들고 있는 합성음은 사람이 구분할 수 없을 정도의 성능은 아니다”라면서도 “구분될 수 없을 정도로 정교해질 경우에는 반드시 합성음이라는 사실을 알려주는 형태가 돼야 할 것”이라고 말했다.한편 네이버의 음성인식 및 음성합성 서비스인 ‘클로바 보이스’는 네이버 클로바 스피커와 네이버 뉴스, 파파고, 어학사전 등에 활용되고 있다. 지난 1월 네이버 오디오클립에서 선보인 유인나 오디오북은 배우 유인나의 음성 합성으로 제작돼 화제를 모았다. 네이버는 연내 AI가 목소리 만으로 사용자를 구별하는 ‘화자 인식’ 기능을 함께 도입해 더 정교한 맞춤형 서비스를 제공할 계획이다.유인나 오디오북 이미지. 네이버 제공

2018.07.04 I 김혜미 기자

`NAB 2015 개막`..韓中企, 세계 시장 `노크`
[이데일리 김유성 기자] 한국의 중소 방송장비 업체들이 미국에서 세계 시장의 문을 두드린다. 국내 중소기업 17개사는 13일(현지시간) 미국 라스베이거스에서 개막하는 세계 최대 방송통신 장비 전시회 ‘NAB 2015(National Association of Broadcasters)에 한국관을 꾸려 참석한다. 대한무역투자진흥공사(KOTRA)와 한국방송기술산업협회(KBTA)이 공동으로 운영하는 한국관은 홍보 부스 포함 총 24개 부스로 구성돼 미국과 전세계 각지의 바이어를 맞을 예정이다. 주요 업체들로는 워터마크를 통해 개인정보 보호, 콘텐츠 보안 등의 정보 보안 솔루션을 제공하는 마크애니, 영상장비 제조업체 와이어캠, 슬라이드 캠 등을 선보인 바라본 등이다. 이외에 방송 및 영화 찰영용 ’LED Lite‘를 출시한 알라딘, 기존 광전송장비보다 가격 경쟁력과 휴대성이 우수한 중계용 휴대 광전송장비를 생산하는 오티콤, 방송용 LCD 모니터와 영상 처리기 등을 생산하는 테크웨이브 등이 있다. 박동형 KOTRA 로스앤젤레스(LA) 무역관 관장은 “한국은 미국에 방송장비를 수출하는 주요국중 하나”라며 “독창적인 아이디어와 획기적인 기술을 갖춘 한국산 제품의 미국 진출이 지속적으로 예상돼 수출 지원에 전력을 다하겠다”고 말했다. 1923년 시작된 NAB는 전세계 159개국 1700여개 기업이 참가한다. 관람객 수만 9만4000여명에 이를 것으로 예상된다. 네덜란드 방송 전시회 IBC와 쌍벽을 이룬다. 전시 품목은 디지털 및 초고화질 방송 장비 및 솔루션(제작, 송출, 수신, 라디오, 오디오, 조명 등) 위성방송, 위성방송, 케이블, 셋톱박스, IPTV 장비 등이다. 국내 기업들은 17개 중소기업 외 독립 부스로 참가한 20여개사를 합해 40여개사가 참여했다. KOTRA 관계자는 “올해 전시회에는 생방송 제작 장비와 SNS가 결합된 플랫폼이 많이 출시될 것”이라며 “미래 방송 장비 트랜드를 읽을 수 있는 무대가 될 것”이라고 예상했다.

2015.04.13 I 김유성 기자

동영상 편집앱 ‘키네마스터’ 해외 IT 매거진서 호평 받아
[e-비즈니스팀] 모바일 멀티미디어 SW 전문기업 넥스트리밍(대표 임일택, www.nexstreaming.com)이 출시한 안드로이드 기반의 동영상 편집앱 키네마스터(KineMaster)가 미국 IT매거진서 호평을 받았다.컴퓨터월드(ComputerWorld, www.computerworld.com)는 지난 7일자 안드로이드용 동영상 편집앱 5선(5 Video editing apps for Android) 리뷰 기사에서 키네마스터의 유료버전인 키네마스터 프로에 대해 ‘안드로이드 기반의 가장 강력한 동영상 편집앱’이라고 극찬했다.컴퓨터월드는 키네마스터의 강점이 간단한 동작만으로 세밀하게 동영상을 편집할 수 있는 기능이라고 강조했다. 실제로 키네마스터는 ▲멀티트랙의 타임라인 ▲전문가 편집처럼 보이게 하는 장면전환 효과 ▲화면의 밝기/대비/컬러필터 효과 ▲크레딧 스타일(credit-style) 및 다양한 애니메이션 효과를 넣은 자막지원 ▲오디오트랙, 음성 추가 기능까지 다양하고 강력한 옵션을 탑재했다.또한 3D 화면전환 효과와 다중화면 효과(PiP, Picture in Picture), 손글씨, 스티커, 폰트 선택 등 다양한 스타일 효과를 구현할 수 있다. 동영상에 맞는 다양한 테마를 선택할 수 있고, 빠른 렌더링 기술로 사용자들이 편집과정을 바로 확인할 수 있다. 뿐만 아니라 최대 Full HD(1080p) 해상도로 다양하게 영상을 저장해 SNS로 공유하거나 클라우드로 업로드할 수 있다.키네마스터는 현재 구글 플레이에서 각각 무료와 유료버전을 다운로드할 수 있으며 유료버전인 키네마스터 프로는 동영상 저장 시 워터마크 표시가 없으며 무료버전보다 많은 테마를 제공한다. 자세한 정보는 키네마스터 홈페이지(www.kinemaster.com)와 유튜브 채널(www.youtube.com/kinemasterapp), 페이스북(www.facebook.com/kinemaster)에서 확인할 수 있다.

2014.03.26 I e-비즈니스팀 기자