이데일리

뉴스 검색결과 40건

한컴위드-숭실대, AI 가짜 목소리 탐지 기술 공동 개발 협력
[이데일리 임유경 기자] 한컴그룹 계열사 한컴위드(054920)는 숭실대학교 AI보안연구센터(AISRC)와 ‘딥보이스(Deep Voice) 탐지 및 음성 인증 기술’ 공동 연구개발을 위한 산학 협력을 체결했다고 8일 밝혔다.송상엽 한컴위드 대표(왼쪽)와 정수환 숭실대학교 교수가 산학 협력을 체결하고 기념 사진을 찍고 있다.(사진=한컴)인공지능(AI)으로 특정인의 목소리를 정교하게 복제할 수 있는 딥보이스를 악용한 범죄가 확산하고 있는 가운데, 한컴위드는 이번 협력을 통해 딥보이스 탐지 및 음성 인증 기술을 활용한 신규 제품을 단독 또는 결합 형태로 선보일 계획이다. 딥보이스 탐지 및 음성 인증 기술은 보이스피싱과 같은 범죄에 대한 대응 솔루션으로 주목받고 있다.음성 인증 기술은 사용자의 자유 발화를 기반으로 성문 정보를 추출·저장하고, 이후 통화 시 등록된 정보와 비교해 본인 여부를 확인하는 방식이다. 이는 기존의 질문-답변 방식보다 더 빠르고 편리한 인증을 제공한다. AI 기술의 발전으로 음성이 주요 인터페이스로 자리 잡으며, 금융·공공 등 다양한 분야에서 음성 기반 인증 및 식별 기술의 활용이 확대될 것으로 기대된다. 숭실대 AI보안연구센터가 개발한 딥보이스 탐지 시스템은 음성 파일을 입력받아 고급 딥러닝 기술을 활용해 인간 음성과 합성 음성을 구별한다. 또한, 웹·모바일·PC 등 다양한 환경에서 지원되며, 가짜 음성 데이터 세트(ASVspoof 2021 DF)에서 97% 이상의 탐지 성능, 실제 환경에서 수집된 데이터 세트(In-The-Wild)에서 94%의 탐지 성능을 기록했다. 이는 현재 공개된 최고 수준(SOTA, State-of-the-art) 모델보다도 뛰어난 성능이다.송상엽 한컴위드 대표는 “딥보이스 기술이 AI 발전과 함께 더욱 정교해지면서, 진짜와 가짜를 구별할 수 있는 기술의 중요성이 커지고 있다”라며 “높은 보안성과 신뢰성을 갖춘 딥보이스 탐지 및 음성 인증 기술을 통해 보안 시장에서 경쟁력을 확대해 나갈 것”이라고 밝혔다.

2025.04.08 I 임유경 기자

케이뱅크 “AI로 보이스피싱 피해 사전 차단하세요”
서울 을지로 케이뱅크 본사. 사진=케이뱅크 제공[이데일리 김나경 기자] 케이뱅크가 KT와 협력해 AI 기술로 보이스피싱 피해 사전 차단에 적극 나선다.케이뱅크는 31일 KT가 안심통화 앱 후후를 통해 제공하는 ‘AI 보이스피싱 탐지 정보’를 금융권 최초로 금융사기 예방 시스템에 도입한다고 밝혔다. 나날이 지능화되는 보이스피싱으로부터 고객 피해를 예방하고 한층 안전한 금융 서비스 이용 환경을 구축하기 위함이다.AI 보이스피싱 탐지 정보는 AI가 통화 내용을 실시간으로 분석해 보이스피싱 의심 전화를 찾아내 경고하는 서비스다. 안드로이드 스마트폰에서 후후 앱을 설치해 사전 고객 동의를 거치면 이용 통신사와 관계없이 누구나 사용 가능하다.케이뱅크는 자체 금융사기 예방 시스템에 이를 연동했다. 서비스를 이용중인 케이뱅크 고객이 보이스피싱으로 의심되는 통화를 했을 경우 케이뱅크에 보이스 피싱 위험 감지 알림이 자동 전송된다.케이뱅크는 위험 알림을 확인해 해당 고객의 계좌 이체를 일시 지연·차단하거나 필요할 경우 해당 고객에게 직접 연락해 보이스피싱 피해를 사전에 차단할 수 있도록 돕는다.앞으로 케이뱅크는 KT와 협력해 지속적으로 금융사기 예방 시스템을 고도화할 예정이다. 먼저 케이뱅크 고객에게 직접 경고 알림을 자동 전송하는 기능을 상반기중 탑재할 계획이다.실제 보이스피싱 범죄자의 목소리를 학습해 목소리 패턴만으로도 보이스피싱을 탐지하고, 이상 거래 패턴 분석 시스템에 다양한 외부 데이터를 학습시켜 탐지력을 높인다는 방침이다. 나아가 딥보이스(목소리 합성·복제) 등 진화하는 피싱 수법에도 대응할 수 있도록 KT와 협력해 금융사기 예방 시스템을 고도화한다. 케이뱅크 관계자는 “AI 기술을 활용해 보이스피싱 피해를 사전에 막을 수 있는 능동적 예방 시스템을 구축한데 의의가 있다” 며 “AI-Powered Bank로서 케이뱅크 고객이 더 안전한 금융 환경을 누릴 수 있도록 최선을 다하겠다”고 말했다.케이뱅크는 지난 2월 인터넷은행 최초로 금융 특화 프라이빗 대규모 언어모델 (LLM)을 도입하는 등 보안·금융 전문성을 강화에 AI를 활용하고 있다.

2025.03.31 I 김나경 기자

LGU+, ‘안심 지능’으로 AI서비스 차별화…글로벌 진출 ‘정조준’
[이데일리 윤정훈 기자] LG유플러스(032640)가 고객 신뢰를 강조한 ‘안심 지능(Assured intelligence)’을 앞세워 글로벌 시장 진출을 모색한다. 인공지능(AI)·로봇 기술이 고도화하면서 커지는 개인정보 유출과 해킹 등 보안에 대한 우려를 불식시키기 위한 전략이다.MWC25 LG유플러스 부스에서 익시오에 적용될 ‘안티딥보이스’ 기술을 소개하고 있다(사진=LG유플러스)LG유플러스는 경쟁력 있는 AI서비스를 제공하기 위해 ‘안심하고 쓸 수 있는 보안성’이 전제돼야 한다고 판단하고 안심 지능이라는 차별화 전략을 꺼내 들었다.지난달 4일 스페인에서 열린 ‘모바일월드콩그레스(MWC)25’에서 홍범식 LG유플러스 사장은 “소비자의 신뢰를 얻으려면 AI를 안심 지능으로 진화시켜야 한다”며 “2028년까지 AI 사업을 통해 약 3억 달러(약 4300억원) 매출을 달성하는 것을 목표로 하고 있다”고 강조했다.글로벌 진출을 위해 LG유플러스는 MWC25를 통해 구글, 자인그룹과 글로벌 진출을 위한 협업을 체결했다. LG유플러스는 구글과 손잡고 구글의 AI 모델 ‘제미나이’를 활용해 익시오 기능을 고도화하고, 글로벌 진출을 위해 협업할 계획이다. 또한 자인그룹과 함께 자인이 통신 서비스를 제공 중인 중동 국가로 익시오 출시를 타진한다. 그 첫 단계로 LG유플러스는 사우디아라비아에서 통신 서비스를 제공 중인 ‘자인KSA’와 협업해 현지 맞춤형 서비스를 개발하고 이르면 연내 사우디아라비아 현지에 익시오 서비스를 출시할 계획이다. LG유플러스는 이번 MWC25에서 안심 지능이 만들어갈 밝은 미래 모습을 한 눈에 볼 수 있도록 전시장 중앙에 ‘익시퓨처빌리지(ixi-FutureVillage)’를 배치해 AI가 실생활 속 문제를 해결하는 모습을 한 눈에 볼 수 있도록 했다. AI 익시가 탑재된 2족 보행 휴머노이드 로봇 ‘앨리스’가 관람객들에게 퀴즈를 내는 등 직접 소통하며 안심 지능을 체험할 수 있도록 부스를 꾸몄다.안심 지능은 글로벌 최초 온디바이스 기반 AI 에이전트인 ‘익시오’에서 만나볼 수 있다. 작년 11월 출시된 익시오는 △시간 보이스피싱 탐지 △보이는 전화 △전화 대신 받기 △통화 녹음 및 요약 등 기능을 온디바이스 환경에서 제공하는 AI 서비스다.익시오의 핵심 기능은 ‘실시간 보이스피싱 탐지’다. AI가 통화 내용을 분석해 보이스피싱 위험이 있다고 판단할 경우 통화를 종료할 수 있도록 경고해주는 기능이다. 스팸으로 등록된 전화번호가 아닌, 통화 내용을 기반으로 보이스피싱을 탐지하기 때문에 더욱 정교하게 피싱 탐지가 가능하다. 특히 개인정보보호위원회, 과학기술정보통신부, 국립과학수사연구원, 한국인터넷진흥원의 지원을 받아 확보한 보이스피싱 음성 신고 데이터와 서울경창청의 지원을 받아 확보한 실제 보이스피싱 피해 데이터를 AI 학습에 활용해 정확도 높은 서비스를 제공하고 있다.익시오는 대부분 기능을 온디바이스 환경에서 구현했다는 점에서 의미가 크다. 통화 내용을 실시간으로 텍스트로 전환해 주거나, 실시간으로 보이스피싱을 감지하는 등의 기능은 온디바이스 기술을 적용했기 때문에 선보일 수 있는 서비스다. 민감할 수 있는 개인정보, 통화 내용 등 데이터가 서버로 전송되지 않고 고객의 기기 안에서 처리되기 때문에 보안성이 높다.LG유플러스는 익시오를 고도화하기 위해 글로벌 통신사 최초로 개발한 ‘익시가디언’ 기반의 기술을 활용할 계획이다. 익시가디언은 △안티딥보이스 △온디바이스sLM △양자암호(PQC) 등으로 구성된 AI 보안 기술이다.MWC25 LG유플러스 부스에서 관객들이 2족 보행 휴머노이드 로봇 앨리스의 사진을 찍고 있다(사진=LG유플러스)익시오에 적용될 ‘안티딥보이스’는 AI가 생성한 딥페이크 목소리를 찾아내 고객에게 경고하는 기능이다. 기존의 실시간 보이스피싱 탐지 기능과 결합되어 고객의 피싱 및 스미싱 피해를 차단할 예정이다.LG AI연구원과 공동 개발 중인 ‘온디바이스sLM’은 보안 강화를 위한 온디바이스 기술을 고도화하고, 향상된 연산 능력으로 개인화된 서비스를 강화할 계획이다. 또, 국내 통신사 중 유일하게 소프트웨어(SW) 방식의 양자암호 보안기술을 적용해 고객 정보 유출을 완전히 차단할 방침이다.LG유플러스는 내재된 기술을 강화하고 글로벌 빅테크 기업들과 협업을 통해 고객에게 신뢰할 수 있는 AI 기술을 제공하며, 이를 바탕으로 고객 맞춤형 경험을 창출할 계획이다. 궁극적으로는 AI를 통해 세상과 인류에 긍정적인 영향을 미치는 것을 목표로 한다.

2025.03.28 I 윤정훈 기자

LG U+, MWC 2025서 ‘차별적 AI 기술’ 소개...해외진출 교두보 마련

LG U+, MWC 2025서 ‘차별적 AI 기술’ 소개...해외진출 교두보 마련
[이데일리 윤정훈 기자] LG유플러스(032640)가 이달 3일부터 스페인 바르셀로나에서 열린 MWC25를 통해 선보인 AI 기술이 글로벌 통신 업계 관계자들의 주목을 받았다고 밝혔다. LG유플러스 창사 이후 처음으로 선보인 MWC 단독 전시관에는 나흘간 매일 관람객이 몰리며 성황리에 전시를 마쳤다.(사진=LG유플러스)LG유플러스는 글로벌 주요 통신 기업들이 모인 피라 그란 비아(Fira Gran Via) 3홀에 전시관을 마련하고 △가장 안전한 통신 AI를 만들어 주는 보안 기술 브랜드인 ‘익시가디언(ixi-Gardian)’ △통화 녹음 요약을 넘어 고객을 이해하고 선제적으로 제안하는 액셔너블 AI ‘익시오(ixi-O)’ △AI 시대 국내외 기업들의 AX를 지원하기 위한 핵심 인프라 ‘AIDC’ 등 핵심 기술 및 서비스를 선보였다. 특히 LG유플러스의 AI 보안 기술 브랜드인 익시가디언의 효용을 체험할 수 있는 ‘안티딥보이스(Anti-DeepVoice)’ 체험에는 관람객이 몰리며 AI 시대 보안에 대한 관심을 확인했다. 실제로 관람객은 자신의 목소리를 기반으로 합성된 음성을 확인하고 익시오가 AI가 합성한 음성을 감지하는 체험을 하며, 음성 딥페이크의 위험성과 익시오의 보이스피싱 탐지 성능을 체감했다. 전시장 중앙에 위치한 조형물인 ‘익시퓨처빌리지(ixi-FutureVillage)’도 관람객의 관심을 끌었다. 2050년 미래를 배경으로 AI를 통해 고객들의 보다 안전하고 편리해진 일상을 보내는 모습을 보여주는 익시퓨처빌리지는 행사 기간 동안 관람객들의 포토 스팟으로도 인기를 끌었다. 보이지 않는 AI와 통신 기술을 눈으로 볼 수 있도록 구현한 조형물인 만큼, 외국인 관람객들의 호응이 컸다. 이번 MWC를 통해 LG유플러스는 글로벌 선도 사업자들과의 협업을 강화하며 AI기반 서비스의 해외시장 가능성을 확인했다. 우선 LG유플러스는 MWC 기간 중 ‘구글’과 손잡고 익시오 글로벌 진출을 위한 협업을 다졌으며, 중동 통신사업자인 ‘자인그룹’과는 익시오의 중동 시장 진출을 논의하는 등 AI 에이전트 서비스의 해외 시장 진출을 위한 교두보를 확보했다. LG유플러스가 보유한 AI 기술력에 대한 글로벌 통신업계의 관심을 대변하듯 MWC 현장을 찾은 글로벌 통신 업계 주요 인사들도 전시관을 찾았다. 전시 첫 날인 3일에는 유상임 과학기술정보통신부 장관과 김태규 방송통신위원회 부위원장 등 정부 관계자가 LG유플러스 전시관을 찾은 데 이어, 둘째날인 4일에는 삼성전자와 구글 등 글로벌 기업 관계자들이 방문해 익시 기반의 서비스와 솔루션을 살피고 AI가 만드는 밝은 미래 청사진을 확인했다.정혜윤 LG유플러스 마케팅그룹장은 “이번 MWC25 전시를 통해 LG유플러스가 제시하는 안전하고 신뢰할 수 있는 AI 기술과 이를 통해 만들어 갈 밝은 세상에 대한 청사진을 글로벌 통신 업계 관계자들에게 소개할 수 있었다”며 “내년 MWC를 통해서도 한층 더 발전한 인간 중심 AI 기술을 전 세계에 공개할 수 있도록 노력할 계획”이라고 말했다.

2025.03.07 I 윤정훈 기자

LG U+, 양재내성암호 보안 공개...“가장 안전한 AI서비스 할 것”

LG U+, 양재내성암호 보안 공개...“가장 안전한 AI서비스 할 것”
[이데일리 윤정훈 기자] LG유플러스(032640)가 자체 개발한 AI·PQC(양자내성암호) 등 기술을 통해 고객들의 개인정보 유출 및 해킹·피싱 등 피해 예방에 앞장선다. 본격적인 AI 시대에 앞서 완벽한 보안 체계를 갖춘 AI 서비스를 선보임으로써, 글로벌 시장에 차별화된 AI 경쟁력을 소개하겠다는 전략이다.(사진=LG U+)LG유플러스는 다음달 3일 스페인 바르셀로나에서 개막하는 MWC25를 통해 익시오에 적용될 예정인 △안티딥보이스(Anti-DeepVoice) △양자내성암호(PQC) △온디바이스AI(On-Device AI) 등 기술을 공개한다고 25일 밝혔다.과학기술정보통신부가 지난해 진행한 대국민 설문에 따르면 ‘인공지능의 잠재적 위험’에 대해 응답자 중 16.3%는 ‘개인정보 유출’을 꼽았다. AI를 활용한 사이버 범죄나 가짜뉴스 등도 잠재적 위험의 하나다. LG유플러스는 이 같은 문제를 해결하기 위해 AI 서비스에 적용할 수 있는 보안 기술을 개발했다.LG유플러스가 개발한 ‘안티딥보이스’는 AI가 기계로 위조된 음성을 판별할 수 있는 기술이다. 이 기술은 최근 TTS(Text to Speech, 텍스트를 음성으로 변환하는 기술)의 발전으로 특정 인물의 목소리를 빠르게 복제하고 위조하는 것이 쉬워짐에 따라 많은 관심을 받고 있다.LG유플러스는 자체 개발한 TTS 모델을 중심으로 다양한 TTS 기술을 활용해 진짜 사람의 목소리와 AI가 위조한 목소리를 학습시켰다. 이를 통해 AI가 기계가 만든 목소리 내 발음의 미세한 부자연스러움과 음성 주파수 영역에서 비정상적인 패턴 등을 탐지할 수 있도록 구현했다. LG유플러스는 안티딥보이스 기술을 자사의 모바일 AI 에이전트 익시오에 탑재, 보이스피싱 탐지 서비스를 고도화할 예정이다.또한 LG유플러스는 양자내성암호(PQC) 등 보안 기술을 활용해 AI 서비스의 안정성을 한층 강화할 계획이다. PQC는 양자컴퓨터로도 풀수 없는 난제를 기반으로 설계된 암호 기술이다. PQC를 기반으로 선보인 전용회선·VPN·계정관리솔루션(알파키) 등 서비스를 선보인 LG유플러스는 기술 경쟁력을 바탕으로 양자암호 보안 기술을 소프트웨어 형태로 구현하고, 이를 익시오에 탑재할 방침이다. 이를 통해 LG유플러스는 익시오 이용 고객이 스마트폰을 잃어버리더라도 타인이 고객의 정보를 열람할 수 없는 안전한 AI 서비스를 제공할 계획이다.이와 함께 LG유플러스는 ‘온디바이스(On-Device) AI’ 기술도 고도화한다. 클라우드 기반의 AI 서비스의 경우 고객의 개인정보가 서버에 저장되는 탓에 해킹을 통한 정보 유출 우려가 있지만, 온디바이스 AI로 서비스를 구현할 경우 개인 정보가 고객의 디바이스에만 저장돼 안전하게 서비스를 이용할 수 있다. LG유플러스는 온디바이스 AI 기능을 고도화해 익시오에 적용, 고객들의 개인 정보 탈취 우려를 예방할 방침이다.한영섭 LG유플러스 한영섭 AI테크Lab 담당은 “익시오에 차별화된 보안 기술과 솔루션을 적용해 가장 안전한 AI 서비스를 제공하고, 글로벌 시장에 LG유플러스의 차별화된 AI 기술력을 선보일 것”이라며 “향후 보안은 물론 익시오의 편의 기능을 강화해 글로벌 시장에서도 손에 꼽히는 보안성을 갖춘 AI 서비스를 선보일 수 있도록 노력하겠다”고 말했다.한편, LG유플러스는 MWC25를 통해 국내 다양한 보안업계 파트너사와 함께 개발하고 있는 ‘SASE(Se cure Access Service Edge)’도 소개한다. SASE는 네트워크·클라우드 보안부터 보안 관제 기능까지 통합 보안 플랫폼으로, LG유플러스를 비롯해 △모니터랩 △안랩 △시큐아이 △아스트론시큐리티 △싸이버원 △세이퍼존 △제이슨 등 국내 주요 보안 기업이 긴밀하게 협력하고 있다.

2025.02.25 I 윤정훈 기자

KT, 실시간 보이스피싱 의심 전화 탐지 서비스 상용화
[이데일리 임유경 기자]KT(030200)는 인공지능(AI) 기술을 활용해 보이스피싱 의심 전화를 실시간으로 찾아내 경고하는 ‘AI 보이스피싱 탐지·알림서비스’를 상용화했다고 22일 밝혔다.(사진=KT)KT의 AI 보이스피싱 탐지·알림서비스는 AI가 통화 내용을 실시간으로 분석해 보이스피싱 여부를 판단하고, 고객에게 즉시 주의하라고 알려 통화를 차단하도록 한다. 지금까지 사후 피해 복구 중심의 보이스피싱 대응에서 더 나아가 피해를 사전에 막을 수 있도록 한 능동적 보안 솔루션이다.최신 음성인식 및 자연어 처리 기술을 적용해, AI가 보이스피싱 범죄에 자주 쓰이는 특정 키워드나 패턴을 학습하고 더욱 정밀하게 탐지할 수 있도록 개발했다. 또 금융기관 사칭이나 개인정보 요구 등 다양한 유형의 보이스피싱 범죄 수법에 대응할 수 있도록 했다. 상용화에 앞서 약 100여 명의 사내 전문가와 고객이 참여하는 베타 서비스를 진행했고, 여기서 얻은 반응을 통해 안정성을 검증하고 서비스 정확도와 사용자 경험을 더욱 개선할 수 있었다.KT는 이 서비스로 지난해 10월 과학기술정보통신부의 ‘ICT규제샌드박스’에서 실증특례 승인을 받았으며, 올해 2분기에 기존에 특정된 보이스피싱 범죄자의 목소리를 탐지하고 딥보이스(AI로 실제 인물의 목소리를 학습해 복제하는 기술)까지도 판별할 수 있는 국내 최고 수준의 보이스피싱 탐지?알림서비스를 선보이겠다는 계획이다.KT의 AI 보이스피싱 탐지·알림 서비스는 삼성전자 단말 사용자라면 통신사 구분 없이 누구나 ‘후후’ 애플리케이션을 내려받아 설치하고 이용할 수 있다.이병무 KT AX혁신지원본부장(상무)는 “KT의 AICT로 더욱 효과적인 보이스피싱 예방 시스템을 구축해 고객의 피해를 예방하고 안전한 통신 생활에 기여하겠다”고 밝혔다.

2025.01.22 I 임유경 기자

'라온 모바일 시큐리티'로 단 몇 초 만에 '딥페이크 탐지'한다
[이데일리 김범준 기자] IT 보안·인증 플랫폼 기업 라온시큐어(042510)는 누구나 쉽게 인공지능(AI) 기술로 딥페이크를 탐지할 수 있는 기능을 개인용 모바일 백신 앱 ‘라온 모바일 시큐리티’에 탑재했다고 20일 밝혔다.(사진=라온시큐어)라온시큐어는 생성형 AI 기술 고도화에 따른 딥페이크 범죄 근절에 동참하고자 이번 탐지 기술을 개발했다. 딥페이크 탐지 기술을 통해 누구나 특정인에 대한 명예 훼손과 가짜 정보로 인한 사회 혼란을 예방하는 데 기여할 수 있고, 개인과 기업의 자산과 정보 편취로부터 사전에 대응할 수 있다는 설명이다.라온 모바일 시큐리티는 AI 기반 스미싱 및 악성앱 탐지, 해킹 방지 등을 제공하는 개인용 모바일 백신 앱이다. 라온시큐어는 이 앱에 자체 개발한 AI 기반 딥페이크 탐지 기능을 추가했다. 이용자들은 라온 모바일 시큐리티에 스마트폰에 저장된 동영상이나 이미지, 유튜브 링크 등을 업로드 하면 해당 콘텐츠가 생성형 AI로 조작된 딥페이크일 가능성이 얼마나 높은지 몇 초 만에 알 수 있다.라온 모바일 시큐리티에 탑재된 딥페이크 탐지 기술은 합성된 얼굴과 실제 얼굴을 상호 비교해 분류하도록 학습된 AI가 안면 추출, 주파수 계열 변환 등 기술을 이용한다. 이를 통해 얼굴 형태 및 눈·입모양의 부자연스러움을 찾아내는 여러 모델을 사용해 높은 정확도로 딥페이크 가능성을 계산한다. 라온시큐어는 추후 실시간 딥페이크 탐지 서비스도 라온 모바일 시큐리티에 추가할 계획이다. 이를 통해 영상통화 시에도 상대방이 조작된 얼굴로 지인을 사칭하는지 실시간으로 탐지할 수 있게 된다. 현재 라온 모바일 시큐리티는 딥페이크 탐지 기능을 포함해 무료로 이용할 수 있으며, 향후 더욱 고도화된 유료 딥페이크 탐지 기능도 제공할 예정이다.라온시큐어는 자사 딥페이크 탐지 기술을 기업용 응용 프로그래밍 인터페이스(API) 서비스로도 제공할 예정이다. 아울러 목소리로 타인을 사칭하는 딥보이스 탐지 기술도 개발하고 있다.향후 금융·공공기관, 이동통신사를 비롯해 다양한 기업에 딥페이크 및 딥보이스 기술을 제공해 임직원이나 고객 사칭으로 인한 기업의 피해와 고객의 피해를 방지할 수 있도록 할 방침이다. 또한 기업들이 라온시큐어의 기술을 통해 딥페이크 생성물을 구별해 내 AI 생성물 표시 의무화 규정을 지킬 수 있게 할 계획이다.이정아 라온시큐어 대표는 “심각한 딥페이크 범죄 대응이 절실한 사회, 정보자산과 고객보호가 절실한 고객사들의 필요에 부응하기 위해 딥페이크 탐지 기술을 개발했다”며 “라온 모바일 시큐리티를 통한 딥페이크 탐지 기술 제공을 시작으로 딥보이스 탐지, 실시간 탐지 등 기술 고도화를 지속해 범죄 예방과 고객사들의 경쟁력 강화에 기여할 것”이라고 말헸다.

2025.01.20 I 김범준 기자

"범죄만큼 수사기관도 진화"…범죄 예방 지원 나선 AI스타트업계
[이데일리 김세연 기자] ‘실종된 자녀, 도망간 범죄자, 길을 잃은 치매 노인.’찾고 싶은 사람의 인상착의만 입력해도 그 사람을 비추는 CC(폐쇄회로)TV 화면을 불과 몇 초만에 찾을 수 있다. ‘파란색 후드티를 입은 남자가 넘어지는 모습’이라고 입력하면 방대한 양의 영상 중 파란색 후드티를 입은 남성이 비틀거리다 넘어지는 약 10초 분량의 영상이 추출됐다. 영상 이해 초거대 인공지능(AI) 개발 기업 트웰브랩스의 ‘마렝고’ 기술이다.기사 내용과 무관함.(사진=게티이미지)◇다크웹·음성피해 조사 등 경찰과 협업 강화AI 적용범위가 지속 확대하는 가운데 AI 스타트업 기술이 범죄예방에도 적극 활용되고 있다.23일 관련업계에 따르면 최근 딥페이크 악용 사례부터 AI 기술로 목소리를 변조한 보이스피싱, 가상자산 활용 범죄 등 디지털 범죄가 횡행하면서 트웰브랩스 기술처럼 범죄 예방에 도움을 주는 AI 기술 수요가 높아지고 있다.AI 스타트업 ‘S2W’는 AI기반 다크웹 데이터 분석 기술로 이미 국제형사경찰기구(인터폴)의 사이버 수사에 협조 중이다.지난 2021년에는 사이버 범죄 조직의 비트코인 자금 흐름과 그들의 주 활동 무대인 다크웹(특정 소프트웨어로만 접속이 가능해 추적이 어려운 웹사이트)을 분석해 조직 검거에 일조했다. 이들은 기업 관리자 계정을 탈취하고 내부 서버를 암호화시킨 후 거액의 가상자산을 요구하는 조직으로 정보기술(IT)이 발전함에 따라 등장한 사이버 범죄 조직이었다.국내 수사기관도 예방적 차원의 AI 활용 움직임이 활발하다.화자인식 AI로 유명한 셀바스AI는 AI 음성인식 피해조사 시스템을 위해 경찰청과 5년째 협업 중이다. 서울 중부경찰서에서는 통화 중 특정 단어를 말하면 자동으로 112에 연계해주는 AI 전화 시스템을 만들기 위해 IT 기업과 함께 개발에 착수했다.과학적인 부분에 한해서는 범죄 ‘수사’에도 AI 기술 도입 움직임이 일고 있다.가상 인간 영상을 만드는 스타트업 딥브레인AI는 경찰청과 협력해 최근 딥페이크 자동 탐지 솔루션을 공개했다.정완 경희대 법학전문대학원 교수는 “딥페이크 탐지 기술처럼 과학적 검증만 되면 범죄자도 인정 가능한 기술은 수사에 사용할 수 있다”고 말했다. 가치 판단이 들어가지 않는 영역에서는 AI 기술을 수사에도 적극적으로 활용할 수 있다는 설명이다.◇아직은 보조적 역할…“법적 가이드라인 필요해”전문가들은 AI 기술이 수사 기법으로 확대되려면 법적 가이드라인을 만드는 게 우선이라고 입을 모은다. 범죄 예방 측면에서는 현재 AI 활용이 확대되고 있지만 법률적 기준이 없다보니 수사 기법으로 활용하기엔 어렵다는 게 이들 의견이다.김도우 경남대 경찰행정학과 교수는 “거짓말 탐지기도 신뢰도가 높지만 보조적 역할의 참고 자료로만 쓰인다”고 말했다.정 교수도 “전문가나 실무자들 사이에서 특정 사건에 어떤 법령을 적용해야 하는지를 알려주는 AI 등을 도입하면 좋겠다는 얘기가 나온다”며 “AI 기술을 도입하고 수사의 근거로 삼으려면 법률적 뒷받침이 돼야 한다”고 강조했다. 이어 “법률적 근거가 없으면 AI 기술은 보조적 수단에 그칠 거고 예산 확보 측면에서도 어려울 것”이라고 덧붙였다.

2024.12.23 I 김세연 기자

"딥페이크 범죄 70%는 10대가…법 바꿀 때 됐다"
[이데일리 최연두 기자] 인공지능(AI) 딥페이크가 국내 10대 청소년들 사이에서 성범죄 영상물 제작에 악용되는 사례가 잇따라 발생하자 산학계 전문가들이 머리를 맞댔다. 단순히 기술 발전에 대해 논의할 것이 아니라 사회적 윤리와 법적 규제를 아우르는 균형 잡힌 접근이 필요하다는 제언이다.25일 서울 여의도 국회의원회관에서 열린 ‘사이버 보안성 강화 토론회’ 현장(사진=최연두 기자)25일 서울 여의도 국회의원회관에서 국회 지속가능 성장을 위한 구조개혁 실천포럼(이하 실천포럼)과 한국언론인협회가 공동 주최한 ‘사이버 보안성 강화 토론회’에 모인 전문가들은 딥페이크 기술의 발전 동향과 악용 사례 등을 공유했다.실천포럼은 국민의힘의 고동진 의원과 안철수 의원, 더불어민주당의 이상식 의원 등 세 명의 포럼 공동대표를 주축으로 올해 7월 구성된 초당적 연구 모임이다.주로 청소년 층이 딥페이크 악용 범죄에 가담한다. 경찰청에 따르면, 최근 4년 간 딥페이크 허위 영상물을 만들어 배포해 입건된 10대는 전체 피의자의 70.5%를 차지했다. 이로 인한 피해자 역시 10명 중 6명이 미성년자였다.이날 발제자로 나선 이성엽 고려대 기술경영전문대학원 교수는 “딥페이크 성범죄 영상물에 대한 대처는 정부와 기업, 이용자 모두에게 주어진 시급한 과제로 기술적 보완은 물론 제도적 개선 등 가능한 모든 방법을 동원할 필요가 있다”며 “사업자의 자율규제나 이용자 리터러시 강화 노력과 함께 디지털 윤리 교육 등 학교 차원에서 리터러시 함양 교육이 대폭 강화돼야 한다”고 강조했다.토론 패널로 참석한 장형수 법무법인 동인 변호사도 “딥페이크 범죄 자체가 가해자를 추적하기 어렵기 때문에 플랫폼 운영자들이나 인터넷 이용자들의 협조가 무조건 필요하다”며 힘을 보탰다. 또 허위 영상 유포에 대한 자정 노력의 의무, 유통 방지의 의무 등을 법에 명시하고 형사 제재해야 한다고 강조했다.다만 전문가들은 딥페이크 자체는 부정적인 기술이 아니라는 데 입 모아 동의했다.김재범 한국정보통신기술협회(TTA) 융합보안기술팀장은 “영화나 드라마에서 등장인물의 디에이징(원래 나이보다 더 젊은 시절의 얼굴 표현) 특수 분장이 어려운 분야로 꼽히는데, 이때 딥페이크를 이용하면 콘텐츠 제작이 굉장히 용이해진다”고 짚었다. 이어 “한국의 콘텐츠를 수출할 때 필요한 목소리 더빙에 딥보이스를 활용하면 몰입감이 더 높아진다”고 했다.이날 박현우 라온시큐어 상무는 딥페이크 관련 위협을 피해 사례별로 분류했다. 이어 딥페이크 영상 탐지에도 AI가 쓰인다고 설명하면서 “이러한 기술을 통해 탐지율을 90% 이상 높이는 것이 우리 보안 기술자들이 추진해야 하 부분”이라고 덧붙였다. 한편, 이날 토론회에 앞서 진행된 ‘화이트 햇 공격 콘테스트(WACON) 2024’ 시상식에서는 우수 기업과 공로자에 상장이 수여됐다.국회 실천포럼 대표의원상 공로 부문에는 △(학술)민무홍 성균관대 교수 △(연구)김진욱 법무법인 주원 변호사 △(아티스트) 이연 △(화이트햇 해커) 고려대 이진헌, 카이스트 조정훈 △(유튜브 인플루언서) 박찬후 긱블 대표 등이 수상했다. 최고경영자(CEO) 부문은 정지운 이엠엘 대표, 박시우 팀에이컴퍼니 대표가 각각 수상했다.이외에도 과학기술정보통신부 장관상에 하이시큐어와 휴스테이션, 외교부 장관상에 로이스와 마이렌, 행정안전부 장관상에 엑소스피어 랩스가 이름을 올렸다. 중소벤처기업부 장관상엔 린벤처스와 아타드가, 개인정보보호위원회 위원장상에는 NH농협캐피탈과 코스터가 수상의 영예를 안았다.

2024.11.25 I 최연두 기자

SKT, 스팸방지 기술로 'CES 2025' 최고 혁신상 수상
[이데일리 임유경 기자] SK텔레콤(017670)은 내년 1월 미국 라스베이거스에서 개최되는 세계 최대 전자제품박람회인 ‘CES 2025’를 앞두고 발표된 ‘CES 혁신 어워즈’에서 ‘최고 혁신상(Best of Innovation)’을 수상했다고 17일 밝혔다.SK텔레콤이 스팸 방지 기술로 CES2025 사이버보안 분야 최고혁신상을 수상했다.(사진=SKT)SKT는 올해 상용화한 인공지능(AI) 기반 모바일 금융사기 탐지·방지 기술 ‘스캠뱅가드’로 사이버보안(Cybersecurity) 분야에서 ‘최고 혁신상’을 수상했다. 스캠뱅가드는 모바일에서 발생 가능한 다양한 위협을 탐지하고 대응하기 위해 AI 기반의 사이버 위협 정보(TI)를 제공하는 기술이다. 주요 기능으로는 △딥러닝 구조 기반 미끼문자 탐지 및 알림 △AI봇 기반 SNS 사기 방지 △머신러닝 기반 사기전화 패턴 탐지 식별 등이 있다.스캠뱅가드는 지난 10월 상용화된 에이닷 전화의 스팸·보이스피싱 의심 전화 안내 등에 활용되는 것은 물론, 본인인증 서비스 앱인 ‘PASS(패스)’와 ‘채팅+ PC버전’의 스팸필터링 서비스에 활용되고 있다. 또한 SKT는 기업은행과 지난 9월 업무협약(MOU)를 맺고, 금융권 고객보호 강화 솔루션 ‘SurPASS’에도 ‘스캠뱅가드’ 기술을 활용할 예정이다. 실제 스캠뱅가드는 올해 월평균 130만 건 정도의 금융사기 의심 메시지 및 통화를 차단했다.이종민 SKT 미래 R&D 담당은 “고객들의 안전한 모바일 환경을 만들기 위한 SKT의 노력이 CES 최고 혁신상 수상을 통해 인정받게 돼 기쁘다”며 “앞으로도 AI 기반의 다양한 보안 서비스를 개발해 고객들의 소중한 정보와 자산을 스팸 같은 위협으로부터 지키는데 앞장서겠다”고 밝혔다.

2024.11.17 I 임유경 기자

기자 뉴스룸 더보기+