[김현정의 IT세상] 늘어나는 사이버 공격, AI가 실마리

[김현정 한국IBM 컨설팅 대표] 이제 사이버 공격은 놀라울 정도로 흔한 일이 되고 있다. 개인에게 일주일에 몇 번씩 오는 스팸 문자는 물론 국가나 기업을 대상으로 사이버 공격의 강도와 빈도도 폭발적으로 증가하고 있다. 특히 비즈니스 환경에서는 인공지능(AI), 디지털화 등으로 인해 데이터에 대한 의존도가 지속적으로 높아지고 사내 서버, 클라우드 등 인프라 환경은 점차 복잡해지고 있어 모든 데이터를 추적, 관리하기 어렵다. 이에 비해 사이버 보안 전문가는 10년이 넘는 기간 동안 전 세계적으로 기근을 맞이하고 있다. 공격할 수 있는 ‘문’은 계속 많아지는데 ‘문지기’는 충분하지 않은 상황인 것이다.

이 여파로 기업의 데이터 유출로 인한 재정적 피해는 사상 최고치를 기록했다. IBM이 최근 발표한 2024 데이터 유출 비용 보고서에 따르면, 데이터 유출로 인한 사고 한 건당 평균 비용은 488만달러로 작년보다 10% 증가해 팬데믹 이후 연간 최고치를 기록했다. 무려 70%의 기업이 상당한 혹은 매우 심각한 장애를 겪었다.

이는 비단 기업만의 일이 아니라 소비자들에게도 영향을 미친다. 보안 침해로 인해 상품이나 서비스 가격을 인상할 것이라고 응답한 기업이 3분의 2에 육박하며 데이터 유출 비용이 소비자에게 고스란히 전가되고 있는 것으로 나타났기 때문이다.

다행히 앞으로의 전망이 부정적이지만은 않다. AI가 해결사로 등장하고 있는 것이다. 실제 AI나 머신러닝을 통해 파악한 인사이트가 평균 데이터 유출 비용을 줄이는 2위 요인으로 조사됐다. 전 세계적으로 67%의 기업이 현재 보안 AI와 자동화를 도입하고 있다. AI와 자동화를 보안 분야에 광범위하게 적용한 기업은 그렇지 않은 기업에 비해 평균 220만 달러의 침해 비용을 절감했다. 또 평균적으로 98일 더 빨리 사고를 탐지하고 통제할 수 있었다. 즉 첨단 기술을 발 빠르게 도입하는 기업과 그렇지 않은 기업 간 보안 성과에 대한 격차가 점점 더 커지고 있는 것이다.

물론 AI는 양날의 검 측면도 있다. 기업 전반에 걸쳐 차세대 AI 모델과 타사 애플리케이션을 채택하고 서비스형 소프트웨어(SaaS) 애플리케이션 사용이 증가하면서 공격할 수 있는 ‘공격 표면’이 확장된 것이다. 특히 생성형 AI의 경우 일반적인 비즈니스 환경에서의 위험뿐 아니라 ‘섀도 모델’이라는 문제도 만나게 된다. 민감한 AI 학습 데이터를 보호하고 승인되지 않은 AI 모델 또는 섀도 AI 모델의 사용과 AI 오용 또는 데이터 유출에 대한 가시성을 확보해야 하는 등 생성형 AI로 인해 새롭게 관리해야 하는 부분들이 생겨난다.

이와 같은 급격한 환경의 변화로 앞으로 기업은 보안 대응 전략을 재평가해야 할 수밖에 없다. 기업이 앞서 나가기 위해서는 새로운 AI 기반 보안에 투자하면서도 생성형 AI로 인해 발생하는 위험과 변화에 대응하는 데 필요한 기술을 개발해야 한다.

데이터 유출에 대한 취약성을 제거하기 위한 만병통치약이나 정형화된 방법은 없다. 첨단 기술을 구현하고, 더 강력한 데이터 보안 정책을 수립하며, 최고 경영진부터 인사 및 마케팅 부서에 이르기까지 직원을 교육하는 조치를 한다면 보안 역량을 끌어올릴 수 있을 것이다. 단 이 모든 것은 한순간에 이뤄지는 것이 아닌 장기전이다. 우스갯소리로 늦었다 생각할 때가 진짜 늦었다는 말이 있듯이 보안은 1분 1초라도 빨리 시작할 것을 당부한다.