"AI 학습? 이것만 지키세요" 개인정보위, 공개 데이터 처리 안내서 발간

[이데일리 최연두 기자] 개인정보보호위원회가 인공지능(AI) 학습의 핵심 원료인 ‘공개 데이터’ 활용 시 필요한 안전조치를 담은 안내서를 17일 공개했다. 기업이 AI 서비스를 기획, 구상하는 등의 초기 단계에서 실제 도입할 수 있는 기술·관리적 조치를 소개했다는 점에서 의미가 있다는 평가다.

하지만 이번 안내서의 실효성에 의문을 제기하는 시각도 있다. 사업자 입장에서 이 안내서의 안전조치를 잘 이행했다고 하더라도 개인정보 침해사고 조사에서 면죄부를 받기 어려운 데다 현재로선 이렇다 할 인센티브가 없는 상황이기 때문이다.

소프트웨어 코딩 관련 이미지(사진=픽사베이)

개인정보위는 17일 오후 2시 자체 홈페이지에 ‘AI 개발·서비스를 위한 공개된 개인정보 처리 안내서’의 디지털 버전을 공개했다.

이 안내서는 개인정보보호법 제15조의 ‘정당한 이익’ 관련 조항에 따라 공개 데이터가 AI 학습과 서비스 개발에 활용될 수 있다는 점을 분명히 했다. 공개 데이터는 커먼크롤·위키백과·소셜미디어·블로그·웹사이트 등 누구나 볼 수 있는 온라인 공간에서 끌어모은 정보를 말한다. 생성형 AI 모델을 고도화하는 데 쓰이는 필수 학습 데이터로 꼽힌다.

그간 AI 업체들은 현행 보호법 상 공개 데이터 활용에 대한 명확한 기준이 없어 골머리를 앓아 왔다. 공개 데이터에는 주소나 고유식별 번호, 신용카드 번호 등의 개인정보가 포함되는 경우가 많은데, 이를 대규모로 처리하는 과정에서 정보주체의 개별적 동의를 얻기가 쉽지 않아서다. 자칫 서비스 상용 이후에 개인정보 문제가 생길까 우려해 미흡한 데이터로 AI를 학습하는 사례가 부지기수였다.

개인정보위는 이번 안내서를 통해 기업이 참고할 수 있는 최소한의 AI 안전조치 기준을 제시했다고 강조했다. 태현수 개인정보위 데이터안전정책과장 겸 AI프라이버시팀장은 지난 15일 사전 브리핑에서 “AI 학습 관점에서 공개 데이터 활용의 목적을 명확히하고 정보주체의 이익을 균형 있게 반영할 수 있는 통로를 마련했다”고 말했다.

안내서는 공개 데이터 처리 시 필요한 기술·관리적 안전조치와 정보주체 권리보장 방안을 구체적으로 담았다. 개발 실무 단계에서 적용 가능한 기술 안전조치에는 △학습 데이터 수집 출처 검증 △개인정보 유·노출 방지 △미세조정을 통한 안전장치 추가 △프롬프트 및 출력 필터링 적용 등 내용이 포함됐다.

기업들은 이중 취사 선택해 필요한 조치만 이행하면 된다는 게 개인정보위의 설명이다. 태 과장은 “안내서가 제시하는 조치를 모두 이행할 필요는 없다”면서 “기업 특성에 맞게 스스로 자율적으로 결정해 최적의 조합을 찾아 도입, 시행하면 된다”고 강조했다.

별도 인센티브가 없어 안내서가 단순 지침에 그치지 않겠냐고 묻는 기자들에 태 과장은 “가이드라인을 잘 지킨 기업에 직접적으로 인센티브를 주는 경우는 많지 않다”면서 “잘 지키는 기업의 사례를 많이 알리고 그들의 어려움은 개선해주는 방향이 현재로선 최선이지만, 향후 인센티브도 고민을 해보겠다”고 말했다.

안내 사항을 잘 이행해도 법적으로 면죄부가 되지 않는다는 점도 아쉬운 부분이다. 사업자들의 참여를 위해선 관련 부분의 개선이 필요하다는 제언이 나온다. 개인정보위는 이번 안내서를 개인정보 관련 법 개정, AI 기술 발전 추이, 해외 규제 정비 동향 등을 고려해 지속적으로 업데이트할 계획이다.

고학수 개인정보위 위원장은 “이번 안내서를 통해 국민이 신뢰하는 AI·데이터 처리 관행을 기업 스스로 만들어 나가고 이렇게 축적된 모범 사례가 안내서에 지속적으로 반영될 수 있길 기대한다”고 말했다.