안전한 개인 정보 보호, 인공지능(AI) 응용 서비스

제목

AI 시대의 개인정보 보호와 안전

개인정보보호위원회는 에이닷 등 인공지능(AI) 응용서비스를 제공하는 4개 사업자에 대한 사전 실태를 점검하여, AI 시대의 개인정보 보호 대책 및 안전하게 개인정보가 활용될 수 있도록 하였다. 

 

- 인공지능(AI) 응용서비스 제공 4개 사업자 : SKT / 스노우 / DeepL / 뷰노

- 개인정보 보호의 취약점을 선제적으로 점검하여 침해위험을 사전에 예방하기 위해 도입된 제도로서 법 위반 사항 발견 시 시정을 권고(「개인정보 보호법」 제63조의2)

 

개인정보위는 지난해 11월부터 국내‧외 주요 AI 서비스를 ① LLM(Large Language Model) 관련 사업자와 ② 응용서비스 제공사업자로 나누어 점검을 진행하였으며, 지난 3월 LLM 관련 사업자에 대해 점검 결과를 발표했다.

 

이번에는 에이닷, 스노우 등 AI를 활용한 응용서비스의 개인정보 처리 과정을 중점적으로 살펴보았고, 그 결과를 소개한다.

 

1. SKT(에이닷) 

에이닷은 통화녹음‧요약 및 실시간 통역 등을 제공하는 서비스이다.

 

통화 녹음‧요약 서비스의 경우 이용자의 기기에서 통화 녹음이 이루어지면, 음성파일이 SKT의 서버에서 텍스트로 변환되고, 이를 다시 MS의 클라우드에서 요약해 이용자에게 전달하는 방식으로 진행된다.

 

그 과정에서 텍스트 파일을 보관하는 시스템 등에 접속기록이 보관되지 않은 사실이 있어, 시스템상 접속기록의 보관‧점검 등 안전조치 의무를 준수하고,

 

아울러 개인정보보호 원칙 등에 비추어 텍스트 파일의 보관 기간 최소화, 비식별 처리의 강화, 서비스 내용에 대해 정보주체들이 명확히 이해할 수 있는 조치를 마련하여 시행할 것을 권고했다.

- 해당 사업자는 점검 기간 동안 국외이전 관련 고지 구체화, 학습데이터 보관 기간 단축 등의 조치를 취한 바 있음

 

2. 스노우

스노우는 생성형 AI 기술을 기반으로 AI 프로필 등 얼굴 사진을 변형한 이미지를 생성해 주는 서비스이다.

 

사전 학습(pre-training)되어 인터넷에 공개된 AI 모델을 이용함에 따라 별도로 학습데이터는 수집하지 않으며, 서비스 이용 과정에서 생성된 이미지 또한 이용자 편의(재다운로드 등)를 위해 일정기간 서버에 보관할 뿐, 다른 목적으로 이용하지는 않고 있다.

 

다만, 스노우가 제공하는 특정 기능 관련해 이미지를 서버로 전송하여 사용‧처리 중이나, 처리방침에는 이용자가 알기 어려운 형태로 공개하고 있고, 이미지 필터링 등을 위한 외부 개발도구(Software Development Kit, SDK)의 안전성을 충실히 검토하지 않은 사실이 확인 되었다.

 

이에 개인정보를 서버로 전송하여 처리하는 경우, 이용자가 이를 쉽게 인지할 수 있도록 하고, 외부 SDK를 사용하여 개인정보를 처리하는 경우, 의도하지 않은 개인정보 처리‧전송 가능성을 점검할 것을 개선권고하였다.

3. DeepL

DeepL은 AI 기반 전 세계 31개 언어를 번역해 주는 서비스로, 공개된 데이터* 및 이용자가 무료 서비스에 입력한 텍스트를 AI 학습데이터로 활용하고 있다.

* 입력된 텍스트만 번역하므로 공개 데이터 학습에 따른 개인정보 생성·노출 등 소지는 없음

 

개인정보위는 DeepL이 이용자가 무료 서비스에 입력한 정보에 대해 AI 학습 및 인적 검토를 진행하면서 이를 명확하게 공개하지 않은 사실을 확인하였으나,

 

점검 과정에서 개인정보위가 지난 3월 발표한 내용*을 바탕으로 개인정보를 입력하지 않도록 입력 화면에 안내하고, 인적 검토 사실을 처리방침에 반영함으로써 별도의 조치를 취할 필요성은 없었다.

* AI 모델 등 개선 목적으로 이용자 입력 데이터에 대한 인적 검토과정을 거치는 경우 이용자에게 관련 사실을 명확하게 고지

 

4. 뷰노

뷰노는 AI 기반 의료영상(X-RAY, CT, MRI 등)·생체신호(심전도 등) 판독·진단을 보조하고 질환(심정지)을 예측하는 프로그램이다.

 

뷰노는 AI 학습에 병원의 기관생명윤리위원회 및 기관데이터심의위원회를 통과한 데이터만 사용하고, 의료기관에서 프로그램에 입력한 의료영상 등의 데이터는 사용하지 않는 것으로 확인되어 AI 학습데이터 수집·처리 관련 보호법 위반 사항은 발견되지 않았다.

(출처:개인정보위원회)