김종우 서울경제부 부장

구글 “검색 기록, AI 학습 용도로 사용”
업로드 된 이미지·음성→AI가 보는 구조
경쟁 빅테크도 사용자 데이터로 AI 학습
개인정보보호 특화 서비스로 ‘이주’ 인기

구글이 지난달 ‘검색 서비스 설정’ 관리 방식을 ‘업데이트’했다. 구글은 “검색 서비스 기록에 사용자의 설정에 따라 사용자의 상호작용에서 나온 미디어(이미지, 오디오 등)가 포함될 수 있다”면서 “서비스를 제공, 개발, 개선(예: 생성형 AI 모델 학습시키기)하고 인적 검토자의 도움을 받아 구글, 사용자, 일반 대중을 보호하는 용도로도 사용자의 기록을 사용한다”고 밝혔다. 무슨 말일까.

전문가들은 “일반 사용자의 검색 내용이 구글의 AI를 학습시키는 역할을 하는 셈”이라고 분석했다. 구글 렌즈로 이미지를 검색하거나 음성, 영상을 업로드해 구글 서비스를 사용하는 행동이 구글의 자사 AI 학습 자료로 사용된다는 설명이다. 특히 이런 설정은 사용자가 직접 변경하지 않으면 기본적으로 동의하는 구조여서 논란이 되고 있다.

구글의 개인 검색 정보 활용에 대해선 빅테크 기업의 AI 경쟁이 심화된 영향이라는 분석이 나온다. 그동안 온라인 자료나 출판 자료 등을 통해 AI를 학습시켰던 빅테크 기업은 AI 기술력의 차별화를 위해 자사 서비스 이용자가 생산하는 개인 데이터를 사용하기 시작했다. 실제로 페이스북, 인스타그램 등을 운영하는 메타도 개인 사용자의 데이터를 AI 학습에 사용하는 것으로 전해졌다.

아마존의 음성 AI 서비스 알렉사의 경우 ‘음성 녹음 전송 안 함’ 옵션이 제외돼 개인정보 보호 논란이 발생하기도 했다. AP는 아마존 알렉사가 지난해 3월부터 사용자의 음성 녹음을 클라우드에 전송하지 않는 옵션을 삭제했다고 보도했다. 이에 대해 워싱턴포스트는 “아마존의 이런 결정은 데이터의 무분별한 수집을 허용하는 잘못된 방향”이라고 비판했다.

국내에서는 네이버가 AI탭의 대화 내용을 AI 학습에 사용한다. 네이버는 ‘검색 고객센터’의 ‘AI탭 서비스 개인정보 처리 안내’를 통해 “회사는 이용자가 AI탭을 이용하는 과정에서 입력하는 내용(질의, 문서 또는 이미지, 음성, 영상 파일 등)과 서비스에서 생성된 답변(검색 결과, 정보, 자료, 이미지, 음성, 영상 등)을 ‘대화 내용’으로 수집해 서비스 개발·제공 및 향상, 사용 경험과 관심사에 맞는 답변 제공, 인공지능 기술 적용 등에 이용한다”고 밝혔다. 네이버는 “AI탭 ‘대화에서 메모리 저장’ 설정이 활성화된 경우, 메모리에는 이용자가 대화를 통해 직접 입력한 가족구성, 기념일, 관심사, 선호도 등이 포함된다”고 밝혔다.

반면 카카오톡은 대화내용을 AI 학습에 사용하지 않는다고 밝혔다. 카카오톡은 ‘카톡사용 설명서’ Q＆A에서 ‘내(사용자) 대화를 저장해서 보고, 학습하는 데 활용하느냐’는 질문에 대해 “개인 디바이스에 있는 대화 내용만을 이용하며, 이용된 데이터는 기능 제공 목적으로만 활용되고, 저장이나 학습, 제3자에게 제공되지 않는다”고 밝혔다.

일부 빅테크 기업이 사용자의 데이터를 AI 학습에 활용한다는 사실이 드러나면서 일부 사용자들은 개인정보 보호에 특화된 ‘대체 서비스’로 옮겨가는 모습도 보이고 있다. 미국 IT매체인 테크크런치는 개인정보 보호를 내세운 검색엔진 덕덕고(DuckDuckGo) 가입자가 구글의 검색서비스 설정 변경 이후 크게 늘었다고 보도했다. 덕덕고는 검색 기록을 보관하지 않고 광고도 차단해 이용자 개인정보 보호를 강조하는 서비스다. 덕덕고는 자체 AI 서비스도 제공하고 있는데 다른 서비스와 달리 계정을 만들지 않아도 무료로 사용할 수 있고 사용자와의 대화 내용도 30일 내에 자동 삭제된다고 강조한다.

사용자 데이터의 AI 학습에 대해 정부는 규제 완화로 방향을 잡은 모습이다. 개인정보보호위원회는 지난 3일 발표한 ‘제3차 개인정보 보호 기본계획(2027~2029년)에서 “AI 환경을 유연하게 반영하는 개인정보 규율체계로 전환”하겠다면서 “안전조치를 전제로 AI 학습에 불가피한 개인정보 원본 활용을 허용하는 AI 특례를 도입”하는 방침을 밝혔다.

현행 개인정보보호법은 개인정보처리자에 대해 “통계작성, 과학적 연구, 공익적 기록보존 등을 위해 정보 주체의 동의 없이 가명정보를 처리할 수 있다”고 규정하고 있다. AI 학습이 ‘과학적 연구’에 해당한다는 주장이 나오는 가운데 정부가 별도의 AI 특례 도입 의도를 밝히면서 새로운 길을 열어주는 모습이다.

AI 무한 경쟁 시대에 사용자 데이터 활용을 모두 막을 경우 부작용이 크다는 지적도 나온다. 그러나 “개인이 내 정보 활용에 대해 스스로 결정하게 하고, 산출된 가치를 정보주체에게 돌려주는 가치환원 체계 수립·확산”하겠다는 정부의 ‘개인정보 보호 기본계획’ 취지를 지키기 위해서는 사용자의 데이터 통제권과 데이터 사용 보상 방안도 함께 마련돼야 한다는 지적이 나온다.

김종우 기자 kjongwoo@busan.com