정부가 카카오가 개발 중인 인공지능(AI) 비서 서비스 '카나나'의 출시 전 개인정보 보호 강화를 위한 조치를 마련해야 한다는 결론을 내렸다. 이에 따라 카카오는 이용자의 개인정보 발설을 막는 기술적 안전장치를 도입하고, 이용자 대화를 내부 학습에 활용할 경우 별도의 동의를 받기로 했다.

13일 개인정보보호위원회(이하 개인정보위)는 카카오의 AI 비서 서비스 '카나나'에 대한 사전 적정성 검토 결과를 전날 전체회의에서 의결했다고 밝혔다. 

이번 결정은 새로운 서비스 기획·개발 시 개인정보 보호법 준수 여부를 사전에 검토하고, 이를 적정하게 적용할 경우 추후 행정 처분을 면제해주는 '사전적정성 검토제'의 일환으로 이루어졌다. 개인정보위가 해당 제도와 관련해 공개 브리핑을 진행한 것은 이번이 처음이다.

카카오는 지난해 12월 '카나나' 서비스의 개인정보 보호법 준수를 위해 사전 적정성 검토를 신청했다. '카나나'는 대화의 맥락을 이해하고 답변을 제공하는 AI 친구 서비스로, 기존 카카오톡과는 별도로 출시될 예정이다. 

해당 서비스는 다수의 이용자가 참여하는 단체방에서 질문에 답하는 '카나'와, 1대1 대화에서 맥락을 이해하고 반응하는 '나나'로 구성된다. 카카오는 자체 개발한 언어모델(LLM)을 기반으로 서비스를 구축했으며, 보조적으로 미국 오픈AI의 챗GPT 모델을 활용할 계획이다.

개인정보위와 카카오는 사전 검토 과정에서 '카나'와 '나나'가 이용자의 개인정보를 타인에게 발설하지 않도록 기술적 안전장치를 강화하기로 합의했다. 이를 위해 카카오는 대화방 내 데이터를 별도의 데이터베이스에 보관하고, 오픈AI 측에는 저장되지 않도록 조치한다. 

이와 함께 대화 데이터 중 고유식별정보나 계좌·카드번호 등 민감한 정보가 포함될 경우, 카카오의 자체 언어모델에서만 처리하거나 오픈AI가 해당 정보를 식별할 수 없도록 암호화할 방침이다.

오픈AI에서 처리되는 데이터 보호 강화를 위해 위수탁 계약을 체결하며, 해당 계약에는 ▲위탁받은 데이터의 목적 외 사용 금지 ▲오픈AI의 사업목적으로 활용 금지 ▲챗GPT 응답 후 데이터가 오픈AI에 저장되지 않도록 하는 기술적 조치 등이 포함된다.

카카오는 이용자 대화 데이터를 자사 AI 모델의 학습 데이터로 활용할 경우 반드시 이용자의 개별 동의를 받기로 했다. 이용자는 이에 대한 동의를 거부할 수 있으며, 동의를 하지 않을 경우 AI 학습 데이터로 활용되지 않는다. 개인정보 노출 방지를 위해 자동 필터링 시스템을 도입하고, 인적 검토 절차 및 피드백 프로세스를 구축해 이용자 보호도 강화한다.

카카오는 개인정보보호책임자(CPO)를 중심으로 상시 리스크 관리체계를 운영하며, 중대한 리스크에 대한 관리 계획과 실행 내용을 정기적으로 이사회에 보고하기로 했다. 개인정보위는 '카나나' 서비스가 출시된 후에도 이러한 조치가 제대로 이행되는지 점검할 계획이다.

전승재 개인정보위 조사3팀장은 "이번 검토 과정에서 카카오는 개인정보 보호를 위한 여러 안전장치를 개인정보위와 협의하며 구체화했다"며 "모든 보호 조치는 '카나나' 출시 전에 반드시 적용돼야 한다"고 강조했다. 

전 팀장은 이어 "사전적정성 검토제는 기업의 영업비밀 노출 우려로 인해 보도자료만 공개하는 것이 일반적이지만, 카나나의 경우 이용자 안전을 고려한 보호 조치를 마련한 점에서 의미가 있어 브리핑을 진행했다"고 설명했다.

카카오가 AI 비서 서비스 '카나나'의 개인정보 보호 조치를 강화하면서, 향후 이용자의 신뢰 확보 여부가 서비스 성공의 핵심 요소가 될 전망이다.