정부, ‘보이스피싱 예방 AI’ 개발 돕는다

SK텔레콤 온디바이스 AI 기반 실시간 보이스피싱 탐지 개념도. ⓒSK텔레콤

보이스피싱 예방을 위해 관계기관이 힘을 모았다. 이들은 보이스피싱 통화 데이터 등 실제 데이터를 민간기업에 제공, 보이스피싱 예방 AI 서비스 개발을 적극적으로 지원할 계획이다.

과학기술정보통신부는 금융위원회와 개인정보보호위원회, 금융감독원, 국립과학수사연구원, 한국인터넷진흥원(이하 KISA)은 3일 정부서울청사에서 ‘AI·데이터 기반 보이스피싱 예방을 위한 상호 업무협약’을 체결했다고 3일 밝혔다.

그간 정부는 보이스피싱에 대응해 다양한 AI·데이터 정책을 추진해 왔다. 지난해 11월 관계부처 합동으로 발표된 ‘데이터 경제 활성화 추진과제’에 보이스피싱 확산 방지를 위한 민간의 AI 서비스 개발 지원이 포함됐으며, 지난 4월에는 과기정통부, 금융위, 금감원, 통신·금융협회가 ‘민생침해 금융범죄 대응·협력 강화를 위한 통신·금융부문 간 업무협약’을 체결했다.

이번 협약을 통해 보이스피싱 대응을 위한 협력 체계에 개인정보위, 국과수, KISA까지 포함되면서 기관간 협업의 범위와 깊이가 크게 확장될 전망이다.

구체적으로는 금융당국 및 수사기관이 보유한 실제 보이스피싱 통화 데이터가 보이스피싱 예방 AI를 개발하는 민간 기업에 제공될 수 있도록 협력한다.

통신사 등 민간 기업이 보이스피싱 예방 AI 기술·서비스를 개발할 때 금감원, 국과수 등으로부터 보이스피싱 통화데이터를 제공받아 AI 모델 학습, 성능 테스트 등에 활용할 수 있도록 하는 것이다.

금감원은 보이스피싱 피해자의 신고를 통해 수집한 통화 음성데이터를 과학수사 지원 목적으로 국과수에 지속 제공하고, 국과수는 해당 데이터를 비식별화 등 전처리 등을 거쳐 데이터를 필요로 하는 민간에 제공하는 데이터 공유체계를 구축한다.

개인정보위와 KISA는 데이터 제공·수집·이용 과정 중 발생할 수 있는 개인정보 보호법상 쟁점에 대해 법령해석, 실증특례 등 규제개선 방안 등을 검토해 안전한 데이터 활용을 지원하고, 가명정보 활용 종합컨설팅 지원 사업 등을 통해 데이터 가명처리, 안전조치 이행 과정 등을 지원한다.

과기정통부, 금융위, 개인정보위는 통신·금융업계 협력 기반의 보이스피싱 예방 AI 기술·서비스를 적극적으로 발굴하고, 관련법 저촉사항 없이 추진될 수 있도록 법령해석 및 규제개선 방안을 모색한다.

필요 시 서비스 개발 과정에서 개인정보 법령 준수방안을 개인정보위와 함께 마련하고 사업자가 이를 이행한 경우 개인정보 보호법상 불이익한 처분을 하지 않는 개인정보위 ‘사전적정성 검토제’도 활용한다.

또한 과기정통부, 개인정보위는 혁신적인 보이스피싱 탐지·예방 기술이 개발될 수 있도록 정부주도 기술개발(R&D) 사업을 추진한다. 과기정통부는 관련 전문가와 함께 구체적인 사업을 기획하고 예산을 지원하며, 개인정보위는 연구 과정 중 개인정보 보호법 관련 규제 개선사항을 발굴하고 필요시 실증특례도 추진한다.

이러한 부처간 협업에 따라 SK텔레콤은 보이스피싱 탐지·예방 AI 서비스를 개발한다. 해당 서비스는 통화 문맥을 토대로 보이스피싱 의심 여부를 실시간으로 판별해 본인이나 가족에게 알림을 주는 기능 등을 포함할 예정이다. 이 서비스에는 인간의 언어를 이해하고 통화 문맥을 분석해 상황을 탐지하는 AI 언어모델이 활용된다.

SK텔레콤은 통화 데이터가 서버로 전송되지 않고 단말기 내에서 처리되도록 하는 온디바이스(on-device) AI 기술을 적용해 개인정보보호도 강화한다는 방침이다.

이러한 온디바이스 AI 적용을 위해서는 소형 언어 모델(sLM) 구현이 필요한데, 높은 성능의 소형 언어 모델을 개발하기 위해서는 양질의 데이터가 필수적이다. 이 때문에 SK텔레콤은 그간 금감원, 국과수가 보유한 보이스피싱 통화데이터를 개인정보위, 금감원, 국과수, KISA 등에 요청해왔다.

이에 국과수는 약 2만1000건의 통화데이터를 텍스트로 변환했고, 개인정보위·KISA의 자문을 받아 피해자의 이름, 계좌번호 등 민감한 정보를 안전하게 비식별 처리해 SK텔레콤에 제공하는 방안을 마련했다. 현재 데이터의 가명처리 등이 진행 중이며 6월 중 처리를 완료해 제공할 예정이다.

SK텔레콤은 데이터를 제공받으면 모델 미세 조정(fine tuning)을 통해 성능을 정교화하고 이를 시제품에 담아 검증한 후 서비스를 출시할 예정이다. 또한 향후 지속적으로 데이터를 제공받아 모델 업데이트에 활용한다.

이외에도 최근 개인정보위는 통신사 등 여러 기업으로부터 보이스피싱 예방 AI 서비스 개발과 관련한 검토요청을 받았으며 향후 금융위, 과기정통부 등과 함께 긴밀히 논의할 예정이다.

과기정통부는 2025년 신종 보이스피싱 조기탐지 기술개발(R&D) 사업을 기획·추진 중이며, 개인정보위와 함께 기술개발에 필요한 데이터를 안전하게 활용하는 방안을 논의 중이다.

과기정통부는 “그동안 피해자로부터 신고된 보이스피싱 통화 데이터가 사후적인 수사 목적으로만 활용됐으나 이번 협약을 계기로 사전 예방을 위한 AI 개발에도 활용될 수 있게 됐다”며 “관계기관은 신뢰할 수 있는 개인정보보호 및 정보보안 체계를 갖춘 민간기업 등이 민생범죄 예방을 위한 기술개발을 위해 보이스피싱 통화 데이터를 필요로 하면 적극 개방할 예정”이라고 말했다.