DEVOCEAN

■ 연구 내용

본 연구는 생성형 인공지능(Generative AI) 기술을 활용하여 보이스피싱을 (전화 금융 사기) 효과적으로 탐지하는 시스템을 개발하는 것을 목표로 합니다.

생성형 AI 기술을 악용한 보이스피싱 범죄를 탐지하거나 생성형 AI기술을 활용해 다양한 보이스피싱을 탐지하는 방법론을 연구합니다.

이 과정에서 자연어 처리(NLP)와 음성 인식 기술이 중심적으로 사용됩니다.

■ 연구 목적

이 연구는 생성형 AI 기술을 활용하여 보이스 피싱 범죄의 예방에 기여하는 것을 목표로 합니다.

특히, SK텔레콤은 이 기술을 통해 앞으로 발생할 수 있는 생성형 AI를 이용한 보이스 피싱 범죄를 예방하는 데 중점을 두고 있습니다.

이를 위해, 기존의 방법을 넘어서는 새로운 접근 방식을 모색하거나, 기존의 기술을 활용하여 다양하고 정교한 사기 시도를 식별할 수 있는 첨단 기술을 개발하고자 합니다.

■ 활용 계획

개발될 시스템은 SK텔레콤에서 보이스피싱 탐지 및 대응을 하는데에 활용될 수 있습니다.

더 나아가 은행, 금융 기관, 콜센터 등에서 광범위하게 활용될 수 있습니다.

또한, 이 기술은 공공 안전을 위한 다양한 응용 프로그램에도 적용될 수 있습니다.

■ 관련 경험/역량

• 자연어 처리(NLP)와 음성 인식 기술에 대한 이해와 경험

• 생성형 AI에 대한 이해가 높고 최신 기술 동향에 관심이 많으신 분

• 금융 사기와 보이스 피싱에 대한 기본적인 이해

01 멘토 소개

최현상

• GST 미래 R&D Cybersecurity AI개발팀

• 정보보안 전공(박사)

• AI기반 보이스피싱/불법광고/개인정보 탐지 기술 개발

• SKT AI Fellowship 4기 멘토

한상현

• GST 미래 R&D Cybersecurity AI개발팀

• AI기반 보이스피싱 탐지 기술 개발

• SKT AI Fellowship 5기 멘토

윤나은

• GST 미래 R&D Cybersecurity AI개발팀

• AI 기반 보이스피싱 탐지 기술 개발

02 프로젝트 소개

저희는 생성형 AI 기술을 악용한 보이스피싱 범죄를 탐지하거나 생성형 AI기술을 활용해 다양한 보이스피싱을 탐지하는 방법론을 연구하는 과제를 진행하고자 합니다.

1. 생성형 AI 기술을 악용한 보이스피싱 범죄를 탐지

최근 들어, 보이스피싱 범죄자들의 범죄수법이 다양화되고 있는데요.

특히, 생성형 AI를 활용한 보이스피싱 범죄가 문제가 되고 있습니다.

영화 속 얘기 아냐…금융사 직원, 딥페이크에 속아 340억원 송금 | 연합뉴스 - https://m.yna.co.kr/view/AKR20240205050200009

그놈 목소리는 '나'였다…딥보이스로 진화하는 보이스피싱 | 연합뉴스 - https://m.yna.co.kr/view/AKR20240326151200017?input=1195m

︎ 저희는 생성형 AI를 악용한 보이스피싱을 탐지하는 모델을 개발하여 진화하는 보이스피싱 범죄에 대해 선행 기술을 확보하는 것을 목표로 하고 있습니다.

[상세 주제 예시]

• 합성된 음성과 발화 음성에 대한 차이 연구

• Audio deepfake detection 기술 개발 (survey: https://arxiv.org/pdf/2308.14970.pdf)

그 외의 주제도 정말 환영합니다.

2. 보이스피싱 범죄를 생성형 AI기술을 활용하여 탐지

보이스피싱은 가족사칭, 기관사칭, 대출사기, 채용 사칭 등 다양한 유형이 존재하며, 공격자들은 사용자의 관심을 끌기위해 다양한 주제를 피싱 공격에 이용하고 있습니다.

https://www.boannews.com/media/view.asp?idx=127432&page=1&kind=1

︎ 저희는 보이스피싱을 탐지하기 위해 생성형 AI를 활용하여 다양하게 변화하는 보이스피싱 범죄에 대해 대응하는 것을 목표로 하고 있습니다.

[상세 주제 예시]

• LLM 기반 보이스피싱/불법 광고 탐지 기술 개발 (RAG 활용 등)

• 실시간으로 통화 내용을 분석하여 보이스 피싱 시도를 탐지

• 보이스피싱 시나리오 및 음성 데이터 기반으로 모델 학습 후 STT 적용 및 변환된 텍스트를 분석

• 시나리오: 피싱 조직이, 피해자와 통화할 때, 예상되는 상황별 멘트를 정리해 놓은 파일 (예시 링크)

그 외의 주제도 정말 환영합니다.

03 이런 Fellows를 찾아요!

기본 역량

• 자연어 처리(NLP)와 음성 인식 기술에 대한 이해와 경험

• 생성형 AI에 대한 이해가 높고 최신 기술 동향에 관심이 많으신 분

• 금융 사기와 보이스 피싱에 대한 기본적인 이해가 있으신 분

•우대 사항

• 특허 혹은 논문 작성 경험

[FAQ]

Q) 생성형 AI 기술을 이용한 보이스피싱을 탐지하는 기술을 개발하는 과제인가요? 아니면 보이스피싱을 생성형 AI 기술을 이용해서 탐지하는 기술을 개발하는 과제인가요?

A) 두가지 과제 중 하나의 주제에 대해서만 작성해도 좋습니다. 상세 주제 예시 외에도 AI 기술을 활용한 획기적인 연구계획서를 제안해주셔도 좋습니다.

Q) 본 과제에서 어떤 데이터 셋을 활용할 수 있나요? 펠로우에게 현업 데이터셋이 주어지나요?

A) 현업에서 활용 중인 데이터셋을 연구 과제에 필요 시에 제공이 될 수 있습니다. 다만, 데이터를 직접 수집하고 검증하는 과정도 펠로우십 연구에 필수요소로 생각이 됩니다.

따라서 연구계획서 작성 시, 연구과제에 필요한 데이터를 어떻게 수집할 지에 대한 계획이 포함되는 것도 좋습니다.