인공지능의 급격한 발전이 내 삶에 침투하고 있을 수도 있다는 사실을 아는가? 이제 우리는 더는 개인 SNS에조차도 내 사진을 편하게 게시할 수 없는 시대에 살아야 할지도 모른다. 유명 연예인뿐만 아니라 정치인, 심지어는 일반 시민들도 피해를 호소하며 불안에 떨고 있다.

딥페이크란 인공지능(AI)을 이용해 실제처럼 보이는 가짜 이미지를 만들어내는 기술로 처음에는 영화와 엔터테인먼트 분야에서 창의적인 목적으로 활용됐지만, 최근 들어 범죄에 악용되는 사례가 급증하고 있다.

예를 들어 몇 장의 사진만으로 얼굴, 표정, 음성을 합성해 영상을 생성할 수 있는데 이러한 조작된 영상으로 보이스피싱에 악용하거나 음란물을 제작하고 가족과 지인으로 속여 금전을 요구하는 것이다.

경찰이 올해 딥페이크 성범죄 사건 1천94건을 접수·수사해 피의자 573명을 검거했는데 경찰청에 따르면 피의자 573명 중 10대가 463명(80.8%)으로 대다수를 차지했고 이 가운데 촉법소년(10세 이상 14세 미만)은 94명(16.4%)이었다. 특히 청소년들이 심각성을 인지하지 못해 우려를 더하고 있다.

딥페이크 범죄를 예방하기 위해서는 먼저 온라인에서는 각종 개인정보를 공개하는 것을 주의해야 하며 SNS 계정은 비공개로 설정하고 모르는 사람과의 접촉은 신중하게 판단해야 한다. 또, 출처가 불분명한 이메일이나 파일을 열람할 때는 주의해야 하고 강력한 비밀번호를 설정해 안전한 인터넷 사용 습관을 기르는 것이 좋겠다.

무엇보다 피의자들이 딥페이크 범죄를 가볍게 여기지 않도록 법정 제재를 강화하고 명예 훼손과 개인정보 침해에 관한 엄격한 법률을 시행해 방지해야 하며 잠재적 피해자가 될 수 있는 우리 모두가 딥페이크의 위험성에 대해 인지한 후 정보 출처를 확인하고 진위를 판별할 수 있는 능력을 갖추는 교육이 강화된다면 신종 범죄 예방률이 현저히 높아질 것이라 예상된다.

마치 양날의 검과도 같은 인공지능(AI)의 발전. 이러한 예방법과 대처법을 적극적으로 활용해 디지털 사회 신뢰뿐만 아니라 내 옆의 이웃을 신뢰할 수 있는 사회가 오길 기대한다.<김현아·보성경찰서 경무계 행정관>

▶ 디지털 뉴스 콘텐츠 이용규칙보기