| 가짜뉴스와 챗GPT 길들이기 / 진호림 |
| 2023년 08월 22일(화) 20:08 |
|
지난달에는 스마트폰에서 이용할 수 있는 챗GPT 애플리케이션(앱)이 출시됐다. 언제 어디서나 궁금한 내용을 질문하고 답을 얻을 수 있고, 텍스트뿐만 아니라 음성으로도 질문을 입력할 수 있게 됐다.
챗GPT와 같은 인공지능 언어 모델은 대규모의 텍스트 데이터를 기반으로 학습한다. 여기에는 인터넷에서 수집이 가능한 문서와 웹 페이지, 뉴스 기사, 책, 논문, 블로그 등의 자료들이 활용된다. 챗GPT는 짧은 시간에 수많은 데이터의 특성과 관련된 반복적인 경향이나 규칙을 통해 통계적인 패턴을 파악하고 기억한다. 이를 통해 언어의 구조나 문법, 일반적인 문맥 등을 이해하고 다양한 문장을 생성할 수 있게 된다.
그러나 챗GPT는 데이터의 통계적 패턴과 기억으로 응답을 생성하지만, 해당 데이터의 진실성이나 유효성을 검증하지 못하는 치명적 약점을 가지고 있다. 가짜 뉴스나 잘못된 정보, 편향된 내용 등을 학습 데이터로 제공하면 이를 반영하여 오류가 있는 응답을 생성할 수 있다는 것이다. 누군가가 의도를 갖고 챗GPT가 학습할 내용에 부정확하거나 편향된 정보를 대량으로 제공한다면 사실과 전혀 부합하지 않는 내용을 답으로 제시할 수 있다.
서비스 개시 두 달 만에 월간 사용자 1억 명을 넘어선 챗GPT가 사용자 2억 명의 문턱을 넘어서지 못하고 횡보하고 있다. 그토록 기세가 등등하더니, 이유가 무엇일까? ‘챗GPT가 거짓말을 잘해서’ ‘생각보다 효용성이 떨어져서’ 등등. 다양한 이유가 있을 수 있다. 그러나 이런 것보다 더 근원적인 이유를 들여다보고 대책을 마련해야 할 때다.
포털을 통한 기업이나 브랜드, 정치인의 평판관리는 오래전부터 중요한 활동으로 인식됐다. 평판관리는 기업이나 개인의 이미지를 형성하고 관리해 공식적인 매체나 소셜 미디어 등을 통해 대중에게 긍정적인 인상을 남길 수 있기 때문이다. 부정적인 기사나 댓글에 반박하거나 정확한 정보를 제공하고, 긍정적인 리뷰에는 감사를 표시하고, 부정적인 리뷰에 대해서는 문제를 해결하고 개선점을 찾는 노력이 그것이다.
악의적인 평판관리의 사례들은 신뢰를 무너뜨리고 불공정한 경쟁을 일으킬 수 있다. 그렇다면 챗GPT는 악의적인 평판관리로부터 안전할까? openAI는 챗GPT를 직접 관리하는 것은 불가능하다고 말한다. 챗GPT는 머신 러닝 기술을 통해 학습된 모델로, 사용자의 입력에 대해 미리 학습된 데이터를 기반으로 응답을 생성하기 때문이다. 따라서 챗GPT 자체를 직접적으로 관리하거나 제어하는 것은 불가능하다는 주장이다.
다행히 챗GPT는 2021년 9월 기준으로 학습되었기 때문에 최신 정보에 대해서는 제한적이다. 그러나 GPT 기반의 애플리케이션과 시스템은 지속해서 업데이트가 이루어질 수 있다. 이 업데이트는 더 많은 데이터를 추가하거나 최신 정보를 반영하는 데 사용될 수 있다. 가짜뉴스나 정확하지 않은 정보가 지속해서 제공된다면 어떻게 될까? 챗GPT는 잘못된 데이터를 통해 새로운 통계적 패턴을 파악하고 기억하여 전혀 엉뚱한 정보를 생성할 수 있게 될 것이다.
챗GPT는 분명 유용한 도구임에 틀림이 없다. 그러나 챗GPT로부터 얻은 정보가 믿을만한 정보인지, 사실에 기반한 내용인지, 필요에 따라 추가적인 검색과 확인을 해야 한다면, 인공지능 모델의 능력과 한계를 인식하고 모델이 생성한 응답을 서로가 신뢰하지 못한다면, 사용자가 겪어야 할 혼란과 충격은 이루 말할 수 없을 것이다. 사용자가 챗GPT가 제공하는 정보를 비판적으로 받아들여야 하는 번거로움이 없길 바란다.