[기술스터디] 양날의 검 ‘챗GPT’에 베이지 않으려면... AI 보안위협 선제 대응 필요 - 보안뉴스

https://www.boannews.com/media/view.asp?idx=118177 

양날의 검 ‘챗GPT’에 베이지 않으려면... AI 보안위협 선제 대응 필요

 

---

 

‘ChatGPT’는 언어처리 인공지능 모델을 기반으로 하는 대화형 인공지능 서비스다.

ChatGPT의 상위 버전 GPT-4는 미국의 변호사 시험에서 상위 10%의 점수를 받을 만큼 뛰어난 성능을 보였다. ChatGPT를 비롯한 초거대 인공지능 서비스는 글쓰기, 번역, 내용 요약, 소스코드 생성 및 수정 등의 기능을 제공한다. 

  ‘완벽’은 이상적인 개념인 것처럼, ChatGPT에도 한계점이 있다. 2021년까지 학습한 데이터를 근거로 결과를 이끌어내기 때문에 최신 정보를 제공하지 못한다. 또한, 틀린 정보를 사실처럼 대답해 정확성이 떨어진다는 문제가 있다. 혹은 편향된 정보를 제공할 수도 있다.
  그 뿐만 아니라 사이버 공격 및 범죄에 활용될 수 있다는 우려가 이어진다. 실제 해킹 커뮤니티에서 ChatGPT를 활용해 악성 도구를 개발하는 사례가 발견됐다. 사이버 범죄자는 AI 기반 도구를 활용해 빠르게 멀웨어나 랜섬웨어 등 공격용 도구를 발전시킬 수 있다.
  또한, 정보 유출에 대한 문제도 제기된다. ChatGPT에 입력한 정보는 제작사 OpenAI 서버에 저장된다. OpenAI 사에 보안사고가 발생하면 사용자가 입력한 정보가 유출될 수 있다. 심지어 우회 질문을 통해서도 정보가 유출될 수 있으므로 ChatGPT에는 민감한 정보를 입력하지 않도록 주의를 기울여야 한다. 삼성전자 DX(Device eXperience) 측은 회사 내에서 ChatGPT 사용 금지 명령을 내렸다.
  교육계에는 ChatGPT를 사용한 부정행위가 논란이 일었다. 논문·보고서를 작성할 때 ChatGPT를 사용해 문제가 된 것. 이를 우려해 미국 뉴욕시의 관할 학교에서 사용하는 단말기, 네트워크 장비 등에서 ChatGPT 접속 및 사용 금지 조처가 내려졌다. 영국·프랑스·호주·캐나다의 주요 대학에서도 ChatGPT 사용을 제한했다.

 

  한국인터넷진흥원(KISA)가 발간한 ‘KISA Insight, ChatGPT 보안 위협과 시사점’ 보고서에 따르면 발생하는 보안 위협에 선제 대응해야 한다는 주장이 제기된다.
  우선, ChatGPT 안전 활용 지침을 마련하고 소통·협력을 강화해야 한다는 의견이다. 기업 내 ChatGPT를 안전하게 도입하고 부작용을 완화하기 위해 보안사고 정보 공유가 필요하다. 보안 사고가 발생하면 원활한 조사와 협조를 위해 OpenAI와 협력이 필요하다고 설명한다.
  또한, ChatGPT의 잘못된 사용으로 사이버 위협과 개인정보가 유출될 수 있다는 사실을 사람들에게 알려야 한다. 교육을 통해 무분별한 사용을 방지하기 위한 노력이 필요하다. 이와 함께 기술적인 보안 대책 마련이 필요하다.

인공지능 보안의 구체적인 방향성을 잡기 위한 보안정책도 갖춰져야 한다. 더불어 다양한 산업 분야에 안전한 인공지능 모델 및 서비스가 확산될 수 있도록 인증 제도를 도입하는 등 지속적인 지원이 필요하다.