[기술보고서] 삼성 SDS 인사이트 - ChatGPT로 보는 AI 챗봇의 한계와 미래

 

2022111337 이예빈

 

https://www.samsungsds.com/kr/insights/chatgpt.html?moreCnt=0&backTypeId=&category= 

ChatGPT로 보는 AI 챗봇의 한계와 미래 | 인사이트리포트 | 삼성SDS

 

---

1. ChatGPT는 무엇인가?

ChatGPT는 마이크로소프트, 링크드인 공동 설립자인 리드 호프만과 VC 회사 코슬라 벤처스가 후원하는 연구 회사인 오픈AI 재단이 만들었다. ChatGPT는 사용자와 주고받는 대화에서 인공지능에 따라서 질문에 답하도록 설계된 언어 모델이다. 사용자가 대화를 하듯 챗봇에게 말을 걸면 인공지능이 답을 해준다.

• GPT-3

      GPT-3 데이터베이스와 엔진을 사용하며, 엔진이 분석한 수백만 개의 기사를 습득해 자연어 텍스트에서 개념과 표현 간의 관계뿐 아니라 해당 개념의 의미를 이해할 수 있다. ChatGPT는 2년 전에 출시된 GPT-3을 다듬어 내놓은 결과물이라 볼 수 있다. GPT-3은 새로운 것은 아니지만 오픈AI는 기술이 어떻게 사용되는지, 특히 중요한 것은 인간이 어떻게 수정하는지도 관찰하여 GPT-3가 자가 훈련할 수 있도록 외부 사용자에게 점점 더 개방하고 있다. GPT-3은 인종 차별, 성 차별, 기타 불쾌한 편견, 거짓말, 의도 숨기기, 가짜 뉴스 등 필터와 자기 검열이 부족한 유해한 콘텐츠를 생성했었다. 2019년에는 악의적인 사용을 방지하기 위해 이전 GPT-2 시스템에 대한 공개 액세스를 비활성화했다.

 

2. GPT-3의 한계

2022년, GPT-3를 사용하는 콘텐츠 생성기 중 하나인 카피스미스.AI 도구를 사용해 보았다. 목표는 Computerworld의 모회사 파운드리(Foundry)의 인간 기자나 필자를 보완할 수 있는지를 시험하는 것이었다.

가능한 것 : GPT-3로 카피스미스.AI 테스트에서 좋았던 점은 소셜 프로모션이나 마케팅 자료에 사용할 만한, 제목과 첫 단락으로 이루어진 작은 텍스트 덩어리를 만드는 것이었다.

한계점 : 1) 요약이 너무 압축적이어서 문단을 문장으로 나눌 수 없었고, 중요한 주제나 하위 요소가 없는 지나치게 단순한 글을 써냈다. 원문에 쓰인 용어와 개념이 전문적일수록 카피스미스AI는 창의성을 발휘하지 못했다.

2) 자연스러운 글쓰기의 흐름, 즉 주장과 근거가 있는 스토리텔링도 부족했다.  AI가 학생의 보고서를 대리 작성하는 경우에도 현실성이나 문장 결합도 수준이 낮을 것으로 보인다.

3) 권위자의 인용이 부족하다. 생성된 텍스트의 근거가 되는 소스 자료를 누가 작성했는지에 따라 신뢰성, 전문 지식, 편견 가능성 등을 평가할 수 있다. 오픈AI는 카피스미스 같은 서드파티에 자료를 노출하지 않으므로 결과 텍스트는 잘 알려졌다 해도 신뢰하기가 쉽지 않다.

 

결국 ChatGPT를 사용하여 결과물을 만들어내더라도 결과를 검증할 전문가가 필요할 것이다.

 

3. AI의 미래

ChatGPT는 GPT-3의 프런트엔드일 뿐이다. AI는 아직 더 많은 시스템과 프로세스를 거쳐 계속 진화를 거듭하고 있으며 유용한 역할을 탐색하고 있다. 경우에 따라서는 기업 활동을 개선하고 사이버 공격을 탐지하는 등 방대한 양의 데이터를 믿을 수 없을 정도로 빠르게 분석하여 인간과 기계의 활동을 모두 늘릴 수도 있다. 사이버 공격을 감지하고 많은 기업 활동을 개선하는 것과 같은 경우 사람이 할 수 있는 것보다 더 빠른 대응이 가능하다.