[기술스터디] 대기업들의 이윤 논리에 의해 열리는 AI 시대의 혼돈과 위험성 - 보안뉴스

https://www.boannews.com/media/view.asp?idx=118320 

대기업들의 이윤 논리에 의해 열리는 AI 시대의 혼돈과 위험성

---

 과거 PC 혁명이 일어났을 때 현재의 IT 전문가들은 아마 기저귀도 채 떼지 못하고 있었을 거라고 생각한다. PC라는 기계가 사무실 책상을 천천히 차지하기 시작했을 때를 말하는 것이다. 
 1983년은 메인프레임과 미니컴퓨터라는 이름이 붙은 기술이 테크 분야를 점령하고 있었다. 즉 PC(퍼스널 컴퓨터)라는 것은 기술 분야의 마니아들 중 돈 많은 괴짜들이나 사는 장난감 같은 것이었다. 당시 한 CIO는 “PC가 전혀 필요하지 않다”고 필자와 인터뷰하기도 했었다.

 그런 분위기 속에서도 ‘개인 컴퓨터 기계가 필요하다’고 강력히 주장하는 혁명가들이 있었다. 하지만 대부분의 부서장들과 관리자들은 PC를 ‘파일 캐비넷’이라고 부르며 절대로 허락하지 않았다. 전산 담당자들부터도 골치 아픈 새 기술인 PC를 회사 안으로 들여 일을 늘리고 싶어 하지 않았다.
혁명가들은 쉬이 꺾이지 않았다. 계속해서 새로운 필요를 발굴해 피력했다. 전산 담당자들이 조금씩 꺾이기 시작했다. PC의 맛을 보거나, PC의 필요를 공감하는 사람들이 느리지만 하나씩 늘어났다. PC를 조심스럽게 도입하는 회사들이 생겨났다. 그러자 기업들은 PC 활용에 대한 규칙과 ‘체제’를 강조하기 시작했다. 물론 생전 처음 보는 PC라는 것에 딱 맞는 규칙과 체제가 있을 리 없었다. 그것조차 서서히 맞춰가야 했다. 아직 첫 컴퓨터 바이러스라는 것이 등장하기 전의 일이다.

 당시의 IT 분야 리더들은 자신감 넘치는 모습으로 혁명의 시도들을 마주했다. 열심히 PC가 기업 책상 위로 기어오르지 못하도록 막았다. 하지만 90년대 중반쯤 이미 PC 혁명가들이 승리했다. 남은 사람들은 이제 이 PC라는 물건을 어떻게 다루고 관리해야 하는지를 새롭게 연구하기 시작했다.
 너무나 익숙한 흐름 아닌가? 이미 일반인들은 생성형 인공지능에 놀라워하고 있으며, 자신들의 근무지에 데리고 오고 싶어 한다. 챗GPT로 보고서를 작성하거나 문건을 만드는 게 신나고 즐거우며 효율적이기까지 하다.
 부서장들과 최고 경영진들 역시 생성형 인공지능에 호감 섞인 시선을 보내고 있다. 그러므로 결국 신기술이 이기게 될 것이라는 걸 직감하고 있다. 미리 현재의 워크플로우를 검토하고, 또 업무 과정을 평가하면서 이 인공지능이라는 것을 어떻게 접목시켜야 하는지를 나름대로 알아보는 중이다.

 하지만 CIO들이나 여타 IT 전문가들은 어떤가? 현재까지는 인공지능을 ‘제한된’ 환경과 상황에서 사용하는 것을 강조하고 있다. 테크 프로들의 그런 주장을 이해하지 못할 것은 아니다. 데이터와 보안, 각종 윤리 사회적 문제를 인공지능이 내포하고 있는 것은 분명한 사실이다. 그 외에 우리가 미처 상상하지 못한 위험들이 있을 가능성도 다분하다.
 어느 혁명 때나 그랬듯이 새로운 것이 가져올 위험성에 대해 우려하는 목소리에는 타당성이 들어 있다. 다만 지금 이 시점에 그 우려를 불식시킬 정도로 타당한 ‘제한’이나 ‘제어’ 혹은 ‘가이드라인 설정’의 능력이 우리에게 있는지는 상당히 의문스럽다.

 게다가 1980년대 중반과 지금의 상황은 상당히 다르다. 당시의 빅테크였던 IBM이나 디지털이큅먼트코퍼레이션(Digital Equipment Corp.) 등의 회사들은 PC 시장을 개척하는 데에 있어 상당히 회의적이었다. 지금처럼 너도나도 적극적으로 뛰어들지 않았다는 것이다.
 예를 들어 당시 MS는 도스라는 것을 처음 만들어 PC에 탑재시켜 판매했는데, 이런 PC의 개발에 IBM이 참여했다. 수년 후 빌 게이츠(Bill Gates)는 당시를 회상하며 “IBM이 PC를 보다 복잡하게 만들고 싶어 했다”고 밝힌 바 있다. 사용자의 편의성을 고려한 ‘리셋’ 버튼을 매우 싫어했다는 것이다. 그래서 당시 힘이 없었던 MS는 재부팅을 위해 ‘컨트롤-알트-딜리트’ 버튼을 동시에 누르는 기능을 구현해야만 했다고 한다. 지금으로서는 상상도 못할 일이다.

 지금은 어떤가? 구글, MS, 메타, SAP, 애플 등 이 분야의 큰 손들이 누가 시키지도 않았는데 인공지능을 향상시키기 위해 모든 수단과 방법을 동원하고 있다. 그렇게 했을 때 신규 사용자들을 끌어들일 수 있고, 이를 통해 사업을 확장시키고자 하는 것이다.
 그런데 사실, 그러한 자발적 경쟁 구도가 인공지능을 무섭게 만들고 있다. 인공지능에 대한 이해 없이 인공지능을 규제하려는 것이 실패로 돌아갈 것이라면, 인공지능에 대한 이해 없이 인공지능을 촉진하는 것도 마찬가지로 의도치 않은 결과를 낳게 되는 것 아닐까?

 필자는 인공지능의 안전한 발전에 대해 뭐라도 손을 써보기도 전에 대기업들의 이윤 논리에 의해 인공지능의 시대가 열리게 될 것을 두려워하고 있다. 규제는 그 자체로 아름답다기보다, 규제가 성립되는 다수의 논의 과정과, 규제 설정 후 개정되는 자기 수정의 과정이 있어 아름다운 것이다. 어떤 규제의 노력에도 불구하고 인공지능의 시대가 도래하긴 할 것인데, 그 전에 우리는 충분한 토의를 거치고 질문에 충분히 답을 낼 수 없는 상황이라는 것이다. 그렇게 된다면 그것은 적잖은 혼란을 야기할 것이다.