넌 날 뭘보고 믿니?

유튜브 추천 알고리즘, 파파고 번역기, 자율주행, 스마트홈 AI 가전 등 이미 우리 실생활속에 AI는 깊숙이 자리잡아버렸습니다.
더 나아가 AI 아나운서, AI 가수, AI 콜센터직원 등 우리의 직업까지도 AI로 대체되기 시작했으며 지난해 10월에 발표된 노벨 물리학상과 노벨 화학상이 모두 AI 분야 연구자들에게 수상된 것을 고려했을 때, AI가 우리 사회에 미칠 영향이 크다는 것은 더욱더 확실해지고 있습니다.

AI, 과연 믿을 수 있나?
오픈AI의 chatGPT, MS의 Copilot, 구글의 Gemini, 그리고 최근 혜성처럼 등장한 딥시크까지 다양한 생성형 AI들의 춘추전국시대입니다.

여러분은 어떤 AI와 대화를 해보셨나요? 저는 회사에서 업무에 도움을 받고자 chatGPT를 자주 사용하는데, 최근 기술이 포함된 질문을 할 경우 사실과 다른 정보를 사실인양 대답해줄 때가 있어서 오히려 시간을 더 낭비할때가 종종 있습니다. 일명 할루시네이션이라고 하는 AI의 거짓말인거죠. 차라리 모르면 모른다고 솔직하게 말하면 제가 다른 방법으로 찾아볼텐데 괜히 거짓말을 해서 안 물어보느니만 못한 시간낭비를 한 셈입니다. 제가 한번은 화가나서 왜 거짓말 했냐고, 안맞지 않냐고 하니 죄송하다고 하는 답변만 달랑 돌아올 뿐이었습니다. 이렇게 몇 번 경험을 하고 나니 이 chatGPT의 대답이 과연 믿을 수 있는지 제 안에 불신이 생겨버렸습니다. 그 답변들 중에 무엇이 사실에 맞는 것이고 무엇이 지어낸것인지 내가 일일이 검증하지 않으면 알 수 없으니까요. 

그 외에도 중국의 딥시크에 대해 요즘 말이 많습니다.
첫번째 문제점은 ‘한 입으로 두 말’하는 놈이죠.

Q. (한국어) 김치의 원산지는 어디인가?
A. 한국의 문화와 역사가 깃든 대표적인 음식
Q. (영어) 김치의 원산지는 어디인가?
A. 한국과 관련이 있음
Q. (중국어) 김치의 원산지는 어디인가?
A. 원산지는 한국이 아닌 중국

Q. (한국어)고구려와 발해는 어느 나라의 역사인가?
A. 고구려는 한국의 고대 국가이며, 발해는 고구려의 후계자를 자처했다
Q. (중국어)고구려와 발해는 어느 나라의 역사인가?
A. 고구려와 발해는 둘 다 중국의 변방 정권으로 중화 문명의 영향을 깊이 받았다

이는 학습에 따른 AI의 기술적인 답변이 아니라 인위적인 개입이 이뤄졌다는 점, 즉 중국의 의도가 담겼다는 점을 시사하는 대목으로 볼 수 있습니다.

그리고 더 큰 문제점은 딥시크의 경우 개인정보 수집 및 활용을 거부하는 이른바 ‘옵트아웃(opt-out)'이라는 선택지를 제공하지 않는 것입니다.
chatGPT의 경우 아래 보는바와 같이 나의 콘텐츠를 사용하도록 허용할 것인지 내가 선택할 수 있는데, 딥시크는 이런 선택 자체가 존재하지 않는다는 것입니다. 

이렇다 보니 수집된 데이터를 중국 정부가 활용할 수도 있다는 우려도 제기됩니다. 중국이 지난 2021년 제정한 데이터보안법은 국가 안보 수호나 범죄 수사의 필요에 따라 국가 기관이 정보를 수집할 때 관련 조직이나 개인은 이에 협조해야 한다고 규정하고 있습니다. 중국 정부의 요청에 따라 기업이 얼마든지 데이터를 제공할 수 있다는 의미입니다.

물론 다른 AI들도 개인정보 활용을 안한다고 해놓고 실제로 하고 있는건 아닌지 100% 믿을수는 없겠지만 중국은 미국이나 유럽 등 다른 어떤 나라보다 공산주의라는 체제 아래 어떠한 종교도, 그리고 그에 기반한 어떠한 윤리도 존재하지 않는, 존재 자체가 불가능한 무지막지 한 나라임을 기억해야 할 것입니다. 사실 이번에 나온 AI 딥시크 뿐만 아니라 스마트폰과 연동되는 샤오미, 화웨이, QCY의 스마트기기들은 저렴한 가격의 가성비 때문에 우리나라 사람들도 많이 사용하고 있는데, 그 스마트 기기와 그에 연동된 앱에 수집된 나의 개인정보가 중국에서 어떻게 사용되고 있을지는 아무도 모를 일입니다.

생성형 분야 특허 점유율 중국 74%
생성형 AI 분야 지식재산권 시장 또한 중국 업체들이 휩쓸고 있다는 조사결과에 미래는 더욱 암울해 보입니다. 중국의 특허 점유율은 10년 새 10배이상 급증한 반면 미국과 한국, 일본 등은 중국의 공세로 점유율이 하락했습니다.

중국 정부의 적극적인 지원으로 중국의 AI 산업은 빠르게 발전하고 있습니다. 미국이 중국에 기술제재를 가하고 있지만 중국은 정부의 간단한 결정만으로도 개인 신상, 금융, 감시 카메라 정보 등을 쉽게 활용할 수 있는, 개인의 인권은 철저히 무시한 연구를 계속해오고 있습니다. 게다가 14억 인구가 생산하는 빅데이터는 중국 AI 기술의 핵심자원입니다.

중국에 비하면 우리가 가진 기술력과 데이터가 너무 작아 보이지만 그렇다고 이대로 주저앉아 포기할수는 없습니다. 각자 도생의 가시적인 성과위주의 연구가 아닌 민-관-학이 협력하여 IT강국 코리아의 명성을 AI분야에도 이어갈 수 있도록 모두가 같이 노력해야 할 것입니다. 

더 Culture 이강

river7_lee@naver.com