미국 오픈AI, 앤트로픽 등 스타트업이 혁신 주도

인공지능(AI) 기술을 개발하기 위해서 각 나라는 대학, 스타트업, 빅테크 기업을 중심으로 신기술 개발에서 주도권을 갖고자 노력하고 있다. 그중에서도 미국과 중국이 대표적인 기술 개발과 상용화를 주도하고 있다. 미국은 세계 AI 인재의 39%를 보유하고 있는 것으로 알려져 있다. 미국은 구글, 애플, 마이크로소프트(MS), 아마존, 테슬라와 같이 인터넷/디지털 서비스 분야 전 세계 시장에서 독점적 지위를 확보한 빅테크를 내세워 고액의 연봉, 자유로운 연구개발비를 제공하며 인재를 영입 중이고, 이런 인재들은 미국의 풍부한 자본과 만나서 오픈AI, 앤트로픽과 같은 새로운 창업 기업을 만들어 혁신을 주도하고 있다. 세계의 인재를 스탠퍼드, MIT 등 세계적인 대학으로 유치해 최신의 AI를 배우고 연구할 수 있도록 기르고, 그들이 미국에서 딥테크 기술로 서비스를 만들어 세계시장을 확장하면서 발생한 부를 얻을 수 있게 하는 경쟁적인 창업 생태계를 만들고 있다. 이런 인재 영입-교육-기술창업의 선순환 생태계는 AI 기술 경쟁에서도 큰 빛을 발휘하고 있다. 생성모델, 대형언어모델(Large Language Model, LLM) 기술 및 학습 인프라에 관련된 기술은 대부분 미국 대학과 기업들에서 처음 개발되고 기관들이 지식재산권을 갖고 있다고 해도 무방하다. 미국은 더 나아가 초중고에서 AI 기초교육을 가르치며 AI 기술 인력의 저변을 넓히는 방향으로 발전하고 있다.
AI의 응용분야는 인터넷, 자율주행, 제조, 물류 등 여러 가지가 있지만 미국 AI 산업계가 주목하고 있는 분야는 검색 및 추천 플랫폼 및 디지털 업무 환경의 AI화다. LLM이라 불리는 AI 모델은 기존 인터넷 검색 및 추천 서비스가 제공하고 있는 기능 및 인터페이스의 사용성을 현저하게 향상시키고 있고, 미국의 빅테크는 사람의 자연언어를 더 잘 이해하는 이런 기술을 통해 세계에 서비스하는 데 많은 기술 개발 투자를 하고 있다. 구글과 MS 등 빅테크 기업도 각각 바드(Bard)나 코파일럿(Copilot) 등 AI 질의응답, 추천 서비스를 제공하고 있지만 오픈AI, 앤트로픽, 스테이블AI, 미드저니 등 여러 스타트업에도 대대적으로 투자를 하고 있다. 생성형 AI로 질의응답을 제공하고 이미지를 생성하는 서비스를 제공하는 동시에 사업화할 수 있는 비즈니스 모델을 스타트업 생태계에서 공격적으로 찾고 있는 점이 특이하다고 할 수 있겠다. 최근까지는 딥러닝 모델을 통한 이미지, 음성 인식 서비스를 개발하는 것이 주요한 발전 방향이었다고 한다면, 현재는 생성형 AI를 통해서 텍스트, 이미지, 음성을 더 명확하고 결점 없이 만드는 것에 대한 기술 개발이 활발하고, 텍스트, 이미지, 음성을 함께 입력하고 출력하는 멀티모달 모델을 만드는 데 많은 연구기관과 기업이 집중하고 있는 개발 양상을 보이고 있다. 더불어, 전 세계 전기차 시장을 선도하고 있는 테슬라를 통해서 수집된 운전 데이터로 자율주행기술에서 우위를 확보한 것은 큰 장점이다. 다만 현재 LLM을 중심으로 개발되고 있는 방향은 비용 면에서 효율적이지 않을 수도 있고, 기업별로 세계시장을 선도한다는 패권경쟁의 성격을 띠고 있어서, 개발되고 있는 모델의 성능과 그 개발 방향에 불확실성이 크고, 더불어 AI의 안정성을 담보하는 방향인지에 대한 고려가 부족한 점이 있다.

무인화 로봇 시장 중국산이 독식

중국은 2009년 천인계획(千人計劃)을 시작해 미국을 포함, 전 세계에 살고 있는 중국인 인재를 모셔오는 정책과 중국 내수시장에서 제공되는 인터넷 서비스를 폐쇄하는 방식으로 중국의 인터넷과 AI 기술을 발전시키는 정책을 펴왔다. 이를 통해서 화웨이, 알리바바, 센스타임 등의 기업이 검색, 추천, 이미지 인식에 있어서 세계적인 인재를 모으고 기술을 개발할 수 있었다. 중국은 2025년까지 AI 전문가 15만 명을 모으는 계획을 추진하고 있다. 중국은 AI 학습에 필요한 내부 데이터를 지방정부가 모으고, 이를 기업들과 적극적으로 공유해 AI 기술을 개발하는 정책을 펼쳐 이미지 인식에서 세계 최고 수준의 기업 센스타임을 길러냈으며, AI 학습에 필요한 대형 컴퓨터 클러스터 기술 확보에 힘을 써서, 현재 국가슈퍼컴퓨팅 센터에서 미국 공공/연구기관을 넘는 수준의 컴퓨팅 기술을 확보한 상태다.
더불어 중국은 디지털, 인터넷 분야뿐만 아니라 초자동화, 로봇에 활발한 투자를 하고 있다. 현재 물류창고 무인화에 사용되고 있는 로봇 시장은 중국산이 독식하고 있으며, 카페/레스토랑에서 사용되는 로봇도 가격뿐만 아니라 질도 중국산이 뛰어나다는 평가가 많다. 전기차의 자율주행 시장에서도 국가적으로 운행데이터를 모아서 자율주행학습에 활용하고 있어서, 미국 테슬라의 기술에 뒤처지지 않을 것으로 평가된다.
다만 폐쇄적인 시장정책과 AI 기술 개발에 대한 국가의 개입으로 중국 외 기업과 인재의 유입이 부족하고, 이 때문에 새로운 기술을 혁신하는 역량도 부족해 미국 대학과 기업들이 개발한 것을 응용해 중국화하는 기술에 집중돼 있는 것처럼 보인다. 최근 중국의 영향력이 커지는 홍콩을 벗어나 중국에 중립적이면서 글로벌 자본과 인재에 친화적인 싱가포르에서 AI 투자 자본과 인재가 몰리면서 최근 싱가포르가 The Global AI Index에서 3위에 랭크된 바도 있는 만큼 중국의 인재를 지속적으로 유치하고 AI 분야에서도 세계시장에 진출할 수 있는 글로벌 기업을 육성하는 숙제를 갖고 있다.

EU 강점 산업에 AI 결합해 실용성 강화

유럽연합(EU)은 자체 인터넷 AI 산업 생태계를 갖고 있지 않아서, 일반개인정보보호법(GDPR) 등을 강화하고 인공지능법(AI Act, AIA)*을 개정해 소비자를 보호하는 데 노력을 기울이고 있다. 전통적인 AI 기술, 로봇 기술 등 AI 기술 개발의 다양성을 유지하고 있으며 지멘스, 폭스바겐, 보쉬, 노바티스 등 EU가 전통적으로 강점을 갖고 있는 산업에 AI를 결합해 실용성을 높이는 방향으로 기술을 개발하고 있다. 특히 독일 기업들이 주도하고 있는 제조 분야에서 AI 디지털 기술을 활용하는 인더스트리(Industrie) 4.0 기술이 기술 표준으로 정해질 경우 제조 생산 체인에 큰 영향을 줄 것으로 보인다. 영국은 딥마인드(DeepMind)를 앞세운 딥테크 스타트업과 옥스퍼드, 케임브리지 등 유수의 대학을 기반으로 글로벌 자본과 인재를 모아 AI분야에서 큰 성장을 이뤘다. 유수의 연구기관에서 개발하는 알파고(AlphaGo), 알파폴드(AlphaFold) 뿐만 아니라 이미지 인식, 음성 인식, 언어 이해 등 많은 원천 연구가 이뤄졌음에도 불구하고 이것이 영국 내부의 산업을 견인할 사업으로 성장하지 못한다는 점이 숙제로 남아있다.

AI 시스템의 자의식과 안전성

지난 11월 17일 오픈AI 이사회는 샘 올트먼 최고경영책임자(CEO)를 해임한다고 갑작스럽게 발표해 큰 반향을 일으켰다. 샘 올트먼의 해고로 인해 오픈AI* 직원들뿐만 아니라 전 세계 AI 생태계는 큰 동요를 경험했다. 오픈AI 직원들은 샘 올트먼을 따라 MS에 합류하겠다는 의사를 밝히는가 하면 700여 명이 샘 올트먼의 복귀를 촉구하는 연대 서명에 나서 결국 샘 올트먼은 닷새 만에 오픈AI의 CEO로 복귀할 수 있었다. 샘 올트먼의 해고를 주도한 인물 중 한 명은 일리야 수츠케버로 오픈AI의 창립 멤버이자 수석과학자인데, 샘 올트먼의 해고 이유로 샘이 오픈AI에서 개발하고 있는 AI모델의 안전성에 대한 관심이 적고, AI 모델의 성능을 향상시키는 데 집중해 향후 AI기술로 인해 인류에게 미칠 부정적인 영향을 간과했기 때문이라는 주장도 있었다. 이렇듯 어떤 과학자들은 AI 기술의 발전이 원자력과 같이 인류에 큰 긍정적·부정적 영향을 줄 수 있기 때문에 그 발전의 속도와 내용을 잘 이해하고 제어할 수 있는 수준에서 진행해야 한다는 의견을 개진하고 있다. 이는 최근 개발되고 있는 AI 모델의 규모가 크고 내부의 의사결정을 정확히 알기 어려워 블랙박스 시스템이라고 불릴 만큼 AI 시스템을 학습하고 만든 사람도 그 내부에 학습된 혹은 학습되지 않는 내용들을 정확하게 알기 어려운 점이 있다. 이런 점은 때로는 AI 시스템이 자의식이 있다고 그 성능을 과대평가하기도 하고, 거짓답변(hallucination)이 나오는 이유를 정확히 알고 고치기 어려운 이유가 되기도 한다.
AI 기술의 발전속도가 매우 빠르기 때문에, 인류가 또는 국가가 안전한 방향으로 사용할 수 있도록 제어할 수 있는 장치를 마련하기 위해 현재 여러 나라에서 AI를 안전하게 사용하는 법과 제도를 만들거나 정비하고, 이런 AI 시스템이 사회에 미치는 영향을 분석하고 평가하는 영향평가 시스템을 만들고 있는 추세다. 미국 바이든 정부는 지난 10월 30일 AI 관련 행정명령 발표에서 미국의 안보에 영향을 줄 수 있는 강력한 AI 시스템을 개발하는 개발자는 국방 물자생산법(Defense Production Act)에 따라 대중에 공개하기 전 안전 테스트 결과를 미국 정보에 보고하도록 했고, 국립표준기술원(NIST)은 AI 시스템의 영향과 신뢰성을 평가할 수 있는 표준화된 검증 프로세스를 만들도록 했다. 더불어 상무부는 AI 생성 모델이 생성한 결과인지 확인할 수 있도록 워터마킹 지침을 개발해 생성모델의 개발사들이 워터마킹을 사용하도록 했다. EU는 2018년 GDPR을 발표해 자동화된 의사결정에 대한 거부권과 설명권을 담보했고, 현재 고위험 AI에 대해서 그 안전성 및 설명성을 더 강하게 담보하는 AIA를 통과시키는 과정에 있다.
중국은 지난 7월 산업정보기술부 산하 중국전자표준화연구소가 화웨이, 알리바바, 바이두, 아이플라이텍 등의 기업과 LLM에 대한 국가표준을 만드는 태스크포스(TF)를 구성했다고 발표했다. 중국의 생성 AI 업체들이 LLM을 시장에 출시하기 위해서 중국 정부로부터 승인을 받는 기준을 정하고 있음을 알렸다. 중국 당국은 서비스의 규제 초안에서 “생성한 콘텐츠가 국가의 핵심인 사회주의 가치와 일치해야 한다”고 밝히고 있는 만큼 중국 정부 입장에서 신뢰할 수 있고 제어가능한 AI 표준을 만들고 있다. 우리나라도 지난 9월 25일 디지털 권리장전을 발표하면서 AI 기술 개발뿐만 아니라 인권과 인류의 가치를 함께 확보하는 방향에 대한 원칙을 세웠고, 후속 법률안 등의 제정에 반영될 예정이다. 더불어 2024년 3월 15일 시행 예정인 개인정보보호법 개정안 제37조의 2(자동화된 결정에 대한 정보주체의 권리 등)에서 정보주체가 본인의 개인 정보의 자동화된 처리에 대한 거부권 및 설명권을 가질 수 있도록 하는 방법을 법안으로 마련했다.
AI 기술의 발전 속도가 매우 빠르고 그 적용 분야가 큰 것은 사실이다. AI는 인터넷 디지털로 제공되는 검색, 추천, 질의응답뿐만 아니라 자율주행, 물류, 마케팅, 콘텐츠 창작 등에도 많은 영향을 미치고 있다. 다만 AI의 특정 분야 기술은 마법과 같이 한순간에 발전하는 것이 아니라 큰 변화를 주기 전 변화에 대한 전조를 주는 경우가 많다. 또한 실제 상용화가 가능한 것처럼 보여도 실생활에 사용되기 위해서는 안전성을 확보하고 검증하는 데 충분한 시간과 노력이 필요한 경우가 많이 있다. 예를 들어 LLM의 경우도 아직 원저작자의 저작권을 확인하는 것과 거짓답변을 없애는 문제가 해결되지 않고 있고, 이런 것들은 국방, 의료, 금융, 제조 등 중요한 작업(mission critical task)에 적용되는 것을 막고 있는 요소다. 따라서 이런 AI 기술을 안전하고 신뢰할 수 있는 방법으로 제공하는 것은 지속적으로 중요하다. 또한 현재 AI가 잘 제공하지 못하는 예측, 추론 등을 더 잘할 수 있는 기술과 서비스를 개발해 세계시장에서 차별화하는 것도 중요할 것으로 생각한다.