I. 왜 AI인가?

근대 인류문명은 미중 전략경쟁을 중심으로 한 강대국간 지정학적 대립, 보호주의의 확산과 공급망 분단 속에 지구화의 역진과 자유주의 국제경제질서의 대혼란, 기후 위기와 감염병/보건 위기, 핵확산 및 핵테러 가능성 증대, 통제되지 않는 기술 경쟁 등 중대한 도전에 직면해 있다. 현재와 같이 인류가 좁은 국가이익을 추구하는 주권의 늪에서 벋어나지 못하고 대국 중심 진영 대립을 지속한다면 지구 전체가 절멸의 위기 상황에 직면할 수도 있다.

이러한 미래 변화의 중심에는 인공지능(Artificial Intelligence: AI)가 자리하고 있다. AI는 ‘가능케 해주는 기술(enabler)’이자 “능력 증폭기(force multiplier)” 역할을 하여 다른 기술들의 변화와 능력을 특징짓는 기반(enabling) 기술 혹은 메타 기술로 규정할 수 있다. 따라서 스스로 혁신의 속도를 배가하면서 기왕의 문제를 악화시키거나 혹은 문제에 새로운 돌파구를 마련해 주기도 한다. AI는 핵, 무기체계와 결합하여 파괴적 결과를 가져오거나 AI 기술 생태계 장악을 둘러싼 강대국 주도의 세계 경제 분단, 지구적 불평등의 가속화를 가져올 수 있다. 국내적으로는 거대 기업(Tech Giant)의 독점 체제 심화, 노동시장의 불균형과 실업, 권위주의 체제의 공고화, 특정 가치나 신념, 목표를 둘러싼 사회의 분절화 등으로 초래할 것으로 전망된다. 반면 AI 기술 혁신으로 경제적 편익을 극대화하면서 환경이나 보건 등 일견 지속불가능한 문제들에 대한 해결의 실마리를 제공할 수도 있다. 이런 점에서 AI 기술의 발전 방향은 향후 인류 사회의 존립과 번영을 좌우하는 주요한 기저 변수라 볼 수 있다.

동아시아연구원(East Asia Institute: EAI)의 연구팀은 미래 세계질서 변화의 핵심 변수로 AI 기술 혁신에 의한 군사안보 영역과 정치경제 영역의 거시변화 과정을 체계적으로 분석하고 있다. 이 작업은 미중의 AI 군사화와 무기화 경쟁, AI 상업모델 창출과 지구적 공급망 구축 경쟁, 빅테크 기업의 독점적 영향력 확대 및 정부-기업 관계 변화, AI 기술 규제를 향한 집합적 대응으로 나누어 분석될 것이다. 이 프로젝트는 향후 세계질서 변화의 시나리오를 제시하고, 궁극적으로 AI 기술의 파괴적 영향을 통제하고 관리하기 위하여 강대국뿐만 아니라 다차원 이해관계자의 입장을 반영하는 지구 공치체제(共治體制)를 수립하는 길을 모색하고자 한다.

II. AI의 기술적 특징은 무엇인가?

첨단기술로서 AI는 독특한 성격을 지니고 있다. 첫째, 인간의 지능을 모방한 AI 기술의 특성상, 악용의 파국적 효과가 포괄적이고, 일반인공지능(Artificial General Intelligence: AGI), 초인공지능(Super Artificial Intelligence: SAI) 등으로 발전하는 경우, 기술의 통제불가능성이란 근본적 문제를 가지고 있다. 둘째, 인공지능은 ‘편익/혁신성’과 ‘위기’의 두 측면을 공유한다. 인공지능의 군사화, 악용, 통제불가능의 위기가 존재함에도 불구하고 편익⋅혁신성 때문에 통제와 규제가 어렵다. 셋째, 인공지능은 국가뿐 아니라 개인, 기업, 사회집단 등 다양한 이해관계자(multi-stakeholderism)가 존재한다. 따라서 국가 주도의 규제, 통제만으로 인공지능 기술 개발의 앞날을 형성하고 통제하기 어렵다. 넷째, 기후변화/환경위기, 핵전쟁, 전염병/보건위기 등 국제정치적 위기는 각 분야에 한정된 파국 방지 협력에 집중해야 하지만, 인공지능은 개인, 사회, 국가, 지구 모든 차원과, 군사, 경제, 이념, 정치 등 모든 분야에 혁명적 영향을 미치므로 규제와 통제, 새로운 지구공치체제 마련에 있어 중층성, 포괄성, 복합성의 문제가 존재한다. 끝으로, AI 기술의 미래, 기술이 초래할 개인, 사회, 국가, 국제정치의 변화 과정은 이제 시작 단계에 불과하다. 중장기 미래의 변화를 예측하기 어려운 무한한 잠재력과 폭발력이 존재하는 것이다.

III. AI가 초래하는 군사적·경제적 질서 변화

본 연구팀은 향후 미중 디리스킹(de-risking) 경쟁이 진행되는 가운데 AI의 군사적 이용과 AI 상업화 모델 구축을 두고 미중 양국이 각축을 벌이는 가운데 AI 생태계가 분절화될 것으로 보았다. 아울러, 이러한 경쟁이 진행될 때 인프라, 연산능력(computation power), 파운데이션 모델, 애플리케이션 등 차원에서 확실한 우위에 있는 미국이 주도적인 위치를 차지할 것이지만, 치열한 경쟁의 여파로 기술적 혁신을 통한 문제해결을 추구하는 가속주의자들의 목소리가 미중을 비롯한 주요국 정책서클에서 힘을 얻을 것으로 예측하였다.

주요국간 AI 기술 경쟁 속에서 정치경제 차원에서 분절화가 진행되고 경제 블록화의 가능성도 높아질 것이며, 기술, 산업, 경제, 정치 등 모든 차원에서 다면적이고 다층적 경쟁이 벌어지고 갈등이 고조될 수 있다. 또한 기존의 경제적 상호의존이 무력 사용을 억제하는 효과가 블록화로 인해 사라진 가운데, AI의 군사적 이용이 야기할 수 있는 잠재적 문제(예. 핵 얽힘과 이중용도, 블랙박스 문제로 인한 의도치 않은 확전과 전쟁 발발)들이 발현되어 대만, 북한, 남· 동중국해 등 인도-태평양 지역 내 지정학적 인화점(flashpoint)에서 실제 무력충돌 및 전쟁이 발생할 가능성이 높아질 것이다.

그 과정에서 지구 남반부(Global South)는 이전과 비교할 수 없을 정도로 더 크게 벌어진 선진국과의 정치⋅경제⋅사회적 격차 속에서 데이터, 경제, 기술종속 및 정치 불안에 처할 가능성이 크고, 동시에 지구 남반부 국가들의 취약한 보안 체제를 악용하여 국가 중요 인프라 및 금융시스템이 공격당하여 심각한 불안정을 초래할 수도 있다. 아울러, AI 경쟁을 선도하는 빅테크들이 시장독점, 노동 시장 장악과 대규모 실업, 데이터 편향 및 프라이버시 침해, 국가 권력에 도전하는 양상을 보이며 통제할 수 없는 새로운 패권세력으로 등장할 가능성도 있다. 따라서 현재의 AI 경쟁 양상이 지속될 경우 인류는 가까운 장래에 매우 심각한 위기에 노출될 수 있다.

IV. 미래 시나리오와 신문명 표준

AI의 군사화, 경제적 분절화, AI 악용 사례 폭증, 더 나아가 AI에 의한 인류 종속의 위험이 현실화되는 경우 미래 세계질서는 어떻게 전개될 것인가. 본 연구에서 보여주듯이 미래질서는 AI 기술이 추동하는 변화와 기성 질서의 동학이 복합되는 형태로 드러나게 될 것이다(그림 1).

<그림 1> AI의 분야별 발전과 미래 질서 변환 시나리오

이는 (1) 지구적 리더십이 부재한 속에서 강대국, 신흥국 등의 주권적 경쟁에 의해 국제 규범과 질서(경로 1), 제도가 혼란에 빠지고 분절화, 분단, 대립이 두드러진 국제체제의 등장, (2) 강대국간 영향력 경쟁, 기술 패권, 전략적 우위 점유 경쟁과 함께 지구적 도전에 대한 일정한 협력을 바탕으로 상호공존을 이루는 체제(경로 2), (3) 국가, 비국가행위자들의 민주적⋅다차원적 참여를 통한 포괄적⋅복합적 지구공치체제의 등장이 될 것이다(경로 3). 이번 스페셜리포트 시리즈는 이상의 시나리오의 배경이 되는 논리와 이론을 제시하고 궁극적으로 미래 신문명 표준에 부합하는 세계 질서 구축을 향한 설계도를 모색할 것이다. ■

■ 김양규_EAI 수석연구원. 서울대학교 정치외교학부 강사.

■ 손  열_EAI 원장. 연세대학교 국제학대학원 교수.

■ 전재성_EAI 국가안보연구센터 소장. 서울대학교 정치외교학부 교수.

■ 하영선_EAI 이사장. 서울대학교 명예교수.

■ 담당 및 편집: 박지수, EAI 연구원
    문의 및 편집: 02 2277 1683 (ext. 208) | jspark@eai.or.kr