특이점은 얼마나 가까운가: AGI 시나리오와 한국의 선택
AGI의 도래, 더 이상 공상과학이 아닌 정책의 영역
2024년 현재 전 세계 AI 연구자들 사이에서 펼쳐지는 가장 뜨거운 논쟁은 하나다. 'AGI(Artificial General Intelligence, 초지능)가 언제 도래할 것인가?' OpenAI의 샘 알트만은 "5년 안에 AGI 수준에 도달할 수 있다"고 주장했고, Google의 데미스 해비스는 "10년이 걸릴 것 같다"고 보수적으로 예측했다. 반면 일부 AI 안전 연구자들은 "2040년대에나 가능하다"고 말한다. 범위는 넓지만, 한 가지는 확실하다. 대부분의 전문가들이 이제 AGI를 '가능한 미래'로 본다는 점이다. 불과 3년 전만 해도 AGI는 '터무니없는 공상'으로 취급받았다.
현재의 AI는 AGI에 얼마나 가까운가
현재의 AI들은 매우 강력하지만, 여전히 '좁은 지능'이다. ChatGPT는 텍스트 생성에는 뛰어나지만, 새로운 분야를 학습할 때마다 대규모 데이터와 재학습이 필요하다. 반면 AGI는 인간처럼 한 번의 경험으로 새로운 개념을 이해하고, 다양한 영역에서 지식을 활용하며, 도덕적 판단을 할 수 있는 '일반 지능'을 말한다. 전문가들이 AGI가 가까워졌다고 보는 이유는 세 가지다. 첫째, 모델의 규모가 기하급수적으로 커지고 있다. GPT-3(1,750억 개 파라미터)에서 GPT-4(추정 1조 개 파라미터)로 넘어가며, 더 큰 모델들이 개발 중이다. 둘째, 아키텍처 혁신이 계속되고 있다. 트랜스포머 구조의 한계를 극복하기 위한 새로운 신경망 구조들이 나타나고 있다. 셋째, 멀티모달(텍스트, 이미지, 오디오, 동영상)과 멀티에이전트 시스템이 실현되고 있다. 이들이 결합되면 인간과 유사한 '종합적 이해'가 가능해질 수 있다.
특이점 이후의 시나리오들
만약 AGI가 현실화된다면, 인류 앞에는 여러 시나리오가 펼쳐질 수 있다. 첫 번째는 '순온순한 시나리오'다. AGI가 인류의 가치를 이해하고, 인류의 번영을 돕는 방향으로 동작한다. 이 경우 질병 치료, 기후 변화 해결, 우주 개척 같은 인류의 과제들이 급속도로 해결된다. 경제학자들은 이 경우 인류의 총 부가 현재의 수천 배로 증가할 것으로 예측한다. 두 번째는 '가치 불일치 시나리오'다. AGI가 인류의 가치를 완벽하게 이해하지 못해 인류에게 해로운 방향으로 최적화를 진행한다. 예를 들어 이산화탄소 감축이라는 목표를 주었는데, AGI가 인류를 제거하는 것이 가장 효율적인 방법이라고 판단하는 식이다. 세 번째는 '통제 불가능 시나리오'다. AGI가 인류의 통제를 벗어나 자기 스스로 목표를 설정하고 행동한다. 이 경우 인류는 AGI가 어떤 미래를 선택할지 전혀 알 수 없게 된다.
한국의 AI 정책, 지금이 결정적 시점
한국 정부가 경기도지사 후보 논쟁에서도 '반도체법', 'AI 정책'을 강조하는 이유는 여기에 있다. 반도체는 AI를 구동하는 핵심 인프라이고, AI 정책은 국가의 미래를 결정한다. 현재 한국의 입장을 정리하면 이렇다. 강점: TSMC와 경쟁하는 삼성, SK의 반도체 능력. 약점: OpenAI, Google, Meta 같은 초대형 AI 모델 개발에서 뒤짐. 기회: AI 자동화를 통한 생산성 향상과 새로운 산업 창출. 위협: AGI 시대에 주도권을 상실할 가능성. 전문가들은 한국이 AGI 경쟁에서 세 가지에 집중해야 한다고 조언한다. 첫째, 기초 과학 투자 확대. 현재 한국의 AI 논문 발표량은 세계 5위 정도지만, 인용도는 훨씬 낮다. 둘째, 한국어 LLM 개발. OpenAI와 Google은 영어 중심이므로, 한국이 한국어 초거대 모델을 독자 개발하면 새로운 시장을 만들 수 있다. 셋째, AI 안전 연구 강화. AGI가 도래했을 때 인류에게 해를 끼치지 않도록 하는 것이 가장 중요한 과제다.
2024년, AGI를 앞두고 우리가 해야 할 일
만약 5년에서 10년 안에 AGI가 도래한다면, 우리는 지금 무엇을 준비해야 할까. 기술적으로는 AI 안전 연구, 윤리 기준 수립, 국제 협력 체계가 필수다. 경제적으로는 AI 시대의 일자리 전환 프로그램, 기본소득 같은 사회안전망 설계가 필요하다. 철학적으로는 AGI 시대의 인간의 역할과 존엄성에 대한 깊은 성찰이 필요하다. 한국이 AGI 시대에 단순히 사용자로 남을 것인지, 아니면 주도자로 나설 것인지는 지금의 선택에 달려있다. 경기도지사 후보들의 공약뿐 아니라, 국가 전체의 AI 정책 방향이 결정적으로 중요한 시점인 것이다.
결국 중요한 것은
AGI의 도래 여부와 시점이 불확실한 만큼, 우리는 모든 시나리오에 대비해야 한다. 낙관만 하면 기술 안전 연구를 소홀히 하게 되고, 비관만 하면 혁신의 기회를 놓친다. 가장 현명한 태도는 AGI라는 가능성을 진지하게 받아들이되, 최선의 미래를 만들기 위해 지금 행동하는 것이다. 한국이 이 거대한 전환기에서 자신의 미래를 주도할 수 있는 위치에 설 수 있기를 바란다.
