AGI 시대는 정말 올 것인가, 특이점의 현재 위치를 묻다
인공일반지능, 얼마나 가까워졌는가
AI 기술 발전의 속도는 처음 예상을 훨씬 초과했다. 2017년 트랜스포머 아키텍처의 등장에서 2024년 현재까지 불과 7년 만에 AI가 대부분의 화이트칼라 업무를 수행할 수 있는 수준에 도달했다. 특이점(Singularity)에 대한 논의가 더 이상 SF의 영역이 아니라 과학 커뮤니티의 심각한 주제가 되었다. 하지만 중요한 질문이 있다. 현재의 기술 발전 추세가 정말 AGI(Artificial General Intelligence)로 이어질 것인가.
현재 AI의 한계와 초지능의 조건
현재의 대규모 언어모델들은 매우 똑똑해 보이지만, 실제로는 '패턴 매칭 머신'이다. GPT-4는 웹에서 수집한 데이터에 숨겨진 패턴을 인식하고 확률적으로 다음 단어를 예측하는 방식으로 작동한다. 이것이 경이롭게 보이는 이유는 그 패턴이 매우 복잡하고 정교하기 때문일 뿐이다. 하지만 진정한 의미의 '이해'는 없다. 새로운 도메인에서 학습하거나, 장기적 목표를 설정하고 추론하거나, 자신의 오류를 바탕으로 스스로 개선하는 능력은 현재의 접근 방식으로는 한계가 있다. AGI로 나아가려면 현재의 기술 패러다임 자체를 바꿔야 한다는 의견이 늘어나고 있다.
스케일의 한계와 새로운 아키텍처의 필요성
초대형 AI 모델의 학습에 필요한 컴퓨팅 파워는 기하급수적으로 증가하고 있다. OpenAI, Google, Meta 같은 기업들이 수조 원대의 투자를 하고 있음에도 불구하고, 모델의 성능 향상은 점점 둔화되고 있다는 신호들이 포착되고 있다. 이를 '스케일링 법칙의 벽'이라고 부른다. 기존의 트랜스포머 아키텍처만으로는 AGI에 도달할 수 없다는 인식이 확산되면서, 신경망 구조, 에너지 효율성, 자율 학습 메커니즘 등 근본적인 변화를 모색하는 프로젝트들이 증가하고 있다.
AGI 실현 시나리오: 2030년, 2040년, 2050년
AI 전문가들의 의견은 크게 세 가지 캠프로 나뉜다. 낙관론자들은 현재의 발전 속도라면 2030년대 초반에 AGI가 나타날 수 있다고 본다. 주요 기술 기업들의 로드맵도 대부분 2025~2030년대를 목표로 설정하고 있다. 중도파는 새로운 돌파가 없다면 2040년대 중반, 또는 더 늦을 수 있다고 본다. 보수론자들은 현재의 접근 방식으로는 절대 AGI에 도달할 수 없으며, 생각의 근본적 전환이 필요하다고 주장한다. 어느 쪽이든 확실한 것은, AGI는 '만약'의 문제가 아니라 '언제'의 문제가 되었다는 점이다.
AGI 이후의 경제와 사회 구조
만약 AGI가 실현된다면, 현재의 경제 시스템은 근본적으로 재편될 수밖에 없다. 거의 모든 형태의 노동이 자동화될 가능성이 높다. 이 경우 현재의 '일을 통한 소득 창출' 모델은 붕괴하고, 기본소득, 자원 기반 경제, 또는 완전히 새로운 가치 교환 시스템이 필요해진다. 부의 집중도 극심해질 가능성이 있다. AGI 기술을 소유한 소수 기업이나 국가가 막대한 부를 독점할 수 있기 때문이다. 이런 이유로 AI 안전, AI 윤리, AI 거버넌스에 대한 연구가 기술 개발만큼 중요해지고 있다.
특이점과 인류의 미래
특이점이란 AI가 인간의 지능을 초월하는 순간을 말한다. 그 이후의 세계가 어떻게 될지는 아무도 정확히 알 수 없다. 낙관적 시나리오에서는 AGI가 인류의 모든 문제를 해결해 주는 이상적 세계가 온다. 질병이 없어지고, 빈곤이 해결되며, 인간은 오직 창의적이고 의미 있는 활동만 하는 세상이 가능하다. 비관적 시나리오에서는 AI의 목표와 인간의 목표가 불일치하거나, 소수의 강대국이 AGI를 지배하면서 새로운 형태의 독재가 등장한다. 가장 현실적인 시나리오는 그 둘의 혼재다. 기술 진보는 모두에게 동등하지 않게 배분되고, 새로운 기회와 새로운 불평등이 동시에 생겨날 것이다.
지금 우리가 해야 할 일
AGI 시대가 올지 안 올지는 확실하지 않지만, 그 방향으로 가는 것은 확실하다. 현재 우리가 해야 할 일은 세 가지다. 첫째, AI 기술에 대한 정확한 이해를 갖추는 것이다. 지식이 없으면 피해를 입기 쉽다. 둘째, AI의 발전이 모두에게 이익이 되는 방향을 고민하는 것이다. 규제, 윤리, 교육, 재분배 등 사회적 대비가 필요하다. 셋째, AI가 해결할 수 없는 인간의 가치를 찾는 것이다. 공감, 창의성, 도덕성, 아름다움 같은 것들은 기계로 대체 불가능할 수 있다. AGI 시대의 도래가 불가피하다면, 그 속에서 인간의 존엄성과 의미를 어떻게 지킬 것인지가 가장 중요한 질문이 된다.
