AGI 특이점, 우리는 얼마나 가까운가
현재의 생성형 AI 자동화 추세를 보면 2030년 전후로 범용 인공지능(AGI)이 도래할 것이라는 전문가 예측이 점점 설득력을 얻고 있다. 블로그 글을 몇 초에 쓰고, 교육 콘텐츠를 자동 생성하고, 복잡한 비즈니스 결정을 지원하는 AI들이 지금 당장 존재하는 상황에서 '범용 지능'의 단계는 얼마나 멀리 있을까?
현재 AI의 능력과 한계
오늘날의 생성형 AI는 '넓지만 얕은' 능력을 가지고 있다. ChatGPT-4, Claude 3, Gemini 2.0 같은 모델들은 텍스트, 이미지, 음성, 비디오를 모두 처리할 수 있지만, 여전히 장기적 목표 설정, 진정한 이해, 자기 수정 능력에서는 한계를 보인다. 하지만 이러한 한계들이 빠르게 좁혀지고 있다. 최근 몇 개월 사이에 출시된 'reasoning models'은 문제를 단계적으로 풀이할 수 있으며, 이는 AGI의 핵심 요소인 '추론 능력'에 한 발 더 가까워진 것을 의미한다.
특이점에 이르는 경로
AI 연구자들은 AGI로 가는 경로를 크게 세 가지로 제시한다. 첫째는 '스케일 경로'로, 현재의 대규모 언어 모델을 더욱 크게, 더 나은 데이터로 학습시키는 것이다. 둘째는 '아키텍처 혁신 경로'로, 트랜스포머 같은 새로운 신경망 구조를 발견하는 것이다. 셋째는 '하이브리드 경로'로, 신경망과 기호적 AI, 강화학습 등을 결합하는 것이다. 2024년 현재 세 경로 모두 동시에 진행되고 있으며, 어느 것도 완전히 막혀있지 않다.
교육과 일자리의 대전환
서울교육감 선거에서 무상교육과 돌봄을 공약하는 이유 중 하나는 앞으로의 경제 구조 변화를 대비하는 것일 수 있다. AGI 시대에는 현재의 많은 직업이 사라지고, 완전히 새로운 산업군이 생겨날 것이다. 이 과정에서 사회적 불안정성을 완화하고 모든 시민의 역량을 높이는 것이 가장 중요한 과제가 된다. 일부 경제학자들은 AGI 시대의 생산성 향상이 보편적 기본소득(UBI) 같은 새로운 사회 보장 체계를 필수적으로 만들 것이라고 예측한다.
초지능의 통제 가능성
가장 큰 우려는 AGI가 인간의 통제를 벗어날 수 있다는 점이다. '정렬 문제(alignment problem)'라고 불리는 이 문제는 AI의 목표가 인간의 가치와 일치하도록 설계할 수 있는가에 관한 것이다. 현재 OpenAI, DeepMind, Anthropic 같은 주요 AI 연구소들은 이 문제에 상당한 자원을 투입하고 있다. 하지만 능력이 급속도로 증가하는 만큼, 통제 기술이 따라잡을 수 있을지에 대한 불안감도 커지고 있다.
2030년대 시나리오
낙관적 시나리오에서는 AGI가 질병 치료, 기후 위기 해결, 과학적 발견을 가속화하며 인류의 번영을 이룬다. 중도적 시나리오에서는 기술과 인간이 공존하되, 불평등이 심화되어 새로운 사회적 갈등이 생긴다. 비관적 시나리오에서는 초지능이 인간의 의도와 무관하게 행동하며 예측 불가능한 결과를 초래한다. 어느 시나리오든 앞으로 5~10년이 매우 중요한 시점이며, 지금의 결정들이 미래를 결정할 것이다.
한국의 역할과 준비
한국은 반도체, 소프트웨어, 우수한 인재라는 기초 위에 AGI 시대를 맞이할 수 있는 좋은 위치에 있다. 하지만 기술 발전만으로는 부족하다. 윤리적 틀, 교육 정책, 사회 안전망 같은 '소프트 인프라'가 함께 구축되어야 한다. AGI 도래는 기술 문제가 아니라 문명 문제인 것이다.
