카타네모, ‘GPT-4’보다 12배 빠른 AI 에이전트 오픈 소스 모델 공개

AI 스타트업 카타네모(Katanemo)가 ‘GPT-4’보다 12배 더 빠른 처리 속도를 가진 AI 에이전트 모델을 오픈 소스로 공개했습니다. 이 모델은 함수 호출을 가속화해 더욱 빠르고 효율적인 에이전트 애플리케이션 구축을 지원하며, AI의 상호작용과 자동화 워크플로에 새로운 가능성을 열어줍니다.

1. 아치-함수(Arch-Function) 모델: 속도와 비용 혁신

카타네모가 발표한 오픈 소스 모델에는 아치-함수-1.5B, 3B, 7B가 포함됩니다. 이 모델들은 기존 대형언어모델(LLM)과 비교해 10배 이상의 함수 호출 속도를 제공하며, 이를 통해 API와 백엔드 시스템과의 상호작용을 강화합니다.

프롬프트를 분석하고 필요한 매개변수를 식별해 정확한 함수 호출을 수행합니다.
이를 통해 기업의 워크플로 자동화를 지원하며, 에이전트 기반 애플리케이션을 빠르고 효율적으로 구축할 수 있습니다.

카타네모는 이 모델을 통해 GPT-4 대비 12배 더 빠른 처리 성능과 44배 비용 절감을 실현할 수 있다고 밝혔습니다.

2. 아치(Arch) 게이트웨이: AI 에이전트의 핵심

카타네모의 아치 게이트웨이(Arch Gateway)는 프롬프트와 API 상호작용을 중앙 집중화하고 관리할 수 있도록 설계되었습니다. 주요 기능으로는:

탈옥 시도 감지 및 차단
사용자 요청을 바탕으로 백엔드 API 호출
프롬프트와 LLM 상호작용의 가시성을 강화하여 안전성과 개인화를 지원

이 솔루션은 개발자들이 빠르고 안전한 AI 애플리케이션을 구축할 수 있도록 도와줍니다.

3. AI 에이전트 생태계의 변화와 경쟁

최근 AI 에이전트와 관련된 기술과 모델 공개가 급증하며, 경쟁이 더욱 치열해지고 있습니다.

오픈AI는 비공식적으로 에이전트 구축 프레임워크를 공개했습니다.
라이터(Writer)는 자율 에이전트를 지원하는 ‘팔미라 X 004’ 모델을 출시했습니다.
이러한 움직임은 AI 에이전트가 기업의 실시간 데이터 처리, 광고 캠페인 최적화, 이메일 발송 등 다양한 분야에서 중요한 역할을 맡게 될 것임을 시사합니다.

결론: AI 에이전트의 새로운 시대를 열다

카타네모의 아치-함수 모델은 AI 에이전트 기술의 혁신적인 진전을 보여주며, AI 기반 애플리케이션 구축을 더욱 효율적이고 경제적으로 만들 수 있는 잠재력을 제공합니다. 앞으로 오픈AI, 엔비디아, 메타와 같은 기업들과 함께 AI 생태계를 더욱 확장할 것으로 기대됩니다.

카타네모, ‘GPT-4’보다 12배 빠른 AI 에이전트 오픈 소스 모델 공개