AI 모델 시장 총정리: GPT-5·Claude·Gemini 3강 구도와 SLM의 부상

3강 구도의 탄생 — 만능 1등은 없다

2025년 8월 OpenAI가 GPT-5를 공식 출시하면서 AI 모델 경쟁은 세 축으로 정리됐다. GPT-5, Anthropic의 Claude 4 Opus(5월 출시), Google의 Gemini 2.5 Pro가 그 주인공이다. 그런데 이 경쟁의 결론이 흥미롭다. “어느 모델이 가장 좋냐”는 질문에 정답이 없어졌기 때문이다.

GPT-5는 수학적 추론 벤치마크인 AIME 2025에서 94.6%를 기록하며 복잡한 논리·수학 문제에서 두각을 나타냈다. Claude 4 Opus는 소프트웨어 엔지니어링 능력을 측정하는 SWE-bench에서 72.5%를 달성해 코드 작성과 버그 수정 작업에서 현재까지 가장 신뢰받는 선택지로 자리 잡았다. Gemini 2.5 Pro는 100만 토큰에 달하는 컨텍스트 윈도우와 멀티모달 처리 능력을 앞세워 긴 문서 분석이나 영상·이미지 이해가 필요한 업무에서 강점을 보인다.

실무에서 이 구도를 활용하는 방식은 명확하다. 수치 추론이 핵심이라면 GPT-5, 코드 작성 자동화가 목적이라면 Claude Opus, 방대한 문서를 한꺼번에 처리해야 한다면 Gemini 2.5 Pro를 우선 검토하는 식이다. 단일 모델에 조직 전체를 의존하는 시대는 지나가고 있다.

추론 모델과 ‘테스트 타임 컴퓨트’ — 더 크게 학습하는 대신 더 깊게 생각한다

2024년까지 AI 성능 향상의 공식은 단순했다. 더 많은 데이터, 더 큰 모델, 더 많은 GPU. 그런데 2025년에 들어서며 업계의 무게중심이 옮겨가고 있다. 핵심 개념은 ‘테스트 타임 컴퓨트(Test-Time Compute)‘다. 모델이 학습할 때보다 추론할 때 더 많은 연산 자원을 쓰도록 설계해, 답변의 질을 높이는 방식이다.

OpenAI의 o1·o3 계열 모델과 중국 DeepSeek이 공개한 R1이 이 패러다임의 대표 사례다. 이 모델들은 답을 내놓기 전에 내부적으로 단계별 추론 과정을 밟아가며 자기 검증을 거친다. 복잡한 수학 문제나 다단계 추론이 필요한 법률·의학 분야에서 효과가 두드러진다.

단, 반대급부도 있다. “2+3은 얼마입니까”처럼 즉각 답할 수 있는 단순 질문에도 불필요하게 긴 내부 추론 과정을 거치는 ‘오버싱킹(overthinking)’ 현상이다. 이는 응답 속도 저하와 API 비용 증가로 직결된다. 추론 모델은 복잡한 전문 작업에 적합하고, 일상적인 텍스트 생성이나 요약 작업에는 일반 모델이 더 효율적이다.

소형 언어 모델(SLM)의 조용한 지배

화려한 프론티어 모델 발표에 가려지지만, 실제 AI 생태계를 지배하는 것은 소형 모델이다. 전체 공개 AI 모델 중 10억 파라미터 미만이 52% 이상, 30억 미만이 약 70%를 차지한다. 반면 640억 파라미터를 넘는 대형 모델은 극소수이며, 2,560억을 초과하는 모델은 전체의 0.04%에 불과하다.

TechInsights는 2025년 공개된 AI 모델 수가 250만 개를 넘어 전년 대비 거의 두 배가 될 것으로 전망한다. 이 폭발적 증가의 주역은 SLM이다. Microsoft의 Phi 시리즈, Meta의 Llama 3 소형 버전, Apple의 온디바이스 모델이 대표적이다.

소형 모델이 주목받는 이유는 세 가지다. 첫째, 스마트폰이나 엣지 디바이스에서 인터넷 연결 없이 실행할 수 있다(온디바이스 AI). 둘째, 클라우드 API 비용이 들지 않아 대규모 배포 시 경제성이 월등하다. 셋째, 데이터가 외부 서버로 나가지 않아 개인정보 보호 규정(GDPR, 한국의 개인정보보호법 등)을 충족하기 쉽다.

에이전틱 AI — 답변에서 실행으로

“AI가 질문에 답한다”는 시대에서 “AI가 스스로 작업을 계획하고 실행한다”는 시대로 전환이 시작됐다. 이를 에이전틱 AI 혹은 AI 에이전트라 부른다.

챗봇은 사용자의 질문에 텍스트로 응답한다. 반면 에이전트는 목표를 받으면 인터넷을 검색하고, 코드를 작성하고, 외부 API를 호출하며, 결과를 검증하는 일련의 행동을 자율적으로 수행한다. Anthropic의 Computer Use, OpenAI의 Operator, Google의 Project Astra가 이 방향의 시범 사례다.

다만 현실적인 도입 속도는 기사의 분위기보다 훨씬 점진적이다. 생성형 AI를 도입한 기업 중 2025년에 에이전트 파일럿을 시작한 비율은 약 25%이며, 2027년에야 50%로 늘어날 것으로 전망된다. 에이전트는 실수의 여파가 크기 때문에, 조직은 권한 범위를 좁게 설정하고 인간의 검수 단계를 유지하며 단계적으로 확장하는 방식을 택하고 있다.

오픈소스 모델의 역습

불과 2년 전까지만 해도 GPT-4와 같은 폐쇄형(클로즈드) 모델은 오픈소스와 넘기 어려운 성능 격차를 유지했다. 지금은 그 공식이 흔들리고 있다.

DeepSeek-V3와 R1은 오픈 웨이트 모델임에도 불구하고 GPT-4o, Claude 3.5 Sonnet과 대등하거나 특정 작업에서는 앞서는 벤치마크 결과를 내놓았다. Meta의 Llama 3.1 405B, 중국 Alibaba의 Qwen2.5 역시 상용 모델에 견줄 만한 성능을 보이며 기업들의 선택지를 넓혔다.

오픈 웨이트 모델을 선택하는 실무적 이유는 명확하다. 성능이 비슷하다면, 클라우드 의존도를 줄이고 데이터를 자체 인프라 안에 두고, 파인튜닝을 통해 도메인 특화 성능을 높일 수 있기 때문이다. 다만 “오픈소스 = 무료”라는 오해는 위험하다. 모델 가중치가 공개되더라도 라이선스 제약(상업 이용 조건 등)이 있고, 운영에 필요한 GPU 인프라 비용과 유지보수 인력은 여전히 필요하다.

기업 도입의 현실 — ROI와 높은 실패율의 공존

언론의 AI 뉴스는 대부분 긍정적이다. 그러나 숫자를 균형 있게 보면 다른 그림이 나타난다.

2025년 기업 AI 도입률은 7888%에 이른다. 생산성이 2655% 향상됐다는 보고도 있고, 투자 1달러당 약 3.7달러의 ROI를 기록한다는 조사도 있다. 여기까지만 보면 AI 전환은 선택이 아닌 필수처럼 보인다.

문제는 그 이면이다. 같은 시기 기업 AI 프로젝트의 실패율은 70~85%로 추정된다. 왜 도입은 늘어도 성공은 어려운가? 주된 이유는 기술 문제가 아니다. 불분명한 성공 지표 설정, 데이터 품질 부족, 기존 조직 프로세스와의 통합 실패, AI 전담 운영 인력 부재가 반복적으로 지적된다.

보이지 않는 병목 — 에너지와 인프라

모델 경쟁의 그늘에는 전력 소비 문제가 있다. 2025년 데이터센터 전력 수요는 전년 대비 17% 급증했다. AI 특화 데이터센터의 증가 속도는 그보다도 빠르며, 이는 전 세계 전력 수요 증가율인 3%를 크게 웃도는 수치다.

GPT-5 수준의 프론티어 모델을 한 번 학습시키는 데 수십 기가와트시(GWh)의 전력이 소요된다는 추정이 나온다. 이는 중소 도시 수만 가구가 수일 동안 쓰는 전력량에 해당한다. 인프라 병목은 AI 기술 발전 속도 자체를 제한하는 요인으로 떠오르고 있으며, 각국 빅테크의 소형 원자로(SMR) 투자가 이 맥락에서 이해된다.

용도별 모델 선택 실전 가이드

• 어떤 AI 모델을 선택할까 — 용도별 체크리스트
• 복잡한 수학·논리 추론이 핵심 → GPT-5 또는 o3 계열 추론 모델 우선 검토
• 코드 생성·버그 수정·소프트웨어 개발 자동화 → Claude 4 Opus 우선 검토
• 100만 토큰 이상 장문 분석 또는 영상·이미지 처리 → Gemini 2.5 Pro 우선 검토
• 온디바이스 실행·개인정보 보호·비용 절감이 최우선 → Phi-4, Llama 3 소형 버전 등 SLM 검토
• 데이터를 자체 인프라에 보관하고 파인튜닝하려면 → DeepSeek, Qwen 등 오픈 웨이트 모델 검토
• 자율 작업 실행(웹 검색·코드 실행·API 호출 등) → 에이전트 프레임워크(LangGraph, AutoGen 등) + 대형 모델 조합
• 명확한 KPI와 파일럿 범위를 먼저 설정한 뒤 모델을 고를 것 — 기술보다 목표 정의가 먼저

마무리 — 뉴스 너머의 흐름을 읽어야 할 때

AI 뉴스는 대부분 새 모델 출시와 벤치마크 점수로 채워진다. 그러나 실제로 중요한 흐름은 그 이면에 있다. 소형 모델이 수적으로 생태계를 지배하고, 추론 방식 자체가 바뀌며, 에이전트는 조직의 일하는 방식을 재설계하기 시작했다. 벤치마크는 오염되고, 도입은 늘어나지만 성공은 쉽지 않으며, 전력망이 새로운 제약이 되고 있다.

3강 프론티어 모델을 주시하되, SLM·오픈소스·에이전트·에너지라는 네 개의 축을 함께 보는 관점이 2025년 하반기 AI 판을 읽는 가장 정확한 렌즈다.