2026 FM 트렌드

흐름은 두 문장으로 요약됩니다. 컴퓨트는 학습에서 추론으로, 품질의 열쇠는 모델에서 하네스로. 모델을 더 키우는 경쟁이 한계에 부딪히면서 추론 시점에 투자하는 쪽으로 방향이 바뀌었고, 에이전트 시대가 되면서 모델을 감싸는 실행 환경이 승부처가 됐습니다. 하나씩 근거를 보겠습니다.

숫자 세 개가 상황을 말해줍니다. AI 컴퓨트의 3분의 2가 이미 추론에 쓰입니다. 2023년만 해도 3분의 1이었는데 역전됐고, 그걸 소비하는 주체가 에이전트예요. 그런데 에이전트를 프로덕션에서 실제로 돌리는 기업은 11%뿐이고, 투자 의향은 75%입니다. 이 격차가 의미하는 건 분명합니다. 수요는 확정됐는데 할 줄 아는 사람이 부족하다는 것, 지금 에이전트를 배워야 하는 이유입니다.

1세대 Kaplan의 법칙은 단순했습니다. 파라미터를 키우면 성능이 오른다. 그런데 공개 텍스트 데이터가 고갈되면서 수확 체감에 부딪혔죠. 2세대 Chinchilla는 데이터와 파라미터의 균형을 찾았지만, 이번에는 학습 비용이 기하급수로 늘었습니다. 그래서 3세대는 방향을 틀었습니다. 학습은 충분하니 추론 시점에 컴퓨트를 쓰자는 것이고, 이때 비용을 제어하는 손잡이가 Effort 파라미터입니다.

"더 오래 생각하면 더 정확하다"를 구현하는 방법이 네 갈래입니다. Chain-of-Thought가 중간 추론을 명시적으로 쓰게 하는 출발점이었고, Adaptive Thinking은 난이도에 따라 추론량을 모델이 스스로 조절합니다. 실무에서 직접 만지시게 될 건 Effort 파라미터인데, low부터 max까지 다섯 단계로 품질과 비용을 트레이드오프합니다. Tree Search는 여러 경로를 병렬로 탐색하는 방식이라 수학과 코딩에서 효과가 큽니다.

두 모델은 아키텍처가 다른 게 아닙니다. 같은 트랜스포머인데, 답하기 전에 사고 토큰을 먼저 쓰도록 훈련됐느냐의 차이죠. 왼쪽 표준 모델은 질문받자마자 답변 토큰부터 생성하니까 빠르고 싸지만, 다단계 논리에서 중간을 건너뛰다 오류가 쌓입니다. 오른쪽은 가설을 검토하고 스스로 검증한 뒤에 답합니다. 요약이나 분류는 표준으로, 수학·코딩·설계처럼 복잡한 문제는 Reasoning으로, 이렇게 나눠 쓰시면 됩니다.

실제 라인업으로 보면, OpenAI는 2024년 o1으로 이 계보를 열어서 지금은 GPT-5.6의 reasoning effort로 통합했고, Claude는 Extended Thinking에서 budget_tokens 없이 Effort 파라미터로 제어하는 방식으로 왔습니다. Fable 5는 멀티데이 자율 실행까지 가는 모델이고 SWE-Bench Pro에서 최고 성적을 기록하고 있죠. 마지막 Reflective Agents는 모델이 아니라 패턴인데, 생성하고 비판하고 수정하는 루프만으로 HumanEval 91%까지 끌어올린 사례입니다.

엔지니어링의 무게중심이 옮겨온 궤적을 보세요. 프롬프트를 다듬던 시대에서 컨텍스트를 설계하는 시대로, 그리고 지금은 하네스를 만드는 시대입니다. Agent는 Model 더하기 Harness입니다. 같은 모델이라도 오케스트레이션, 가드레일, 메모리, 도구, 평가를 어떻게 갖추느냐에 따라 프로덕션 품질이 갈립니다. AWS에서는 이 하네스 층을 AgentCore가 맡고, 이후 과정에서 계속 만나시게 됩니다.

오늘 내용을 한 문장으로 줄이면 이겁니다. 모델을 이해해야 에이전트를 만듭니다. 토큰과 Attention과 KV Cache가 비용과 컨텍스트와 캐싱 설계로 이어졌고, 4대 한계는 모델 밖 아키텍처로 풀었고, 2026년의 답은 모델 더하기 하네스였습니다. 이 토대 위에서 이후의 RAG와 에이전트 설계가 이어집니다.