AI/ML Wiki

Chap 7. "You're All I Need?" — LLM과 Gen AI

37 min read

Chap 7. “You’re All I Need?” — LLM과 Gen AI

생성형 AI의 핵심인 어텐션과 트랜스포머의 구조를 이해하고, 스케일링 법칙 이후의 AI 추론 최적화 기법을 살펴봅니다.

두 개의 남은 숙제 — 순차 병목과 흩어진 패러다임

5장은 시각과 언어를 정복한 신경망이 결국 RNN의 순차 처리 병목(한 단어씩 차례로 읽어야 해서 병렬화가 불가능하고, 멀리 떨어진 단어의 기억이 흐려진다)에 발목 잡혔다는 데서 끝났다. 6장은 지도학습·강화학습·인공생명이 각자의 방식으로 ‘학습’을 추구하지만 하나로 수렴하지 못한 채 흩어져 있다는 풍경을 보여주었다. 두 장이 함께 던지는 질문은 이렇다 — 순차 병목을 깨뜨리면서, 동시에 번역·요약·분류·질의응답으로 쪼개져 있던 모든 NLP 과제를 하나의 모델로 통합할 수는 없을까?

이 장의 답은 단호하다. 2017년 이후의 트랜스포머와 거대 언어 모델은 두 숙제를 한꺼번에 푼다. 순환을 버리고 전체 맥락을 한 번에, 병렬로 보는 어텐션으로 순차 병목을 깨고, ‘다음 단어 맞추기’라는 단일 과제로 사전학습한 거대 모델 하나가 미세조정·프롬프트만으로 모든 과제를 떠맡는다. 그 과정에서 1장의 코사인 유사도가 어텐션이라는 이름으로 되돌아오고, 6장의 정책 경사가 RLHF로 되살아난다. 다만 이 통합은 새로운 모순을 낳는다 — 환각, 데이터 고갈, 그리고 이 괴물을 돌리기 위한 막대한 연산·메모리·전력 비용이다.

연필로 풀기 ①: 어텐션 점수 직접 계산

순차 병목의 두 얼굴 — 순차 처리(병렬화 불가)와 장거리 기억 소실. 2017년 「Attention Is All You Need」는 순환을 버리고 어텐션만으로 시퀀스를 처리해 둘을 한꺼번에 풀었다.

어텐션의 직관은 도서관 검색이다. 각 단어가 세 역할을 동시에 한다: Query(내가 찾는 것), Key(나를 찾을 색인), Value(내가 가진 내용).

장난감 예제로 직접 계산해 보자. 문장 “사과 그것” — ‘그것’이 ‘사과’를 가리키는지 어텐션이 알아내는 과정이다. 단어 벡터를 2차원으로 단순화한다:

사과:  Q=(1,0)  K=(1,0)  V=(2,0)
그것:  Q=(1,0)  K=(0,1)  V=(0,2)

‘그것’의 Query로 모든 Key와 내적(유사도)을 구한다 — 여기가 1장과 만나는 지점이다. 1장의 추천 시스템은 두 벡터의 코사인 유사도로 “이 사용자와 저 영화가 얼마나 가까운가”를 쟀다. 어텐션은 바로 그 유사도 계산을 일반화한다 — 단어 하나하나가 문장 안의 다른 모든 단어와 얼마나 ‘가까운지’를 내적으로 재고, 그 가까움을 가중치로 삼아 맥락을 끌어모은다. 추천에서 쓰던 한 줄짜리 유사도가, 여기서는 모든 단어쌍에 대한 유사도 행렬로 확장되는 것이다:

score(그것→사과) = (1,0)·(1,0) = 1
score(그것→그것) = (1,0)·(0,1) = 0

Softmax(4장)로 확률화하면: e¹:e⁰ = 2.72:1 → (0.73, 0.27). 이 가중치로 Value들을 평균낸다:

'그것'의 새 표현 = 0.73×(2,0) + 0.27×(0,2) = (1.46, 0.54)

‘그것’의 표현이 ‘사과’ 쪽으로 끌려갔다 — 문맥이 주입된 것이다. 실제 모델은 차원이 수천이고 이 계산이 행렬 곱 한 번으로 모든 단어쌍에 대해 동시에 일어난다. 거리가 1이든 1만이든 한 단계 — 장거리 의존성과 병렬화가 동시에 해결된다.

세미나 슬라이드의 실제 PyTorch 예제로 한 번 더 확인해 보자. 입력 토큰 3개(“어제”, “카페”, “갔었어”)를 각각 4차원 벡터로 두고, 학습된 가중치 행렬 W_Q, W_K, W_V를 곱해 Q·K·V를 만든다. Q와 Kᵀ를 내적하면 어텐션 스코어 행렬이 나온다:

attn_scores = Q · Kᵀ =
  [[ 2,  4,  4],
   [ 4, 16, 12],
   [ 4, 12, 10]]

첫 번째 토큰의 행 [2, 4, 4]를 (키 차원수의 제곱근으로 나눈 뒤) 소프트맥스에 넣으면 (0.13613, 0.43194, 0.43194)이 된다. 이 가중치로 Value 벡터들 [1,2,3], [2,8,0], [2,6,3]을 가중합하면 컨텍스트 벡터 c = [1.8639, 6.3194, 1.7042]가 나온다. 슬라이드의 핵심 정의를 그대로 옮기면 — “쿼리(Q)와 키(K)를 행렬곱(내적)한 뒤, 키 차원수(dk)의 제곱근으로 나눠주고 행 단위로 소프트맥스를 취하여 만든 어텐션 스코어(a)로, 밸류(V) 벡터를 가중합하여 맥락(context) 벡터(c)를 계산한다.” 학습이 하는 일은 단 하나, 서로 관련 있는 토큰들의 유사도를 높이는 W_Q, W_K, W_V 값을 업데이트하는 것이다.

**멀티헤드(multi-head)**는 이 검색을 여러 관점에서 병렬 수행한다. 한 헤드는 대명사의 지시 관계를, 다른 헤드는 주어-동사 호응을 — 각자 다른 부분 공간에서 전문화한다. 트랜스포머 블록 = 어텐션(문맥에서 무엇을 가져올까) + MLP(가져온 정보의 변환과 지식 적용) + skip connection(4장)의 반복이다.

BERT와 GPT — 양방향 이해와 한 방향 생성

같은 트랜스포머에서 두 갈래가 나왔다.

BERT(2018) — 인코더만 사용. 문장 중간 단어를 가리고 맞추는 과제(masked LM)로 양방향 문맥을 학습. 검색·분류·질의응답 같은 ‘이해’ 과제의 표준.

GPT(2018–) — 디코더만 사용. 과제는 단 하나, 다음 단어 맞추기. 이 단순한 과제의 마력은, 잘 맞추려면 문법→사실→추론→의도까지 점점 더 많은 것을 알아야 한다는 데 있다.

**전이 학습(Transfer Learning)**이 이 구조의 사용법이다: 레이블 없는 대량의 데이터(위키 문서, 책 등)로 자기지도학습을 통해 **사전학습(pre-training, upstream)**한 거대 모델을, 지도학습으로 특정 문제에 적용하는 미세조정(fine-tuning, downstream) 단계로 적응시킨다.

규모로 두 모델을 비교하면 차이가 분명하다. BERT-large는 층 L=24, 차원 H=1,024, 어텐션 헤드 16개로 파라미터 약 3.4억 개이고 책(8억 단어)과 위키(25억 단어)로 학습했다. GPT-3는 층 L=96, d(model)=12,288, 헤드 96개로 파라미터 1,750억 개, 학습 토큰은 3,000억 개에 달한다. (참고로 입력 텍스트를 토큰으로 쪼개는 방식도 갈린다 — GPT는 빈도 기반으로 글자쌍을 병합하는 BPE(Byte-Pair Encoding), BERT는 병합 시 말뭉치 우도를 가장 높이는 쌍을 고르는 WordPiece를 쓴다.)

**GPT-3(2020)**는 1,750억 파라미터에서 새로운 현상을 보였다 — 미세조정 없이 프롬프트에 예시 몇 개만 보여주면 새 과제를 수행하는 **퓨샷 학습(few-shot learning)**의 창발. **스케일링 법칙(2020)**은 이를 공식화했다: 모델·데이터·연산량을 늘리면 성능이 멱법칙을 따라 예측 가능하게 좋아진다. AI 개발이 아이디어 게임에서 자본 게임으로 바뀐 순간이다.

ChatGPT의 마지막 재료 — RLHF

GPT-3는 똑똑했지만 무례했다. 다음 단어 예측은 인터넷의 평균을 닮는 것이지, 도움이 되는 것이 아니다. RLHF가 그 간극을 메웠다. 3단계:

  1. SFT: 사람이 쓴 모범 답변으로 지도 미세조정
  2. 보상 모델: 사람이 응답들의 순위를 매긴 데이터로 “좋은 답변 채점기”를 학습
  3. PPO: 그 채점기를 보상 함수 삼아 강화학습(6장의 정책 경사가 여기서 쓰인다)

2022년 11월 ChatGPT 출시, 두 달 만에 사용자 1억 명. 기술적으로는 GPT-3.5 + RLHF + 채팅 UI였지만, 사회적으로는 AI가 연구실에서 일상으로 나온 사건이었다.

학습과 추론 — GPU 최적화의 세계

LLM의 비용은 두 곳에서 발생한다. 슬라이드의 비유가 명쾌하다 — 학습은 “수조 개의 데이터로 이론 서적을 집필하는 물리학자, 수만 개의 재료로 레시피를 만드는 요리사”이고, 추론은 “고객 질문에 응답하는 속독가, 주문 메뉴에 따라 요리를 서빙하는 직원”이다.

학습(training): 수천 장의 GPU를 묶어 몇 달간 진행 — GPU 간 통신(NCCL), 데이터·모델·파이프라인(텐서) 병렬화가 핵심 기술이다. 그 시간 규모를 슬라이드의 계산으로 가늠해 보자: 한 GPU 클러스터가 초당 143,360개의 토큰을 처리한다고 할 때 4,200억 토큰을 학습하면 약 2,929,688초 = 33.9일이 걸린다. 연산 목적은 ‘최적의 신경망 가중치 산출’, 목표 성능은 **처리량(throughput)**이며, 순전파→손실 계산→역전파→가중치 갱신의 빈번한 쓰기 작업 때문에 비싸지만 초고속인 **HBM(High Bandwidth Memory)**이 필수다. 정밀도는 BF16·FP16·FP8 같은 높은 정밀도를 쓰고, 프로세서는 NVIDIA H100·B200, 구글 TPU를 수만 개 클러스터로 묶는다.

추론(inference): 사용자 요청마다 발생하는 반복 비용 — 서비스 원가의 본체다. 연산 목적은 ‘최적의 결과값 출력’, 목표 성능은 지연 시간(latency)과 운영 비용이다. 단일 요청을 즉시 처리하되 읽기 작업 위주라서 가성비 좋은 GDDR6·SRAM·LPDDR5X 메모리와 L40S·모바일 NPU·TPU·Groq LPU 같은 저전력 칩을 쓴다. 추론 품질을 재는 두 지표가 있다: TTFT(Time To First Token) — 엔터를 누른 순간부터 첫 토큰이 화면에 나오기까지(질문을 읽고 이해하는 prefill 단계), TPOT(Time Per Output Token) — 첫 글자 후 다음 글자까지의 평균 시간(한 토큰씩 뱉는 decode 단계). 슬라이드가 든 서비스 기준(SLO)은 “빠릿함(0.5초 내 응답)“과 “유창함(초당 50토큰 이상)“이다.

TPOT를 끌어올리는 핵심 기술이 **KV 캐시(KV Cache)**다. 이미 처리한 토큰(“Michael”, “Jackson”, “is”…)의 Key·Value 벡터를 버리지 않고 GPU 메모리(VRAM)에 저장해 두고, 다음 단어를 계산할 때 새로 추가된 토큰에 대해서만 계산한다 — “똑같은 계산을 반복하지 않게 만드는 기법”이다.

추론 최적화의 또 다른 대표 기법이 **양자화(Quantization)**다. 가중치를 32비트 실수 대신 8비트·4비트 정수로 표현하면 메모리와 연산이 1/4–1/8로 준다. 슬라이드의 양자화 식은 fq(x,s,z) = clip(round(x/s)+z)로, scale s = (β−α)/(βq−αq)와 zero-point z로 실수값을 정수 구간에 매핑한다(예: α=−4.75, β=4.67을 0–255 구간으로 옮기면 s=0.037, z=129). 압축 범위에 따라 가중치만 줄이는 W4, KV 캐시까지 줄이는 W4KV4, 활성화 값까지 줄이는 W4A4로 나뉜다. 학습이 아니라 추론에서만 쓰는 기법이라는 점이 중요하다. 약간의 정확도를 내주고 비용을 크게 아끼는 거래다. NPU/TPU 같은 전용 칩(행렬곱에 특화된 ASIC), ONNX 같은 프레임워크 독립 추론 런타임, 가상화를 통한 GPU 공유(MIG, Multi-Instance GPU)도 같은 목적이다. (이 물질적 토대의 전체 그림 — 데이터센터, 전력, 네트워크 — 은 8장에서 다룬다.)

연필로 풀기 ②: LoRA — 저차원의 마법

거대 모델 전체를 미세조정하려면 GPU 수십 장이 필요하다. **LoRA(2021)**의 통찰: 미세조정으로 인한 가중치 변화 ΔW는 사실 **저차원(low-rank)**이다.

크기로 직접 확인해 보자. 1000×1000 가중치 행렬을 통째로 학습하면 파라미터 100만 개. LoRA는 ΔW를 두 개의 갸름한 행렬의 곱 B(1000×8) × A(8×1000)로 근사한다:

원래 방식: 1000 × 1000           = 1,000,000 파라미터
LoRA(r=8): 1000×8 + 8×1000      = 16,000 파라미터  (1.6%)

원본 가중치 W는 동결하고 A, B만 학습한다. 추론 시엔 W + BA로 합치면 추가 비용도 없다. 7B 모델의 미세조정이 게임 GPU 한 장에서 가능해진 이유다. 최근의 kaushik-2025-the-universal-weight-subspace|Universal Weight Subspace] 연구는 서로 다른 과제로 미세조정된 수백 개 모델의 ΔW가 실제로 같은 저차원 부분공간에 모여 있음을 보였다 — LoRA가 잘 작동하는 이유에 대한 경험적 단서다.

LoRA는 **PEFT(Parameter-Efficient Fine-Tuning)**라는 더 큰 가족의 일원이다. PEFT는 거대 모델 전체가 아니라 일부만 건드려 적응시키는 기법군으로, 새 파라미터를 더하는 추가형(어댑터, 소프트 프롬프트), 일부만 고르는 선택형, 그리고 LoRA처럼 변화를 저차원으로 다시 표현하는 재매개변수형으로 나뉜다. RLHF의 무거운 강화학습을 피하는 길도 나왔다 — **DPO(Direct Preference Optimization)**는 별도의 보상 모델(RM)이나 PPO 없이, 선호되는 응답(yw)과 덜 선호되는 응답(yl)의 차이를 직접 최대화한다.

Gen AI 스택의 나머지 부품들: RAG(답하기 전에 관련 문서를 검색해 프롬프트에 넣는 오픈북 시험 — 환각에 대한 가장 실용적인 대응), GraphRAG(문서를 지식 그래프로 조직해 전체 조망 질문까지 처리), MoE(입력마다 일부 전문가 망만 활성화 — 배깅과 비슷하게 여러 전문가를 두되 매번 일부만 쓴다), 오픈소스 모델(Llama, DeepSeek — 빅테크 외부의 연구·자체 호스팅 생태계).

DeepSeek — 제약 속의 최적화. 2025년 DeepSeek 충격은 “싼데 비싼 모델”이 어떻게 가능한지 보여준 사건이다. HFT(초단타매매) 출신 팀이 만든 이 모델은 레이턴시 최적화 노하우를 그대로 가져왔다: MLA(Multi-head Latent Attention)로 KV 캐시를 압축하고, MTP(Multi-Token Prediction)로 한 번에 여러 토큰을 예측하며, DualPipe로 H800 GPU의 SM 132개 중 20여 개를 통신 전담으로 재구성해 계산과 통신을 겹쳐 GPU 활용률을 거의 100%로 끌어올렸다. 순·역전파를 모두 FP8(E4M3)로 통일하되 4번 곱할 때마다 TF32로 보정해 누적 오차를 잡았다. 그 결과 GPU 인터커넥트 인프라 없이 훈련 변동비를 약 80억 원 수준으로 낮췄다. DeepSeek-R1은 한 발 더 나아가 SFT 없이 RL만으로(GRPO, Group Relative Policy Optimization) 후학습을 수행했다 — 후보 응답 집단의 평균을 기준으로 상대적 이점을 계산하는 방식이다. 미국의 대중 수출 규제(H800은 FP32/FP64만 1/20로 깎였을 뿐 FP16·FP8 성능은 H100과 동일)가 16비트 이하로 훈련하는 모델에는 사실상 제약이 되지 못했다는 사정도 이 결과의 배경이다.

LLM의 한계

목록이 길다. 환각(Hallucination): 그럴듯한 거짓을 유창하게 생성 — 모델은 ‘참’이 아니라 ‘그럴듯함’을 최적화하기 때문이다. 이루다 사태(2020): 학습 데이터의 편향과 프라이버시 침해가 서비스 중단으로 이어진 국내 사례 — 60만 명의 카카오톡 대화 94억여 건 무단 사용 등으로 2021년 4월 과징금·과태료 1억330만 원이 부과됐다(10장에서 상세히). 불쾌한 골짜기: 거의 인간 같지만 미묘하게 어긋날 때의 거부감. 슬롭(Slop)과 모델 붕괴: AI 생성 저품질 콘텐츠가 웹을 채우고 그것이 다시 학습 데이터로 들어가는 악순환 — “스팸”이 원치 않는 이메일을 뜻하게 됐듯 “슬롭”도 사전에 오를 만큼 자리 잡았고, 2024년 옥스퍼드 올해의 단어 후보에 올랐다(선정은 ‘brain rot’에 밀렸다). 합성 데이터로만 학습한 모델이 무너지는 모델 붕괴는 “합스부르크 AI”(근친혼에 비유)나 재귀의 저주(고양이를 반복 생성시키면 결국 한 색으로 수렴)로 불린다. 학습 데이터 고갈: 수츠케버는 “데이터 고갈로 인해 LLM 사전 훈련 스케일링의 시대는 끝났다. 컴퓨팅은 성장하지만 데이터는 성장하지 않는다. 왜냐하면 인터넷은 하나뿐이기 때문”(2024.12)이라고 못 박았다. 스케일링 법칙의 한계: “더 크게”의 수확체감 — 더 많은 인프라를 투입하고도 최신 모델이 기대만큼 좋아지지 않는다. 지속가능성과 ROI: 골드만삭스 연구총괄 짐 코벨로(Jim Covello)는 “인터넷은 초창기에도 저비용 기술이었다”며 향후 몇 년간 인프라에만 1조 달러가 투입될 Gen AI의 투자 대비 수익률에 회의를 표했다(2024.6). 데이터센터는 2027년까지 연간 6.4조 리터의 물(덴마크 연간 사용량의 4–6배)을 쓸 것으로 추정되고, 미국에서만 2025년 2분기에 980억 달러 규모 프로젝트가 주민 반대로 중단·지연됐다.

한편 같은 기간 효율은 극적으로 좋아졌다. 스탠퍼드 AI 인덱스에 따르면 GPT-3.5급(MMLU 64.8%) 추론 비용은 2년 만에 100만 토큰당 0.07로 280배 떨어졌고, MMLU 60%를 넘긴 최소 모델은 2022년 PaLM(5,400억 파라미터)에서 2024년 Phi-3-mini(38억)로 142배 작아졌다 — 한계론과 효율 향상이 동시에 진행 중이라는 역설이다.

새로운 돌파구

  • TTC(Test-Time Computation): 학습이 아니라 추론 시점에 더 생각하게 하기. Chain-of-Thought(2022)가 원형 — “단계별로 생각해 보자”는 지시만으로 추론 성능이 뛰는 것은 중간 추론 토큰들이 작업 기억 역할을 하기 때문이다. o1류 추론 모델들은 이를 학습 목표로 내재화했다(슬라이드 표현: “바로 답하지 말고 충분히 생각해 보고 답해줘”, 생각 토큰(Thought Tokens)). 카너먼의 System 1(직관) vs System 2(숙고)의 구분에 빗대기도 한다. 그 효과는 극적이다 — AGI 테스트(ARC-AGI류)에서 GPT-3는 0점, GPT-4o는 5점, o1은 32점이었는데 o3는 88점으로 인간(85점)을 처음 넘어섰고, 코드포스 2727점·AIME 96.7%를 기록했다.
  • 합성 데이터: 데이터 고갈에의 대응. 모델이 만든 데이터로 모델을 학습하는, 모델 붕괴와 종이 한 장 차이의 줄타기. 메타의 **Language Self-Play(LSP, 2025.9)**는 한 모델 안에 어려운 문제를 내는 ‘챌린저’와 푸는 ‘솔버’를 두어(미니맥스 게임) 외부 데이터 없이 스스로 학습하는 실험이다 — 다만 순수 제로섬은 무의미한 적대적 공격이나 보상 해킹으로 빠져, ‘내면의 심판관’(품질 자기보상)을 더해야 건설적으로 수렴했다.
  • Agentic AI: 한 번 답하는 챗봇에서, 도구를 쓰고 계획하고 결과를 확인하며 여러 단계의 일을 수행하는 에이전트로. MCP·A2A가 에이전트-도구·에이전트-에이전트 간 표준 배선이 되고 있다(9장).
  • 월드 모델: 언어가 아니라 세계의 동역학을 모델링(JEPA, 공간 지능 — 9장). 르쿤 진영은 “다음 단어 예측으로는 물리 세계의 이해에 도달할 수 없다”고 주장한다.
  • 새로운 아키텍처: behrouz-2024-titans-learning-to-memorize|Titans]는 테스트 시점에 학습하는 신경 장기기억으로 컨텍스트 한계를 돌파하려 하고, behrouz-2025-nested-learning-the-illusion|Nested Learning]은 트랜스포머가 ‘중첩된 최적화 문제들’의 한 특수해일 뿐임을 보이며 설계 공간이 아직 넓음을 시사한다. 진화 전략(Evolution Strategies)의 재조명도 같은 맥락이다.

Bitter Lesson과 경험의 시대

리처드 서튼의 「The Bitter Lesson」(2019)은 AI 70년사를 한 문장으로 요약한다: “인간의 지식을 정교하게 설계해 넣는 접근은, 연산량을 활용하는 일반적 방법(탐색과 학습)에 결국 항상 패배해 왔다.” 체스 지식 vs 무차별 탐색(Deep Blue), 언어학 자질 vs 통계(기계번역), 수제 특징 vs 종단간 학습(AlexNet).

그 서튼이 2025년 9월에는 **“LLM은 막다른 길(dead end)“**이라 말한다(2025.9.27). 모순이 아니다 — 그의 논리에서 LLM은 ‘인간 생성 데이터의 모방’이라는 또 하나의 인간 지식 주입이기 때문이다. 그의 표현으로 “다음 토큰 예측은 목표가 아니다. 토큰이 당신에게 다가올 뿐이고, 당신이 그것을 예측한다고 해서 토큰에 영향을 줄 수는 없다.” 실버·서튼의 「Welcome to the Era of Experience」(2025.4)는 다음 시대의 데이터는 인간의 텍스트가 아니라 에이전트 자신의 경험(행동→결과→보상 스트림, 6장)이 될 것이라 주장한다 — “인간 데이터는 우리가 발견한 화석 연료와 같아서, 그것이 사라진 후에도 세상을 움직일 지속 가능한 연료가 필요한데 그것이 강화학습”이라는 것이다. 핵심 네 원칙은: 에이전트는 짧은 조각이 아닌 경험의 흐름 속에 거주하고, 행동·관찰은 환경에 근거하며, 보상은 인간의 사전 판단이 아니라 경험에 근거하고, 인간의 용어가 아니라 경험으로 계획·추론할 것.

카르파시는 한쪽에서 흥미로운 반(半)동의를 보탠다 — “우리는 동물을 만드는 게 아니라 유령을 소환하고 있다(We’re summoning ghosts, not building animals)“(2025.10). 아기 얼룩말이 태어난 지 수십 분 만에 사바나를 달리는 것은 백지 상태(tabula rasa)의 강화학습이 아니라 DNA에 새겨진 진화의 ‘외부 루프’ 초기화 덕분인데, LLM은 그런 동물이 아니라 “인류가 남긴 기록의 통계적 정제에 약간의 덧칠을 한” 불완전한 복제품이라는 것이다. 그래서 그는 사전학습을 “엉터리 진화(crappy evolution)”, 가중치에 든 지식을 “1년 전 읽은 것에 대한 흐릿한 회상”, KV 캐시를 “작업 기억”에 비유하며, ‘에이전트의 해’가 아니라 **“에이전트의 10년(the decade of agents)“**이라 말한다(오늘의 에이전트는 아직 지속 학습도 못 하는 미숙한 인턴). 수츠케버는 AI 역사를 세 시대로 나눈다 — 2020년 전 ‘연산 제약의 시대’, 2020년 이후 ‘스케일링의 시대’, 그리고 2025년부터 “다시 연구의 시대(age of research)” — 적절한 가치 함수, 신뢰할 수 있는 일반화, 지속 학습이 새 열쇠라고 본다. 진단은 하나로 모인다 — 다음 단어 예측 + 스케일링이라는 단일 레시피의 시대가 저물고 있다.

참고 논문

논쟁거리

리처드 서튼의 ‘The Bitter Lesson’과 LLM의 막다른 길(Dead end)에 대해 어떻게 생각하시나요? 수츠케버가 언급한 ‘Research의 시대’로 돌아가기 위해 가장 먼저 무엇을 해야 할까요?

서튼의 ‘dead end’ 주장에는 정교한 반론이 가능하다. LLM은 인간 모방으로 출발하지만, RLHF·TTC·에이전트 루프를 통해 이미 경험 기반 학습을 흡수하고 있다 — 막다른 길이 아니라 경험의 시대로 들어가는 관문이라는 것이다. 반대로 서튼 편에 서면: 관문이라 해도, 관문을 본체로 착각한 투자와 연구의 쏠림이 문제다. 수조 원이 단일 아키텍처의 스케일링에 들어가는 동안 대안 패러다임의 탐색은 상대적으로 빈곤해졌다.

‘연구의 시대’로 돌아가는 첫걸음은 어쩌면 기술이 아니라 평가의 다양화다. 모두가 같은 벤치마크를 좇으면 모두가 같은 산을 오른다 — 1장의 에코 체임버는 연구 공동체에도 적용된다. Nested Learning이 보여주듯 트랜스포머는 가능한 설계 공간의 한 점일 뿐이다. 그 공간을 다시 넓게 탐색하는 것(6장의 언어로, exploitation에서 exploration으로 돌아가는 것)이 연구의 시대의 출발점일 것이다.

다음 장으로 — 두 갈래의 모순

이 장의 통합은 두 개의 새로운 모순을 남기며, 그 각각이 다음 두 장의 출발점이 된다.

첫째는 물질의 문제다. 어텐션은 모든 단어쌍을 한 번에 계산하는 대신 그 대가를 메모리와 연산으로 치른다 — KV 캐시가 VRAM을 잡아먹고, 1,750억 개의 파라미터가 수만 장의 GPU와 수개월의 전력을 요구하며, 추론 한 번마다 비용이 흐른다. 양자화·MoE·MLA 같은 묘기는 이 비용을 깎는 임시방편일 뿐, 거대 모델을 실제로 돌리려면 칩·메모리·데이터센터·전력·네트워크라는 물질적 토대가 먼저 있어야 한다. 짐 코벨로의 ‘1조 달러’ 회의와 데이터센터의 물 소비는 모두 같은 질문을 가리킨다 — 이 추상적 지능을 떠받치는 하부구조는 무엇으로 이루어져 있는가. 8장이 그 토대(와 그것을 만드는 노동·자원·전력)를 파헤친다.

둘째는 세계의 문제다. 6장 끝의 체화된 인지가 던진 의심 — 몸 없는 시뮬레이션은 진짜 세계의 그림자가 아닌가 — 은 LLM에 그대로 되돌아온다. 텍스트는 세계 자체가 아니라 인간이 세계에 대해 남긴 기록, 즉 세계의 그림자다. 수츠케버가 말한 데이터 고갈(“인터넷은 하나뿐”)과 르쿤 진영의 “다음 단어 예측으로는 물리 세계를 이해할 수 없다”는 진단은, 텍스트만으로는 세계의 동역학에 도달할 수 없다는 같은 한계를 가리킨다. 그래서 다음 돌파구는 언어 너머의 월드 모델과 피지컬 AI로 향한다 — 9장이 그 길을 따라간다.

Graph View

Backlinks