AI/ML Wiki

Chap 3. 「계산하는 기계와 지능」 — 인공지능의 간략한 역사 및 AI/ML 알고리즘

40 min read

Chap 3. 「계산하는 기계와 지능」 — 인공지능의 간략한 역사 및 AI/ML 알고리즘

AI의 발전사를 통해 기호적 추론(규칙)과 연결주의(데이터) 알고리즘의 차이를 비교합니다.

앞 장이 남긴 숙제 — 규칙을 손으로 짤 것인가, 스스로 배우게 할 것인가

2장은 우리에게 강력한 도구 하나를 쥐어 주었다. 무엇이든 계산할 수 있는 보편 기계, 곧 컴퓨터다. 그러나 그 장은 동시에 한 가지 모순을 남겼다 — 계산 기계는 손에 들어왔지만, 그 위에 ‘지능’을 올리는 일은 여전히 사람의 몫이라는 것이다. 기계가 무엇을 해야 하는지를 사람이 규칙으로 일일이 적어 주어야 했고, 세상이 복잡해질수록 그 규칙의 목록은 감당할 수 없이 불어났다. 자연스레 떠오르는 질문은 이것이다 — 기계가 스스로 배울 수는 없을까?

이 장의 문제는 바로 여기서 출발한다. 계산이라는 빈 그릇 위에 지능을 어떻게 구현할 것인가? 역사는 두 갈래의 대답을 내놓았다. 하나는 지능을 규칙과 기호로 직접 짜 넣는 길(기호주의)이고, 다른 하나는 뇌의 구조를 흉내 내어 데이터로부터 스스로 배우게 하는 길(연결주의)이다. 이 장은 그 두 길이 벌인 시소 게임의 연대기이자, “규칙이냐 학습이냐”라는 변증법의 무대다. 먼저 70년 전 그 무대의 막을 연 한 사람의 질문에서 시작하자.

”기계는 생각할 수 있는가?” — 튜링 테스트

1950년, 앨런 튜링은 「계산하는 기계와 지능(Computing Machinery and Intelligence)」에서 ‘생각’의 정의를 둘러싼 끝없는 논쟁 대신, 판별 가능한 게임을 제안했다. 이미테이션 게임(튜링 테스트): 칸막이 너머의 상대와 텍스트로 대화한 뒤 인간인지 기계인지 구별할 수 없다면, 그 기계는 ‘생각한다’고 인정하자는 것이다.

튜링은 같은 논문에서 예상 반론 9가지를 미리 반박했다 — 신학적 반론, 의식 부재 반론, 러브레이스 부인의 반론(“기계는 시키는 것만 한다”) 등. 그리고 마지막 절에서 놀라운 제안을 한다. 성인의 마음을 흉내내려 하지 말고 아이의 마음을 만들어 교육시키자 — 70년 후의 머신러닝을 정확히 예견한 문장이다.

ChatGPT가 사실상 튜링 테스트를 통과한 지금, 질문은 “통과했는가”에서 “통과가 무엇을 의미하는가”로 이동했다(이 철학적 논쟁은 10장에서 다룬다). 이 장에서는 그 70년의 기술적 여정을 따라간다.

두 갈래의 길 — Making a Mind vs Modelling a Brain

“기계가 스스로 배울 수 없을까”라는 질문에 대한 두 대답, 곧 규칙(기호)과 학습(연결)은 처음부터 별개의 진영을 이루었다. AI의 역사는 이 두 진영의 시소 게임이다.

기호주의(Symbolic Logic) — 마음 만들기. 지능 = 기호의 조작. 세계의 지식을 기호와 규칙으로 표현하고 논리적으로 추론한다. 1956년 다트머스 회의에서 ‘인공지능’ 명명, 1957년 뉴얼·사이먼의 GPS(General Problem Solver), 1965년 로빈슨의 결정 원리(Resolution), 1970–80년대 전문가 시스템(Expert System)의 상업적 성공.

연결주의(Connectionism) — 뇌 모델링하기. 지능을 정의하지 말고 뇌의 구조를 모방한다. 1943년 매컬록·피츠의 인공 뉴런, 1949년 헵의 학습 규칙, 1957년 로젠블랫의 퍼셉트론.

시소의 연대기:

시기사건승자
1957GPS와 Perceptron 동시 등장공존
1969민스키·페퍼트, XOR 문제로 퍼셉트론 한계 증명기호주의
1974–801차 AI 겨울 — 과장된 약속, 연구비 중단—
1980s전문가 시스템 붐 / 1985년 역전파 재발견, 1982 RNN, 1989 CNN양 진영 부활
1987–932차 AI 겨울 — 전문가 시스템 거품 붕괴—
1997Deep Blue, 체스 세계 챔피언 격파(탐색의 승리)
2012AlexNet연결주의
2016–22AlphaGo → Transformer → GPT → ChatGPT연결주의

기호주의의 발목을 잡은 것은 상식 지식 문제(“컵을 들면 물도 따라온다”를 모두 규칙으로 적을 수 없다)와 프레임 문제(행동이 바꾸는 것/바꾸지 않는 것의 추론 비용 폭발)였다. 겨울의 공통 패턴 — ① 약속의 인플레이션 ② 구조적 한계의 노출 ③ 자금 철수 — 은 오늘날의 하이프를 점검하는 체크리스트로 여전히 유효하다.

겨울은 추상적인 분위기가 아니라 구체적인 사건의 연쇄였다. 1차 겨울의 방아쇠는 영국의 **라이트힐 보고서(Lighthill Report, 1973)**였다 — 이 보고서 이후 영국의 AI 연구가 급감했고, 같은 해 미국 DARPA도 지원을 중단(1973–74)했다. 1차 겨울에는 상식 지식 문제와 제한된 컴퓨팅 성능에 더해 존 설(John Searle)의 중국어 방(Chinese Room) 논변 — “규칙에 따라 기호를 옮기는 것만으로는 이해가 아니다” — 라는 철학적 비판도 가세했다. 2차 겨울(1987–1993)은 전문가 시스템의 하드웨어 토대가 무너지며 시작됐다. 리스프 머신(Lisp Machine)의 한계(1987), 미 국방부의 전략 컴퓨팅 이니셔티브 중단(1988), 그리고 일본 정부가 1982년 대규모 투자를 선언했던 **5세대 컴퓨터 프로젝트의 중단(1992)**이 그 좌표다. 값싸진 PC와 ERP에 비해 전문가 시스템은 너무 비싸고 비효율적이었다.

세 번째 시소는 아직 진행 중이다. 컴퓨팅·인프라 성능 향상, 2007년 전후 인터넷·모바일·SNS·IoT 데이터 폭증, 새로운 알고리즘(2012 AlexNet의 GPU 활용, 2016 알파고의 강화학습, 2017 트랜스포머)이 맞물려 딥러닝 전성시대가 열렸다. 남은 질문은 하나다 — 새로운 단계(AGI, 초지능)로 나아갈 것인가, 아니면 과장된 하이프 끝에 세 번째 겨울을 맞을 것인가? AI 역사의 교훈은 단순하다: 튜링 머신(계산, 수학)의 한계를 직시하고, 과도한 기대가 부르는 거품을 경계하며, “안 해도 되는 일을 하지 않는” 선택과 집중이다.

학습의 네 가지 방식

  • 지도학습(Supervised): 정답(레이블, target)이 있는 데이터로 오차(error, loss)를 줄여나가며 입력→출력 함수를 학습한다 — ‘차이/변화와 미분’의 세계다. 레이블이 이산적이면 분류(이미지 분류, 음성 인식, 스팸 처리), 연속적이면 회귀(날씨·시장·소득·주가 예측).
  • 비지도학습(Unsupervised): 정답 없이 데이터에 내재된 패턴·분포·특성을 발견한다 — ‘유사성과 거리/방향/상관관계’의 세계다. 군집화(고객 세그멘테이션), 차원 축소(특성 추출, 1장의 PCA/SVD), 연관 분석(장바구니 분석).
  • 강화학습(Reinforcement): 에이전트가 환경 안에서 일련의 행동으로 누적 보상을 최대화하는 정책을 학습한다(6장). 그 수학적 뼈대는 마르코프 결정 과정(MDP) — 상태·행동·보상·상태 전이 확률·할인 인자로 구성된다. 핵심은 탐험-활용 딜레마(Exploration-Exploitation Dilemma), 즉 ‘진동과 안정 사이’의 균형이다.
  • 진화학습(Evolutionary): 생물 진화 원리에서 착안한 확률적 탐색·최적화 기법이다(6장의 유전 알고리즘). 흐름은 초기 집단 생성(population) → 선택(selection)·교차(crossover)·돌연변이(mutation) → 적응도 평가(fitness function)의 순환이다.

목적에 따라 AI를 나누기도 한다 — 기존 알고리즘으로 분류·회귀·군집을 수행하는 분석(Analytic) AI, LLM으로 새 콘텐츠를 만드는 생성(Generative) AI, 로봇·센서와 결합해 실제 세계와 상호작용하는 물리(Physical) AI.

규칙으로 지능을 짓다 — ELIZA, 쉐이키, CYC

기호주의의 실물은 규칙 기반(Rule-based) 시스템, 즉 IF-THEN 규칙과 지식/온톨로지 베이스로 추론하는 **전문가 시스템(Expert System)**이었다. 엑셀 함수, SQL, 프로그래밍 언어, 컴파일러도 넓게 보면 이 계보의 사촌이다.

**ELIZA(1966)**는 IF-THEN 규칙만으로 만든 최초의 챗봇이다. 단어 패턴에 정해진 답을 매핑할 뿐이다 — 환자가 “나는 O가 필요해요”라고 하면 “왜 O가 필요한가요?” 또는 “만약 O가 있다면 정말 도움이 될까요?”로 되받고, “미안”이라는 단어가 나오면 “미안해하지 않아도 되는 경우도 많이 있어요”라고 응수한다. 이해 불가능한 말에는 “계속 말씀해 보세요”, “정말 흥미롭군요”로 넘긴다. 이해는 전혀 없지만, 사람들은 ELIZA에게 마음을 열었다.

**쉐이키(Shakey, 1966)**는 세계 최초의 모바일 지능형 로봇이다. 주변을 인지하고, 명시적 사실에서 암시적 사실을 추론하고, 계획을 세우고, 실행 오류를 복구하고, 평범한 영어로 소통했다. 그 토대는 지금 보면 놀랍도록 빈약하다 — 1966년의 SDS-940 컴퓨터, 64K 24비트 메모리, 포트란과 Lisp로 짠 QA3 문제 해결기. 1969년경 192K 36비트 PDP-10으로 교체되며 STRIPS 계획 시스템이 쓰였다. 쉐이키의 비전·탐색·계획 방법은 이후 자동차·공장·비디오 게임·화성 탐사선 설계에 두루 스며들었다.

1970년대 말의 논리 프로그래밍은 프롤로그(Prolog) 언어로 우아하게 구현됐다. 1982년 일본 정부는 프롤로그 기반 5세대 컴퓨터 프로젝트에 거액을 투자하겠다 선언했고 미국·영국이 뒤따랐지만, 1980년대 말–90년대 초 모두 시들해졌다 — 논리가 불확실한 정보를 다루지 못한 탓이 컸다. 이 흐름은 곧 경멸조의 별명 **GOFAI(Good Old Fashioned AI)**로 불렸다.

야심의 정점은 더그 레넛의 CYC였다. CYC는 패턴·통계가 아니라 명문화된 인간의 상식으로 추론하는 기계다 — 연역(Deduction)·귀납(Induction)·귀추(Abduction)·유추(Analogy)를 구사한다(“머신러닝이 쓰는 것은 이 중 귀납 하나뿐”이라는 게 CYC 측 주장이다). 30여 년에 걸친 약 2.5억 달러 규모의 투자 끝에 CYC가 쌓은 것은 약 150만 개의 일반 개념과 그 위의 2,500만 개 이상의 규칙·서술, 그리고 1,100개가 넘는 추론 엔진이다. 그러나 CYC는 기호주의의 세 가지 근본 난제를 압축적으로 보여준다 — 재사용성(시스템마다 처음부터 다시 짜야 함), 효율성(규칙 수백 개만 돼도 추론이 고통스럽게 느림), 그리고 비일관성(“문장을 추가하는 것으로는 비일관성을 결코 제거할 수 없다. 집합의 일관성을 복구하는 유일한 방법은 문장을 제거하는 것이다”). CYC는 전역적 일관성을 포기하고, 지식 베이스를 서로 인접하면 대체로 일관된 다차원 맥락 공간(micro-theory)으로 조직해 이 마지막 난제를 우회했다. “지구 표면이 둥근 줄 알면서도 우리는 평평한 듯 살아간다 — 국소적으로는 평평하니까”라는 비유 그대로다.

규칙 기반 접근은 박물관 유물이 아니다. 회전초밥 **스시로(2002)**는 IC칩 수요 예측으로 폐기량을 25% 줄였고, 2022년 월드컵의 반자동 오프사이드 판정, 2024년 프로야구의 **ABS(자동 볼-스트라이크 시스템)**도 명시적 규칙과 센서를 결합한 사례다(ABS는 이 장 마지막에서 다시 다룬다).

연필로 풀기 ①: 의사결정나무 — 어떤 질문이 좋은 질문인가

**의사결정나무(Decision Tree)**는 스무고개다. 핵심은 “어떤 질문부터 해야 하는가”이고, 답은 정보 이득(엔트로피 감소)이 가장 큰 질문이다. 엔트로피는 직접 계산할 수 있다.

테니스를 칠지 말지 기록한 데이터 14건: 칠래요 9건, 안 칠래요 5건.

시작 엔트로피 H = -(9/14)log₂(9/14) - (5/14)log₂(5/14)
              = -(0.643)(-0.637) - (0.357)(-1.485)
              ≈ 0.410 + 0.530 = 0.940 비트

“습도” 질문으로 나누면: 높음 7건(칠래요 3, 안 칠래요 4 → H≈0.985), 보통 7건(칠래요 6, 안 칠래요 1 → H≈0.592).

정보 이득 = 0.940 - (7/14)(0.985) - (7/14)(0.592) ≈ 0.151 비트

모든 후보 질문에 대해 이 값을 계산해 가장 큰 것을 고른다 — 이게 나무가 자라는 원리의 전부다. (엔트로피라는 자는 2장의 섀넌이 만든 바로 그 자다.)

나무 하나는 데이터를 외워버린다(과적합). 가지치기(pruning)로 줄일 수도 있지만, 더 강력한 해법은 앙상블(Ensemble) — 여럿을 모아 다양성으로 오류를 상쇄하는 전략이다. 두 갈래가 있다.

**배깅(Bagging, Bootstrap Aggregating)**은 복원 추출(sampling with replacement)로 데이터를 무한정 다양하게 뽑아 여러 모델을 키운 뒤 투표시킨다. 뽑히지 않은 약 1/3의 데이터(OOB, Out-Of-Bag)는 자동으로 검증셋이 된다. 랜덤 포레스트는 여기에 한 술 더 떠 변수(feature)까지 일부만 골라 쓴다 — 각 나무의 정확도는 떨어지더라도 나무들 사이의 다양성(상관관계 낮춤)을 더 중시한다. “2보 전진을 위한 1보 후퇴”, 개인기보다 팀워크다.

**부스팅(Boosting)**은 정반대로 순차적이다. 앞 나무가 틀린 사례에 가중치를 더 주거나(AdaBoost), 손실 함수의 잔차를 다음 나무가 메우며(Gradient Boosting Machine, GBM) 쌓아 올린다 — ‘오답 노트’에 가깝다. XGBoost는 GBM을 실전화했다: 최적 분할점을 근사값으로 잡아 블록 단위로 병렬 처리하고, 결측/희소(sparsity)는 default direction으로 처리한다. LightGBM은 더 가볍게 — gradient가 큰 상위 일부만 살리고 하위는 무작위로 버리는 GOSS, 동시에 0인 변수들을 묶는 EFB(Exclusive Feature Bundling)로 데이터와 변수 수 자체를 줄인다. 이 트리 앙상블들은 정형(테이블) 데이터에서는 지금도 딥러닝을 이기는 일이 흔하다.

연필로 풀기 ②: 나이브 베이즈 — 확률로 분류하기

**나이브 베이즈(Naïve Bayesian)**는 베이즈 정리 한 줄로 분류한다. 스팸 필터 예제: 전체 메일의 30%가 스팸이고, “무료”라는 단어가 스팸의 60%, 정상 메일의 5%에 등장한다면 — “무료”가 들어 있는 메일이 스팸일 확률은?

P(스팸|무료) = P(무료|스팸)P(스팸) / P(무료)
            = (0.6)(0.3) / [(0.6)(0.3) + (0.05)(0.7)]
            = 0.18 / 0.215 ≈ 84%

‘나이브(순진한)‘라는 이름은 “단어들이 서로 독립”이라는 비현실적 가정 때문이다. 그런데도 스팸 필터, 문서 분류에서 놀랍도록 잘 작동한다 — 단순한 가정 + 많은 데이터가 정교한 모델을 이기는 첫 번째 사례다. 키·몸무게 같은 특징으로 성별을 맞추는 문제도 같은 원리다: 사전 확률(prior)에 각 특징의 가능도(likelihood)를 곱해, 더 큰 쪽 클래스로 판단한다.

베이즈의 진짜 힘은 ‘신뢰도를 갱신하는 방법’이라는 데 있다. 사전 확률 P(H)을 새 증거 E로 갱신해 사후 확률 P(H|E)를 얻는다. 직관을 배신하는 유명한 예가 희귀병 검사다. 발병률 0.1%인 질병에 대해 민감도(병이 있을 때 양성) 99%, 특이도(병이 없을 때 음성) 98%인 검사가 있다고 하자. 양성 판정을 받은 사람이 실제로 병에 걸렸을 확률은? 놀랍게도 약 **4.7%**에 불과하다 — 건강한 99.9% 중 2%가 만들어내는 위양성이 진짜 환자를 압도하기 때문이다. 그런데 같은 사람이 두 번째 검사에서도 양성이면, 이번엔 첫 검사의 사후 확률(4.7%)을 새 사전 확률로 삼아 갱신하므로 약 **70.9%**까지 치솟는다. 같은 검사를 반복하는 것만으로 믿음이 어떻게 도약하는지를 보여준다.

이것은 빈도주의(frequentism)와 다른 패러다임이다. 빈도주의자는 “동전 앞면 확률 50%“를 “100번 던지면 50번 앞면”으로 읽지만, 베이지안은 “앞면이 나온다는 주장의 신뢰도가 50%“로 읽는다. 통계 검정 자체의 기원에는 피셔(R. A. Fisher)의 “차를 시음하는 여인(Lady Tasting Tea)” 일화가 있다 — 우유를 먼저 넣었는지 맞히는 부인의 능력을 검증하기 위해, 우유를 먼저 부은 잔 4개를 8잔 중에서 골라내게 했다. 우연히 모두 맞출 확률은 1/70(약 1.4%)이므로, 다 맞히면 그 능력을 인정할 수 있다는 설계다.

파레토와 롱테일, 그리고 극단값 — 분포가 곧 알고리즘이다

데이터의 모양 자체가 어떤 알고리즘이 통할지를 결정한다. **파레토 법칙(80 대 20 법칙)**은 결과의 80%가 원인의 20%에서 나온다는 관찰이다 — 이름은 “이탈리아 인구의 20%가 부의 80%를 가졌다”고 한 경제학자 빌프레도 파레토에서 왔다(품질 전문가 주란이 명명). 백화점 VIP 20%가 매출 80%를, 상위 20% 부유층이 세금 80%를 낸다.

그런데 인터넷이 재고·물류 비용을 무너뜨리자 반대 현상이 나타났다. 개별로는 안 팔리는 비인기 상품도 모이면 거대한 틈새 시장이 된다 — 아마존에서 이런 매출이 20–30%에 이르렀고, 구글 애드워즈/애드센스는 무수한 소규모 광고주를 모아 대형 광고 시장을 위협했다. 이 “티끌 모아 태산”이 롱테일(long-tail) 현상이다.

꼬리가 더 극단적이면 **극단값 이론(Extreme Value Theory, EVT)**과 **일반화 파레토 분포(GPD)**가 등장한다. 네덜란드는 국토의 40%가 해수면 아래라 제방으로 막는데, 정부는 연중 최대 해수면이 제방을 넘칠 확률을 0.0001로 맞추려 한다. 문제는 가진 데이터가 100년치뿐이라는 것 — 100년 자료로 1만 년에 한 번 넘칠 높이를 추정해야 한다. 이런 극단 분위수 추정이 EVT의 무대다(보험·금융 파생상품·환경 오염 분야의 핵심 도구). 평균이 아니라 꼬리를 모델링한다는 점이, 평균에 최적화된 대부분의 ML과 EVT를 구별한다.

서포트 벡터 머신 (SVM) — 여백을 최대로

1995년 코르테스·바프닉의 SVM은 2차 겨울 이후 신경망 침체기를 지배했다. 두 클래스를 나누는 직선은 무수히 많다 — 그중 양쪽 클래스로부터의 여백(margin)이 최대인 경계가 일반화를 가장 잘한다. 경계에 닿아 있는 소수의 점들이 ‘서포트 벡터’다.

직선으로 못 나누는 데이터는 커널 트릭으로 고차원에 사상해 나눈다. 종이 위에서 분리 불가능한 두 색의 점들도, 종이를 3차원으로 구부리면 평면 하나로 나뉘는 것과 같다. 통계적 학습 이론이라는 탄탄한 수학 덕분에 “왜 작동하는가”를 설명할 수 있는 드문 모델이었다.

AI Stack — 알고리즘에서 생태계로

현대의 AI는 알고리즘 하나가 아니라 스택이다. 아래에서 위로:

애플리케이션(서비스)
     ↑
모델(알고리즘) ← 이 장에서 다룬 것
     ↑
데이터 플랫폼 (수집·정제·저장)
     ↑
인프라 (클라우드, 데이터센터)
     ↑
반도체 (GPU/NPU)

이 그림의 근거가 구글의 「Hidden Technical Debt in Machine Learning Systems」(2015)다. 이 논문의 유명한 그림은 실제 ML 시스템에서 ML 코드 자체는 한가운데의 작은 검은 상자에 불과하고, 데이터 추출·검증·서버 설정·모니터링 같은 주변 인프라가 그보다 훨씬 방대하고 복잡하다는 것을 보여준다. 전통적 소프트웨어는 모듈화(encapsulation)로 한 부분만 고칠 수 있지만, ML은 데이터·모델·파라미터가 얽혀(entanglement) 있어 하나만 바꿔도 전체 성능이 달라진다. ‘기술 부채’란 당장 빠른 구현을 위해 타협했을 때 나중에 이자까지 쳐서 갚아야 하는 비용이다 — ML 시스템에는 이 부채가 더 은밀하고 깊게 쌓인다.

알고리즘의 역사만 보면 AI의 절반만 보는 것이다. 물질적 토대는 8장에서, 서비스 개발 방법론(MLOps/LLMOps)은 9장에서 다룬다.

AI의 변곡점인가? — 페라리와 연필, 그리고 작업의 길이

지금이 AI의 변곡점인지를 묻는 신호가 곳곳에서 켜진다.

2025년 1월, 중국의 DeepSeek가 훨씬 적은 비용으로 최첨단 성능에 근접하자 ‘Sputnik 2.0’이라는 말이 돌았다. 슬라이드는 이를 이렇게 빗댄다 — “동네에서 짜장면 배달하는데 페라리가 필요한 건 아니잖아요?”, “NASA가 우주에서 쓸 펜에 백만 달러를 썼다는데, 러시아는 연필을 가져갔잖아요.” 성능 경쟁이 효율 경쟁으로 옮겨가는 순간을 포착한 비유다(이 책의 부제 ‘연필로 하는 AI/ML’과도 통한다).

AI의 능력을 재는 새로운 자도 등장했다. METR의 연구는 AI 성능을 “모델이 x% 확률로 완료할 수 있는 작업의 길이(사람 기준)“로 정의한다. 현재 모델은 사람이 4분이면 끝낼 작업은 거의 100% 성공하지만, 4시간 넘게 걸리는 작업은 성공률이 10% 미만이다. 그런데 이 ‘완료 가능한 작업 길이’가 지난 6년간 기하급수적으로 늘어 약 7개월마다 두 배가 됐다. 추세대로면 5년 안에 AI가 지금 인간이 며칠–몇 주 걸리는 소프트웨어 작업의 상당 부분을 독립적으로 해낼 수 있다는 전망이다.

물론 신중론도 있다. 최첨단 AI는 시험형 문제에서는 전문가를 능가하지만, 단일 단계가 아니라 여러 단계를 길게 연결하는 데서 무너진다. 안드레이 카파시는 “AGI는 경제적으로 가치 있는 모든 작업을 인간 이상으로 수행하는 시스템”이라는 정의에 대해, 실제로 자동화되는 것은 디지털 지식 작업의 10–20%에 불과할지 모른다고 짚는다 — 방사선과 의사, 콜센터 직원, 자율주행 택시는 여전히 멀다.

사례 연구: 야구 심판을 대체한 ABS — 편향이 사라지자 생긴 일

분석 AI가 사회를 바꾸는 모습을 한 장면으로 보자. 2024년 KBO 리그가 도입한 **ABS(Automatic Ball-Strike System)**다.

문제는 명백했다. 메이저리그 심판들은 2018년 한 해에만 볼-스트라이크를 3만 4,294차례 잘못 판정했다(경기당 평균 14차례). 오심은 단순한 실수만이 아니었다 — 텍사스대 경제학자 대니얼 해머메시 팀은 2004–2008년 350만 건 이상의 투구를 분석해, 심판이 자신과 같은 인종의 투수에게 더 유리한 판정을 내렸음을 보였다. 베테랑·스타 투수에게 스트라이크 존이 후했다는 통계도 있다. 사람의 판정에는 ‘엘리트 편향’과 ‘루키 헤이징(신인 길들이기)‘이 스며 있었던 것이다.

ABS 도입 효과는 데이터로 드러났다. 2024년 100경기 시점에서 3시간 미만 경기가 전년 대비 39.4% 증가했고, 총 관중은 100만에서 143만으로 늘었다. 무엇보다 편향이 제거되니 25세 이하 젊은 선수들이 약진했다. 출신·연줄을 중시해온 한국 사회에 대한 성찰의 거울이라는 평가가 나온 이유다.

다만 ABS도 완벽하지 않다. 한국이 쓰는 PTS(Pitch Tracking System)는 삼각측량 기반의 추정치라, 메이저리그가 2015년부터 쓰는 실측 방식(트랙맨·호크아이)보다 정확할 수 없다 — “호크아이가 폴더블 스마트폰이라면 PTS는 2009년 폴더폰”이라는 비판도 있었다. 정확한 자동화조차 어떤 데이터·인프라 위에 서 있느냐가 결정적임을, 이 사례는 다시 한번 일깨운다(MLB가 데이터 웨어하우스를 BigQuery로 현대화한 것도 같은 맥락이다).

참고 논문

더 읽을거리

  • ieee-spectrum-70-years-of-artificial-intelligence — AI 70년사 개관 (IEEE Spectrum)
  • 마테오 파스퀴넬리, 『주인의 눈 — 인공지능의 사회사』(동녘) — 로젠블랫의 퍼셉트론을 뇌의 모방이 아니라 사회적 분업의 기계화로 다시 읽는 노동사적 관점 (독후감: 주인의 눈)

논쟁거리

기호주의는 실패하고 연결주의가 완벽히 승리했을까요? LLM의 한계를 넘기 위해 기호주의적(규칙/온톨로지) 접근이 다시 필요한 이유는 무엇일까요?

그리고 — 지금의 AI는 AGI·초지능이라는 새로운 단계로 나아가는 변곡점에 있을까요, 아니면 과장된 하이프 끝에 세 번째 겨울을 맞이할까요? 앞선 두 번의 겨울이 남긴 체크리스트(약속의 인플레이션 → 구조적 한계의 노출 → 자금 철수)에 비추어, 지금은 어디쯤일까요?

연결주의의 승리는 분명하지만 완전하지 않다. LLM은 유창하게 말하지만 자신이 무엇을 모르는지 모르고(환각), 다단계 논리 추론에서 무너지며, 명시적 제약(“이 약물은 함께 처방 금지”)을 안정적으로 지키지 못한다. 공교롭게도 모두 기호주의가 잘하던 것들이다.

그래서 신경-기호(Neuro-Symbolic) 통합이 다시 주목받는다. 지식 그래프·온톨로지로 LLM의 출력을 구조화하고 검증하는 GraphRAG(7장), 형식 검증기를 결합한 수학 추론(AlphaProof), 계산기·DB·검색을 도구로 호출하는 에이전트(9장) — 모두 “패턴 인식은 신경망에게, 정확한 규칙은 기호에게”라는 분업이다. 역사의 시소는 한쪽의 승리가 아니라 분업의 발견으로 수렴하고 있는지도 모른다.

다음 장으로 — 규칙이 막힌 길에서, 스스로 가중치를 배우는 길로

이 장이 도달한 자리를 정리하자. 규칙을 손으로 짜 넣는 기호주의는 전문가 시스템으로 먼저 상업적 성공을 거두었지만, 상식 지식 문제와 프레임 문제 앞에서 무너졌다 — 세상의 규칙을 사람이 다 적어 둘 수는 없었다(AI 겨울). 의사결정나무·앙상블·나이브 베이즈·SVM 같은 통계·트리 계열은 정형(테이블) 데이터에서는 지금도 강력하지만, 이미지나 언어 같은 지각의 영역에서는 사람이 좋은 특징(feature)을 골라 주지 않으면 힘을 쓰지 못했다. 결국 두 길 모두 같은 한계에 갇힌다 — 어디까지나 사람이 무엇을 보아야 할지를 정해 줘야 한다는 것이다.

그렇다면 남은 길은 하나다. 규칙도, 특징도 사람이 짜 주는 대신, 데이터로부터 기계가 스스로 규칙(가중치)을 고쳐 나가게 하는 것이다. 그 학습의 심장에는, 출력의 오차를 거꾸로 흘려보내며 수많은 가중치를 조금씩 미분으로 깎아 내는 한 가지 기법이 있다 — 바로 **역전파(backpropagation)**다. 2장이 남긴 “스스로 배우기”라는 숙제가 비로소 구체적인 알고리즘으로 답해지는 곳, 그곳이 다음 장이다.

Graph View

Backlinks