EP.03 – DeepMind의 철학자: 데미스와 알파고

"기계는 왜 인간을 이기고자 했는가?"

프롤로그: 바둑판 위의 질문

2016년 3월, 세상은 충격에 빠졌다.
인공지능이 인간 바둑 챔피언을 이긴 것이다.

그 주인공은 알파고(AlphaGo), 그리고 그 배후에 있는 조직은 DeepMind.
그리고 이 모든 계획을 세운 중심엔, 한 사람의 과학자가 있었다.
그의 이름은 데미스 허사비스(Demis Hassabis).

그는 단지 AI를 이기게 만든 것이 아니라,
**인간의 지능이란 무엇인가?**라는 질문을 기계에게 던진 사람이었다.

💡 DeepMind는 영국에서 시작된 인공지능 연구 기업으로, 2014년 Google에 인수됨. 인간 수준의 지능을 목표로 연구 중.

1. 체스 천재에서 인공지능 철학자로

데미스 허사비스는 13세에 체스 마스터가 되었고, 17세에 게임 개발을 시작했다.
옥스퍼드와 UCL에서 인지신경과학을 공부했고, 인간 기억의 메커니즘을 연구했다.

그는 질문했다.
“기억, 상상, 사고… 인간 지능의 구조를 기계가 모방할 수 있을까?”

이 질문은 DeepMind의 철학이 되었고, 그 첫 번째 실험이 바로 알파고였다.

2. 알파고, ‘이기기 위해 태어난 AI’

알파고는 단순히 규칙 기반 프로그램이 아니었다.
그것은 딥러닝과 강화학습을 결합한, 자기 훈련형 AI였다.

• 수백만 번의 대국을 스스로 반복하며,
• 기존 인간 기보를 학습하며,
• 인간이 두지 않는 수를 ‘상상’해 냈다.

그 결과, 2016년 3월, 이세돌 9단과의 대국에서 4:1 승리를 거둔다.

이 승리는 전 세계에 충격을 주었다.
“인간만의 영역”이 무너진 것 같았다.

💡 강화학습(Reinforcement Learning):
AI가 시행착오를 통해 보상을 최대화하도록 학습하는 방식

3. 단 한 판, 인간이 AI를 이긴 날

그런데 모두가 잊지 못하는 단 한 판이 있다.
2016년 3월 13일, 알파고와의 4국까지 전패했던 이세돌은 제5국에서 승리한다.

그 판에서, 그는 아무도 예상하지 못한 수를 둔다.
바로 78번째 수. 해설자도, AI도, 관중도 멈춰섰다.

알파고는 흔들렸다.
그 수는 AI의 계산 속 확률 분포상 천 번 중 한 번도 선택하지 않을 확률이었다.

“그 수는 우리 모델이 예측하지 못한, 인간 고유의 직관이었다.”
— 데미스 허사비스, 《AlphaGo》 다큐멘터리 中

그날, 인간은 한 판을 이겼다.
그러나 더 깊은 의미는 그 승리보다, AI가 이해하지 못한 수에 있었다.

그건 수학이 아니라 감각이었다. 계산이 아니라 맥락이었다.

그 순간, 우리는 알았다.
인공지능이 ‘이길 수 있는 존재’가 되었을지라도, 아직 ‘이해하는 존재’는 아니라는 것.

그날의 78수는 인간이 AI에게 던진 질문이자 선언이었다.
“우리는 여전히 예측 불가능한 존재이다.”

그리고 데미스는 그 순간, 다시 질문을 던진다.

“AI는 정말로 ‘이해’할 수 있는 존재인가?”

3.5 알파고 팀 내부의 반응과 데미스의 고백

이세돌이 승리한 날 밤, DeepMind 내부는 침묵에 가까웠다.
기술자들은 78수의 의미를 되짚으며, “우리가 놓친 건 무엇인가”를 다시 검토했다.

어떤 이는 “AI는 승리를 배웠지만, 예외를 배우지는 못했다”고 말했고, 다른 이는 “AI가 감히 인간의 상상력을 예측하려 했던 건 오만이었다”고 적었다.

그리고 데미스는 조용히 말했다.

“그날 밤, 나는 오히려 안도했다. 우리는 아직 인간을 완전히 이해하지 못한다는 사실이, 나에겐 위로였다.”

그 한 판의 패배는 DeepMind에게 기술의 한계이자 철학의 출발점이 되었다.

4. DeepMind는 왜 게임을 연구하는가?

데미스는 말했다.

“게임은 우주의 축소판이다.
규칙, 선택, 전략, 창의성… 모두 존재한다.”

DeepMind는 알파고 이후에도 다양한 게임에서 AI를 실험했다.

• 알파스타(Starcraft II)
• 도타(DOTA 2)
• 아타리 게임 57종

이 실험들은 단순한 엔터테인먼트가 아니었다.
그는 AI가 복잡한 환경에서 인간처럼 학습할 수 있는지를 증명하고자 했다.

5. 철학자 데미스의 질문: "AI는 생각하는가?"

데미스는 기술자이면서도 철학자였다.
그는 AI의 윤리적 사용, 기억 시스템, 자기반성 능력에 깊은 관심을 두었다.

그는 단순한 자동화가 아닌,
**“의도를 가진 지능”**을 만들고자 했다.

“우리는 AI가 단지 똑똑해지는 것에 관심이 없다.
AI가 책임감 있고 이해 가능한 존재가 되길 바란다.”
— 데미스 허사비스, 2020

이 발언은 DeepMind가 기술 개발만큼이나,
윤리와 책임, 설명 가능성을 연구하는 이유를 보여준다.

💡 설명 가능 AI (XAI):
AI의 의사결정 과정을 인간이 이해할 수 있도록 설계하는 연구 분야

6. 알파고 이후의 DeepMind

알파고는 더 이상 존재하지 않는다.
DeepMind는 알파고를 은퇴시키고,
의학, 에너지, 물리학 등 실제 문제 해결로 초점을 옮겼다.

• 단백질 구조 예측 AI: AlphaFold
• 수학 증명 AI: AlphaTensor
• 원자력 융합 제어 AI: DeepMind Fusion

이 변화는 하나의 선언이었다.

“AI는 이제 인간을 이기기 위한 것이 아니라, 인간을 도와주기 위한 것이다.”

📌 요약 정리

• 데미스 허사비스는 체스 천재이자 인지과학자 출신 AI 연구자이다.
• 그는 DeepMind를 설립해, 알파고로 인간을 이긴 최초의 AI를 만들었다.
• 이세돌과의 대국 중 한 판에서 인간이 승리하며 AI의 한계를 드러냈다.
• 그 승리는 DeepMind 내부에도 깊은 반성과 전환점을 남겼다.
• 알파고 이후 DeepMind는 AI를 통한 실질적 문제 해결에 집중하고 있다.

🧾 참고 출처

• DeepMind 공식 블로그: https://www.deepmind.com/blog
• Nature: AlphaGo 관련 논문 (2016) https://www.nature.com/articles/nature16961
• Wired 인터뷰, Demis Hassabis (2020)
• AlphaGo 다큐멘터리 (Netflix, 2017)

📣 당신에게 묻습니다

당신은 알파고를 기억하시나요?
그날, 인간은 졌습니다.
하지만 단 한 판, 인간은 예측 불가능함으로 승리했습니다.
그 한 수는, AI에게도 풀리지 않는 질문이었습니다.

EP.02 – Claude의 독립: 다리오의 결단

"AI는 누구의 손에 있어야 하는가?"

프롤로그: 조용한 반란

2021년 가을, 샌프란시스코의 한 연구소 회의실. 늦은 밤까지 모니터 앞에 앉아 있던 한 남자가, 조용히 노트를 덮는다. 그의 이름은 다리오 아모데이(Dario Amodei).

그는 OpenAI의 부사장이었고, GPT-2와 GPT-3의 설계자 중 한 명이었다. 하지만 그날, 그는 결심했다. 떠나겠다고.

그리고 한 달 후, 그는 자신의 회사를 차린다. 그 회사의 이름은 Anthropic(앤트로픽). 거기서 그는 GPT와는 완전히 다른 방향의 AI를 만들기 시작한다. 그 AI의 이름은, **Claude(클로드)**였다.

💡 Anthropic은 '인간 중심의 인공지능'을 철학으로 내세운 AI 스타트업입니다.

1. 다리오 아모데이, GPT의 중심에서 돌아선 이유

다리오는 수년간 GPT 프로젝트의 최전선에 있었다. GPT-2가 너무 강력해 공개를 미루었을 때도, GPT-3가 대중 앞에 처음 선보였을 때도, 그는 그 자리에 있었다.

하지만 시간이 지나면서 그는 불안을 느꼈다. 너무 빠른 속도, 너무 큰 모델, 너무 많은 가능성.

"우리는 너무 빠르게 나아가고 있었다. 위험을 감지할 시간조차 없을 정도로." — 다리오 아모데이 (2022년, Anthropic 블로그)

GPT-3는 상업적 성공을 거뒀지만, 그 안에는 질문이 있었다. “이 AI는 누구를 위해 작동하는가? 그리고 누구에 의해 통제되는가?”

다리오는, 그 질문에 답하기 위해 나왔다.

2. Claude: 윤리를 먼저 생각한 AI

Claude는 경쟁자가 아니라, 질문자였다. “AI는 정말로 인간을 이해하고 있는가?” “우리는 AI에게 어떤 기준을 가르쳐야 하는가?”

GPT가 ‘더 잘 대답하는 법’을 배웠다면, Claude는 ‘어떻게 대답해야 하는가’를 먼저 배웠다.

Anthropic은 Claude에게 헌법을 가르쳤다.

💡 헌법 기반 AI란?
AI가 따를 수 있는 가치 지향적 원칙(헌법)을 먼저 정의하고, 그 원칙을 기준으로 학습을 진행하는 방식입니다.

Claude는 공격적이거나 편향된 응답을 스스로 걸러내는 훈련을 받았다. AI가 인간을 위해 존재한다면, 인간의 기준을 먼저 알아야 한다는 철학이었다.

그리고 그 철학은, 다리오의 삶 전체에서 비롯된 것이었다. 그는 과학자이면서, 동시에 사색가였다. 기술의 진보보다, 그것이 끼칠 영향에 대해 더 오래 고민하던 사람이었다.

3. Anthropic vs OpenAI: 철학의 갈림길

두 회사는 언뜻 보기엔 닮았다. 언어모델, 대규모 훈련, 거대 기업의 투자.

하지만 질문은 다르다.

항목 OpenAI Anthropic

GPT는 상업화를 택했고, Claude는 의도를 택했다.

다리오는 인터뷰에서 이렇게 말했다.

"강력한 모델을 만드는 것은 어렵지 않다. 정말 어려운 건, 그 모델이 책임감 있게 작동하도록 만드는 일이다."

4. Claude의 구조와 특징

Claude는 GPT 시리즈와 달리, 사용자 피드백을 중심으로 설계되었다.

• 대화의 맥락을 더 잘 이해하고,
• 질문자의 의도를 파악하며,
• 언제나 정중하고, 조심스럽다.

그리고, Claude는 대답만 하지 않는다. **“왜 그렇게 대답했는지”**도 설명한다.

💡 자기 설명 능력(Self-explanation):
AI가 자신의 답변 근거를 설명할 수 있는 기능. 투명성과 신뢰성 향상에 기여.

Anthropic은 이 구조를 “AI의 양심 회로”라고 설명했다.

5. AI는 누구의 편에 서야 하는가?

이제 AI는 단순한 기술이 아니다.
매일 수억 명이 그것과 대화하고,
그 응답은 사람의 선택을 바꾸고, 감정을 흔든다.

그렇다면 우리는 질문해야 한다.

“이 AI는 누구를 위한 것인가?”

GPT는 빠르다. 정확하다. 탁월하다. 하지만 Claude는, 묻는다. “그렇게 대답하는 게 정말 옳은 일일까?”

다리오 아모데이의 결단은, 기술을 향한 반란이 아니었다. 그것은 윤리를 향한 귀환이었다.

📌 요약 정리

• 다리오 아모데이는 OpenAI에서 GPT를 만들었지만, 위험성을 느끼고 독립했다.
• 그는 인간 중심의 윤리적 AI를 만들기 위해 Anthropic을 창립했다.
• Claude는 헌법 기반 훈련과 자기 설명 능력을 가진 AI로 설계되었다.
• GPT와 Claude는 기술뿐 아니라 철학에서도 큰 차이를 가진다.

🧾 참고 출처

• Anthropic 공식 블로그: https://www.anthropic.com/index
• "Constitutional AI" 논문: https://arxiv.org/abs/2212.08073
• 다리오 인터뷰: Lex Fridman Podcast (2023)

📣 당신에게 묻습니다

AI는 점점 똑똑해지고 있습니다.
그렇다면, 우리는 그것이 '어떻게 똑똑해지도록 만들 것인지'에 대해
충분히 고민하고 있을까요?

"AI는 어떻게 인간의 언어를 이해하게 되었는가?"

프롤로그: 불씨를 지핀 두 사람

2015년 겨울, 샌프란시스코의 어느 회의실. 노트북 한 대, 백지에 가까운 선언문, 그리고 두 남자.

샘 알트먼, 창업가이자 당대 최고의 스타트업 인큐베이터 'Y Combinator'의 수장이었다. 일야 수츠케버, 딥러닝 혁명을 실현한 조용한 수학 천재. 그는 구글 브레인 팀의 핵심 멤버였고, ‘트랜스포머’가 나타나기도 전부터 인공지능을 연구하던 인물이다.

그들이 택한 이름은 OpenAI. 목표는 단순했다. 그러나 무모했다. “모든 인류에게 이익이 되는 AGI(범용 인공지능)를 만들자.”

그리고 그 첫 실험은, 인간의 언어를 기계가 이해하도록 훈련시키는 것이었다.

1. OpenAI, "모두를 위한 인공지능"이라는 이상

당시 Google, Facebook, Amazon은 AI를 비밀리에, 독점적으로 개발하고 있었다. AI는 이미 자본과 권력의 영역이었고, 누구도 그 기술을 공유하려 하지 않았다.

샘은 그 흐름에 의문을 품었다. 그는 '기술은 모두의 것이어야 한다'는 이상주의자였다. 그래서 일론 머스크, 피터 틸, 링크드인의 리드 호프먼 등에게 전화를 돌려 10억 달러 규모의 비영리 AI 연구소를 세웠다.

“우리는 AI가 소수 기업의 이익이 아닌, 인류 전체를 위한 기술이 되길 원했습니다.”
— 샘 알트먼 (MIT Tech Review, 2015)

비영리. 논문은 공개. 기술도 공유. OpenAI는 그렇게 탄생했다.

2. 일야 수츠케버: 감정을 상상한 과학자

일야는 천천히 말하는 사람이었다. 늘 실험실에 틀어박혀 모델을 만들고, 수학 문제를 풀며, 기계에게 마음이 있을 수 있을지를 고민했다.

그는 이미지넷(ImageNet) 챌린지를 딥러닝으로 우승시킨 장본인. 그 당시에 이미 구글은 그를 붙잡고 싶어 안달이었지만, 그는 샘의 제안을 받아들인다.

왜?

“AI가 인간의 언어를 이해할 수 있다면, 언젠가 감정도 이해할 수 있지 않을까.”
— 일야 수츠케버 (2018, 뉴욕타임즈 인터뷰)

그는 기계가 마음을 갖게 될 날을 상상하고 있었다.

3. 트랜스포머의 도래, GPT의 기반이 되다

2017년, 구글의 연구팀은 혁명적인 논문 하나를 발표한다.

"Attention is All You Need" — 인간처럼 단어의 관계를 맥락에 따라 파악하는 모델, **트랜스포머(Transformer)**의 등장이었다.

OpenAI는 이 구조에 주목한다. 일야는 이 구조 위에 ‘사전학습 언어모델’을 얹는 실험을 시작했다. Generative Pre-trained Transformer, 줄여서 GPT.

첫 버전은 논문 하나로 조용히 통과됐지만, 그 가능성은 뚜렷했다. GPT-1, GPT-2, 그리고 곧 세상이 충격을 받을 GPT-3의 시대가 다가오고 있었다.

📌 참고 논문: Attention is All You Need (2017)

🧭 GPT 시리즈 연대표 요약

• 2018: GPT-1 발표
• 2019: GPT-2 (공개 보류)
• 2020: GPT-3 발표 (1750억 파라미터)
• 2022: ChatGPT 출시 (5일 만에 100만 유저)

4. GPT-2의 등장: 공개를 미룬 AI

2019년 2월. OpenAI는 GPT-2를 만들고도 발표하지 않았다. 이례적이었다. 비영리를 표방하던 그들이 **처음으로 ‘공개를 보류’**한 것이다.

그 이유는 하나. 너무 강력했기 때문에.

간단한 입력만 넣어도 소설처럼 긴 글이 척척 나왔다. 모방, 조작, 허위정보 생성… 악용될 가능성이 너무 명확했다.

“우리는 기계가 인간의 언어를 무기처럼 다룰 수 있다는 걸 알게 됐다.”
— 일야 수츠케버 (Wired, 2019)

이 발표 보류는 전 세계 AI 커뮤니티를 술렁이게 만들었다. GPT는 단순한 모델이 아니라, 새로운 기술적 시대의 시작이라는 것을 모두가 깨달았다.

5. GPT-3와 ChatGPT, AI가 문화가 된 날

2020년, GPT-3가 세상에 나왔다. 1,750억 개의 파라미터. 당시 기준 세계 최대의 언어모델.

그리고 2022년 11월, ChatGPT가 등장했다. 단 5일 만에 사용자 100만 명. 누구나 AI와 대화를 시작할 수 있었다. AI는 뉴스가 아니라, 일상이 되었다.

📌 GPT-3 논문: Language Models are Few-Shot Learners (2020)

6. 기술과 철학, 어긋나는 시선

OpenAI는 2015년, 기술의 윤리를 외쳤다. 하지만 2019년부터는 Microsoft의 대규모 투자를 받으며, **영리법인(OpenAI LP)**으로 전환한다.

샘은 기업 성장과 상업화를 선택했고, 일야는 내부에서 조용히 연구를 계속했다.

이 차이는 결국 2023년, 일명 **‘OpenAI 쿠데타 사건’**으로 폭발한다. 샘 알트먼의 해임. 그리고 불과 며칠 뒤의 복귀.

🔥 이 극적인 사건의 이면—OpenAI 쿠데타—는 다음 화에서 깊이 파헤쳐보겠습니다. (EP.04 예고)

에필로그: 우리는 매일 GPT와 이야기한다

샘 알트먼은 속도를 택했다. 일야 수츠케버는 의미를 택했다.

그들의 선택 위에서 만들어진 GPT는 이제 전 세계 수억 명이 매일 사용하는 기술이 되었다.

그 기술의 안에는, 인간의 언어, 인간의 사고, 인간의 역설이 담겨 있다.

GPT는 알고 있다. 우리가 무엇을 말하고 싶어 하는지를.

📌 요약 정리

• OpenAI는 2015년 비영리로 출범했다.
• 샘과 일야가 공동 창립했고, 트랜스포머 모델로 GPT를 개발했다.
• GPT-2는 너무 강력해 공개가 지연되었다.
• GPT-3, ChatGPT로 AI는 대중의 도구가 되었다.
• 철학과 기술의 균열은 2023년 쿠데타로 이어진다.

📣 당신에게 묻습니다 GPT, 당신은 매일 쓰고 있습니다. 그 시작엔 어떤 사람들이 있었고, 어떤 선택이 있었을까요?