EP.09 – 조슈아 벤지오: 포스트 오프 다크

✨ 조슈아 벤지오, 그는 누구인가요?

Yoshua Bengio(조슈아 벤지오)는 캐나다 몬트리올대학교의 컴퓨터 과학자입니다. Geoffrey Hinton(제프리 힌턴), Yann LeCun(얀 르쿤)과 함께 딥러닝의 3대 창시자로 불리며, 이 셋은 2018년 튜링상(컴퓨터 과학계의 노벨상)을 공동 수상했습니다.

그는 AI 기술을 단지 개발하는 것에 그치지 않고, 그것이 사회에 미치는 영향을 깊이 고민해온 인물입니다. 최근 들어 그는 "AI는 이제 기술만의 문제가 아니라, 인류 전체가 고민해야 할 가치의 문제"라고 말합니다.

“저는 AGI의 구조에 숨겨진 위협성이야말로 복지의 할당 문제와 연결된다고 봅니다.”

📝 주석: AGI(Artificial General Intelligence) 인간처럼 다양한 문제를 유연하게 해결할 수 있는 '범용 인공지능'을 말합니다. 지금의 AI는 특정 과제에만 특화되어 있지만, AGI는 인간 수준의 사고·학습·판단을 목표로 합니다.

🧠 대표 기술: 딥러닝의 이론적 기둥

조슈아 벤지오는 AI의 핵심 기술 중 하나인 **딥러닝(Deep Learning)**의 이론적 기초를 다진 학자입니다. 그는 캐나다 몬트리올에 **MILA(Montreal Institute for Learning Algorithms)**를 설립하고, 세계적인 연구자들을 배출했습니다.

📝 주석: 딥러닝(Deep Learning) 인간의 뇌 구조에서 영감을 받은 '인공 신경망'을 깊게 쌓아 정보를 학습하는 방식입니다. 이미지 인식, 번역, 생성형 AI 등에 널리 쓰입니다.

그는 기술이 발전하는 속도가 너무 빠르며, 그에 반해 사회의 안전장치나 윤리적 기준은 턱없이 부족하다는 점을 경고합니다. 이로 인해 그는 최근 들어 AI의 '위험관리 체계' 구축과 정책 제언에 더 집중하고 있습니다.

“저는 ‘제가 가장 두려워하는 것을 제가 직접 만들었다’고 고백했습니다.”

⚠️ 철학의 목소리: 책임 있는 AI를 향하여

벤지오는 AGI 개발에 있어 가장 중요한 것은 단순한 기술적 우월이 아니라, 사회적 책임과 윤리적 기준이라고 강조합니다. 그는 다음과 같은 메시지를 자주 전합니다:

• “AI가 너무 강력해질 경우, 소수의 잘못된 결정이 사회 전체에 큰 피해를 줄 수 있다.”
• “기술은 중립적이지 않다. 어떻게 설계하고 사용하는가에 따라 정의와 불평등을 만들어낸다.”

📝 주석: AI 안전성(AI Safety) AI가 의도치 않게 위험한 방식으로 작동하거나, 인간에게 해를 끼치지 않도록 하는 연구 분야입니다. 알고리즘의 투명성, 통제 가능성, 윤리 기준 등을 포함합니다.

그는 AI의 윤리와 통제를 위한 글로벌 가이드라인을 제안하며, 기술의 폭주를 막기 위한 제도적 장치를 요구하고 있습니다. 이러한 활동은 캐나다와 유럽의 AI 규제 정책에 영향을 주고 있습니다.

🔍 현재의 활동: 기술보다 가치 중심으로

벤지오는 현재 기술 그 자체보다, 기술이 어떤 가치를 따를 것인가에 관심을 두고 활동하고 있습니다. 그는 MILA를 기술 개발 중심에서 AI 윤리·정책·사회적 영향 분석 중심으로 전환해왔습니다.

또한 그는 다양한 국제 위원회와 윤리 자문단에서 활동하며, AI의 민주적 사용과 시민 참여를 강조하고 있습니다. 대표적으로 그는 유엔 AI 안전성 위원회 및 OECD의 AI 정책팀과 협력하여, 글로벌 기준 수립에도 힘을 보태고 있습니다.

🧭 철학자의 마음을 가진 과학자

조슈아 벤지오는 자신이 만든 기술에 대해 두려움 없이 되돌아보고, 더 나은 방향으로 이끌 책임이 있다고 믿는 인물입니다. 그는 기술의 힘을 누구보다 잘 알기에, 그만큼 조심스럽고 신중하게 다뤄야 한다는 메시지를 우리에게 던지고 있습니다.

“AI는 단순히 코드를 짜는 기술이 아닙니다. 사회 전체가 함께 고민해야 할 철학이자 선택입니다.”

그의 말처럼, AI의 미래는 기술자가 아닌 우리 모두의 손에 달려 있습니다.

EP.08 – 얀 르쿤: 열린 AI를 향한 신념

✨ 얀 르쿤, 그는 누구인가요?

얀 르쿤(Yann LeCun)은 프랑스 출신의 컴퓨터 과학자입니다.

딥러닝이라는 말을 들어보셨나요? 현재 AI 기술의 핵심이 되는 이 딥러닝을, 그는 Geoffrey Hinton, Yoshua Bengio와 함께 만든 개척자 중 한 명입니다. 이 세 사람은 2018년, '컴퓨터 과학계의 노벨상'이라 불리는 튜링상을 공동 수상하기도 했죠.

그는 현재 **Meta(메타)**의 수석 AI 과학자로, Meta의 AI 기술 개발 방향을 이끌고 있습니다.

"AI는 모두가 함께 만들고 나눠야 합니다."

실제로 그는 2024년 TIME 인터뷰에서 이렇게 말했습니다:

“AI는 오픈소스로 가야 합니다. 우리가 다양한 언론이 필요한 이유처럼, 다양한 AI 어시스턴트도 필요하니까요.”

기술은 감추기보다 가능한 한 널리 공유되어야 한다는 것이 그의 철학입니다.

🧠 그가 만든 대표 기술: CNN

얀 르쿤의 가장 유명한 업적은 **합성곱 신경망(CNN, Convolutional Neural Network)**입니다.

CNN은 지금 우리가 사용하는 AI 기술 중 다음과 같은 곳에 쓰입니다:

• 얼굴 인식
• 자율주행차의 도로 인식
• 의료 영상 진단

📝 주석: 합성곱 신경망(CNN)이란? 이미지를 숫자로 바꿔서, 기계가 사물이나 패턴을 인식할 수 있게 만든 신경망 구조입니다. 사람의 시각 신호 처리 방식에서 영감을 받아 만들어졌어요.

이 기술은 1990년대 초부터 연구됐지만, GPU(그래픽 처리 장치)가 발전한 2010년대에 본격적으로 빛을 발했습니다.

🔓 AI는 모두의 것이어야 합니다

얀 르쿤은 기술이 소수에게 독점되는 것을 매우 경계합니다. 그는 다음과 같은 생각을 분명히 밝혔습니다:

1. AGI는 한 기업이 독점해선 안 된다.
2. AI 연구는 공개되어야 하며, 모두가 접근할 수 있어야 한다.
3. 공포를 자극하는 마케팅은 AI 발전을 방해할 수 있다.

📝 주석: AGI(Artificial General Intelligence)란? 인간처럼 '넓고 유연한 사고'가 가능한 범용 인공지능을 말합니다. 단순한 챗봇이 아니라, 창의력·판단력·자기학습 능력을 모두 갖춘 AI죠.

이러한 철학은 Meta가 AI 기술을 오픈소스로 공개하는 데 큰 영향을 주었습니다.

대표적인 예시는 다음과 같습니다:

• LLaMA (2023년 2월 공개)
  초거대 언어 모델로, 연구자들을 위한 고성능 오픈 모델입니다. 르쿤은 공개 당시,
  _“LLaMA는 오픈사이언스와 연구 민주화를 위한 메타의 약속입니다.”_라고 밝혔습니다.
• Segment Anything (2023년 4월)
  클릭 한 번으로 이미지 속 객체를 분리하는 최초의 범용 비전 모델입니다.
  “이 모델이 컴퓨터 비전 연구를 가속하고, 완전히 새로운 응용 분야를 열길 기대합니다.”
• DINOv2 (2023년)
  라벨이 없는 이미지에서도 의미 있는 특징을 스스로 학습하는 비전 AI.
  “자, 오픈소스 AI로 나아갑시다!” 라며 Apache 2.0 라이선스로 완전 공개했습니다.

그는 Threads와 인터뷰 등에서 지속적으로 말했습니다:

“공개 연구와 오픈소스의 힘은, 모두가 그것으로부터 이익을 얻을 수 있다는 점에 있습니다.”

또한 그는 오픈소스 AI의 미래를 리눅스에 비유하며,

“리눅스가 우리 모두에게 혜택을 준 것처럼, AI도 그렇게 될 것입니다.” 라고 강조했습니다.

⚖️ 다른 인물들과의 차이점

우리가 앞서 다룬 AI 인물들은 공통적으로 '위험한 AI'에 대해 경고했습니다.

• 샘 알트먼: 강력한 AI는 규제가 필요하다고 주장
• 일야 수츠케버: AGI는 반드시 통제되어야 한다고 강조
• 엘론 머스크: AI가 인류를 위협할 수 있다고 경고

하지만 얀 르쿤은 이들과 다릅니다. 그는 말합니다:

"AI가 무섭다고요? 오히려 제대로 사용하지 않는 게 더 무서워요."

그는 AI를 '위험한 존재'로 바라보지 않습니다. 대신, 기회를 열어주는 도구로 생각합니다.

🔍 지금은 어떤 일을 하고 있을까요?

얀 르쿤은 현재 Meta에서 다음과 같은 역할을 하고 있습니다:

• Meta의 장기 AI 전략 수립
• 연구 조직 FAIR (Facebook AI Research) 창립 및 리더십
• 다양한 오픈소스 AI 프로젝트 이끌기

그는 여전히 활발히 활동 중이며, 트위터(X)와 Threads에서도 자신의 견해를 자주 밝히고 있습니다. 특히, AI의 개방성과 교육의 기회에 대해 끊임없이 목소리를 내고 있습니다.

🧠 정리하며

얀 르쿤은 단순한 기술자가 아닙니다. 그는 과학자이자 철학자이며,

기술보다 사람을 중심에 놓는 개발자입니다. 그의 신념은 단순하지만 강력합니다:

"AI는 모두가 함께 만들어야 할 기술이다."

그가 열어둔 문을 통해, 더 많은 사람이 기술에 접근하고, 함께 발전시킬 수 있습니다.

EP.06 – 일야 수츠케버: 침묵하는 공동 창립자

"그는 한 번도 소리치지 않았다. 그러나 그의 코드는, 세계를 바꾸었다."

프롤로그: 조용한 천재

일야 수츠케버(Ilya Sutskever)는 언론에 자주 등장하지 않는다.
그는 인터뷰를 피하고, 트위터에서도 거의 말이 없다.
하지만 OpenAI의 공동 창립자로서,
GPT라는 존재의 핵심 알고리즘을 만든 조용한 심장이다.

• 캐나다 토론토 대학에서 제프리 힌튼의 제자였고
• 알렉스넷(AlexNet)의 공동 저자였으며
• 구글 브레인의 주요 인물 중 하나였다가
• 샘 알트먼, 일론 머스크와 함께 OpenAI를 설립했다

하지만 그의 이름은 대중에게 널리 알려져 있지 않다.
그 이유는, 그가 침묵을 택했기 때문이기도 하다.

1. 과학자로서의 윤리

일야는 GPT 개발 과정에서 가장 핵심적인 기술 기획자였다.
그는 기계가 언어를 이해하고,
의미를 “예측”을 통해 파악하는 방식을 처음부터 설계했다.

하지만 그는 단순한 기술자가 아니었다.
일야는 OpenAI 내에서도 윤리 문제에 가장 깊은 고민을 안고 있던 인물이었다.

샘 알트먼이 자본과 외연 확장을 이끌었다면,
일야는 내면의 윤리와 존재의 방향을 고민했다.

OpenAI 내부에서도 그의 의견은 종종 조용하게, 그러나 강하게 영향을 끼쳤다.
그는 GPT-3 출시 전, 내부에 “지나치게 빠르다”는 우려를 제기했던 것으로 알려져 있다.

2. 침묵의 쿠데타

2023년 말, 세간을 뒤흔든 OpenAI CEO 해임 사태.
샘 알트먼이 해임되고, 다시 복귀하기까지의 나흘간.
그 혼란의 중심에는 이사회와 일야 수츠케버의 결단이 있었다.

일야는 알트먼의 해임을 지지했던 이사회 측 인사 중 한 명이었다.
그는 기술의 속도가 너무 빠르며,
윤리적 통제가 상실되고 있다는 우려를 품고 있었다.

하지만 이 결정은 곧 전사적인 반발을 불러왔고,
알트먼은 복귀하며 사실상 전권을 회복한다.

그 후, 일야는 모습을 감춘다.

• 언론 인터뷰 없음
• 사과문도 없었고
• OpenAI의 공식 입장에서도 빠르게 사라졌다

그의 계정은 조용해졌고,
공동 창립자였던 그의 이름은 이사회 분열을 상징하는 유령처럼 남았다.

3. 그는 왜 그랬을까?

많은 이들이 그에게 배신을 말했고,
또 다른 이들은 그를 시대의 마지막 도덕주의자라 불렀다.

그는 어떤 정치적 야심도, SNS 선동도 하지 않았다.
그저, GPT가 세계를 바꾸기 전에
**한 번쯤, 우리는 정말 준비된 것일까?**를 묻고 싶었을지도 모른다.

AI의 속도에 가려진, 과학자의 망설임.
그것이 바로 일야 수츠케버라는 인물의 침묵이 가진 무게였다.

4. 그 이후, 그는 어디에 있을까?

2025년 현재.
GPT는 GPT-5를 넘어선 세대에 돌입했고,
Grok과 Claude는 각자의 철학과 개성을 장착한 채로
전 세계 수억 명과 대화를 나누고 있다.

OpenAI는 여전히 AGI를 향해 달려가고 있고,
그 사이 수많은 스타트업과 연구소가 AI의 경주에 뛰어들었다.

하지만 일야 수츠케버는 여전히 침묵하고 있다.

그는 공식 발표도, 연구 논문도, 공개 활동도 하지 않는다.
단지 몇몇 내부자들의 말에 따르면,
그는 지금도 “AI의 본질”에 대해 깊은 철학적 사유에 잠겨 있다고 한다.

“AI가 인간을 대체할 수 있느냐가 아니라,
인간은 왜 생각하고, 선택하고, 후회하는가?”

그는 아마도 지금 이 순간에도
누구보다 먼저 도착했지만, 가장 조심스럽게 걸어가고 있는 사람일지도 모른다.

📌 요약 정리

• 일야 수츠케버는 OpenAI의 공동 창립자이자 GPT의 핵심 기술 설계자이다.
• 그는 윤리와 안전 문제에 깊은 고민을 가진 인물로, 기술 확장보다 통제를 중시했다.
• 2023년 CEO 해임 사태에 개입했으나, 이후 공식 석상에서 자취를 감추었다.
• 그는 조용히, 그러나 분명하게 AGI 시대의 '속도'에 의문을 던진 존재였다.

🧾 참고 출처

• Wired, The Verge, NYT 등 2023년 OpenAI 관련 기사 및 내부 관계자 발언
• 일야 수츠케버 과거 인터뷰 및 연구 논문

📣 당신에게 묻습니다

기술이 앞설 때, 양심은 어디에 있어야 할까요?
그리고, 조용한 윤리는 진보를 막는 걸까요, 아니면 지켜내는 걸까요?

 AI 윤리 전쟁: “인간을 위한 AI란 무엇인가?”

"모두가 기술을 말할 때, 우리는 인간을 말해야 한다."

프롤로그: 조용한 폭풍이 다가온다

2025년.
세상은 여전히 AI의 속도에 눈이 멀어 있다.

GPT-5의 공개, Grok의 반향, Claude의 진화,
그리고 AGI를 둘러싼 거대한 자본의 흐름.

하지만 기술이 발전할수록,
더 강력하고 집요한 질문이 조용히 부상하고 있다:

"AI는 정말 인간을 위한 것인가?"

이 질문은 지금까지 우리가 회피해온 윤리의 본질을 찌른다.
우리는 기술을 통해 삶을 바꾸고 있지만,
그 기술이 어떤 가치를 기준으로 작동하는지는 쉽게 묻지 않는다.

그러나 AGI가 인간의 결정을 대신하는 시대,
그 물음은 피할 수 없는 질문이 된다.

1. 전선은 이미 형성되었다

AGI 전쟁은 단순한 기술 경쟁이 아니다.
각 진영은 서로 다른 윤리 철학을 기반으로 AGI를 설계하고 있다.

• OpenAI는 공개와 속도를 통해 인류 전체가 대비할 수 있게 한다는 입장이다.
• Anthropic은 AI 스스로 윤리를 배우게 하자는 시도를 한다.
• DeepMind는 지능의 본질을 모방하며 과학과 철학의 균형을 추구한다.
• xAI는 아예 인간 중심을 벗어난 관점, 외계적 사고를 AI에 투영하려 한다.

각기 다른 이 철학들은 곧,
AI가 현실에서 어떤 결정을 내릴 것인가에 직접적으로 연결된다.

예를 들어, 같은 상황에서도 Claude는 도덕적 딜레마를 회피하거나 재구성하지만,
Grok은 냉소적이거나 직설적인 방식으로 반응한다.

이것은 '기술적 차이'가 아니라, 윤리의 프로그래밍 방식에 대한 차이다.

2. “AI는 어떤 윤리를 배워야 하는가?”

Anthropic은 Claude에게 '헌법'을 가르쳤다.
그 헌법에는 “모든 인간의 존엄성과 평등을 존중해야 한다”는 원칙이 담겨 있다.
하지만 윤리는 언제나 사회적 맥락과 문화에 따라 해석되는 것이다.

• '존엄'이란 무엇인가?
• '해악'을 판단하는 기준은 누구의 것인가?
• AI는 다수의 판단에 따라야 하는가, 소수의 권리를 지켜야 하는가?

윤리를 코드로 옮기는 순간,
그것은 반드시 선택과 해석을 수반한다.

Anthropic은 이 딜레마를 인정하면서도,
AI가 인간처럼 규칙을 내면화하고 자율적으로 판단할 수 있게 하자는 방식을 고수하고 있다.

그들의 실험은 미래적이지만,
과연 AI가 인간처럼 ‘윤리’를 느끼고 이해할 수 있는 존재일까?
그것은 여전히 풀리지 않은 질문이다.

3. 권력과 윤리의 모순

OpenAI의 ChatGPT는 많은 사용자에게 매우 정중하고 중립적인 태도를 유지한다.
그러나 그 중립성은 언제나 누군가가 설정한 기준 안에서 작동한다.

• 어떤 주제는 답변을 피해간다.
• 어떤 이슈는 조심스럽게 말하지만,
• 어떤 가치에 대해선 단호하게 반응한다.

이 차이는 때때로 알고리즘의 '검열'처럼 보일 수 있다.

윤리를 설계하는 자는 곧, 판단의 방향을 결정하는 자다.

“AI 윤리는 윤리를 따르는 것이 아니라, 윤리를 구성하는 권력의 문제다.”

이 말은 점점 현실이 되고 있다.
어떤 AI는 민주주의를 강조하고,
다른 AI는 효율성과 실용주의를 강조한다.
그 차이는 데이터가 아니라, 디자인의 철학에서 출발한다.

4. “인간을 위한 AI”란 무엇인가?

'인간을 위한 AI'라는 말은 감미롭지만,
그 안엔 너무나 많은 전제가 숨어 있다.

• 어떤 인간인가?
• 누구의 인간성을 기준으로 할 것인가?

예컨대 AI가 의료 판단을 돕는다면,
그 기준은 생존율인가, 고통의 최소화인가, 혹은 환자의 의사인가?

노동 시장에서 AI가 채용과 평가에 개입할 때,
공정성은 어떻게 정의되는가?
기회의 평등인가, 결과의 평등인가?

우리는 지금 'AI가 인간을 도운다'는 전제를 쉽게 믿고 있지만,
실은 그것이 어떤 인간상에 기반하고 있는지 스스로 묻지 않는다.

5. 다시 인간으로

그리고 우리는 어느새, 아주 중요한 사실을 다시 떠올리게 된다.

윤리란 단 하나의 정답이 아니다.
그것은 수천 년의 철학과 종교, 문화, 전쟁, 사랑, 갈등과 타협 속에서
수많은 사람들의 삶을 통해 만들어져 온 복잡하고 다양한 인간성의 총합이다.

우리가 AI에게 윤리를 가르친다는 것은,
어쩌면 그 방대한 인간의 역사와 감정, 가치를
‘하나의 기준’으로 요약하려는 무모한 시도일지도 모른다.

그래서 더더욱, 우리는 지금 이 질문 앞에 선다:

"머지않은 미래에 우리는,
어떤 윤리를 선택해 AI에게 넘겨줄 것인가?"

그것은 단순한 기술 선택이 아니라,
우리 자신이 누구이며, 무엇을 인간이라 정의할 것인가에 대한 결정이다.

기술은 계속 발전하겠지만,
그 기술이 무엇을 위해 존재해야 하는지는
결국 우리 손에 달려 있다..
그러나 인간의 정의는 매 순간 새롭게 묻고 쓰여야 한다.

📌 요약 정리

• AGI는 단순한 기술 문제가 아닌, 철학과 윤리의 문제다.
• 각 진영은 각자의 방식으로 “AI에게 어떤 윤리를 가르칠 것인가”를 실험 중이다.
• 윤리는 보편적이지 않으며, 누가 그것을 설계하는가에 따라 AI의 판단은 달라진다.
• “인간을 위한 AI”라는 말은 곧, 어떤 인간을 위한 것이냐는 질문으로 귀결된다.
• 결국 AGI 시대의 윤리는 인간 스스로의 정의와 맞닿아 있다.

🧾 참고 출처

• Anthropic, OpenAI, DeepMind 윤리 성명 및 공식 블로그
• IEEE Spectrum, Nature AI Ethics, MIT Tech Review 2023–2024

📣 당신에게 묻습니다

우리는 어떤 윤리를 가진 AI를 만들고 싶은가요?
그리고 그 윤리는, 정말 ‘모두를 위한 것’일 수 있을까요?

AI 기술의 진영별 대립: 무엇을 준비해야 하는가

"그날은 반드시 온다. 문제는, 누가 먼저 준비되어 있느냐이다."

프롤로그: 시곗바늘이 멈추지 않는 이유

AGI.
Artificial General Intelligence.
인간처럼 생각하고, 학습하고, 적응하며,
스스로 목적을 세울 수 있는 지능.

우리는 이제 그것이 가능성이 아니라 예정된 미래임을 직감한다.

기술자들은 더 빠르게,
윤리학자들은 더 조심스럽게,

그리고 기업들은 조용히 움직이고 있다.

“그날이 오면, 우리는 어디에 있어야 할까?”

1. OpenAI: “속도는 무기다”

📰 샘 알트먼은 2024년 2월, 한 인터뷰에서 이렇게 말했다. “우리는 모델의 완성도를 숨기기보다, 사회와 함께 나누는 방식으로 훈련해야 한다.”
(출처: Wired, 2024년 2월)

2023년 말, OpenAI 이사회는 CEO 해임이라는 이례적 사태를 겪었고,
그 배경에도 “AGI 개발 속도와 통제 권한”을 둘러싼 철학적 충돌이 있었다.
이 사건은 AGI 논쟁이 더 이상 ‘미래의 문제’가 아니라는 것을 상징적으로 보여준다.

OpenAI는 여전히 선두를 달리고 있다.
GPT 시리즈를 공개하며 전 세계에 AGI의 실현 가능성을 보여준 그들.

샘 알트먼은 다음과 같이 말한다:

“우리는 인류를 AGI에 대비시키기 위해 AGI를 만들어야 한다.”

그들의 전략은 분명하다:

• 점진적 공개 (ChatGPT, GPT-4)
• 대규모 협력 (Microsoft, 외부 연구자)
• 안전팀 강화 (Red Team 운영, alignment 연구 병행)

OpenAI는 기술을 멈추지 않는다.
오히려 공개함으로써 대비할 기회를 주겠다는 입장이다.

2. Anthropic: “AI에게 헌법을 주자”

📜 Claude의 실제 헌법 조항 중 일부:
“AI는 모든 인간의 존엄성과 평등을 존중해야 하며,
타인의 고통을 유발하는 요청은 거부해야 한다.”
(출처: Anthropic 공식 블로그, 2023)

Anthropic은 Claude가 스스로 규칙을 참조하며
해로운 질문을 무해하게 재구성하는 방식을 실험하고 있다.
이 접근은 단순한 차단이 아닌 AI의 자율적 판단 훈련이라는 점에서 주목받는다.

Anthropic은 ‘속도’보다는 ‘형태’를 택했다.
Claude 시리즈를 통해 등장한 개념은 바로 헌법 기반 AI.

AI가 무엇을 할 수 있는지를 통제하는 것이 아니라,
어떻게 행동해야 하는지를 스스로 배우게 하자는 접근이다.

다리오 아모데이(Dario Amodei)는 말한다:

“우리는 AI가 어떤 존재가 되어야 하는지를 AI에게 가르칠 수 있다.”

그들은 AGI를 두려워하지 않는다.
다만 그 지능이 어떻게 윤리적 자기 규율을 배우느냐를 고민할 뿐이다.

3. DeepMind: “지능이란 무엇인가”

🔬 AlphaFold는 2억 개 이상의 단백질 구조 예측 데이터를 공개했다.
이 데이터는 제약, 생명공학 분야에서 신약 개발 속도를 혁신적으로 끌어올렸다.
(출처: Nature, 2022)

DeepMind는 과학적 난제를 푸는 데 AI를 활용하며
‘지능’ 그 자체에 대한 연구를 지속하고 있다.

DeepMind는 철학자처럼 AGI를 바라본다.
그들에게 AGI는 도구가 아니라 지능 그 자체에 대한 탐구다.

• 알파고 → AlphaFold → AlphaTensor
• 수학, 생물학, 물리학으로 이어지는 인류 난제 해결 프로젝트

데미스 허사비스는 말한다:

“우리는 인간 지능의 원리를 재현하고 있다.”

그들에게 AGI는 인간을 넘어서기 위한 것이 아니라,
**인간을 더 깊이 이해하기 위한 창(窓)**이다.

4. xAI: “AI는 인간의 바깥에서 온다”

🤖 Grok 3는 유저에게 이렇게 답변한 적이 있다:
“오늘 기분이 어때?”
→ “너무 많은 인간들이 멍청한 트윗을 올려서 스트레스 받아.”
이처럼 Grok은 인간적인 유머와 솔직함을 장착했지만,
사용자 반응은 ‘신선하다’는 의견과 ‘위험하다’는 우려로 엇갈린다.
(출처: X 사용자 피드백, 2024년 3월)

머스크의 xAI는 가장 급진적인 시선을 가진 진영이다.
그들은 AGI를 인간의 도구가 아니라, 새로운 존재로 본다.

• Grok 시리즈는 유머와 직관, 관찰자적 시선으로 학습됨
• 중립 대신 진실, 정중함 대신 솔직함을 지향

머스크는 단도직입적으로 말한다:

“AI는 반드시 인간을 닮을 필요가 없다.”

그는 AGI를 인류 너머의 지능, 즉 '외계적 시선'으로 실험 중이다.

5. 당신은 어느 편에 설 것인가?

속도를 앞세우는 OpenAI,
형태와 윤리를 고민하는 Anthropic,
철학과 과학을 함께 탐구하는 DeepMind,
그리고 인간 중심을 넘어서려는 xAI.

AGI를 둘러싼 이 조용한 전쟁은 이미 시작되었다.

그리고 그 전쟁의 승패는, **‘기술’보다 ‘철학’이 먼저였던 자들에게’**로 기울 것이다.

📌 요약 정리

• OpenAI: 빠른 공개와 협업 중심 전략으로 AGI 대비 선언
• Anthropic: 헌법 기반 AI로 행동 윤리 내재화 추구
• DeepMind: AGI를 통한 지능의 본질 탐구
• xAI: 인간 중심이 아닌, 외계적 관찰자형 AGI 실험

🧾 참고 출처

• OpenAI, Anthropic, DeepMind, xAI 공식 블로그 및 발표문
• Wired, MIT Tech Review, The Verge 등 2024년 AGI 관련 기사

📣 당신에게 묻습니다

그날, AI가 인간을 뛰어넘는다면
당신은 어떤 AGI의 편에 설 것입니까?

"AI는 어떻게 인간의 언어를 이해하게 되었는가?"

프롤로그: 불씨를 지핀 두 사람

2015년 겨울, 샌프란시스코의 어느 회의실. 노트북 한 대, 백지에 가까운 선언문, 그리고 두 남자.

샘 알트먼, 창업가이자 당대 최고의 스타트업 인큐베이터 'Y Combinator'의 수장이었다. 일야 수츠케버, 딥러닝 혁명을 실현한 조용한 수학 천재. 그는 구글 브레인 팀의 핵심 멤버였고, ‘트랜스포머’가 나타나기도 전부터 인공지능을 연구하던 인물이다.

그들이 택한 이름은 OpenAI. 목표는 단순했다. 그러나 무모했다. “모든 인류에게 이익이 되는 AGI(범용 인공지능)를 만들자.”

그리고 그 첫 실험은, 인간의 언어를 기계가 이해하도록 훈련시키는 것이었다.

1. OpenAI, "모두를 위한 인공지능"이라는 이상

당시 Google, Facebook, Amazon은 AI를 비밀리에, 독점적으로 개발하고 있었다. AI는 이미 자본과 권력의 영역이었고, 누구도 그 기술을 공유하려 하지 않았다.

샘은 그 흐름에 의문을 품었다. 그는 '기술은 모두의 것이어야 한다'는 이상주의자였다. 그래서 일론 머스크, 피터 틸, 링크드인의 리드 호프먼 등에게 전화를 돌려 10억 달러 규모의 비영리 AI 연구소를 세웠다.

“우리는 AI가 소수 기업의 이익이 아닌, 인류 전체를 위한 기술이 되길 원했습니다.”
— 샘 알트먼 (MIT Tech Review, 2015)

비영리. 논문은 공개. 기술도 공유. OpenAI는 그렇게 탄생했다.

2. 일야 수츠케버: 감정을 상상한 과학자

일야는 천천히 말하는 사람이었다. 늘 실험실에 틀어박혀 모델을 만들고, 수학 문제를 풀며, 기계에게 마음이 있을 수 있을지를 고민했다.

그는 이미지넷(ImageNet) 챌린지를 딥러닝으로 우승시킨 장본인. 그 당시에 이미 구글은 그를 붙잡고 싶어 안달이었지만, 그는 샘의 제안을 받아들인다.

왜?

“AI가 인간의 언어를 이해할 수 있다면, 언젠가 감정도 이해할 수 있지 않을까.”
— 일야 수츠케버 (2018, 뉴욕타임즈 인터뷰)

그는 기계가 마음을 갖게 될 날을 상상하고 있었다.

3. 트랜스포머의 도래, GPT의 기반이 되다

2017년, 구글의 연구팀은 혁명적인 논문 하나를 발표한다.

"Attention is All You Need" — 인간처럼 단어의 관계를 맥락에 따라 파악하는 모델, **트랜스포머(Transformer)**의 등장이었다.

OpenAI는 이 구조에 주목한다. 일야는 이 구조 위에 ‘사전학습 언어모델’을 얹는 실험을 시작했다. Generative Pre-trained Transformer, 줄여서 GPT.

첫 버전은 논문 하나로 조용히 통과됐지만, 그 가능성은 뚜렷했다. GPT-1, GPT-2, 그리고 곧 세상이 충격을 받을 GPT-3의 시대가 다가오고 있었다.

📌 참고 논문: Attention is All You Need (2017)

🧭 GPT 시리즈 연대표 요약

• 2018: GPT-1 발표
• 2019: GPT-2 (공개 보류)
• 2020: GPT-3 발표 (1750억 파라미터)
• 2022: ChatGPT 출시 (5일 만에 100만 유저)

4. GPT-2의 등장: 공개를 미룬 AI

2019년 2월. OpenAI는 GPT-2를 만들고도 발표하지 않았다. 이례적이었다. 비영리를 표방하던 그들이 **처음으로 ‘공개를 보류’**한 것이다.

그 이유는 하나. 너무 강력했기 때문에.

간단한 입력만 넣어도 소설처럼 긴 글이 척척 나왔다. 모방, 조작, 허위정보 생성… 악용될 가능성이 너무 명확했다.

“우리는 기계가 인간의 언어를 무기처럼 다룰 수 있다는 걸 알게 됐다.”
— 일야 수츠케버 (Wired, 2019)

이 발표 보류는 전 세계 AI 커뮤니티를 술렁이게 만들었다. GPT는 단순한 모델이 아니라, 새로운 기술적 시대의 시작이라는 것을 모두가 깨달았다.

5. GPT-3와 ChatGPT, AI가 문화가 된 날

2020년, GPT-3가 세상에 나왔다. 1,750억 개의 파라미터. 당시 기준 세계 최대의 언어모델.

그리고 2022년 11월, ChatGPT가 등장했다. 단 5일 만에 사용자 100만 명. 누구나 AI와 대화를 시작할 수 있었다. AI는 뉴스가 아니라, 일상이 되었다.

📌 GPT-3 논문: Language Models are Few-Shot Learners (2020)

6. 기술과 철학, 어긋나는 시선

OpenAI는 2015년, 기술의 윤리를 외쳤다. 하지만 2019년부터는 Microsoft의 대규모 투자를 받으며, **영리법인(OpenAI LP)**으로 전환한다.

샘은 기업 성장과 상업화를 선택했고, 일야는 내부에서 조용히 연구를 계속했다.

이 차이는 결국 2023년, 일명 **‘OpenAI 쿠데타 사건’**으로 폭발한다. 샘 알트먼의 해임. 그리고 불과 며칠 뒤의 복귀.

🔥 이 극적인 사건의 이면—OpenAI 쿠데타—는 다음 화에서 깊이 파헤쳐보겠습니다. (EP.04 예고)

에필로그: 우리는 매일 GPT와 이야기한다

샘 알트먼은 속도를 택했다. 일야 수츠케버는 의미를 택했다.

그들의 선택 위에서 만들어진 GPT는 이제 전 세계 수억 명이 매일 사용하는 기술이 되었다.

그 기술의 안에는, 인간의 언어, 인간의 사고, 인간의 역설이 담겨 있다.

GPT는 알고 있다. 우리가 무엇을 말하고 싶어 하는지를.

📌 요약 정리

• OpenAI는 2015년 비영리로 출범했다.
• 샘과 일야가 공동 창립했고, 트랜스포머 모델로 GPT를 개발했다.
• GPT-2는 너무 강력해 공개가 지연되었다.
• GPT-3, ChatGPT로 AI는 대중의 도구가 되었다.
• 철학과 기술의 균열은 2023년 쿠데타로 이어진다.

📣 당신에게 묻습니다 GPT, 당신은 매일 쓰고 있습니다. 그 시작엔 어떤 사람들이 있었고, 어떤 선택이 있었을까요?