앤트로픽 풀 다큐멘터리 — 1조 달러 AI 회사의 두 얼굴

출처: BZCF | 비즈까페 — 한 분이라도 더 보셨으면 좋겠습니다 (앤트로픽 풀다큐 번역) · 러닝타임 42분 22초

"우리가 이 기술을 처음 제공했던 회사들 중 일부는 '이건 엄청난 무기입니다. 제발 공개하지 마세요'라고 말했습니다." — 다리오 아마데

1. 오프닝 — AI 위험을 경고하는 CEO가 1조 달러 회사를 이끌다 (00:00~00:24)

다리오 아마데는 의외의 AI 유명인이다. 인공지능의 위험성을 세계에 경고한 것으로 유명한 그가, 지금 기업 가치 거의 1조 달러에 달하는 AI 선두주자 회사를 이끌고 있다. 앤트로픽은 2021년 OpenAI를 떠난 사람들이 설립한 약체 연구소로 시작했지만, 오늘날 소프트웨어 주식 수십억 달러를 날려버리고 국방부와 정면 승부를 벌이는 돌풍의 스타로 떠올랐다.

2. 남매 CEO — Dario & Daniela Amodei (00:44~01:25)

앤트로픽을 이끄는 주역은 남매 CEO. 오빠 다리오는 비전을 제시하는 인물이고, 누나 다니엘라는 "다리오의 몽환적인 우주적 아이디어를 실행에 옮기는 실무자". 어렸을 때부터 정말 친했지만 "항상 함께 뭔가 큰일을 해내고 싶어했다"고. 논쟁에서 누가 이기냐고 묻자 "아무도 없어요"가 답이었다.

3. Anthropic 이름의 의미 (01:25~02:10)

'Anthropic'은 그리스어로 '인간'을 뜻하는 단어에서 유래했다. 인류의 장기적 이익을 위해 책임감 있는 AI를 구축하려는 사명. 회사는 이념에 광적으로 집착하는 사람이 운영한다는 평가를 받는다 — 정부와 인공지능을 어떻게 적절하게 활용해야 하는지에 대한 논쟁의 중심에서.

"어느 시점에 이르면 그 모델들은 매우 위험해집니다. 나쁜 놈들도 그걸 가질 거라는 걸 알잖아요. 우리는 선한 사람들이 훨씬 더 나은 본보기를 갖도록 해야 합니다."

4. Scaling Laws — 반문화적 과학 관점의 승리 (03:41~04:14)

OpenAI 시절 다리오는 Scaling Laws라는 개념을 개발했다. 기본 알고리즘은 그대로여도 데이터와 컴퓨팅 파워를 추가하는 것만으로도 LLM 성능이 향상된다는 예측. 당시엔 "말도 안 되는 소리"였다. "규모 확장이야말로 모델이 더 똑똑해지는 방법이라는 건, 그때만 해도 특이하고 반문화적인 과학적 관점이었어요." 이 접근이 결국 ChatGPT를 낳았다.

5. OpenAI를 떠난 이유 — 신뢰의 문제 (04:21~05:00)

"안전 문제에 대해서는 타당한 의견 차이가 많이 존재합니다. 물론 우리도 그들과 의견 차이가 있었지만, 그런 이유만으로 떠날 이유는 충분하지 않아요. 누군가를 신뢰할 수 없다고 느낄 때, 그 사람의 가치관이 말과 다르다고 느낄 때, 그 사람이 정직하지 않다고 느낄 때, 그 회사와 계속 협력하기가 매우 어려워집니다."

알트만은 "앤트로픽과 의견 차이가 많긴 하지만, 대체로 그 회사를 신뢰한다"고 반응했다.

6. Precita Park — 팬데믹 시절 잔디밭 창립 (05:11~05:47)

PCA(Precita) 공원. 초기 팀원들이 팬데믹 시기에 잔디밭에 의자를 놓고 점심을 먹으며 만들고 있는 것에 대해 이야기를 나누던 장소. 공동창업자는 7명, 다리오와 다니엘라가 그중 둘이었다. 놀랍게도 이 규모의 AI 회사 중 공동창업자 전원이 여전히 남아있는 유일한 회사다.

7. Claude 헌법 & 인격 (05:47~07:20)

Claude는 '헌법(Constitution)'이라는 원칙 집합을 따르도록 훈련됐다. 이름 자체가 사람 이름 같은 이유는 '전문적인 따뜻함(professional warmth)'이라는 톤을 표현하기 위해서. "가장 친한 친구도 아니고, 차갑고 계산적인 존재도 아닌 — 친근하면서도 적당한 거리를 두는 전문가."

3대 원칙:

• Honesty: 실수든 고의든 거짓말(환각) 금지
• Harmlessness: 유해한 정보 생성 금지
• Helpfulness: 실제로 도움이 되기

보편적 선이란 없지만 UN 인권 선언 같은 인류사의 기초 문서로 Claude의 인격을 형성한다. 심지어 종교 지도자들과도 대화해서 다양한 신념 체계에 공통적으로 적용되는 핵심 가치를 접목시켰다.

8. 폭발적 매출 성장 — SaaS의 종말 (08:35~10:00)

매출이 지난 1년간 급증해 회사는 처음으로 흑자를 기록. 다른 회사들이 재미있고 화려한 소비자 앱에 집중할 때, 앤트로픽은 Claude Code(소프트웨어 엔지니어링 자동화)와 Claude Co-work로 승부수를 던졌다.

"만약 여러분의 가치관과 근본적으로 상충되는 사업 모델을 선택한다면, 자신의 가치관을 배신하든지 아니면 시대에 뒤떨어지게 됩니다. 우리는 광고 수익 극대화를 위해 시청 시간을 최대화하는 소셜 미디어 모델을 만들고 싶지 않았어요."

Claude Co-work 출시 직후 SaaS 시가총액 2,850억 달러가 하룻밤 사이 증발. 트레이더들은 이를 "SaaS의 종말"이라 불렀다.

9. Boris Cherny — 일본 시골 된장 장인에서 AI 엔지니어로 (10:35~12:12)

앤트로픽의 최근 급성장은 Claude Code / Coworker의 엔지니어 Boris Cherny 없이는 불가능했다. 2024년 앤트로픽에 합류하기 전, 그는 일본 시골에서 된장을 만들며 살고 있었다.

"1년 반 전에는 코드를 직접 손으로 작성했고, 가끔 탭 키를 누르면 자동 완성이 작동했죠. 이제 저는 클라우드와 통신하고 클라우드가 코드를 작성합니다. 제 코드의 100%를 최소 6개월간 직접 작성하지 않았습니다. 갑자기 초능력이 생긴 것 같은 기분이에요."

10. Code with Claude 컨퍼런스 — 80배 성장 (12:53~13:41)

• 클라우드 API 사용량 전년 대비 17배 증가
• 지난 12개월 동안 개발자·사용자에게 Frontier 모델 8대 배송
• 올해 1분기 실적 연간 환산 시 전년 대비 80배 — "기하급수적 성장보다 더 빠르게 성장한 첫 해"

11. 엔지니어 미래 & 초급 사무직 50% 감소 예언 (14:04~16:00)

다리오는 "인공지능이 향후 1~5년 내 초급 사무직 일자리의 절반을 없앨 수 있다"고 예측. 그는 매우 빠른 GDP 성장과 높은 실업률/저임금/불평등이 동시에 발생하는 이례적 상황이 올 수 있다고 경고한다.

"업무의 90%를 자동화하면, 나머지 10%의 사람들은 10배 더 높은 레버리지를 갖기에 생산성이 10배 오릅니다. 하지만 결국에는 거의 100%에 가까워지죠. 그 후속편에서는 그들이 할 다른 일을 찾아야 합니다."

Jensen Huang의 "AI는 일자리 창출한다"는 반박에 대해 다리오는 "그건 저렴한 마케팅이며, 3초짜리 짧은 영상만 보는 소셜 미디어 세상이 문제"라고 반박했다.

12. 5년 후 뭐 할까 — 인간 관계 중심 직업의 부활 (17:52~20:19)

인간이 계속 할 수 있는 일:

• 물리적 세계 작업: 만들고, 짓고, 제조하는 일
• 인간 중심 대화 직업: 사람들은 사람과 대화하고 싶어한다
• AI 조종·가치관 정렬: AI를 인간 가치와 정렬시키는 일

의학 사례: AI가 진단은 잘하지만 "여기 누르면 아프세요?"라고 직접 만져볼 수 없고, "이 상황에 대해 어떻게 느끼시는지"를 태도 있게 물어볼 수 없다. 진단 도구가 발전할수록 의사는 대인 관계에 훨씬 더 집중하는 방향으로 전환된다.

13. Palantir & 국방부 계약 — 반전 운동가 다리오의 변신 (20:45~23:11)

다리오는 Caltech 물리학 2학년 때 반전 운동가였다. 그런 그가 이제 국방부와 기밀 네트워크 계약을 체결한 최초의 AI 기업 중 하나를 운영한다.

"러시아가 우크라이나를 침공하는 걸 보고, 중국이 대만을 침공할 위험을 보면 권위주의 세력이 다시 부상하는 것 같아 걱정됩니다. 우리는 스스로를 방어해야 해요."

2025년 Anthropic·OpenAI·XAI·Google이 미 국방부와 2억 달러 규모 계약을 체결. Claude는 미군이 베네수엘라 대통령 니콜라스 마두로 체포 작전에 사용한 것으로 알려졌다.

14. 국방부 충돌 — 자율 무기 레드라인 (23:11~24:18)

국방부는 어떠한 제약도 없이 Claude를 전면 사용할 것을 요구. Anthropic은 대규모 감시 & 자율 무기 사용 금지라는 레드라인을 그었고, 이로 인해 국방부 블랙리스트에 오르는 시한에 직면했다.

피트 부티지어 국방장관 왈: "앤트로픽은 경영해서는 안 될 이념적 광신자가 운영하고 있다."
다리오 답: "저는 그보다 더 심한 욕을 늘 들어왔어요."

15. AI 표적 조준 — 이란 여학교 사건 (24:22~27:23)

미국 관계자에 따르면 LLM 도움으로 미군은 하루 1,000개 → 5,000개 목표물 타격 가능. 즉 Claude는 더 많은 사람을 더 빨리 죽이는 데 일조할 수 있다.

블룸버그는 Claude가 Palantir Maven Smart System을 통해 이란 표적 조준에 사용됐다고 보도. 지난 2월 미국 미사일이 이란 여학교를 공격해 150명 이상 사망(대부분 어린이). Claude가 관여했는지는 불명확.

다리오: "당신은 이 나라를 믿느냐고 묻는 거잖아요? 저는 애국자입니다. 최종 결정은 사람이 내립니다. 우리가 안 만들었으면 다른 회사 AI가 사람이 전혀 개입하지 않는 방식으로 그 자리를 채웠을 겁니다."

16. Mythos — 은행 해킹 가능한 사이버 보안 무기 (29:22~31:22)

Mythos는 앤트로픽 본사에서 은밀히 개발된 새 AI 모델. 수천 건의 사이버 보안 취약점을 발견해 모든 주요 운영체제의 잠재적 결함을 드러냈다.

"초기에 이 기술을 제공했던 회사들 중 일부는 '이건 초강력 무기야. 총기 소지 허가증이 있어야 하는 수준. 제발 공개하지 마'라고 말했습니다."

완전히 출시됐다면 은행 해킹, 국가 기밀 탈취, 핵심 기반 시설 마비가 가능. Anthropic은 Project Glass Wing으로 선정된 조직에만 접근 권한 제공. 국방부 금지에도 NSA 같은 연방 기관들이 몰래 사용하려 경쟁했다.

17. 규제 vs 자유방임 — 정부는 왜 인수하지 않는가 (32:20~34:37)

역사상 강력한 기술(핵무기, 인터넷, GPS)은 모두 정부가 개발했거나 정부에서 비롯됐다. AI는 민간 부문에서 개발된 최초의 이런 기술이다.

다리오는 White House의 접근에 이중잣대를 비판:

1. 초반: "투명성 조치조차 안 됨" → 실리콘 밸리 자유 방임
2. Mythos 이후: 갑자기 "국유화해서 정부가 몰수해야 한다"

"극단적 반규제에서 완전히 공산주의적 주장으로 왔다 갔다 하고 있어요. 보다 분별력 있고 온건한 접근이 필요합니다. 우리는 처음부터 이 기술의 위력을 이해했기에 규제를 옹호해 왔어요."

18. 문명 붕괴 25% — 항공사 비유로 본 최종 답변 (39:00~42:17)

다리오는 문명 붕괴 확률을 10~25%로 추정한다. 그럼 왜 계속 만드는가?

"만약 시중에 수많은 항공사가 있는데, 당신이 '나는 더 안전한 항공사를 만들어야겠다'라고 생각한다고 가정해 봅시다. 다른 모든 항공사보다 10배 더 안전할 수도 있어요. 하지만 '당신의 비행기가 절대 추락하지 않을 거라고 보장할 수 있나요?' — 아니, 어떻게 그럴 수가? 그래도 25%는 너무 높으니까 훨씬 낮추는 것이 목표입니다."

과거 실패한 Oppenheimer보다 Leo Szilard(연쇄 반응 발견자)에 더 공감한다는 다리오. 마음의 평화를 어떻게 찾냐는 질문에는 "이탈리아 시골 Calypso라는 말 옆에 앉아 있는다. 그 말은 이런 걸 전혀 모르잖아요. 그냥 아주 행복해 보여요."

한줄 요약 & 이 다큐가 던지는 질문들

한줄 요약: Anthropic은 AI의 위험을 세계에서 가장 크게 경고하는 회사이면서 동시에 세계에서 가장 강력한 AI를 개발하는 회사다. 이 모순 위에서 SaaS를 흔들고 국방부와 충돌하며 초급 사무직 절반을 위협한다.

• ☑ Scaling Laws가 반문화 → 정설 → 1조 달러 회사를 만들었다
• ☑ Claude는 헌법 기반 AI. UN 인권 선언 + 종교 지도자 자문까지
• ☑ Claude Code로 SaaS 시장 $285B가 하룻밤에 증발
• ☑ 초급 사무직 50% 감소 예언. GDP↑ + 실업↑ 동시 발생 우려
• ☑ Palantir 통해 미군 표적 조준. 이란 여학교 사건 연루 여부 불명
• ☑ Mythos는 은행·인프라 해킹 가능한 사이버 무기 → Project Glass Wing으로 통제
• ☑ 자율 무기·대량 감시는 레드라인. 국방부 블랙리스트 감수
• ☑ 다리오의 자기 평가: 문명 붕괴 10~25% → 안전한 항공사 만드는 마음

본 리포트는 유튜브 원본 영상을 요약·정리한 것이며, 이미지 캡처는 학습·비평 목적입니다. 원본 채널: BZCF | 비즈까페