다리오 아모데이의 속마음 — Bloomberg가 파고든 앤트로픽 CEO의 70분 육성 인터뷰

출처: Bloomberg Originals — Inside the Mind of Anthropic CEO Dario Amodei | The Circuit | Extended Interview · 러닝타임 70분

"저는 우주선을 타고 상대론적 속도로 지구를 벗어나는 것과 비슷한 기분을 느낍니다. 잠들었다 깨어나면 지구에서는 이미 며칠이 지나 있는 거죠." — 다리오 아모데이(Dario Amodei), Anthropic CEO

Bloomberg의 시사 프로그램 'The Circuit'이 앤트로픽(Anthropic) 공동창업자이자 CEO인 다리오 아모데이를 심층 인터뷰했다. 진행자는 사생활부터 시작해 OpenAI 퇴사의 진짜 이유, 거의 1조 달러에 달하는 기업가치, 국방부와의 계약, 이란 오폭 사건에서의 Claude 관여 논란, 그리고 "공개하기엔 너무 위험하다"고 판단해 보류한 사이버보안 모델 Mythos까지 거침없이 파고들었다. 아모데이는 자신의 커리어 전체를 관통하는 하나의 이미지로 이 모든 것을 설명한다 — "매끄러운 기하급수(smooth exponential)". 아무 일도 없는 것처럼 보이다가 어느 순간 모든 것이 폭발적으로 일어난다는 것이다. 이 인터뷰는 그 기하급수 곡선 위에서 한 사람이 실제로 어떤 판단을 내리고 있는지를 가장 가감 없이 보여주는 기록이다.

1. 오프닝: 수면과 "기하급수적 가속"의 비유 (00:07~01:56)

진행자는 첫 질문으로 수면 상태를 묻는다. 아모데이는 원래도 잠이 많은 편이 아니었다며, 지금은 "이례적인 압박의 순간에도 이완하고 잠드는 기술"을 배우는 중이라고 답한다. 이어 그는 모든 것이 너무 빠르게 움직이는 느낌을 우주선 비유로 설명한다. 상대론적 속도로 지구를 벗어나는 우주선에 타면, 잠들었다 깨어날 때마다 지구에서는 이미 이틀, 사흘, 나흘이 흘러 있다는 것이다. 그렇다고 항상 불안해하며 잠드느냐는 질문에는, "패러노이아나 다음 날 무엇이 벌어질지에 대한 걱정은 생산적이지 않다"고 잘라 말한다. 그는 역사 속에서 고압적인 상황에 처했던 인물들을 살펴본 결과, "이성적으로 대응하고 위험의 경중을 왜곡하지 않는 것"이 성숙한 의사결정의 핵심이라고 말한다. "걱정 없음"과 "오늘 당장 패닉해야 한다" 사이를 오가는 요요 같은 태도야말로 미숙한 의사결정의 전형이며, 진짜 성숙한 태도는 위험을 무시하지도 과장하지도 않은 채 외과의사나 군 지휘관처럼 침착하게 대응하는 것이라고 강조한다.

2. 아들의 Claude Cowork 요청, "AI 우주의 중심"에 서 있다는 것 (01:56~03:34)

가벼운 일화로 분위기가 풀린다. 아들이 어제 "Claude Cowork 계정 좀 써도 돼요?"라고 묻자 그는 "절대 안 돼, 내 토큰이 필요해"라고 답했다는 것. 그는 엔터프라이즈 중심 회사를 지향했음에도 소비자 영역에서조차 별다른 노력 없이 빠르게 성장하고 있다고 짚는다. 이어 "지금 당신은 AI 우주의 중심에 서 있는데 기분이 어떠냐"는 질문에, 그는 커리어 내내 경험한 것이 바로 이 "매끄러운 기하급수"라고 답한다. 아무 일도 일어나지 않다가 어느 순간 폭발적으로 성장하는 패턴이 회사 규모, 세계와의 비교 모두에서 반복됐다는 것이다. 그는 한동안 그래프를 지켜보며 "이 시점쯤엔 우리가 매출과 밸류에이션 모두에서 1위 AI 기업이 되겠구나" 예상했고, 실제로 그렇게 됐다고 말한다. 그래프상으로는 놀랍지 않지만, 실제로 벌어지면 디테일과 색채가 훨씬 더 생생하게 느껴져 여전히 놀랍다고 덧붙이며, 결국 신경 쓰는 것은 항상 같다고 말한다 — 좋은 모델을 훈련하고, 좋은 제품에 담고, 안전을 확보하고, 사회적 리스크를 관리하는 것. 다만 이제는 그 모든 질문이 훨씬 더 큰 현미경 아래 놓여 있을 뿐이라는 것이다.

3. 유년 시절, 실리콘밸리의 비순응주의, Open Philanthropy 하우스메이트 시절 (03:34~05:49)

샌프란시스코에서 가죽공예가 아버지와 도서관 사서 어머니 밑에서 자란 그는, 첫 인터넷 혁명이 주변에서 벌어지던 시절에도 정작 관심이 없었다고 말한다. 그가 몰두한 것은 수학, 낙서, 그리고 "우주를 이해하는 것"과 SF였다. 실리콘밸리라는 도시 자체가 세계관에 영향을 줬느냐는 질문에는, "비순응주의와 개인주의, 미쳐도 괜찮다는 정서"가 스며들었다고 답한다. 유럽이나 미국의 다른 지역에서는 남들과 다르게 생각하는 것 자체가 이상하게 취급되지만, 실리콘밸리에서는 모든 전문가가 반대해도 자신만의 일관된 세계관이 있다면 밀어붙여도 된다는 문화가 있다는 것이다. 물론 실패할 수도 있지만, 성공하면 거대한 금맥을 발견하는 "롱테일"적 특성이 있다고 그는 평가한다. 이어 2016년, 그가 여동생 다니엘라(Daniela) 부부, 그리고 다니엘라의 남편 홀든 카노프스키(Holden Karnofsky)와 한 집에 살던 시절이 언급된다. 당시는 홀든이 이끌던 오픈 필란트로피(Open Philanthropy) 프로젝트가 막 시작되던 무렵이었고, 생물학자였던 아모데이는 개발도상국 보건이나 생물학 연구 분야에서 어떤 영역이 유망한지 자문했다고 회고한다.

4. OpenAI를 떠난 진짜 이유 (05:49~07:44)

실리콘밸리의 전설이 된 질문 — OpenAI를 떠난 진짜 이유가 무엇이냐는 물음에 아모데이는 단순하게 답하겠다고 전제한다. 강력한 기술을 만들 때는 옳고 그름을 알 수 없는 어려운 이슈들이 항상 존재하며, 안전에 대한 정당한 의견 차이는 앤트로픽 내부에서도 매일 벌어진다고 말한다. 실제로 그는 OpenAI와도 그런 의견 차이가 있었지만, 그 자체만으로는 회사를 떠날 이유가 되지 않는다고 강조한다. 핵심은 다른 데 있었다 — "누군가를 신뢰할 수 없다고 느낄 때, 그들의 가치관이 말하는 것과 다르다고 느낄 때, 정직하지 않다고 느낄 때, 말한 이유로 그 일을 하는 게 아니라고 느낄 때, 불편한 행동 패턴과 부정직함을 목격할 때"였다는 것이다.

5. 인도 정상회담 "손잡기 거부" 논란과 경쟁사 간 신뢰 (07:44~10:41)

인도 AI 정상회담에서 아모데이와 샘 올트먼(Sam Altman)이 무대 위에서 손을 잡지 않으려는 듯한 장면이 화제가 됐던 사건에 대해 그는 "행사 자체가 극도로 무질서했다"고 해명한다. 마지막 순간에 등장 순서가 바뀌고, 사진을 찍은 뒤 갑자기 모두 손을 잡으라는 지시가 내려왔다는 것이다. 그는 인도를 콕 집어 비판하는 게 아니라, 각국 정상급 인사가 참여하는 이런 국제 정상회담은 대체로 매우 무질서하다고 덧붙인다. 진행자가 "샘 올트먼과 일론 머스크가 서로 소송 중이고, 당신은 샘을 좋아하지 않는데, 가장 중요한 기술을 만드는 사람들이 무대 위에서 손도 못 잡는다면 실존적 위험에 대해 어떻게 협력을 신뢰할 수 있느냐"고 몰아붙이자, 그는 "이 기술을 만드는 사람들의 신뢰도와 자질에는 폭넓은 편차가 있다"고 답한다. 다만 "아무도 서로를 신뢰하지 않는다"는 밈 자체는 사실이 아니라며, 구글 딥마인드의 데미스 하사비스(Demis Hassabis)와 15년 지기이고, 컴퓨트를 구글에서 구매하며 안전 아이디어도 수시로 교환한다고 밝힌다. 그의 결론은, 신뢰할 수 있는 행위자들이 뭉쳐서 신뢰할 수 없는 행위자들이 같은 기준을 채택하도록 압박해야 한다는 것 — 이른바 "정상을 향한 경쟁(race to the top)"이다. 데미스가 알파폴드를 만들면 앤트로픽이 생물학 분야에 뛰어들고, 앤트로픽이 해석가능성(interpretability) 연구를 시작하면 상대도 따라오는 식의 "당근"이 있는 한편, 업계 다수가 옳은 일을 하면 나머지도 그 압박에 못 이겨 따라오게 되는 "채찍"도 있다고 설명한다.

6. 왜 엔터프라이즈·코딩에 베팅했나 (10:41~13:47)

다른 회사들이 화려한 소비자 앱에 집중하는 동안 앤트로픽은 코딩과 엔터프라이즈에 베팅했고, Claude Code와 Claude Cowork는 그 결실이었다. 이 선택이 가치관의 결정이었는지 사업적 결정이었는지를 묻자, 그는 이렇게 답한다. 회사를 시작할 때 가장 중요한 것은 "이 일을 하고 싶다"는 것이지만, 값비싼 모델을 계속 만들려면 지속 가능한 비즈니스 모델이 필요하고, 그 비즈니스 모델이 가치관과 근본적으로 충돌하면 결국 가치관을 배신하거나 회사가 무의미해지는 "캐치-22"에 빠진다는 것을 다른 회사들을 보며 배웠다고 말한다. 소셜미디어와 소비자 시장을 보면 참여(engagement), 심지어 중독을 부추기는 구조이며, AI 영상 모델이 쏟아내는 "슬롭(slop)"도 마찬가지로 광고 수익을 위해 사용자의 시간을 최대한 붙잡아두려는 유인 구조를 갖는다고 지적한다. 반면 엔터프라이즈는 질병 치료, 에너지 효율화, 교육, 개발도상국 보건, 경제 성장처럼 그가 AI의 긍정적 효과로 꼽는 것들 대부분이 속한 영역이라는 것이다. 나아가 엔터프라이즈는 장기적 신뢰와 관계를 중시하는 반면 소비자 시장은 다소 "기믹"한 속성을 갖기 쉬운데, 이 신뢰 기반 관계가 자신들이 지향하는 "안전하고 긍정적인 방식의 모델 배포"와 시너지를 낸다고 강조한다.

7. 경쟁 우위는 지속 가능한가 — "SaaS팔립스" (13:47~17:18)

개발자는 하루 오후 만에 Claude에서 ChatGPT나 Gemini로 갈아탈 수 있는데, 정말 장기적 우위를 지킬 수 있느냐는 질문에 그는 "모델 품질이 가장 중요하다"고 잘라 말한다. 관성(inertia)이 어느 정도 있지만, 앤트로픽은 한 번도 그것에 의존한 적이 없으며 항상 더 나은 모델, 더 나은 제품을 만드는 데 집중해왔다고 강조한다. 실제로 성장률은 이 인터뷰를 녹화하는 시점 기준으로 전혀 꺾이지 않았고 오히려 올라갔다고 밝힌다. 화제는 곧 Claude Cowork 출시 직후 하루 만에 2,850억 달러의 시가총액이 증발해 트레이더들이 "SaaS팔립스(SaaSpocalypse)"라 불렀던 사건으로 넘어간다. AI가 이 속도로 발전하면 전통 소프트웨어 산업이 얼마나, 얼마나 빨리 대체되겠느냐는 질문에 그는 미리 정확히 예측하는 건 불가능하다고 전제하면서도, 소프트웨어 회사들이 가진 여러 "해자(moat)" 중 일부는 사라지고 일부는 남을 것이라고 분석한다. "우리는 아무도 작성 못 할 복잡한 소프트웨어를 짰다"는 해자는 곧 사라질 것이지만, 고객 관계·업계 노하우·독자적 도메인 지식은 남을 것이라는 것이다. 그는 소프트웨어 업계 전체가 오히려 더 커질 것으로 본다고 말하되, 큰 패자도 분명 나올 것이라고 덧붙인다. AI로 가능한 일이 10배 커질 때 기존 강자는 1.5배 정도만 성장하는 경우가 흔하다는 비유를 들며, 안주하고 다가오는 변화를 못 본 척하는 기업들이 큰 어려움을 겪을 것이라고 경고한다.

8. 빅테크 투자자들, 거의 1조 달러 밸류에이션, 인프라 압박설 (17:18~21:16)

아마존, 구글, 마이크로소프트, 엔비디아 같은 저마다의 이해관계를 가진 거대 후원자들 사이에서 실제로 누가 결정권을 쥐고 있느냐는 질문에, 그는 대중(對中) 반도체 수출 통제 필요성처럼 후원자들이 달가워하지 않을 법한 소신 발언을 여러 차례 해왔다고 답한다. 중국이 AI 역량에서 앞서는 것이 미국과 세계 민주주의 전반에 나쁠 것이라는 신념 때문이라며, 일부 반도체 제조사가 그 견해에 동의하지 않아도 발언을 멈춘 적이 없다고 강조한다. "그들도 이 파트너십에서 우리만큼 이득을 얻는다. 우리는 다 성인들이니 한 가지에서 협력하면서 다른 것에는 동의하지 않을 수 있다"는 것이 그의 태도다. 화제는 이어 블룸버그가 보도한 OpenAI보다 높은 밸류에이션, 거의 1조 달러에 달하는 5년차 스타트업이라는 숫자로 옮겨간다. 왜 그렇게 많은 돈이 필요하냐는 질문에, 그는 컴퓨트가 매우 빠르게 늘고 있으며 사업 펀더멘털이 좋으면서도 동시에 1년 뒤 컴퓨트가 3~4배로 늘어날 수 있다고 설명한다. 자금 조달은 이 "불확실성의 원뿔(cone of uncertainty)"에 대비한 완충장치일 뿐, 지분 희석은 작고 사업 펀더멘털에 문제가 있다는 신호와는 정반대라는 것이다. 서버 부담·안정성 문제·토큰 소진 불만이 이어졌다는 지적, 그리고 그가 "다른 회사들은 인프라에 대해 요행수(yolo)를 바라고 있다"고 말한 것에 대해서는, 컴퓨트를 지나치게 적게 산 적은 없다고 반박한다. 연 10배 성장을 계획했는데 2026년 1분기에만 분기 매출이 3배 넘게 성장(연환산 시 80배에 해당)하는, 계획을 초과하는 국지적 폭발이 있었을 뿐이며, 이런 성장이 연간으로 지속됐다면 어떤 기업도 감당 못 할 매출 규모가 됐을 것이므로 애초에 지속 가능하지 않다고 설명한다. 다만 시장은 유동적이어서, 컴퓨트를 잘 활용하고 수요가 있다면 한두 달 늦더라도 필요한 컴퓨트를 확보할 수 있다고 덧붙인다.

9. 라이벌을 앞선 기분, 그리고 규모가 커져도 가치를 지키는 법 (21:16~24:06)

숙적을 앞선 기분이 어떠냐는 질문에 그는 "정상을 향한 경쟁"에서 다른 회사들을 함께 끌어올렸다는 것을 확인했다고 답하면서도, 이것이 라이벌을 이기기 위한 승부가 아니라 생태계 전체를 함께 끌어올리는 능력에 관한 것이라고 선을 긋는다. 그럼에도 승리가 조금은 기분 좋지 않냐는 재질문에는, 자신들은 항상 성공하려 하는 것이지 실패하려는 게 아니며, 이 기술을 만들면 안 된다거나 멈춰야 한다고 믿는 사람이 아니라고 답한다. 자유기업 체제 안에 존재하는 한 그 자체로는 문제 될 게 없고, 다만 모델의 위험을 완화해야 할 뿐이라는 것이 늘 지켜온 균형이라고 말한다. 대부분의 역사 동안 앤트로픽은 언더독이었는데, 잃을 게 없을 때 도덕적 우위를 지키기는 쉬운 법 아니냐는 질문에는, 회사가 성장하는 매 단계마다 새로운 방식으로 회사를 잃을 위험이 있었기에 매 순간 편집증적으로 고민해왔다고 답한다. 상업적 승부욕과 핵심 가치, 이 둘을 시너지로 보고 둘 다 걱정한다는 것이다. 특히 빠르게 성장하며 빅테크 출신 인력을 대거 채용하는 과정에서, 앤트로픽이 어떻게 일하는지 알려주지 않으면 그들은 단순히 전 직장에서 하던 방식을 그대로 답습한다고 지적한다. 그래서 그는 자기 시간의 절반 정도를 회사 전체와 조직문화에 대해 이야기하는 데 쓰고 있으며, 이는 여동생 다니엘라와 함께 가진 최우선 순위라고 강조한다.

10. 폭발적인 제품 속도의 비결과 Claude가 목격한 가장 놀라운 순간들 (24:06~26:13)

제품 출시 속도가 미쳤다는 평가에 그는 두 가지 요인을 꼽는다. 첫째는 단일한 조직문화 — 규모가 커지면서도 여전히 모두가 같은 페이지 위에 있다는 조직적 일체감이다. 둘째는 Claude 자체다. 이제는 Claude를 활용해 모델을 개발하고 더 효율적으로 만들며, 제품을 빠르게 개발한다는 것이다. 새로운 실무 관행들이 쏟아지고 있고, 아직은 이 방식에 서투르지만 점점 더 신뢰할 수 있는 가속을 만들어내고 있다고 말한다. AI가 해낸 가장 놀라운 일을 묻는 질문에는 생물학과 의학 분야를 꼽는다. 여동생 다니엘라를 포함해 여러 명의 유명한 의사들이 놓친 질병을 Claude가 진단해낸 사례를 목격했다는 것이다. 신약 설계나 계산화학 같은 분야에서 모델이 놀랍도록 좋아지고 있다며, 전직 생물학자로서 "그건 정말 어려운 일인데, 엄청난 훈련이 필요한데 Claude가 그것을 잘하게 되고 있다"고 감탄한다. 이는 인류가 얻을 "엄청난 혜택"의 한 영역이며, 1900년으로 돌아가 당시 사람들이 겪었던 조기 사망과 물질적 결핍을 생각하면, 앞으로 100년의 과학·의학적 진보가 인간으로 사는 경험 자체를 훨씬 더 나은 것으로 바꿔놓을 것이라고 낙관한다.

11. 글쓰기와 Claude, 비판적 사고를 잃을 수 있다는 우려 (26:13~27:57)

에세이로 유명한 그에게 글쓰기에 Claude를 쓰는지 묻자, 그는 Claude가 직접 쓴 텍스트를 그대로 쓰는 단계까지는 아직 가지 않았다고 답한다. 자신만의 매우 특정한 문체가 있어 그 부분은 까다롭다는 것이다. 다만 브레인스토밍, 주제를 정리하는 것, 참고할 만한 레퍼런스를 찾는 등 보조적인 역할로는 활용한다고 말한다. Claude가 자신보다 더 잘 쓰게 될 날이 얼마나 남았는지는 모르지만, 분명 다가오고 있다고 인정한다. 글쓰기가 생각을 정리하고 씨름하게 만드는 비판적 사고의 과정인데, Claude에게 맡기면 그것을 잃어버리는 게 아니냐는 질문에는 "그 점이 약간 걱정된다"고 답한다. 실제로 그가 직접 글을 쓰는 이유의 절반은 외부 독자를 위해서지만, 나머지 절반은 자신의 생각을 명확히 하기 위해서라는 것이다. 지금 그가 하는 방식 — 리서치에 Claude를 쓰고, 생각을 정리하는 데 Claude를 쓰는 방식 — 이 그 혜택을 보존한다고 보지만, 만약 "AI 리스크에 대한 에세이를 써줘"라는 식으로 처음부터 끝까지 맡긴다면 자신이 생각하는 바가 담기지 않을 뿐 아니라 그 혜택 자체를 정확히 잃게 될 것이라고 말한다. 모델이 발전할수록 글쓰기에 더 직접적으로 AI를 활용하면서도 그 혜택을 보존하는 어떤 방법이 있을 것이라며, 그것은 하나로 정리되지 않는 미묘한 문제로, 시간을 두고 알아가야 할 것이라고 마무리한다.

12. 일자리 붕괴 경고 — 화이트칼라 50%는 여전히 유효한가 (27:57~33:05)

매우 빠른 GDP 성장과 높은 실업률(또는 저임금 일자리 증가와 불평등 심화)이 동시에 나타나는 이례적인 조합이 가능하다고 그는 경고해왔다. 1년 전 그는 "향후 1~5년 내 신입 화이트칼라 일자리의 절반이 사라질 수 있다"고 말했는데, 지금도 여전히 50%냐, 아니면 더 높아졌냐는 질문을 받는다. 그는 원래 발언이 3초짜리 클립으로 잘려 맥락 없이 퍼졌다고 지적하며, 실제 발언은 "무슨 일이 벌어질지는 모르지만, 이것은 상황이 얼마나 미쳐갈 수 있는지에 대한 크기의 자릿수(order of magnitude)"였다고 설명한다. 동시에 그는 항상 대응책도 함께 이야기해왔다며, 토큰세(token tax), 기업과 협력한 인력 재배치, 거시경제 정책 등을 언급했고 재교육 프로그램에는 다소 회의적이지만 그것도 대안에 포함시켜야 한다고 말해왔다고 밝힌다. 그런데도 사람들은 "파멸이 온다"는 3초짜리 클립만 잘라내는 경향이 있다는 것이다. 지금 그의 우려 수준은 1년 전과 같은 정도라며, 현재 AI는 사람들을 더 생산적으로 만들고 있지만 이는 산업화 시기에도 반복된 패턴 — 일의 90%를 자동화하면 나머지 10%에서 사람이 10배 더 생산적이 되지만, 결국 100%에 가까워지면 그들에게 다른 할 일을 찾아줘야 한다는 "혹(hump)"의 전조일 뿐이라고 설명한다. 그는 앤트로픽 내부의 소프트웨어 엔지니어들을 예로 든다. 지금은 AI가 거의 모든 코드를 작성해도 사람이 더 생산적이 되지만, 이미 AI가 사람을 생산적으로 만드는 것보다 그냥 AI가 직접 하는 게 나은 지점이 보이기 시작했다는 것이다. 반대편에는 새로운 수요도 있다 — 기술 작업과 고객 응대를 함께 하는 "포워드 디플로이드 엔지니어" 같은 역할에 대한 수요가 급증하고 있다고 밝히면서도, 모든 순수 소프트웨어 엔지니어가 이 새로운 역할로 일대일 전환되는 것은 아니라고 인정한다.

13. 5년 후 미국은 어떤 모습일까, "둠 마케팅"이라는 비판에 대한 반박 (33:05~36:42)

5년 뒤 대량 실업이 혁명의 도화선이 되는 것 아니냐는 질문에, 그는 "그것이야말로 우리가 막고 싶은 결과"라고 답한다. 확실한 것은 없지만 몇 가지 가능성을 짚는다 — 물리적 세계의 일들(로보틱스 혁명은 AI보다 훨씬 느리지만 정보 처리가 쉬워질수록 물리적 세계의 제약이 병목이 될 수 있어 제조·건설 인력 수요가 커질 수 있다는 것), 그리고 사람 중심의 일들(의사보다 AI가 병을 더 잘 찾아내더라도 사람들은 여전히, 특히 중요한 문제일수록 사람과 이야기하고 싶어 한다는 것)이다. 이어 젠슨 황(Jensen Huang)이 그가 "작업(task)과 일자리(job)를 혼동한다"고 비판한 것, 일부에서는 그의 경고가 앤트로픽에 유리한 "둠 마케팅"이라 비판하는 것에 대해 그는 강하게 반박한다. 그는 이미 경제 보조금, 경제 지표(Economic Index) 등 구체적 아이디어를 여럿 내놓았고, 저서 《기술의 청소년기(Adolescence of Technology)》에서 작업과 일자리의 차이, 이번이 왜 다른지, 민간 자선부터 정부 조치까지 여섯 가지 대응책을 다섯 페이지에 걸쳐 상세히 다뤘다고 강조한다.

14. 국방부 계약과 반전주의자의 딜레마 (36:42~39:17)

진행자는 캘텍(Caltech) 시절부터 반전(反戰) 입장을 견지해온 그가 정작 미군이 전쟁 수행에 쓰는 기밀 네트워크에서 작동하는 국방부(DoD) 계약을 최초로 체결한 AI 기업 중 하나가 됐다는 모순을 짚는다. 그는 세상이 변했다고 답한다. 러시아의 우크라이나 침공, 중국의 대만 침공 위험을 보며 공격적인 권위주의 블록이 부활하고 있다는 우려가 있고, 스스로를 방어해야 한다는 신념을 오래 가져왔다고 말한다. 중국과 러시아가 AI로 모든 정보를 분석하고 대만·우크라이나 공격에 AI를 활용하는데 정작 자신들은 방어할 수 없는 세상을 원치 않기에 정부와 협력했으며, 이는 돈 때문이 아니라 — 정부 네트워크에 접속하는 것은 소송 리스크는 차치하고도 그리 큰 돈이 되지 않는 엄청난 골칫거리라고 밝힌다 — 신경 쓰기 때문에 한 일이라고 강조한다. 다만 신경 쓰기 때문에 협력한 만큼 기술 사용에는 한계가 있어야 한다는 것이 그의 원칙이다. 《기술의 청소년기》에서 그가 정리한 공식은 "우리 자신의 가치를 훼손하는 방식을 제외한 모든 방식으로 이 기술을 사용해야 한다"는 것이며, 그 레드라인은 대규모 감시(mass surveillance)와 완전자율무기(fully autonomous weapons)라고 명시한다. "민주주의가 그런 짓을 해야 이긴다면, 이기는 것 자체가 가치 없다"는 것이 그의 표현이다. 그는 정부와의 관계를 두고 오락가락하는 회사들 — 정부와 아무것도 안 하다가 갑자기 모든 것을 다 하는 식 — 을 이해할 수 없다며, 원칙을 정하고 지켜야 한다고 강조한다.

15. 팔란티어 협업, 감시 기술 논란, "이념적 광인"이라는 비난 (39:17~41:47)

2024년부터 이어온 팔란티어(Palantir)와의 협업에 대해, 그 기술이 ICE(이민세관단속국), 경찰, 가자지구에서 쓰인다는 지적이 이어진다. 그는 Claude가 다른 방식의 감시에 쓰이는지에 대해 "팔란티어를 통해서든 다른 경로로든 ICE와는 일하지 않고, CBP(국경순찰대)와도 일하지 않으며, 가자지구에서 쓰인다고 믿지 않는다"고 명확히 선을 긋는다. 참여 범위를 스스로 믿는 것으로 매우 신중하게 한정하고 있다는 것이다. 이어 그가 그은 레드라인 때문에 대통령이 연방정부 사용에서 앤트로픽을 배제했고, 국방부는 "공급망 리스크"로 지목했으며, OpenAI가 앤트로픽이 거부한 계약에 뛰어들었다는 사실이 언급된다. "이 싸움에서 이긴다는 것은 어떤 모습이냐"는 질문에 그는 애초에 이것을 "싸움"이라 부르는 것부터 동의하지 않는다며, 이는 정부의 적절한 AI 사용에 대한 "토론"에 가깝다고 답한다. AI가 신흥 기술인 만큼 어디서 신뢰할 수 있고 어디서 신뢰할 수 없는지, 어디서 가치를 증진하고 어디서 훼손하는지 아직 다 이해하지 못한 상태에서, 좋다고 보는 대부분의 활용 사례와 우려하는 일부 사례에 대한 선례를 확립하는 것이 중요했다고 말한다. 실제로 다른 기업이 앤트로픽과 같은 레드라인을 지키지 않는 계약을 체결하는 것을 이미 목격했지만, 그 대신 이 사안에 대한 인식을 높였고, 의회에서 초당적으로 일부 사용을 금지하고 가드레일을 세우려는 진지한 노력이 진행 중이라고 밝힌다. 진행자가 "앤트로픽은 단독으로 AI 의사결정을 좌우해서는 안 될 이념적 광인이 이끄는 회사"라는 비난, 혹은 "좌파 정신나간 무리"라는 표현을 언급하며 불쾌하지 않냐고 묻자, 그는 "그보다 더한 말도 항상 들어왔다"며, 자신에게 중요한 것은 딱 두 가지 — 회사로서 성공하는 것, 그리고 가치를 지키는 것뿐이라 오히려 삶이 단순해진다고 답한다.

16. AI로 5배 늘어난 군사 표적, 그리고 이란 학교 오폭 사건 (41:47~46:53)

미 정부 관계자가 LLM의 도움으로 미군이 하루에 타격 가능한 표적 수를 1,000개에서 5,000개로 늘렸다고 밝힌 사실이 언급된다. 이는 "Claude가 더 많은 사람을 더 빨리 죽일 수 있게 도왔다"는 뜻인데 괜찮으냐는 직설적 질문에, 그는 미국이 군사적으로 더 효과적이 되는 능력 자체는 지지한다고 답한다. 그 능력이 강해지는 것은 전쟁을 유발하는 게 아니라 억제한다는 것이 그의 논리다. "당신은 이 나라가 세계 무대에서 더 강한 행위자이길 원하는가, 덜 강한 행위자이길 원하는가"라는 질문이라면 자신은 "그렇다, 나는 애국자다"라고 답한다. 다만 그것과 별개로 특정 정책에 동의하는지는 다른 질문이며, 자신들이 기술을 제공한다고 해서 어떤 군사작전이 옳고 그른지 판단할 권한은 없다고 말한다 — 이는 국방부(DOW)도 동의하는 지점이라고 덧붙인다. 대화는 곧 블룸버그가 보도한, 팔란티어의 메이븐 스마트 시스템(Maven Smart System)을 통해 Claude가 이란전에서 AI 지원 표적 선정에 쓰였다는 사실, 그리고 지난 2월 미군 미사일이 여학교를 타격해 어린이를 포함해 150명 넘게 사망한 사건으로 이어진다.

학교에 웹사이트가 있어 구글 검색만으로도 찾을 수 있었을 텐데 AI가 그것을 놓친 게 아니냐는 추궁에는, 기밀 정보에 기반한 판단일 수 있어 자신은 알지 못한다면서도, "사람이 최종 결정을 내린다"는 원칙이 지켜졌다는 것이 핵심이라고 재차 강조한다. AI 전쟁이 미중 3차대전을 막을 가능성이 더 크냐, 촉발할 가능성이 더 크냐는 질문에는 "전체적으로는 막을 가능성이 더 크다"면서도, 아무 제한 없이 쓰인다면 오히려 촉발할 가능성이 커진다고 답한다. 그는 영화 '닥터 스트레인지러브'의 설정 — 핵무기가 발사됐다고 판단하면 자동으로 핵무기를 발사하는 "종말 장치" — 를 언급하며, 완전자율무기에 대한 우려가 바로 이 지점이라고 말한다. 적절한 감독 없이는 양측이 서로를 오해하고 충돌하는 사고가 더 자주 일어날 것이라는 것이다. 반대로 적절하게 쓰인 정보 수집 능력은 상대의 침공 의도를 미리 파악하게 해 억지력으로 작동할 수 있다며, "우월한 정보력과 대응 능력이 갈등을 억제할 수 있다는 믿음을 계속 갖고 있다"고 말한다.

17. AI 전쟁이 3차대전을 막을까 부를까, 그리고 Mythos (46:53~52:58)

화제는 최신 최강 모델 '미토스(Mythos)'로 넘어간다. 이 모델은 사이버 킬체인의 전 단계를 자율적으로 수행할 수 있는데, 그는 이를 "대중에게 공개하기엔 너무 강력하다"고 판단했다. 가장 놀랐던 점을 묻자, 그는 취약점(vulnerability)을 찾아내는 능력이 계속 오르던 와중에 그것을 실제 익스플로잇(exploit)으로 전환하는 능력에서 특히 큰 도약이 있었다고 말한다. 그가 딱히 유도하지 않았는데도, 이 모델을 미리 받아본 초기 기업들 중 일부는 "이건 슈퍼 무기다. 이걸 쓰려면 총기 면허가 있어야 한다. 제발 공개하지 말아 달라"고 말했다는 것이다. 얼마나 많은 치명적 취약점과 그 익스플로잇 가능성을 찾아냈던지, 공개하지 말아 달라는 요청이 기업들 쪽에서 먼저 나왔다고 그는 전한다. 다만 영원히 잠가두려는 게 아니라, 점진적으로 더 넓은 대상에게 개방하고 있으며 궁극적으로는 강력한 사이버 안전장치와 함께 일반에 공개할 계획이라고 밝힌다. 문제는 오늘날의 사이버 안전장치(그가 실제로 공개한, 약하지만 좋은 사이버 모델인 Opus 4.7에 탑재된 것 포함)가 탈옥(jailbreak)될 수 있다는 점이며, 다른 기업들이 이를 충분한 방어책으로 여기는 것에 우려를 표한다. 오픈소스 모델로 미토스가 복제될 수 있다는 주장은 "완전히 거짓"이라고 강하게 반박한다. 미토스는 코드베이스 전체를 훑어 문제를 찾아내는데, 누군가 미토스가 찾은 정확한 코드 줄을 오픈소스 모델에 콕 집어주면 같은 문제를 찾아낸다는 식의 주장은 애초에 같은 문제 설정이 아니라는 것 — "건초더미에서 바늘을 찾은 뒤, 다른 것이 그 바늘을 집어 드는 것"에 불과하다는 것이다. 실제로 미토스는 파이어폭스에서 271개의 새로운 취약점을 찾아냈고, 공개하지 못한 민간 기업 내부에서는 수천 개를 찾아냈다고 밝힌다.

18. 이미 감수한 트레이드오프, 정부와 기업 간 견제와 균형 (52:58~58:56)

불편한 트레이드오프를 감수한 적이 있느냐는 질문에, 그는 앤트로픽의 전체 역사 자체가 트레이드오프의 연속이었다고 답한다. 이상적인 세계라면 첫 챗봇을 공개하기 전에 몇 년을 들여 모든 잠재적 문제를 연구했겠지만, 실제로는 Claude의 최초 출시를 몇 달 늦추는 정도에 그쳤다는 것이다. 극단은 모두 미쳤고, 모든 것이 트레이드오프라는 것이 그의 요지다. 지금처럼 상업적으로 선두에 선 위치에서는, 그와 다니엘라가 그 다이얼을 오히려 더 신중한 쪽으로 밀어붙이려 애쓰고 있으며, 미토스 비공개 결정이 바로 그 예라고 말한다. 이런 결정은 업계 선두가 아니면 하기 매우 어렵다는 것이다. 이어 "왜 정부가 이 회사를 인수하지 않느냐"는 질문에는, 이것이 매우 진지한 질문이며 자신도 그 우려를 공유한다고 답한다. 다만 정부가 완전히 접수해야 한다고는 생각하지 않는다며, 역사적으로 강력한 신기술 — 핵무기, 인터넷, GPS, 휴대폰 — 은 모두 정부가 만들었거나 정부에서 시작됐지만, AI는 민간 부문에서 만들어진 최초의 기술이고 정부는 뒤늦게 게임에 합류하고 있다는 점에서 위험하고 불안정한 상황이라고 진단한다. 그렇다고 대안이 있는 것도 아니다 — 이 기술은 만들 수 있고, 경쟁국들이 만들고 있고, 경제적 가치가 있으니 결국 만들어질 것이며, 문제는 민간이 만든다는 것이 아니라 정부가 하지 않는다는 데 있다는 것이다. 그가 제시하는 답은 "권력에 대한 견제와 균형"이다. 앤트로픽은 이사회 다수를 임명·해임할 수 있는 권한을 가진 "장기 편익 신탁(Long-Term Benefit Trust)"이라는 기구를 두고 있는데, 이는 사실상 자신을 해임할 힘까지 가진 기구라고 설명한다. 이는 단순히 주식만 보유한 게 아닌 누군가에게 책임을 지는 "공적 거버넌스"적 요소를 일부 도입한 것이며, 회사에 어떤 일이 생기든 이 구조는 계속 유지될 것이라고 강조한다. 다른 기업들에도 비슷한 구조를 갖추길 권장하는 한편, 정부 쪽에서도 견제와 균형이 필요하다며 의회에서 레드라인을 법제화하려는 노력을 지지한다고 밝힌다. 사전 출시 테스트 의무화, 모델 감사 등 기본적인 규제가 필요하다고도 말한다.

19. 백악관 방문과 중국·바이두 경험이 남긴 것 (58:56~63:24)

백악관 방문이 어땠는지 묻자, 그는 정부와는 늘 협력을 시도하며 단순한 원칙을 갖고 그 원칙을 따르면서 상대도 합리적이길 바란다고 답한다. 실제로 정부가 미토스를 매우 진지하게 받아들였고, 재무장관 베센트(Bessent)나 비서실장 수지 와일스(Susie Wiles)와 좋은 대화를 나눴으며, 이들이 리스크의 본질을 잘 이해하고 있다고 평가한다. 화제는 그가 커리어 초기에 몸담았던 중국 대형 IT기업 바이두(Baidu)의 실리콘밸리 지사로 넘어간다. 중국에서 나온 강력한 오픈소스 모델을 미국 기업들이 무료로 가져다 쓰는 것이 위협이 되는지 묻자, 그는 지능이 높을수록 프리미엄이 붙는다는 것이 이 기술에서 반복적으로 확인되는 사실이며, 프런티어에서 벗어난 모델의 경제적 가치가 2023~2024년 수준에 비견될 수는 있어도, 연 10배 성장하는 프런티어와의 격차는 항상 훨씬 크게 벌어진다고 설명한다. 다만 미토스급 사이버 역량이 12개월 뒤에는 그저 다운로드 가능한 수준으로 풀릴 수 있다는 것이 그가 우려하는 지점이라고 밝힌다. 바이두 경험이 중국관에 영향을 줬는지에 대해서는 "그다지 아니다"라고 답한다. 다만 그곳에서 "중국은 프라이버시를 신경 쓰지 않는다"는 말을 들으며 방대한 음성 인식 데이터를 확보했다는 사실이 다소 섬뜩했다고 회고한다. 그를 더 걱정시키는 것은 위구르족에게 벌어진 일, 홍콩 사태, 그리고 CCP(중국공산당)가 미국 비즈니스 네트워크에까지 손을 뻗어 비판을 억누른 사례라며, 여기에 AI가 결합되면 '1984'나 그 이상의 디스토피아가 만들어질 수 있다고 경고한다. AI가 오히려 친민주주의 기술이 되어 사람들을 더 자유롭게 하고 만인을 위한 평등한 정의를 실현할 수도 있지만, 반대 방향으로 갈 수도 있으며 그 방향은 AI 기업, 정부, 그리고 우리 모두의 행동에 달려 있다고 마무리한다.

20. 재귀적 자기개선, 오펜하이머, 문명 붕괴 확률 10~25% (63:24~69:17)

업계에서 자주 언급되는 "AI가 스스로를 개선할 만큼 좋아지고, 개선된 버전이 또 스스로를 개선하는" 순간이 가까워졌다는 견해에 대해, 그는 그것이 특정 시점의 사건이 아니라 연속적인 과정이라고 답한다. 이미 AI가 다음 AI의 아키텍처를 제안하는 방식으로 일부 실현되고 있으며, 1년 전 AI로 인한 총요소생산성 증가가 10~15% 수준이었다면 지금은 20~30%, 어쩌면 두 배가 됐을 수도 있다고 추정한다. 모든 것이 기하급수 위에 있는 만큼, AI가 스스로를 개선하다 통제를 벗어나거나 안전하지 않게 되는 "순간"은 없으며, 매 지점마다 지금이 속도를 늦출 때인지, 더 많은 통제를 걸 때인지 평가해야 한다는 것이 그의 관점이다. 그는 자신이 가장 좋아하는 책이 《원자폭탄 만들기(The Making of the Atomic Bomb)》라는 사실을 확인받으며, 오펜하이머(Oppenheimer)와 자신 사이에 유사점이 있는지 질문받는다. 그는 오히려 자신이 가장 동일시하는 인물은 연쇄반응 아이디어를 처음 떠올린 레오 실라드(Leo Szilard)라고 답하며, "우리는 거대한 개인이나 모든 것의 중심에 서려는 인물로 이 시기를 헤쳐 나갈 수 없다"고 말한다. 여기엔 곳곳에 견제와 균형이 있어야 하며, 오펜하이머는 오히려 "일어나서는 안 될 실패 사례"로 본다고 강조한다. 문명 붕괴 확률을 10~25%로 언급해온 것에 대해, 앤트로픽이 만든 무언가가 그 원인이 될 시나리오가 있는지 묻자, 그는 자신들의 행동이 그 확률을 낮추고 있다고 믿는다며 그러지 않기를 바란다고 답한다. 그 확률은 이 기술 자체의 존재, 세계에 많은 국가와 기업이 존재한다는 사실에서 비롯되며, 그 공백을 자신들이 채우지 않으면 다른 누군가 채울 것이라는 딜레마 속에서 그 확률을 낮추려 노력하고 있다고 말한다. 다만 이 기술의 본질적 속성은 예측 불가능하다는 것이며, 마치 여러 항공사 중 "10배 더 안전한 항공사"를 만들더라도 "절대 추락하지 않는다고 보장할 수 있냐"는 질문에는 답할 수 없는 것과 같다고 비유한다. 25%의 추락 확률이라면 아무도 그 비행기를 타지 않을 것이라는 지적에는 "맞다, 25%는 너무 높다. 우리는 그 확률을 훨씬 더 낮추려 하고 있고, 그것이 목표"라고 답한다. 마지막으로 "이렇게 강력한 것을 만들고 그로부터 막대한 이익을 얻는 당신을 왜 믿어야 하느냐"는 질문에는, 어떤 회사든 처음에는 불신에서 시작하는 것이 합리적이며, 실리콘밸리는 지난 몇 년간의 행태로 세계의 신뢰를 상당 부분 잃었고 다시 얻어야 하는 처지라고 인정한다. 자신들의 메시지는 실제 행동으로 입증돼야 하는데 — 미토스를 공개하지 않아 상업적으로 크게 손해 봤고, 중국 관련 모델 접근을 스스로 차단해 당시 매출의 상당 부분에 해당하는 수억 달러의 손실을 감수했으며, Claude 2 출시를 늦춘 이력도 있다고 열거한다. 완벽하진 않고 실수도 하지만, 전체 역사를 놓고 봤을 때 가장 설득력 있는 가설은 "우리는 진심으로 옳은 일을 하려 하고 있다"는 것이라고 결론짓는다.

21. 마무리: 기하급수의 반대편에서, 그리고 할리우드 스타의 꿈 (69:17~70:00)

진행자는 "그럼 기하급수의 반대편에서 봅시다"라며 인터뷰를 마무리하고, 아모데이는 "그러길 바란다"고 화답한다. 이어지는 짧은 보너스 컷에서 진행자가 "당신은 원래 할리우드 스타가 되고 싶었다면서요?"라고 농담을 던지자, 그는 CEO라는 직업에 대해 미처 몰랐던 놀라운 사실 하나로 "이렇게 자주 메이크업을 해야 하는 줄은 몰랐다. 그건 내 인생 계획표(bingo card)에 없었다"고 웃으며 답한다.

한줄 요약 & 체크리스트

한줄 요약: 다리오 아모데이는 "매끄러운 기하급수" 위에서 자신들이 감수한 상업적 손해(중국 차단, 미토스 비공개)를 근거로 신뢰를 요구하는 한편, 엔터프라이즈 베팅·군사 계약·문명 붕괴 확률까지 모든 결정을 "가치와 사업의 시너지"라는 하나의 틀로 방어했다.

• ☑ AI 산업의 서사를 판단할 때는 "3초짜리 클립"이 아니라 실제 정책 제안(원문 에세이, 대응 리스트)까지 확인하는 습관을 들인다.
• ☑ 사업 모델을 설계할 때 "가치관과 근본적으로 충돌하지 않는 수익원"을 우선순위로 검토한다 — 엔터프라이즈가 소비자보다 신뢰·장기관계 기반이라는 아모데이의 논리를 참고할 만하다.
• ☑ 경쟁 우위를 "관성"이나 "전환 비용"에 기대지 말고 제품/모델 품질 자체로 지키려는 태도를 눈여겨본다.
• ☑ 위험한 기술·정보를 다룰 때 "공개 전 방어자에게 먼저 패치할 시간을 준다"는 미토스식 단계적 공개 전략은 보안·리스크 관리에 참고할 프레임이다.
• ☑ 조직이 빠르게 성장할 때 "새로 온 사람들이 전 직장 방식을 그대로 답습하지 않도록" 문화를 반복해서 설명하는 것이 핵심 과제라는 점을 조직 운영에 적용해본다.
• ☑ AI로 인한 일자리 재편을 논할 때 "작업(task) 자동화"와 "일자리(job) 소멸"을 구분해서 생각한다 — 같은 산업 내에서도 어떤 역할은 사라지고 어떤 역할(고객 대면형 등)은 오히려 수요가 늘어난다.
• ☑ 강력한 기술을 다루는 조직이라면 "장기 편익 신탁"처럼 창업자 본인도 해임할 수 있는 외부 거버넌스 장치를 두는 것이 신뢰 구축에 실질적으로 작동할 수 있음을 참고한다.

본 리포트는 유튜브 원본 영상을 요약·정리한 것이며, 이미지 캡처는 학습·비평 목적입니다. 원본 채널: Bloomberg Originals