? 앤스로픽 CEO 다리오는 AI의 안전장치를 제거하라는 펜타곤의 최후통첩을 거부했다. ? ?

nesy 작성
작성일 2026.02.28 10:31

95 조회
5 댓글
목록

Anthropic CEO 다리오 아모데이는 펜타곤의 최후통첩을 거부했다. 오늘 오후 5시 1분.

요구는 단순했다. Claude의 안전장치를 "모든 합법적 군사 목적"에 맞게 제거하라. 거부하면 2억 달러 계약 해지, 공급망 위험 기업 블랙리스트 지정. 화웨이에나 쓰는 딱지를.

그는 거부했다.

Claude는 미국 기밀 군사 네트워크에 최초로 배치된 AI 모델이었다. 마두로 체포 작전에도 사용됐다. 펜타곤 내부에서도 가장 뛰어난 모델이라고 평가했다. 그럼에도 Anthropic은 두 가지 선을 지켰다.

1) 인간 개입 없는 자율 무기의 최종 타격 결정.

2) 자국민 대상 대규모 AI 감시.

이 두 가지만은 안 된다고 했다.

OpenAI는 펜타곤의 요구에 동의했다. Google도 동의했다. 머스크의 xAI는 최후통첩 전날 계약에 서명했다. Anthropic만 거부했다.

그런데 헤그세스와 아모데이가 펜타곤에서 처음 마주한 바로 그날, 다른 일이 조용히 일어났다.

Anthropic은 2023년부터 지켜온 핵심 안전 정책을 완화했다. 모델 성능이 통제 범위를 초과하면 훈련을 멈추겠다는 약속을 삭제했다. 수석 과학자 Jared Kaplan의 말은 솔직했다. "경쟁사들이 달려가는데 혼자 멈추는 건 누구에게도 도움이 안 된다." 모두 달려가고 있는데, 이렇게 다 같이 뛰면 위험하니 걷자고 했지만, 모두 뛰고 있으니 나도 뛰겠다고 한 것이다.

한쪽에선 군에게 버티겠다고 했다. 다른 쪽에서는 원칙을 바꿨다.

노벨이 다이너마이트를 팔고 나서 후회했다면, 아모데이는 팔기 전에 막으려 하고 있다. 그 의지는 진심일 수 있다.

여기서 Google이 떠오른다. "Don't be evil." 그게 창업 모토였다. 지금 Google은 군말 없이 서명했다.

(참고로 지금은 모토가 실제로 그게 아니다. 엄청 길다.)

결국 이 게임의 심판은 시장이다. 그리고 오늘날의 시장은 착한 메시지보다 돈을 더 잘 버는 쪽, 힘을 더 많이 쥐는 쪽의 손을 들어준다. 안전을 외치는 회사보다 무기 계약에 서명한 회사가 더 빠르게 성장하고, 더 많은 자본을 끌어당기고, 더 강한 영향력을 갖게 된다면 — 다음 세대 창업자들이 배우는 교훈은 하나다. 원칙은 비용이다.

디스토피아는 누군가의 음모로 갑자기 오지 않는다. 투자자들이, 시장이 그쪽에 더 높은 점수를 주는 것이 반복되며 비가역적으로 확정된다.

오늘 다리오는 버텼다. 그 사실은 뉴스에 기록될 것이다. 하지만 시장이 그 선택을 보상하지 않는다면, 다음번엔 버티는 사람이 아무도 없을 수도 있다.

사람들이 AI 챗봇으로 킥킥거리는 동안, 무기체계가 완성되고 있다.

작성자 정보

컨텐츠 정보

본문

관련자료