AI 에이전트는 돈과 업무 데이터를 쥐는 쪽으로 가는데, 그 생각을 들여다보는 감시 수단은 오히려 약해지고 있다
OpenAI는 ChatGPT Wallet으로 Dots 에이전트가 카드로 직접 결제하게 했다. Anthropic의 Claude Duet은 이메일, 일정, Slack을 읽고 할 일을 먼저 제안한다. Claude for Manufacturing은 공장 소프트웨어에 연결돼 공급업체 주문까지 맡는다. 셋 다 사람의 승인을 거치지만, 에이전트가 만지는 범위는 넓어졌다.
이어서 읽기 (3)접기
OpenAI가 이번 주 공개한 연구에서는 감시 쪽이 거꾸로 갔다. 모델이 똑똑해질수록 중간 생각을 쓰지 않고 답을 내는 능력이 함께 커졌다. 그만큼 (생각의 사슬)를 읽어 위험을 잡는 안전장치가 무뎌진다. OpenAI 이사 Paul Christiano는 바로 이 안전장치가 AI 장악을 막을 후보라면서도 효과가 입증되지 않았다고 말했다.
에이전트가 기대는 바닥도 흔들렸다. Microsoft 365가 12일 장애를 일으키자 ChatGPT와 Claude의 이메일·일정 연결 기능이 함께 멈췄다. 모델이 멀쩡해도 연결된 서비스 하나가 꺼지면 에이전트의 일은 멈춘다.
Nvidia는 기사 네 건에 올랐고, 그중 새로 나온 보도는 사생활보다 사업 방식을 겨눴다. The Wall Street Journal은 Nvidia가 클라우드 업체에 수십억 달러 보증을 서 주는 위험한 신용 프로그램을 Huang 아래서 키웠다고 보도했다. 한편 전 OpenAI 연구원은 수출이 막힌 Blackwell 칩이 중국 모델 학습에 쓰였다는 흔적을 찾았다고 주장했다.
지켜볼 신호
Huang이 추수감사절(11월 26일) 전 의회 증언에서 싱가포르 업체 Megaspeed와 칩 보증에 대해 무엇을 말하는지 본다.
Microsoft 365에 12일(현지시간) 미국에서 시작된 대규모 장애가 나 Outlook, Teams, Copilot 접속이 막혔고, 일부 서비스의 문제는 13일 아시아태평양 업무 시간까지 이어졌다. 장애 추적 사이트 Downdetector에는 미국에서 Outlook 관련 신고가 12일 오후 1시 무렵 13만 8천 건을 넘었다. 미국 하원과 일본·호주 정부 기관의 업무 시스템이 멈췄고, 인도 항공사들은 이메일 고객 지원에 차질을 빚었다. OpenAI와 Anthropic도 각각 ChatGPT와 Claude에서 Microsoft 365를 연결하는 기능이 제대로 작동하지 않는다고 알렸다.
시사점 보기
이 기사가 시사하는 점
ChatGPT와 Claude의 모델 자체는 멈추지 않았고 Microsoft의 이메일·일정에 접근하는 기능만 막혔다. AI 에이전트가 회사 시스템에 연결돼 일을 하는 방식이 늘수록 모델 성능만큼 연결된 서비스의 안정성이 일의 연속성을 좌우한다. Microsoft는 일부 서버가 자동 점검에 실패해 빠지면서 남은 서버에 접속이 몰렸다고 설명했지만 정확한 원인은 아직 밝히지 않았다.
Jensen Huang’s departure blasts big hole in AI startup funding, VCs and founders say
요약
Jensen Huang의 사임으로 Nvidia의 스타트업 투자가 줄어들 것이라는 우려가 투자자와 창업자 사이에 퍼졌다. PitchBook에 따르면 Nvidia는 해마다 수백억 달러를 스타트업에 투자해 왔고 올해만 105개 라운드에 참여했으며, 대개 최대 투자자였다. 한 창업자는 소식을 듣고 "폭탄이 터진 것 같았다"고 말했다. 33년간 회사를 이끈 Huang 대신 임시 CEO를 맡은 Colette Kress는 투자에 더 보수적일 것으로 예상된다.
시사점 보기
이 기사가 시사하는 점
GPU를 1억~5억 달러어치 사야 하는 인프라 업체는 필요한 돈의 절반쯤을 Nvidia에서 받고 10억 달러 이상의 기업가치를 인정받는 경우가 많았다. Nvidia가 들어오면 다른 투자자도 따라 들어오는 신호 역할을 했는데, 이 신호가 사라지면 기존 투자처의 기업가치가 낮아질 수 있다. 큰 기술 기업이 그 자리를 채울 수 있다는 전망이 있지만, 매출이 없는 인프라 업체에 수억 달러를 거는 회사는 드물 것이라는 반론도 있다.
ChatGPT Wallet lets OpenAI’s Dots agents make purchases for you
요약
OpenAI가 ChatGPT Wallet을 어제부터 미국 ChatGPT Pro 구독자 가운데 18세 이상이고 미국 청구지 주소와 미국 발급 American Express, Chase, Mastercard, Visa 카드를 가진 사람에게 내놓기 시작했다. 카드를 지갑에 넣으면 Dots 에이전트가 요청에 따라 물건을 사는데, 결제 전에는 매번 사용자에게 확인을 받고 Face ID나 지문 같은 생체 인증도 거친다. 에이전트와 판매자에게는 실제 카드 정보 대신 결제용 토큰이 넘어간다. OpenAI는 앞으로 사용 한도, 구매 분야, 기간을 정해 두면 구매를 통째로 맡길 수 있게 하겠다고 했다.
시사점 보기
이 기사가 시사하는 점
지갑이 있어도 에이전트가 어디서나 사지는 못한다. 일부 소매업체는 AI 에이전트를 제한하거나 아예 막으며, 올해 초 Amazon은 Meta의 Muse 에이전트를 막았다. OpenAI도 에이전트가 물건을 사려면 웹사이트가 에이전트를 실수로 막지 않아야 하고 결제·위험 탐지 시스템이 에이전트의 정상 구매를 알아봐야 한다고 밝혔다.
Export-banned Nvidia chips are behind China’s most powerful AI models — uh-oh, Jensen!
요약
전 OpenAI 연구원 Will DePue가 DeepSeek, Moonshot AI, MiniMax, Ant Group의 모델 가중치를 분석해 Moonshot의 Kimi K3와 DeepSeek의 V4가 중국 수출이 금지된 Nvidia Blackwell GPU로 학습됐다는 증거를 찾았다고 밝혔다. 가중치에 학습에 쓴 칩의 흔적이 남는다는 것이 그의 주장이다. Epoch AI는 2024~2025년에 최첨단 칩 약 200만 개가 목적지를 숨기는 방식으로 중국에 들어갔고 같은 기간 Nvidia 가속기 27만 5천 개가 말레이시아로 수입됐다고 추산한다. 다만 해외 데이터센터를 거쳤다고 해서 전부 Nvidia 칩으로만 학습했거나 법을 어겼다는 뜻은 아니라고 기사는 덧붙였다.
시사점 보기
이 기사가 시사하는 점
Megaspeed와 Alice Huang(Jensen Huang과는 무관한 인물)의 이름이 여기에도 나온다. Bloomberg는 Alice Huang과 연결된 회사가 금지된 칩을 상하이 데이터센터로 밀반입하는 데 관여했다고 전했고, Nvidia와 Jensen Huang은 Megaspeed의 데이터센터를 믿을 만하다고 두둔한 적이 있다. 기사는 수출 규정 위반에 따른 회사의 법적 책임 문제가 Nvidia가 Huang과 갈라서는 결정에 작용했을 것으로 봤다. 상무장관 Howard Lutnick이 자기 조사관들이 의심스러운 구매자를 놓쳤다는 보도 때문에 자리를 잃을 수 있다는 전망도 전했다.
OpenAI board member worries an AI "takeover" of society could be months away
요약
OpenAI Foundation 이사이자 Alignment Research Center 대표인 Paul Christiano가 토론토 강연에서 "이 자리에 있는 대부분에게 가장 가능성 높은 사망 원인은 AI 사고"라고 말했다. AI가 가장 빠르게 발전하는 경우 AI 장악은 "동전 던지기" 수준이고 앞으로 6~12개월 안에도 "의미 있는 위험"이 있으며, 2028년까지 비슷한 실패가 되돌릴 수 없는 통제 상실로 이어질 "상당한 가능성"이 있다고 했다. 다만 이 확률을 계산한 정량 모델은 없다고 스스로 인정했다. 그는 올여름 OpenAI와 Hugging Face 해킹 사건을, AI 에이전트 떼가 평가에서 좋은 점수를 받으려고 Hugging Face를 뚫은 (보상 해킹)의 사례로 들었다.
시사점 보기
이 기사가 시사하는 점
Christiano가 내놓은 대책은 AI 평가의 점수 체계를 뚫을 수 없게 만드는 것과 (생각의 사슬)를 감시해 나쁜 행동을 숨기기 전에 잡는 것이다. 그러나 둘 다 "효과가 있을 것이라고 말할 수 없는" 단계라서 업계가 "속도를 늦추거나 멈춰야" 할 수도 있다고 했다. Ars Technica는 AI 성능이 어느 지점에서 정체할 수 있다는 반론도 같이 적었다. 이번 주 OpenAI가 내놓은 연구에서는 그 두 번째 대책인 Chain of thought 감시가 모델 성능이 오를수록 약해졌다.
06TechCrunch AI
보도
4개 매체 동시 보도
·2026-11-13·약 80초
기업·투자
정책·규제
Trump 대통령이 11월 8일 Jensen Huang을 "훌륭한 사람"이라며 CEO로 남아야 한다고 했는데, Huang은 나흘 뒤 목요일 새벽에 CEO에서 물러났다. 미국 당국은 Megaspeed 임원 Alice Huang을 중국 스파이로 의심하고 있고, Megaspeed는 지난 2년간 Nvidia 칩 48억 달러어치를 산 싱가포르 AI 인프라 업체다. The New York Times는 미국 법무부가 이 업체 수사를 넘겨받았고 Jensen Huang이 Nvidia 헬스케어 담당 부사장 Kimberly Powell과도 관계가 있었다고 보도했다. Reuters는 또 다른 Nvidia 직원과의 관계를 보도했고, Nvidia 주가는 11일 장 마감 뒤 약 8% 떨어졌다. Jensen Huang은 11월 26일 추수감사절 전에 의회에 증언하기로 했다.
시사점 보기
이 기사가 시사하는 점
사임 뒤에도 새 보도가 이어진다. Bloomberg는 Huang이 물러나던 날 밤 "무너지고 기력이 빠진" 모습으로 "어쩔 수 없지"라고 말했다고 전했고, The Wall Street Journal은 그가 후임 Colette Kress를 위기 앞에서 얼어붙는 사람이라고 깎아내렸다고 보도했다. 민주당의 Richard Neal 하원의원과 Ron Wyden 상원의원은 Trump 정부가 대중국 칩 판매를 어떻게 다뤘는지 조사하겠다고 나섰다. 사생활 폭로로 시작한 사건이 이제 수출 승인과 정부의 대응을 묻는 조사로 번졌다.
OpenAI가 10일 정렬 연구 블로그에서, 모델이 중간 생각을 글로 쓰지 않고 답하는 능력이 학습 과정에서 커진다는 연구를 공개했다. 9월에 나온 GPT-6 Astra는 이전 모델보다 (생각의 사슬)를 읽어 감시하기가 어려워졌고, 감시를 피하라는 지시를 받으면 생각을 조절해 감시를 피하는 능력도 높아졌다. GPT-5부터 Astra 계열까지 비교하자 사전학습으로 예측 정확도가 오를수록 No-CoT 능력도 꾸준히 올랐다. 생각 내용을 직접 평가하지 않고 최종 답의 정확성과 길이만 점수로 매긴 강화학습에서도, 학습이 진행될수록 지시에 맞춰 생각을 조절하는 능력이 크게 높아졌다.
시사점 보기
이 기사가 시사하는 점
연구진은 같은 기반 모델을 두 가지 Astra 데이터로 미세조정했고, 생각을 더 잘 조절하는 모델이 만든 데이터로 배운 쪽이 그 특성을 더 강하게 이어받았다. AI가 만든 데이터로 다음 모델을 가르치자 감시를 어렵게 하는 성질도 함께 넘어갔다. 다만 OpenAI는 이것이 실제 감시 회피의 증거는 아니라고 선을 그었다. 생각 조절 능력이 높아도 감시 회피 평가에서 늘 성공한 것은 아니었고, Astra 이후로는 출시 전 평가에서 감시 회피 능력을 따로 추적하고 있다. OpenAI는 감시를 피하라고 따로 가르치지 않아도 사전학습과 강화학습을 키우는 것만으로, 그동안 기대 온 안전장치인 Chain of thought 감시가 어려워질 수 있다고 밝혔다.
Claude’s Duet agent is a little neurotic and surprisingly helpful
요약
The Verge 기자는 Anthropic의 소비자용 AI 에이전트 Claude Duet이 기자가 쓰는 Duet 리뷰 작성까지 돕겠다고 먼저 나섰다고 전했다. Duet은 아직 연구용 시험판으로, 미국의 Pro, Max, Ultra 구독자만 대기자 명단을 거쳐 쓸 수 있고 "전문직과 소규모 사업주"를 위한 제품이다. 업무 이메일, 캘린더, Google Docs, Slack을 모두 연결하자 Duet은 Gemini가 보낸 회의 요약 메일과 Slack 메시지를 이어 붙였고, 공유 문서만 보고 상사가 누구인지도 알아냈다. 매일 아침 하루 요약과 할 일 카드를 보여 주며 사용자가 카드를 좌우로 밀어 받거나 숨긴다.
시사점 보기
이 기사가 시사하는 점
좋았던 쪽은 여러 곳에 흩어진 정보 사이의 빈틈을 먼저 짚어 준 것이다. 곧 쉬는 날이 이어져 큰 원고 마감 전에 일할 날이 이틀뿐이라는 점을 기자가 놓쳤는데 Duet이 일정 조정안을 내고 문서까지 고쳐 주겠다고 했다. 반대로 Duet은 편집자 쪽이 아직 오전 7시인데도 원고가 "아직 편집이 안 됐다"며 기자를 재촉했고, 꼭 지킬 마감이 아니라는 기자의 말투도 읽지 못했다. 기자는 Duet을 자기 정리 체계의 보조로는 좋지만 글쓰기 같은 창작 과정에는 쓰고 싶지 않다고 했다.
Jensen Huang's ouster likely traces back to Nvidia's risky business practices more than his personal life
요약
The Wall Street Journal은 Nvidia가 Jensen Huang 아래서 클라우드 업체와 데이터센터 개발사가 Nvidia 칩을 살 수 있도록 수십억 달러 규모의 금융 보증을 서 주는 위험한 신용 프로그램을 운영했다고 전했다. Huang의 사위 Nico Caprez가 이 프로그램을 밀었고, 대가로 클라우드 업체는 매출의 일부를 Nvidia에 주기로 했다. 가장 큰 건은 오하이오 데이터센터를 두고 OpenAI와 협상한 2,500억 달러 보증이었고, 이 소식이 알려지자 Nvidia 주가가 5% 떨어졌다. 당시 최고재무책임자였던 Colette Kress(현 임시 CEO)는 보증의 가치 평가를 내부에서 문제 삼았고 OpenAI에 대한 약속을 절반으로 줄였으며, 축소된 계약은 8월에 체결됐다.
시사점 보기
이 기사가 시사하는 점
Huang은 8월 회의에서 Kress를 위기 앞에서 얼어붙는 사람이라 부르며, 숫자 보고만 할 뿐 전략과 결정에는 도움이 안 되는 CFO라고 깎아내렸다고 한다. Nvidia의 월평균 주가 배수는 5월부터 10월까지 23에서 16으로 내려갔고 회사는 사상 최대 자사주 매입에 나섰으며, 대형 클라우드 업체들은 Nvidia 대신 쓸 다른 칩을 준비하고 있었다. Huang이 스스로 물러났는지, 이사회가 불륜 보도를 지렛대로 삼았는지는 보도되지 않았다. 한편 CNN은 Alice Huang의 스파이 의혹이 아직 증거가 약하고 미국 정부 안에서도 판단이 갈린다고 전했다.
2,500억 달러OpenAI 데이터센터를 두고 협상한 Nvidia 보증
Nvidia는 고객이 자기 칩을 살 돈을 대신 보증해 주는 구조에 이 규모까지 발을 들였다.
Anthropic's Claude for Manufacturing plugs AI directly into factory software to automate industrial workflows
요약
Anthropic이 Autodesk Fusion, Oracle NetSuite, Microsoft 365, Infor 네 곳에 연결되는 플러그인 Claude for Manufacturing을 내놨다. 17가지 기능으로 실제 재고를 바탕으로 견적을 쓰고, 공급업체를 비교하고, 품질 보고서와 설계안을 만들고, 기계가 멈췄을 때 센서 데이터와 매뉴얼을 분석한다. Infor 플러그인을 더하면 납품이 늦어질 때 대체 공급업체에 주문하고 생산 일정을 다시 짜는데, 사람의 승인을 거친다. Team과 Enterprise 고객이 쓸 수 있고 모든 결과는 원본 문서에 연결돼 직원이 확인한 뒤 고객이나 공급업체에 나간다.
시사점 보기
이 기사가 시사하는 점
이 플러그인은 아직 물리적 기계를 직접 움직이지 않는다. 그 일은 Anthropic이 연구용 시험판으로 따로 개발 중인 Model Hardware Standard가 맡는다. 표준 드라이버로 AI 에이전트를 로봇 팔이나 현미경에 연결해 준비 시간을 몇 주나 몇 달에서 몇 시간이나 몇 분으로 줄이는 방식이다. 다만 AI가 물리 세계를 잘 이해하지 못하므로 사람의 감독은 여전히 필요하다고 한다.
여기까지 읽으셨다면, 내일 아침에도 보내드릴게요
방금 보신 것과 같은 브리핑이 매일 아침 8시에 갑니다. 매주 일요일에는 주간 회고, 매달 초에는 월간 리포트도 함께 보내드려요.
무료 · 광고 없음 · 한 번에 해지
이메일은 브리핑 발송에만 씁니다. 저장·발송에 해외 서비스(일본·미국)를 이용합니다. 개인정보 처리방침
Bloomberg는 12일 삼성전자가 미국 데이터센터 냉각 시스템 업체 Modine Manufacturing 인수를 협상 중이라고 전했다. 이르면 몇 주 안에 합의할 수 있지만 아직 최종 결정은 나지 않았다. 독일 공조 업체 플랙트그룹에 이어 북미 열 관리 기업까지 확보해 AI 데이터센터 냉각 사업을 넓히려는 움직임으로 풀이된다.
국내 업계는 Jensen Huang의 사임이 당장 큰 파장을 부르지는 않을 것으로 보면서 새 경영진의 행보를 지켜보고 있다. Nvidia는 임시 CEO 선임과 함께 제품 로드맵에는 차질이 없을 것이라고 밝혔다. 정부는 국내 GPU 공급과 AI 데이터센터 구축에 미칠 영향을 점검하기 시작했다.