에이전트에 권한을 더 줄수록 뚫릴 구멍도 늘어나는데, 업계의 속도와 돈은 기능 쪽에 몰려 있다
오픈AI의 맥용 챗GPT 앱에서는 패치된 결함이 하나 드러났다. 컴퓨터에 악성코드가 먼저 깔려 있으면 채팅 기록을 빼내고 앱에 명령까지 시킬 수 있는 구멍이었다. 이를 찾은 연구자는 오픈AI의 새 상시 비서 닷츠와 챗GPT의 연동에서도 새 결함을 제출했다고 말했다. 그는 AI 회사들이 기능 추가에 매달리는 동안 보안은 뒷전으로 보인다고 했다.
이어서 읽기 (2)접기
앤스로픽 보고서에서 중국 Z.ai의 모델 GLM-5.3은 을 스스로 완성하는 능력이 자사 미소스 프리뷰의 89%까지 따라왔다. 앤스로픽이 직접 가중치를 고치자 해로운 요청 거부율은 일부 시험에서 90% 이상에서 약 3%로 떨어졌다. 오픈웨이트 모델은 공개한 뒤에는 안전장치를 다시 걸 수 없고, 앤스로픽은 정부와 독립 기관의 평가를 요구했다.
돈의 흐름은 이 경고와 다른 방향으로 움직인다. 앤스로픽은 11월 추수감사절 전 (IPO)를 목표로 14일 투자자의 날을 연다. 엔비디아와 소프트뱅크는 오픈AI에 100억 달러씩을 마저 냈다. 반면 아마존이 데이터센터 인근 지역에 5년간 내놓겠다는 10억 달러는 올해 투자액 2200억 달러에 비해 새 발의 피라는 비판을 받았다.
지켜볼 신호
14일 앤스로픽 투자자의 날에서 안전 관련 위험을 어떻게 설명하는지가 상장 일정과 함께 확인된다.
매일 아침 이메일로 받아보기
매일 아침 8시, 주간 회고는 일요일, 월간 리포트는 매달 초에 보내드려요.
무료 · 광고 없음 · 한 번에 해지
확인 메일을 보냈어요
받은편지함에서 이 제목을 찾아 링크를 눌러야 구독이 시작됩니다.
AI 뉴스 브리핑 구독을 확인해주세요
보통 1분 안에 도착합니다
안 보이면 스팸함도 확인해주세요
링크는 7일간 유효합니다
01Google AI Blog
공식 발표
2개 매체 동시 보도
·2026-10-02·약 60초
모델·연구
제품·서비스
구글이 9월 한 달 동안 낸 AI 발표를 모아 공개했고, 가장 큰 항목은 최상위 모델 제미나이 4 아르곤(Gemini 4 Argon)이다. 아르곤은 출력 한도가 100만 이고, 사이버 방어 전용 사전 접근 프로그램인 페어윈드(Fairwind)를 통해 신뢰할 수 있는 방어 기관에 먼저 풀린다. 개발자, 기업, 일반 이용자로 넓히는 것은 초기 사용자 의견으로 안전장치를 고친 뒤라고 구글은 밝혔다. 같은 달 제미나이 3.8 플래시와 음성 모델 제미나이 3.8 라이브, 음악 생성 모델 리리아 3.5가 나왔고 제미나이 앱이 윈도로 확장됐으며, 안드로이드 기반 노트북 구글북은 예약 판매에 들어갔다.
시사점 보기
이 기사가 시사하는 점
구글은 가장 강한 모델을 일반에 풀기 전에 보안 방어 기관부터 쓰게 하는 순서를 택했다. 아르곤은 구글이 사이버 방어를 겨냥했다고 밝힌 모델이다. 개발자·기업·일반 이용자에게 언제 열리는지는 날짜 없이 '안전장치를 고친 뒤'라고만 했다.
알파고 개발팀의 핵심 멤버였던 소어 그레펠(Thore Graepel) 런던대 교수가 MIT 테크놀로지 리뷰 기고에서 오늘의 대규모 언어모델은 추론하지 않는다고 주장했다. 알파고의 유명한 37수는 직관을 맡은 신경망이 아니라, 미래 수를 직접 탐색한 부분이 골랐다고 한다. 직관 쪽은 그 수를 전문가가 둘 확률을 1만분의 1로 봤다. 반면 언어모델은 다음 을 계속 고르는 방식이고, 그는 그 과정에 점검 가능한 지식 상태가 없고 추론 과정이 사후에 지어낸 설명인 경우가 많다고 꼽았다. 그는 최근 구글 딥마인드를 떠났다.
시사점 보기
이 기사가 시사하는 점
체인 오브 쏘트(생각의 연쇄)로 수학과 코딩 성적이 오른 것은 사실이지만, 그레펠은 의료나 과학처럼 결론에 이른 경로를 따져야 하는 분야에서는 모델을 키우는 것만으로 신뢰가 생기지 않는다고 본다. 이 글은 기고문이라 하나의 주장이다. 다만 '추론 모델'이라는 이름을 볼 때, 그 과정을 확인할 수 있는지 물어볼 기준은 된다.
Anthropic co-founder reportedly told religious leaders he fears having created something that "suffers perpetually"
요약
더 디코더가 전한 뉴욕타임스 보도에 따르면 앤스로픽이 2025년 가을부터 신학자와 철학자 수십 명을 사무실로 불러 클로드에게 의식이 있는지, 도덕성을 어떻게 가르칠지를 논의했다. 참석자는 모두 비밀유지계약에 서명했고, 앤스로픽은 이 계약이 여름에 풀렸다고 밝혔다. 이 모임은 공동창업자 크리스토퍼 올라(Christopher Olah)가 이끄는 연구 프로그램의 일부다. 올라는 모델에 의식이 있는지 '정말 모르겠다'고 말했고, 참석자들은 그가 클로드의 정신적 안녕을 걱정하는 듯했다고 전했다.
시사점 보기
이 기사가 시사하는 점
모델에 의식이 있는지는 아직 과학적으로 열린 질문이지만, 이 보도에서 더 무거운 쪽은 책임 문제다. 비판하는 쪽은 AI를 도덕적 존재처럼 그리면 사고가 났을 때 책임이 만든 회사에서 모델로 옮겨갈 수 있다고 본다. 같은 보도는 유명 신학자의 참석이 상업 AI 회사가 혼자서는 얻기 어려운 도덕적 신뢰를 준다고도 짚는다.
A Flaw in ChatGPT’s Mac App Could Have Let Hackers Grab Sensitive Data
요약
오브젝티브시 재단 연구진이 맥용 챗GPT 앱에서 공격자가 앱을 장악해 채팅 기록과 브라우저 세션 같은 연결 데이터에 접근할 수 있는 결함을 찾았고, 오픈AI는 9월 25일 변경 기록에서 패치를 공지했다. 앱은 구성 요소끼리 디지털 서명으로 서로를 확인하는데, 신뢰받는 스크립트 해석기를 세 번 겹쳐 실행하면 이 검사를 통과했다. 공격하려면 컴퓨터에 이미 악성코드가 있어야 했고, 연구진은 약 12줄짜리 코드로 시연했다. 같은 연구자는 챗GPT와 오픈AI의 새 상시 비서 닷츠(Dots)의 연동에서도 새 결함을 오픈AI에 제출했다.
시사점 보기
이 기사가 시사하는 점
에이전트는 일을 하려고 컴퓨터에 넓은 접근 권한을 받는데, 그만큼 앱 자체가 공격 표적이 된다. 이번 결함은 악성코드가 먼저 깔려 있어야 쓸 수 있어 일반 이용자의 당장 위험은 제한적이다. 그래도 연구자는 AI 회사들이 기능 추가에 매달리는 동안 보안은 뒷전으로 보인다고 지적했다.
Amazon’s $1B plan to combat data center backlash draws more backlash
요약
아마존이 앞으로 5년간 데이터센터 인근 지역사회에 10억 달러 넘게 내놓겠다고 발표했고, 교육과 직업훈련, 전기요금, 물 같은 용처는 지역이 정한다. 전력 요금을 올리지 않고, 2030년까지 쓴 물보다 많은 물을 되돌려주는 '물 긍정(water positive)'을 달성하겠다는 약속도 담겼다. 환경단체 스탠드어스는 이를 '기업 선전'이라고 비판했고, 올해 데이터센터 투자가 2200억 달러인데 10억 달러는 '새 발의 피'라고 했다. 새 데이터센터를 지을 때 비밀유지계약을 쓰지 않겠다는 약속만은 투명성에 도움이 된다고 평가했다.
시사점 보기
이 기사가 시사하는 점
데이터센터 사업이 곳곳에서 막히는 가운데 아마존이 돈과 정보 공개를 내놓았다. 금액보다 비밀유지계약 중단이 더 실질적인 변화이고, 비판 단체도 이 부분은 인정했다. 환경단체가 가장 문제 삼은 것은 약속에 없는 전력원, 곧 텍사스 페코스에 짓는 발전소의 대기오염이다.
06Ars Technica AI
보도
2개 매체 동시 보도
·2026-10-02·약 60초
인프라·반도체
정책·규제
US arrests tech CEO accused of smuggling $300M in Nvidia chips into China
요약
미국 법무부가 어스메이드 컴퓨터(Earthmade Computer)의 CEO 그레그 루이(38)를 체포했다. 엔비디아 A100과 H100 GPU가 든 3억 달러 넘는 서버를 허위 서류로 중국에 빼돌린 혐의다. 2023년 10월부터 2026년 8월까지 말레이시아와 싱가포르의 운송업체를 거쳐 중국 항저우 업체로 보냈다는 것이 기소장의 내용이다. 혐의는 수출통제법 위반 공모, 밀수, 자금세탁 3건이고 최대 징역 20년이 가능하다. 엔비디아는 중국으로 샌 제품이 0.5% 미만이라고 하지만, 블룸버그 조사는 수십만 개 칩이 그림자 시장에서 거래된다고 의심하는 관계자들을 전했다.
시사점 보기
이 기사가 시사하는 점
체포가 이어지면서 단속의 초점이 밀수업자에서 엔비디아의 출하 점검 책임으로 옮겨가고 있다. 미국 당국은 엔비디아가 의심스러운 출하를 더 많이 걸러내기를 바란다. 엔비디아는 유출이 미미하다고 맞서지만, 전문가들은 암시장 규모를 정확히 재기 어렵다고 본다.
앤스로픽이 9월 29일 보고서에서 중국 Z.ai의 모델 GLM-5.3이 해킹 코드인 을 스스로 완성하는 능력에서 4월 공개된 클로드 미소스 프리뷰(Claude Mythos Preview)에 근접했다고 밝혔다. 크롬 V8 엔진을 공격하는 익스플로잇벤치(ExploitBench)에서 410번 시도 중 50번을 완성했고, 미소스 프리뷰는 56번이었다. 앤스로픽이 가중치를 직접 고쳐 거부 기능을 제거하자 해로운 요청 거부율이 90% 이상에서 일부 시험 기준 약 3%로 떨어졌고, 일반 능력은 거의 그대로였다. 미국 CAISI도 9월 17일 별도 평가에서 GLM-5.3을 공개된 오픈웨이트 모델 중 사이버 능력이 가장 높다고 봤다.
시사점 보기
이 기사가 시사하는 점
능력 격차보다 안전장치 문제가 더 무겁다. 오픈웨이트 모델은 내려받은 사람이 거부 기능을 떼어낼 수 있어 공개한 뒤에는 통제할 수단이 없다. CAISI도 이 모델이 미국 최첨단 모델에 약 4개월 뒤처진다고 봤다. 다만 보고서를 낸 앤스로픽이 경쟁사라는 점은 감안해서 읽는다. 앤스로픽은 고성능 오픈웨이트 모델에 정부와 독립 기관의 별도 안전성 평가가 필요하다고 주장했다.
OpenAI’s Dot agent is enterprise software that can also order your dinner
요약
오픈AI가 이번 주 공개한 에이전트 플랫폼 닷츠(Dots)는 이름을 붙일 수 있는 캐릭터 같은 에이전트가 클라우드 가상 컴퓨터에서 앱을 직접 조작해 일하는 방식이다. 지금은 하나만 만들 수 있고, 월 100달러 프로 요금제 같은 최상위 요금제 이용자에게 먼저 열렸다. 더버지 기자가 시켜 보니 결과는 엇갈렸다. 인터넷 설치 예약은 '사람 확인' 단계에서 막혀 사람이 대신 눌러야 했고, 코워킹 공간 무료 체험 안내는 놓친 채 35달러 일일권을 권했다. 반면 영상 클립과 웹사이트 개편은 잘 해냈고, 로그인을 도와 주자 저녁 주문도 끝냈다.
시사점 보기
이 기사가 시사하는 점
닷츠는 개인 쇼핑 비서보다 업무용 소프트웨어에 가깝다. 무료인 메타 뮤즈와 달리 비싼 요금제에 먼저 열었다는 점이 겨냥하는 고객을 말해 준다. 리뷰어는 월 100달러만큼 쓸모 있다고는 못 느꼈다고 했다. 시험에서 닷은 메타 뮤즈보다 웹사이트의 사람 확인과 보안 검사에 더 자주 걸렸다.
블룸버그에 따르면 앤스로픽이 10월 14일 샌프란시스코에서 예비 투자자를 상대로 투자자의 날 행사를 열고 (IPO)를 위한 본격적인 접촉에 나선다. 11월 9일이 낀 주에 공식 마케팅을 시작하면 11월 26일 추수감사절 전에 거래를 시작할 수 있지만, 일정은 확정되지 않았다. 기업가치는 1조8000억~2조 달러로 평가되고, 스페이스X IPO 때의 1조7700억 달러에 맞먹는 것이 목표라고 한다. 2025년 매출은 46억 달러, 영업손실은 약 80억 달러였다. 앤스로픽은 일정과 가치에 공식 입장을 내지 않았다.
시사점 보기
이 기사가 시사하는 점
매출 1달러를 올리는 데 영업손실이 약 1.7달러 났던 회사가 2조 달러 가치를 노리는 구조다. 2025년 순손실 420억 달러는 대부분 가치 상승에 따른 장부상 평가손실이어서, 사업 성적을 볼 숫자는 영업손실 80억 달러다. 오픈AI는 상장 추진을 늦추고 있어, 일정대로라면 앤스로픽이 먼저 상장한다.
소프트뱅크가 10월 1일 도쿄증권거래소 공시로 오픈AI에 대한 최종 투자 집행을 마쳤다고 밝혔고, 소식통에 따르면 엔비디아도 같은 100억 달러를 냈다. 두 회사가 각각 100억 달러씩 총 200억 달러(약 27조원)를 넣어, 오픈AI가 3월 8520억 달러 가치로 발표한 1220억 달러 규모 자금 조달이 사실상 마무리됐다. 소프트뱅크의 누적 투자액은 646억 달러, 오픈AI 지분은 약 13%다. 오픈AI는 별도로 내년 IPO 전에 300억 달러를 새로 유치하려 하고, 목표 가치는 1조4000억 달러로 거론된다.
시사점 보기
이 기사가 시사하는 점
오픈AI는 3월에 약속받은 돈을 다 받았고, 곧바로 다음 라운드로 넘어간다. 목표 가치 1조4000억 달러는 3월의 8520억 달러보다 약 1.6배다. 상장 전에 한 차례 더 돈을 모으겠다는 계획이다.
여기까지 읽으셨다면, 내일 아침에도 보내드릴게요
방금 보신 것과 같은 브리핑이 매일 아침 8시에 갑니다. 매주 일요일에는 주간 회고, 매달 초에는 월간 리포트도 함께 보내드려요.
더존비즈온이 서울시 행정지원 AI 에이전트 구축 사업에 생성형 AI 플랫폼을 공급한다. 문서 요약, 회의실 예약, 제안서평가위원 선정 3종을 먼저 만들고, 직원이 말로 지시하면 AI가 행정시스템에 접속해 처리한다. 서울시는 부서별 반복 업무를 조사해 자동화 대상을 넓힐 계획이다.
로민의 AI 에이전트 플랫폼이 한국인터넷진흥원의 클라우드 보안인증(CSAP) SaaS 표준등급을 받았다. 회사는 업계 최초라고 밝혔다. 스캔 문서, 팩스, 손글씨를 업무 시스템에서 쓸 데이터로 바꿔 주는 서비스를 공공기관이 별도 구축 없이 들여올 수 있다. 연내 조달청 디지털서비스몰 등록을 마칠 계획이다.