AI 안전장치가 엉뚱한 곳에서 걸린다. 개발자의 정상 작업은 막히는데 추론 탈취는 클라우드에서 그대로 통했다
오픈AI는 안전팀 연구원 3명을 정보 보안 위반을 이유로 내보냈다. 같은 주에 뉴욕타임스는 경영진이 직원들의 안전 경고를 묵살했다고 보도했고, 회사는 GPT-6.1 Astra 출시도 안전 문제로 접었다. 징계인지 입막음인지는 오픈AI가 조사 내용을 내놓기 전까지 알 수 없다.
이어서 읽기 (2)접기
안전장치는 정작 엉뚱한 곳에서 걸렸다. 오픈AI와 앤스로픽 모델은 위성 시뮬레이션이나 로봇 팔 화면 제작 같은 정상 작업을 위험 요청으로 오인해 거절했고, 일부 개발자는 구독을 끊거나 키미와 Qwen으로 옮겼다. 반대로 오픈AI가 막았다고 밝힌 추론 탈취 수법은 9월 13일 시험에서 마이크로소프트 애저를 뚫었다. 같은 모델인데 어느 클라우드가 서비스하느냐에 따라 방어 수준이 달랐다.
백악관은 화요일 AI 기업 경영진과 만나 '초지능에 관한 백악관 협약'을 내놓았다. 내부 평가와 외부 감사, 이사회 검토를 포함하지만 모두 자발적인 약속이다. 법원 판단도 비슷했다. 연방법원은 체그와 펜스키가 구글을 상대로 낸 소송을 기각하면서 AI 검색의 피해에 공감하되 입법 없이는 으로 다룰 수 없다고 했다.
지켜볼 신호
오픈AI가 해고한 연구원 3명이 먼저 내부 채널로 우려를 전했는지, 그리고 외부 단체 이름을 공개하는지가 며칠 안에 논란의 방향을 가른다.
매일 아침 이메일로 받아보기
매일 아침 8시, 주간 회고는 일요일, 월간 리포트는 매달 초에 보내드려요.
무료 · 광고 없음 · 한 번에 해지
확인 메일을 보냈어요
받은편지함에서 이 제목을 찾아 링크를 눌러야 구독이 시작됩니다.
AI 뉴스 브리핑 구독을 확인해주세요
보통 1분 안에 도착합니다
안 보이면 스팸함도 확인해주세요
링크는 7일간 유효합니다
01Ars Technica AI
보도
3개 매체 동시 보도
·2026-10-01·약 50초
정책·규제
생성 미디어
Judge dismisses Chegg and Penske antitrust lawsuits targeting Google AI search
요약
미국 연방법원이 교육 업체 체그와 롤링스톤·버라이어티를 소유한 펜스키 미디어가 구글을 상대로 낸 소송을 기각했다. 두 회사는 구글이 AI 개요 같은 기능에 자기 콘텐츠를 가져다 쓰면서 검색 트래픽이 줄었다고 주장했다. 아미트 메흐타 판사는 구글이 트래픽을 보내 줄 것이라는 '기대'는 계약이 아니라며, 으로 다룰 수 없다고 판단했다. 다만 판결문에서 출판사들이 입은 피해를 가볍게 보지 않으며, 콘텐츠가 대가 없이 재사용되는 상황에 공감한다고 밝혔다.
시사점 보기
이 기사가 시사하는 점
AI 검색 때문에 트래픽을 잃은 매체가 지금 법정에서 이길 길은 좁다. 판사가 불공정하다고 인정하면서도 법을 고치는 일은 입법의 몫이라고 선을 그었기 때문이다. 콘텐츠 값을 받아내려는 쪽은 소송보다 개별 계약과 입법 쪽에 힘을 쏟게 될 가능성이 크다.
Google’s new Guided Vision feature can help you read the fine print
요약
구글이 제미나이 라이브에 '가이디드 비전(Guided Vision)'을 안드로이드 기기부터 내놓았다. 휴대폰 카메라를 비추면 AI가 작은 글씨를 읽고 주변을 설명하고 물건을 찾아 주며, 모두 실시간 음성으로 알려 준다. 저시력자와 시각장애인이 주 대상이고 후속 질문도 할 수 있다. 제미나이 앱 외에 구글 토크백이나 안드로이드 9 이상 기기의 설정 단축키로도 쓸 수 있다. 구글은 길 안내나 장애물 감지, 지팡이 대체용으로는 쓰지 말라고 당부했다.
시사점 보기
이 기사가 시사하는 점
애플이 아이폰에 넣은 보이스오버 실시간 인식과 같은 영역에 안드로이드도 들어왔다. 휴대폰 카메라가 접근성 도구가 되면 시력이 약한 사람이 유통기한이나 작은 라벨을 혼자 확인하는 일이 쉬워진다. 다만 구글이 길 안내처럼 안전과 직결된 용도에는 쓰지 말라고 한 만큼, 어디까지나 보조 수단이다.
지금 할 일
안드로이드 9 이상이면 설정 앱에서 접근성 단축키로 등록해 둘 수 있습니다.
03TechCrunch AI
보도
3개 매체 동시 보도
·2026-10-01·약 40초
인프라·반도체
Google thinks SpaceX’s Starship has to launch 1,800 times before space data centers get off the ground
요약
구글이 자체 AI 칩 를 실은 첫 궤도 시험 위성을 스페이스X 로켓에 실어 쏘아 올렸다. 플래닛 랩스가 만든 위성으로, 우주에서 칩에 전력을 대고 식히며 모델을 돌릴 수 있는지 확인한다. 같은 날 구글이 낸 논문은 우주 데이터센터의 비용을 맞추려면 스타십이 앞으로 10년간 약 1800번 날아 37만 톤을 궤도에 올려야 한다고 계산했다. 스타십이 한 해에 가장 많이 난 횟수는 다섯 번이다.
시사점 보기
이 기사가 시사하는 점
구글은 우주 데이터센터를 단기 사업이 아니라 장기 프로젝트라고 스스로 말한다. 가장 큰 걸림돌은 칩보다 로켓이다. 논문은 칩이 방사선을 견딜 것으로 보지만, 수천 개를 몇 달씩 돌리는 대규모 학습에는 오류가 아직 문제라고 인정한다.
OpenAI cuts ties with 3 safety researchers, WSJ reports
요약
오픈AI가 안전팀 연구원 3명과 관계를 끊었다. 월스트리트저널은 이들이 회사 기밀 정보를 외부 AI 안전 단체와 공유했다고 보도했다. 오픈AI는 내부 조사 결과 3명이 민감한 정보를 정해진 절차 밖에서 다뤄 정책을 어겼다고 밝혔다. 연구원의 이름과 단체, 넘어간 정보는 공개되지 않았다. 이틀 전 뉴욕타임스는 경영진이 직원들의 안전 경고를 묵살했다고 보도했고, 오픈AI는 이번 주 GPT-6.1 Astra 출시도 안전 문제로 접었다.
시사점 보기
이 기사가 시사하는 점
오픈AI는 이번 해고를 정보 보안 위반으로 설명하고, 2024년에도 같은 이유로 연구원을 해고한 적이 있다. 3명이 먼저 내부 채널로 우려를 전했는지는 알려지지 않았다. 안전 우려를 공개적으로 밝혀 온 사람들이 나간 일이라, 징계인지 입막음인지를 둘러싼 논란은 오픈AI가 조사 내용을 더 공개하기 전까지는 가라앉기 어렵다.
OpenAI’s new agent is a shot at Meta — but can it compete with free?
요약
오픈AI가 개발자 행사 데브데이에서 AI 에이전트 닷츠(Dots)를 공개했다. 메타의 뮤즈(Muse)에 맞서 만든 것으로 GPT-6 Astra가 구동하며, 월 100달러짜리 프로 요금제 이상에서만 쓸 수 있다. 메타는 가상 컴퓨터가 딸린 에이전트를 무료로 준다. 챗GPT 이용자 12억 명 대부분은 당장 닷츠를 쓸 수 없다. 오픈AI는 닷츠를 긴 업무를 맡기는 '비서실장'에 가깝다고 내세웠고, 샘 알트먼은 연산이 많이 들어 프리미엄으로 시작하지만 언젠가 대중용도 내겠다고 했다.
시사점 보기
이 기사가 시사하는 점
샘 알트먼 스스로 연산이 많이 든다고 밝혔듯, 닷츠를 고가 업무용으로 내세우는 까닭은 비용이다. 무료인 메타 뮤즈와 맞붙는 소비자 시장은 가격에서 불리해서, 앤스로픽이 앞서 있는 기업 시장을 파고드는 쪽으로 방향을 잡았다.
블룸버그 보도에 따르면 애플이 오는 13일 스마트홈 허브와 새 홈팟 미니, 애플TV를 공개한다. 핵심은 코드명 J490으로 개발한 6인치 정사각형 화면의 허브다. 음성이나 얼굴로 집 안 구성원을 구별해 각자의 연락처와 일정, 메시지를 보여 준다. 방문객 모드에서는 개인 정보가 가려지고, 인식이 불확실하면 아이폰으로 인증한다. 화면이 360도 도는 9인치 로봇형 허브와 사람을 감지하는 보안 카메라도 이후 선보일 계획이다.
시사점 보기
이 기사가 시사하는 점
애플은 2018년 홈팟과 2020년 홈팟 미니로도 이 시장의 주도권을 잡지 못했다. 이번에는 시리 AI를 중심에 놓고 하드웨어와 홈킷을 묶어 아마존과 구글을 따라잡겠다는 전략이다. 관건은 가족마다 화면이 바뀌는 방식이 실제 집에서 매끄럽게 돌아가느냐다.
Trump’s ‘Morally Binding’ AI ‘Accord,’ the Rise of AI Agents, and Extremists on the Ballot
요약
백악관이 화요일 AI 기업 경영진을 불러 모은 뒤 '초지능에 관한 백악관 협약'이라는 서명 문서를 내놓았다. 와이어드 팟캐스트 진행자들에 따르면 기업들은 내부 평가와 외부 감사 업체 점검, 이사회 검토를 포함한 네 겹의 통제와 감사를 받겠다고 약속했다. 모두 의무가 아닌 자발적 약속이라 사실상 스스로 규제하겠다는 뜻이라고 진행자들은 꼬집었다. 같은 방송은 오픈AI가 데브데이에서 일반인용 에이전트 닷츠를 내놓은 일과 회사로 들어오는 에이전트도 다뤘다.
시사점 보기
이 기사가 시사하는 점
정부가 규제 대신 서약을 택하면서 안전 검증의 강도는 기업이 정하게 됐다. 이 서약은 법적 의무가 아니라 도덕적 수준의 약속이다. 같은 주에 오픈AI가 안전팀 연구원을 내보낸 일처럼 약속과 실제 행동이 어긋나는 일이 나와도 이를 따질 수단은 지금 없다.
OpenAI says it stopped a campaign to steal its models' reasoning, but the trick still worked on Azure
요약
오픈AI는 자사 모델의 '보호된 추론'을 대량으로 빼내려던 시도를 차단했다고 밝혔다. 7월 24~25일 이틀에 4000명이 넘는 사용자가 1만 6000건을 보냈고, 관련 계정은 1만 5000개를 넘었으며 7월 28일까지 모두 막았다. 핵심 집단은 키미를 만든 문샷 AI와 연결된 사람들이라고 오픈AI는 본다. 그런데 연구진이 9월 13일에 다시 시험하자 오픈AI와 앤스로픽 자체 API에서는 막혔지만, 마이크로소프트 애저에서는 GPT-6 Astra를 포함한 모든 오픈AI 모델에서 한 번 만에 추론이 그대로 나왔다.
시사점 보기
이 기사가 시사하는 점
자사 API만 지켜서는 모델을 지키지 못했다. 같은 모델인데 어느 클라우드가 서비스하느냐에 따라 방어 수준이 달랐다. 여러 클라우드에서 모델을 파는 회사라면 방어 수준은 가장 허술한 곳에 맞춰진다.
09The Decoder
보도
2개 매체 동시 보도
·2026-10-01·약 60초
정책·규제
기업·투자
Anthropic brings Claude to civilian agencies as its fight with the Pentagon drags on
요약
앤스로픽이 미국 연방·주 정부 기관에 '클로드 포 거버먼트(Claude for Government)'를 내놓았다. 7월부터 공개 베타였고 미국 클라우드 보안 인증 중 가장 엄격한 페드램프 하이(FedRAMP High) 환경에서 돌아간다. 기관은 기업 고객과 같은 기능을 쓰고 쓴 만큼 내되 정해진 상한이 있다. 관리자가 부서별 예산과 모델 접근 범위를 정하고, 민감한 작업에는 두 사람 승인과 감사 기록이 붙는다. 대화 내용은 기관 기기에 남는다. 국방부는 3월 앤스로픽이 대량 감시와 자율 무기 금지를 풀지 않자 공급망 위험 기업으로 지정했고, 9월 말 항소법원이 두 지정 중 하나를 유지했다.
시사점 보기
이 기사가 시사하는 점
국방부가 막은 자리를 민간 기관 시장으로 메우겠다는 선택이다. 법원이 두 지정 중 하나는 뒤집고 하나는 유지해 갈등이 정리되지 않았다. 다리오 아모데이가 일요일에 트럼프 대통령과 저녁을 먹은 일은 긴장이 풀리는 신호로 읽히지만, 이 매체는 그 분위기가 오래가지 않을 수 있다고 본다.
오픈AI와 앤스로픽 모델의 안전장치가 사이버보안·로봇·항공우주 분야의 정상 작업까지 위험한 요청으로 오인하면서 개발자 불만이 커지고 있다. 젯브레인스가 개발자 1만 5000명 이상을 조사했더니 90%가 AI 코딩 에이전트를 매주 쓰고 68%는 매일 쓴다. MIT 항공우주공학 석사 과정의 알레한드로 카라스코는 시뮬레이션 우주선을 제어하는 연구에서 군사 목적으로 오인받는다고 말했다. 로봇 개발자 마틴 켐카는 로봇 팔 화면을 만들거나 SSH로 다른 컴퓨터에 접속하는 평범한 작업에서도 거절이 반복됐다고 했다. DAIR.AI 공동창업자 엘비스 사라비아는 앤스로픽 구독을 끊었고, 다른 개발자들은 키미나 Qwen 같은 오픈 모델을 대안으로 쓴다.
시사점 보기
이 기사가 시사하는 점
안전장치가 정상 작업을 위험 요청으로 잘못 걸러 내는 이 늘면 가장 전문적인 사용자부터 떠난다. 오픈 모델은 로컬에서 돌리고 용도에 맞게 고칠 수 있다. 사용자가 안전 정책이 닿기 어려운 곳으로 옮겨 가고 있다.
여기까지 읽으셨다면, 내일 아침에도 보내드릴게요
방금 보신 것과 같은 브리핑이 매일 아침 8시에 갑니다. 매주 일요일에는 주간 회고, 매달 초에는 월간 리포트도 함께 보내드려요.
서울시가 현대자동차, 버스운송사업조합과 협약을 맺고 자율주행을 전제로 설계한 11m급 전용버스를 정규 시내버스로 도입하기로 했다. 센서만 덧단 개조 차량으로는 대량 도입에 한계가 있다고 봤다. 버스에 붙는 센서의 구성과 설치 기준을 표준화하고 주행 데이터를 쌓아 국내 자율주행 기업이 쓸 수 있게 한다는 계획이다.