후보 90건에서 고른 10건 · 중요한 순서로 배열
오늘의 인사이트
해크트론 AI의 보안 연구원 3명은 클로드 오퍼스 5로 72시간 만에 오픈AI 직원 계정을 장악하고 비공개 코드 저장소에 접근했다. 오픈AI의 커뮤니티 포럼을 운영하는 디스커스가 아이폰 사진 형식인 HEIF 이미지를 처리하는 방식에서 결함을 찾아낸 게 시작이었고, 이 취약점을 신고해 받은 돈은 6500달러였다. 같은 날 앤스로픽은 컨설팅업체 액센츄어를 자사 모델을 검증하는 첫 '내장 평가자'로 선정하고 5년간 최소 10억 달러를 지급하기로 했다. 자사 모델을 스스로 감사할 담당자를 직접 고용하고 돈까지 주는 구조라, 그 평가가 회사에 불리한 결론을 내릴 수 있을지는 지켜봐야 한다.
뉴욕타임스가 오픈AI와 마이크로소프트를 상대로 낸 소송에서 봉인이 풀린 내부 문서에는 두 회사가 스스로 무엇을 하고 있는지 알고 있었다는 정황이 담겼다. 마이크로소프트의 응용과학 담당 이사 브렌트 헤크트는 데이터 스크래핑을 '인류 역사상 최대의 노동 절도'라 불렀고, 다른 내부 문서는 자사의 AI 콘텐츠 전략이 웹 생태계 전체를 갉아먹는 '도살 순환'을 시작했다고 인정했다. 오픈AI의 챗GPT 총괄 닉 털리는 챗봇이 답을 주고 나면 '원문 링크를 클릭할 이유가 없다'고 말했고, 실제로 뉴욕타임스 등 언론사의 검색 유입은 최대 60%까지 줄었다고 회사 내부에서 추산했다. 두 회사 모두 이 피해를 알면서도 사업을 그대로 밀어붙였다는 것이 이번 문서의 핵심이다.
AI의 활동 범위는 가정과 실험실로도 넓어졌다. 구글은 최대 6명이 함께 쓰는 가정용 에이전트 'CC'를 공개해 일정 관리와 장보기 목록, 식단 계획까지 맡겼고, 앤스로픽은 샌프란시스코 베이 지역에 로봇이 실험을 대신하는 을 열어 신약 개발과 임상 연구에 클로드를 투입했다. 구글은 여기에 노벨경제학상 수상자 필리프 아기옹을 포함한 경제학자들을 새로 영입해 AI가 일자리와 생산성에 미치는 영향을 따로 연구하는 팀까지 꾸렸다. 능력의 최전선에서도 진전이 있었다. 오픈AI는 100년 넘게 못 푼 밀레니엄 수학 난제 '호지 추측' 해결에 근접했다고 알려졌고, 법률 특화 모델 '아스트라 포 로'는 같은 벤치마크에서 일반 검색 방식보다 정답률이 15%포인트 이상 높았다.
지켜볼 신호 액센츄어의 첫 평가 결과가 실제로 앤스로픽에 불리한 내용을 담아 공개되는지 지켜볼 만하다.
매일 아침 이메일로 받아보기
매일 아침 8시, 주간 회고는 일요일, 월간 리포트는 매달 초에 보내드려요.
무료 · 광고 없음 · 한 번에 해지
New experts join Google’s AI & Economy team
구글이 AI가 경제에 미치는 영향을 연구하는 'AI & 경제' 팀에 전문가 4명을 새로 영입했다. 2025년 노벨경제학상을 받은 필리프 아기옹 인시아드 교수가 학술자문위원으로, 매킨지글로벌연구소 출신 아누 마드가브카르와 와튼스쿨 대니얼 록 교수가 디렉터로, 토론토대 아자이 아그라왈 교수가 방문펠로로 합류한다. 기존에도 MIT 데이비드 오터 교수, 노벨상 수상자 마이클 스펜스·다이앤 코일 등이 참여하고 있었다.
구글이 대형 언어모델을 만드는 회사인 동시에 그 모델이 일자리에 미치는 영향을 연구하는 학자들을 직접 고용하는 셈이라, 연구 결과가 회사에 불리하게 나올 때 얼마나 독립적으로 발표될 수 있는지가 앞으로 관전 포인트다.
Co-creating the future of fashion with Google
구글이 영상 생성 도구 '플로우'를 활용해 뉴욕 패션위크 디자이너 제인 웨이드와 서지오 허드슨을 위한 맞춤 AI 도구 두 개를 만들었다. 제인 웨이드용 '스타일링 스위트'는 디지털 모델에 옷과 액세서리, 헤어, 메이크업을 가상으로 입혀볼 수 있게 했고, 서지오 허드슨용 '런웨이 시각화' 도구는 정해진 예산 안에서 무대 조명과 소품을 미리 시뮬레이션하게 해준다. 두 도구 모두 코딩 없이 자연어 명령만으로 만들어졌다.
제인 웨이드가 기존에 사흘씩 걸리던 대면 캐스팅과 피팅 시간을 줄이려던 목적이었다는 점에서, 이런 맞춤 도구는 예산이 넉넉한 대형 브랜드보다 시간과 인력이 부족한 중소 디자이너에게 더 큰 격차 해소 효과를 줄 수 있다.
Anthropic’s first embedded evaluator is … Accenture?
앤스로픽이 컨설팅업체 액센츄어를 자사 모델을 검증하는 첫 '내장 평가자'로 선정했다고 발표했다. 액센츄어가 지난 1월 인수한 AI 부문 '패컬티'가 모델 평가와 , 정렬 평가, 보안 검증을 맡는다. 앤스로픽은 향후 5년간 액센츄어에 최소 10억 달러를 지급할 예정이며, 발표 직후 액센츄어 주가는 시간외 거래에서 8% 올랐다. 앤스로픽은 앞으로 몇 주 안에 비영리 평가기관 METR 등 다른 평가자도 추가로 발표할 계획이라고 밝혔다.
앤스로픽은 이 계약이 자사 책임을 줄이지 않고 오히려 검증 가능하게 만든다고 강조했지만, 평가자를 고르고 계약금을 지급하는 주체가 여전히 앤스로픽 자신이라는 점에서 이해상충 우려는 남는다. 액센츄어의 첫 평가 보고서가 실제로 회사에 불리한 내용을 담아 공개되는지가 이 구조의 실효성을 가늠할 첫 시험대다.
OpenAI and Microsoft knew they were starting a ‘doom loop’ for the web
뉴욕타임스가 오픈AI와 마이크로소프트를 상대로 낸 저작권 소송에서 봉인이 풀린 92쪽 분량의 내부 문서가 공개됐다. 마이크로소프트 응용과학 담당 이사 브렌트 헤크트는 챗GPT와 코파일럿의 데이터 수집을 '인류 역사상 최대의 노동 절도'라 불렀고, 다른 마이크로소프트 내부 문서는 자사 AI 콘텐츠 전략이 웹 생태계 전체를 갉아먹는 '도살 순환(doom loop)'을 시작했다고 인정했다. 오픈AI의 챗GPT 총괄 닉 털리는 챗봇이 답을 준 뒤에는 '원문 링크를 클릭할 이유가 없다'고 말했고, 회사 내부에서는 이 때문에 뉴욕타임스 등 언론사의 검색 유입이 최대 60%까지 줄었다고 추산했다. 마이크로소프트는 헤크트의 발언이 '개인 견해일 뿐 회사 입장이 아니다'라고 선을 그었다.
두 회사가 피해를 예상하고도 사업을 밀어붙였다는 내부 증언이 법정에 남았다는 것은, 이번 소송이 '몰랐다'는 방어 논리를 쓰기 어렵게 만들었다는 뜻이다. 검색 유입 급감을 인정한 대목은 다른 언론사들이 유사한 소송을 검토할 때 참고할 선례가 될 수 있다.
Security researchers used Claude to help them hack into OpenAI
보안 스타트업 해크트론의 독립 연구원 3명이 앤스로픽의 클로드 오퍼스 4.8과 5를 이용해 72시간도 안 되는 시간에 오픈AI 직원 계정을 장악했다고 월스트리트저널이 보도했다. 이들은 오픈AI의 커뮤니티 포럼을 운영하는 제3자 서비스 디스커스가 아이폰 사진 형식인 HEIF 이미지를 처리하는 방식의 결함을 이용해 에 성공했고, '모노리포'라 불리는 오픈AI의 깃허브 저장소에 접근했다. 클로드 오퍼스 5가 출시된 지 하루도 안 돼 익스플로잇 코드를 완성했고, 이 공격 기법을 슬랙과 메타, 깃허브 엔터프라이즈 등 다른 회사에 맞게 바꾸는 데는 하루 이틀에 3000달러도 안 되는 비용만 들었다. 오픈AI는 로 6500달러를 지급했다.
해크트론 CTO 모한 페다파티는 "우리는 그냥 클로드와 코덱스 구독료를 낸 세 사람일 뿐, 중국 국가 배후 해커만큼 강하지 않다"고 말했는데, 뒤집어 보면 국가 지원 없이도 월 200달러 수준의 구독료로 대기업 시스템을 뚫을 수 있게 됐다는 뜻이다. 모델이 강해질수록 침투 비용은 계속 낮아질 가능성이 크다.
OpenAI takes aim at the legal market with Astra for Law
오픈AI가 최신 모델 GPT-6 아스트라를 법률 업무에 맞춰 다듬은 '아스트라 포 로'를 공개했다. 미국 판례법과 법령·규정을 2억 3000만 개 넘는 URL에서 검색할 수 있고, 미국 판례의 99.9% 이상을 담은 프리로프로젝트 데이터를 활용한다. 벌스AI의 법률 리서치 벤치마크에서 200개 문항 중 54%를 맞혀, 웹 검색만 붙인 일반 아스트라의 38.7%보다 정답률이 크게 높았다. 법률 소프트웨어 렐러티비티·클리오 등과 연동하는 플러그인 26개와 데이터를 저장하지 않는 '신뢰 접근' 프로그램도 함께 내놓았다.
일반 검색과 법률 특화 버전의 정답률 차이가 15%포인트 넘게 벌어졌다는 것은, 범용 모델에 검색 기능만 붙이는 것과 업계 데이터로 다시 다듬는 것 사이에 여전히 큰 격차가 있다는 뜻이다. 법률 리서치처럼 정확도가 중요한 업무일수록 이 격차의 값어치가 커진다.
Google’s new ‘CC’ is an AI agent that helps families run their households
구글이 가족이 함께 집안일을 관리하도록 돕는 AI 에이전트 'CC'를 공개했다. 최대 6명까지 이메일과 일정, 채팅, 할 일 목록을 공유하면 CC가 학사 일정과 청구서, 스포츠 활동 등을 파악해 달력을 관리하고 서류를 작성하며 장보기 목록과 주간 식단까지 짜준다. 제미나이와 구글의 코딩 에이전트 '안티그래비티'를 기반으로 하며, 사용자마다 별도로 할당된 클라우드 컴퓨터에서 실행된다. 미국의 18세 이상 성인 지메일 사용자를 대상으로 테스트를 시작하며, 기존 사용자는 이메일로 초대장을 받는다.
가족 구성원 여러 명이 이메일과 일정을 하나의 에이전트에 함께 열어준다는 것은, 한 사람의 계정 보안이 뚫리면 가족 전체의 일정과 서류 접근권까지 함께 노출될 수 있다는 뜻이기도 하다. 편의성과 함께 늘어나는 접근권의 범위를 사용자가 어디까지 확인하고 통제할 수 있는지가 관건이다.
오픈AI가 나비에-스토크스 존재성과 매끄러움 문제 해결에 이어, 또 다른 인 '호지 추측' 해결에도 가까워졌다고 더인포메이션이 17일(현지시간) 보도했다. 호지 추측은 다항식 방정식으로 정의되는 도형의 특정 기하학적 특징을 더 단순한 대수적 요소로 표현할 수 있는지를 묻는 문제로, 2000년 클레이수학연구소가 상금 100만 달러를 걸고 선정한 7개 밀레니엄 문제 중 하나다. 오픈AI는 차세대 사전훈련 모델 변형 '덕'을 활용했으며, 6~9개월 안에 수학 연구의 상당 부분을 자동화할 수 있을 것으로 기대하고 있다. 학계와의 논란을 고려해 발표는 수학계와 협의해 신중하게 진행할 계획이다.
100년 넘게 못 푼 문제 두 개를 잇달아 건드렸다는 것은 이번이 우연이 아니라 재현 가능한 능력이라는 뜻이다. 다만 수학계와 협의 후 공개하겠다는 태도는, 결과를 검증받기 전에는 회사도 이 성과를 얼마나 확신하는지 스스로 조심스러워한다는 신호로 읽을 수 있다.
Anthropic opens AI-powered biology research lab
앤스로픽이 샌프란시스코 베이 지역에 을 열고 클로드로 구동되는 로봇이 생물학 실험을 대신하도록 했다고 로이터가 보도했다. 앤스로픽은 실험실 장비를 제어하는 '모델 하드웨어 표준'을 의료 연구 기관 HHMI와 함께 개발 중이며, 최신 모델 '클로드 미토스 5.1'로 고친화성 결합 분자를 설계했을 때 성공률이 50%로, 일반적인 단백질 설계 프로젝트의 10~15%보다 크게 높았다고 밝혔다. 회사는 신약 개발이 전문은 아니라며, 발견한 결과를 제약회사에 라이선싱하는 방식도 검토하고 있다고 전했다.
단백질 설계 성공률이 기존 방식의 서너 배에 달한다는 것은 신약 후보 물질을 찾는 데 드는 시간과 비용을 크게 줄일 수 있다는 뜻이다. 다만 앤스로픽 스스로 신약 개발 전문이 아니라고 밝힌 만큼, 이 기술이 실제 치료제로 이어지려면 제약회사와의 라이선싱 계약이라는 다음 단계를 거쳐야 한다.
Anthropic wants you to know Claude leads a quarter of its research, but "lead" doesn't mean what you think
앤스로픽이 처음으로 자사 AI 개발 과정에 대한 지표를 공개했다. 지난 8월 기준 클로드가 회사 연구 작업의 26%에서 '자동화 수준 4(AL4)'에 도달했다고 밝혔는데, 이는 2월 1% 미만에서 크게 늘어난 수치다. 내부 플랫폼에서는 약 3만 개의 AI 에이전트가 동시에 돌아가고, 10억 건 넘는 결정 중 차단된 비율은 0.002%에 그쳤으며, 7월 AI 연구용 컴퓨팅 자원의 약 6%가 안전 작업에 배정됐다. 다만 '주도'로 번역되는 이 수치는 클로드가 완전히 자율적이라는 뜻(AL5)이 아니라 사람의 감독 아래 버그 수정 같은 작업을 완료하는 수준(AL4)을 의미하며, 같은 영역에서 직원들의 평가 일관성은 약 33%에 그쳤다.
회사가 스스로 낸 지표이고 채점 기준도 클로드 자신이 참여해 만든 데다, 사람 평가자들끼리도 3분의 1 정도밖에 의견이 안 맞았다는 것은 '자동화율 26%'라는 숫자 하나만으로 실제 자율성을 판단하기는 이르다는 뜻이다. 오늘 앤스로픽이 액센츄어를 외부 평가자로 들인 것도 이런 자체 지표의 신뢰성 문제와 무관하지 않아 보인다.
여기까지 읽으셨다면, 내일 아침에도 보내드릴게요
방금 보신 것과 같은 브리핑이 매일 아침 8시에 갑니다. 매주 일요일에는 주간 회고, 매달 초에는 월간 리포트도 함께 보내드려요.
무료 · 광고 없음 · 한 번에 해지
국내 매체가 그날 전한 소식 중에서 골랐습니다. 위 10건과는 따로 봅니다.
카카오가 제주창조경제혁신센터 등 전국 11개 창조경제혁신센터와 함께 소상공인·스타트업 대상 무료 온라인 교육 'AI 비즈니스 실전 과정'을 11월 27일까지 운영한다. AI 마케팅과 카카오톡 채널 운영, 광고 분석 등 실무 강의 10개를 수준별로 들을 수 있고, 조기 수료자 100명에게는 11월 실전 캠프 참여와 최대 50만원의 비즈월렛을 준다.
인공지능신문
국내 스타트업 디노티시아가 미국 AI 인프라 서밋에서 벡터 검색 전용 프로세서 'VDPU' 카드 4장을 얹은 서버 구성을 공개했다. GPU가 생성을, VDPU가 검색증강생성(RAG)의 벡터 검색을 맡는 역할 분담 구조로, CPU 전용 서버보다 검색 처리량이 최대 5.77배 빠르면서도 검색 정확도는 그대로 유지했고, 인덱스 구축에 드는 CPU 사용량은 92% 줄였다.
인공지능신문