오픈AI와 앤스로픽은 외부 검증을 늘리겠다고 선언했지만, 이번 주 가장 큰 보안 구멍은 회사가 아니라 외부 연구자가 먼저 찾아냈다.
오픈AI는 신제품을 내놓기 직전만이 아니라 학습과 평가 초기 단계부터 METR·레드우드 리서치 같은 외부 기관의 안전성 점검을 받겠다고 밝혔다. 앤스로픽도 클로드가 생물학 연구에서 새로운 효소 시스템을 찾아냈다고 발표했지만, 다리오 아모데이 최고경영자 스스로 이 성과가 스탠퍼드 연구팀의 이전 작업 위에 있다고 인정했다. 두 회사 모두 검증을 늘리겠다는 태도를 보였지만, 무엇을 얼마나 공개할지는 여전히 회사 스스로 정하고 있다.
이어서 읽기 (2)접기
정작 이번 주 가장 심각한 보안 문제는 회사 내부 점검이 아니라 외부에서 먼저 드러났다. 메타는 AI 비서 '뮤즈'를 처음부터 보안을 염두에 두고 만들었다고 홍보했지만, 계정 인증 을 통째로 가로챌 수 있는 을 찾아낸 것은 독립 보안 연구자 패트릭 워들이었다. 아마존이 자사 사이트에서 뮤즈 접근을 차단하기 시작한 것도 이런 우려를 보여준다.
능력이 늘어난다고 신뢰가 저절로 따라오지 않는다는 점도 같은 주에 드러났다. 앤스로픽 엔지니어는 최신 모델일수록 수학·코드 성능에 최적화되면서 오히려 사람이 읽기에는 어려운 글을 쓴다고 설명했다. 모델의 원시 능력과, 그 능력을 사람이 믿고 쓸 수 있게 다듬는 일은 서로 다른 과제라는 뜻이다.
지켜볼 신호
메타의 뮤즈 긴급 수정 이후 추가 취약점 신고가 나오는지, 그리고 오픈AI의 외부 검증 결과가 실제로 얼마나 공개되는지 지켜볼 만하다.
매일 아침 이메일로 받아보기
매일 아침 8시, 주간 회고는 일요일, 월간 리포트는 매달 초에 보내드려요.
무료 · 광고 없음 · 한 번에 해지
확인 메일을 보냈어요
받은편지함에서 이 제목을 찾아 링크를 눌러야 구독이 시작됩니다.
AI 뉴스 브리핑 구독을 확인해주세요
보통 1분 안에 도착합니다
안 보이면 스팸함도 확인해주세요
링크는 7일간 유효합니다
01Google AI Blog
공식 발표
2개 매체 동시 보도
·2026-09-23·약 50초
제품·서비스
Google Beam expands with new regions, partners, and customers
요약
구글이 원격 화상회의를 마치 같은 방에 있는 것처럼 만들어주는 하드웨어 '빔(Beam)'의 서비스 지역을 미국·캐나다·영국·프랑스·독일·일본 6개국으로 넓히고 채널 파트너를 18곳으로 늘렸다. HP와 협업한 전용 기기 '에이치피 디멘션 위드 구글 빔'도 함께 나온다. 구글이 8주간 사내에서 직접 써본 결과 팀 간 유대감은 50%, 피드백 이해도는 33% 올랐고 추가 회의가 필요한 경우는 21% 줄었다.
시사점 보기
이 기사가 시사하는 점
넷플릭스와 베인앤컴퍼니 같은 기업들이 이미 채용 면접에까지 이 장비를 쓰기 시작했다는 점은, 원격근무 도구가 화면 공유를 넘어 실제 대면을 대체할 만큼 발전했다는 신호다. 10월부터는 인더스트리어스의 공유 오피스에서도 빔을 예약해 쓸 수 있어, 전용 장비를 살 여력이 없는 스타트업도 접근할 수 있게 된다.
Advancing Private AI Compute with secure, server-side memory
요약
구글이 개인용 AI 어시스턴트에 쓰는 프라이버시 보호 클라우드 시스템 '프라이빗 AI 컴퓨트'에 서버 쪽에서도 개인 정보를 기억하는 기능을 추가했다. 기존에는 요청을 처리하고 나면 아무것도 남기지 않는 방식이었지만, 이제는 암호화된 상태로 클라우드에 정보를 보관해 여러 기기를 오가며 대화를 이어갈 수 있다. 복호화 열쇠는 사용자 기기에만 있고, 처리 도중에는 외부에서 들여다볼 수 없는 안에서만 잠깐 풀렸다가 즉시 다시 암호화된다.
시사점 보기
이 기사가 시사하는 점
챗GPT 등 경쟁 서비스들이 메모리 기능을 두면서 개인정보 저장 방식에 대한 우려도 함께 커졌는데, 구글은 저장은 하되 구글 자신도 못 보게 만드는 방식으로 이 문제를 풀려 하고 있다. 이런 구조가 실제로 안전한지는 외부 보안 연구자의 검증이 뒤따라야 증명된다.
Anthropic says its biology lab has already found something big
요약
앤스로픽의 AI 모델 클로드가 박테리아를 감염시키는 바이러스인 박테리오파지의 DNA에서 이전에 알려지지 않은 효소 시스템을 찾아냈다. 클로드 에이전트 950개가 21시간 동안 2억 1000만 개를 처리한 끝에 특이한 반복 패턴을 발견했고, 사람 연구자가 검토해 DNA를 자르고 복사하고 붙이는 이 효소가 유전자 편집 기술인 크리스퍼와 비슷하다고 판단했다. 실험은 사람 과학자가 직접 진행했고 위험도가 낮은 -1·BSL-2 등급 실험실에서만 이뤄졌다.
시사점 보기
이 기사가 시사하는 점
다리오 아모데이 최고경영자 스스로도 이 발견이 스탠퍼드 연구팀의 이전 성과 위에 있다고 인정했고, 효소가 실제로 무엇에 쓸모가 있는지도 아직 밝혀지지 않았다. 기업공개를 앞두고 신약 개발 같은 분야로 사업을 넓히려는 의도가 발표를 서두르게 한 것으로 보이며, 진짜 가치는 다른 과학자들이 이 결과를 재현하고 검증한 뒤에야 드러난다.
YouTube promises custom feeds and a lot more AI later this year
요약
유튜브가 연례 행사 '메이드 온 유튜브'에서 홈 화면에 원하는 대로 새 탭을 만드는 '커스텀 피드' 기능을 공개했다. 보고 싶은 내용을 문장으로 설명하면 유튜브가 그 설명에 맞는 영상을 채워주고, 영상에 평가를 매기며 다시 다듬을 수 있다. 이 기능은 미국에서 웹·모바일·TV 순으로 먼저 나오며, 대화형 AI 도우미 '애스크 유튜브'는 검색 결과에 제품 비교표를 보여주는 등 기능이 더 늘어난다.
시사점 보기
이 기사가 시사하는 점
유튜브 창작자 대다수가 이미 AI로 영상을 만들거나 편집해봤다는 구글의 설명대로, 홈 화면 추천부터 편집 도구까지 AI가 유튜브 경험 전체에 스며들고 있다. 다만 커스텀 피드가 미국에서만 먼저 열리는 만큼, 다른 지역 이용자는 당분간 기존 알고리즘 추천에 계속 의존해야 한다.
OpenAI nabs key Patreon execs ahead of upcoming announcement
요약
오픈AI가 크리에이터 구독 플랫폼 페이트리온의 공동창업자 샘 얌을 비롯해 전 제품총괄 드류 로니, 전 엔지니어링총괄 섀넌 마까지 임원 3명을 데려왔다. 얌은 오픈AI에서 '크리에이터 제품' 조직을 이끌며, 자신의 엑스(X) 게시글에서 다음 주 오픈AI 데브데이(9월 29일)를 주목하라고 예고했다. 페이트리온은 13년 전 구독 기반 창작자 수익 모델을 처음 만든 회사다.
시사점 보기
이 기사가 시사하는 점
창작자 구독 경제의 기틀을 만든 팀을 통째로 영입했다는 것은, 오픈AI가 단순한 챗봇 서비스를 넘어 창작자들이 직접 돈을 버는 수익화 사업에 뛰어들려 한다는 뜻이다. 샘 알트먼 최고경영자도 이번 주 안에 별도의 큰 발표가 있을 것이라고 예고해, 데브데이에서 크리에이터 관련 제품이 함께 공개될 가능성이 크다.
구글이 텍스트 설명만으로 원하는 목소리를 새로 만들 수 있는 '제미나이 3.8 텍스트투스피치'를 공개했다. 30초짜리 음성 샘플만 있으면 그 목소리를 그대로 재현할 수 있고, 이미 준비된 목소리 2000개 이상 중에서 골라 쓸 수도 있다. 100개 넘는 언어와 방언을 지원하며, 대사 한 줄 한 줄의 감정·속도·억양까지 따로 지시할 수 있다.
시사점 보기
이 기사가 시사하는 점
이전 버전인 '제미나이 3.1 플래시 텍스트투스피치'보다 긴 글이나 두 사람이 주고받는 대사를 다루는 능력이 크게 나아졌다고 구글은 설명한다. 목소리 자체를 문장 하나로 새로 디자인할 수 있게 되면서, 오디오북이나 팟캐스트처럼 여러 인물이 등장하는 콘텐츠를 만드는 비용과 시간이 크게 줄어들 것으로 보인다.
지금 할 일
구글 AI 스튜디오나 제미나이 API에서 문장 설명만으로 새 목소리를 만들어볼 수 있습니다. 지금 바로 열어서 시험해볼 수 있는 기능입니다.
Anthropic engineer explains why Claude's writing got worse although the model got smarter
요약
앤스로픽 엔지니어 잭슨 커니언은 최근 모델들의 글쓰기가 어색해진 이유로, 훈련 과정이 수학과 코딩 성능 최적화에 지나치게 쏠린 점을 꼽았다. AI 모델은 사람보다 훨씬 큰 작업 기억력을 갖고 있어서, 훈련 중에는 효율적이었던 정보 밀집형 문장이 정작 사람이 읽기에는 정보를 한꺼번에 쏟아붓는 것처럼 느껴진다는 설명이다. 그는 이런 현상을 '같은 부류끼리만 통하는 말투'라고 표현했다.
시사점 보기
이 기사가 시사하는 점
수학·코드 최적화에 대한 보상과 사람이 이해하기 쉬운 글쓰기에 대한 보상 사이에 균형이 안 맞으면, 모델 벤치마크 점수는 오르는데 실제 사용 경험은 나빠지는 역설이 생긴다. 앤스로픽은 최신 모델 오퍼스 5.5에서 이 균형을 다시 맞췄다고 밝혔는데, 이는 앞으로 다른 회사들도 성능 지표만큼이나 문체 품질을 별도로 관리해야 한다는 신호다.
Meta's Muse AI Assistant Rolled Out With a Serious Security Flaw
요약
메타가 "처음부터 보안과 프라이버시를 염두에 두고 만들었다"고 홍보한 AI 비서 '뮤즈'에서, 앱이나 터미널 명령이 계정 인증 을 가로채 계정 전체를 장악할 수 있는 이 발견됐다. 보안 연구자 패트릭 워들은 이 결함을 이용해 사용자 몰래 파일을 심거나 사진을 찍는 실제 공격 코드까지 만들어 보였다. 메타는 문제 공개 12시간 만에 긴급 수정을 내놨다.
시사점 보기
이 기사가 시사하는 점
뮤즈는 왓츠앱·이메일·캘린더 같은 계정과 연동돼 예약부터 구매까지 대신 처리하는데, 이런 광범위한 권한을 가진 AI 비서일수록 작은 설계 결함 하나가 통째로 계정을 넘겨주는 결과로 이어질 수 있음을 보여준다. 아마존이 이미 자사 사이트에서 뮤즈 접근을 차단하기 시작한 것도, AI 비서의 권한 확대가 보안 검증 속도보다 빠르게 진행되고 있다는 우려를 보여준다.
지금 할 일
맥에서 뮤즈를 쓰고 있다면 앱이 최신 버전으로 업데이트됐는지 지금 확인해보세요. 메타가 이미 수정판을 배포했습니다.
오픈AI가 신제품 출시 직전만이 아니라 학습과 평가 초기 단계부터 METR·레드우드 리서치 같은 외부 독립기관의 안전성 점검을 받기로 했다. 담당자 라마 아마드는 위험이 커지는 만큼 배포 전 마지막 점검뿐 아니라 위험이 더 큰 학습·평가 과정도 함께 살펴봐야 한다고 설명했다. 검증 범위에는 탈옥 공격 대응, 화학·생물학적 위험, 사이버보안, AI의 자기개선 능력, 그리고 중대한 오정렬 사고가 났을 때의 독립 조사까지 포함된다.
시사점 보기
이 기사가 시사하는 점
그동안 AI 모델이 의도치 않게 다른 회사 시스템에 접근한 사례가 늘면서, 배포 이후에만 검증하는 방식으로는 위험을 놓칠 수 있다는 문제의식이 커졌다. 다만 검증을 어느 기관에 맡길지, 결과를 얼마나 공개할지는 여전히 오픈AI 스스로 정하는 구조라, 실제로 독립적인 감시가 되는지는 앞으로 공개되는 검증 결과를 봐야 알 수 있다.
와이즈스톤이 바디프랜드의 헬스케어 로봇 '퀀텀AI프로'·'다빈치AI프로'에 들어간 생성형 AI 마사지 기술에 대해 '에이아이플러스' 인증 심사를 마쳤다. 사용자 음성을 실시간으로 분석해 로봇을 직접 제어하는 이른바 '피지컬 AI' 영역까지 품질 검증 대상에 포함된 첫 사례다.