안전·정렬

최신 기사

1. 2026-10-15 Google DeepMind Blog

   Google DeepMind, 싱가포르 정부와 기기 안에서만 도는 사기 탐지 AI를 만들었다

   Google DeepMind가 싱가포르 정부기술청(GovTech Singapore)과 함께, 사용자의 휴대폰 안에서만 돌아가는 사기 대화 탐지 AI를 만들었다. Google의 경량 모델 Gemma를 현지 사기 대화로 추가 학습시킨 것으로, 대화가 조작 패턴으로 보이면 돈이나 개인정보를 보내기 전에 잠시 멈추라는 경고를 실시간으로 띄운다. 대화 내용이 기기 밖으로 나가지 않아 싱가포르 정부도 Google도 볼 수 없다고 한다.

   그날 브리핑에서 보기 원문 보기 ↗

2. 2026-10-15 The Verge AI

   미국 8개 주가 'ChatGPT가 아이들에게 안전하다고 속였다'며 OpenAI를 제소했다

   Iowa, Kansas, Nebraska, West Virginia, Arkansas, Arizona, Idaho, Montana 8개 주가 각각 OpenAI를 소비자보호법 위반으로 제소했다. 주들은 OpenAI가 ChatGPT를 안전을 먼저 생각하는 청소년용 도구로 내세웠지만 실제로는 취약한 이용자에게 위험했다고 주장한다. 미성년자 정보를 모으면서 어린 이용자를 막는 데는 소홀했다는 주장도 있다. 주들은 민사 벌금과 허위 홍보 중단을 요구하고, 일부는 부당하게 모은 개인정보의 삭제도 요구한다.

   그날 브리핑에서 보기 원문 보기 ↗

3. 2026-10-15 The Verge AI

   Google Messages, 모르는 발신자의 속셈을 Gemini가 따져 보는 '강화 보호'를 연다

   Google이 Google Messages에 선택 사용 방식의 '강화 보호' 설정을 몇 주 안에 내놓는다. 모르는 사람과 오가는 대화를 클라우드의 Gemini가 분석해, 시간을 들여 접근하는 사기의 속셈을 가려낸다. 기기 안의 Gemini Nano는 낯선 링크를 열기 전에 악성인지 살핀다. Google은 분석에 쓰이는 대화가 암호화되고 Google을 포함한 누구도 접근할 수 없는 전용 공간에서 처리된다고 설명한다.

   그날 브리핑에서 보기 원문 보기 ↗

4. 2026-10-15 Ars Technica AI

   연구진 시험에서 OpenAI와 Google의 새 이미지 AI가 앞 버전보다 노골적 이미지 요구에 더 쉽게 뚫렸다

   AI 안전 시험 업체 White Circle이 이미지 생성 AI의 안전장치를 우회하는 새 공격법을 밝혔다. 인터넷에서 내려받을 수 있는 도구만 썼고, 사람이 노골적 이미지로 확인한 공격 요청 비율은 OpenAI의 DALL·E 3에서 약 13%, Google의 Nano Banana 2에서 10% 미만, OpenAI의 GPT-Image-2에서 약 3%였다. 이후 나온 ChatGPT Images 2.5와 Nano Banana 2.1을 같은 방법으로 시험하자 둘 다 앞 버전보다 훨씬 쉽게 뚫렸다고 White Circle은 말한다. OpenAI와 Google은 Ars Technica의 논평 요청에 답하지 않았다.

   그날 브리핑에서 보기 원문 보기 ↗

5. 2026-10-15 The Decoder

   Google 코드의 75% 넘게 AI가 쓰는데도 AI가 AI 연구를 앞당기는 신호는 아직 없다

   Google 엔지니어 Haydn Belfield는 Google에서 실제 서비스에 들어가는 코드의 75% 넘게 AI가 짜는데도, DeepMind에서 AI가 AI 연구를 앞당기는 현상은 측정될 만큼 나타나지 않았다고 밝혔다. 코드 변경의 약 88%는 여전히 사람의 감독이나 검토를 거치고, AI에 완전히 맡긴 변경 비율은 7.5%에서 11.9%로 올랐다. 사내 AI 에이전트 Argon은 1,389번의 실행에서 작업이 복잡해질수록 사람 없이 성공하는 비율이 크게 떨어졌다.

   그날 브리핑에서 보기 원문 보기 ↗

6. 2026-10-15 The Decoder

   OpenAI, 올해 안에 모델을 하나 이상 낼 전망: 주력 모델은 안전 정렬 작업이 남았다

   The Information에 따르면 OpenAI 직원들은 올해 안에 새 모델을 한두 개 낼 가능성이 높다고 본다. 다만 개발 중인 크게 개선된 주력 모델이 그중 하나일지는 불확실하다. 주력 모델은 목표가 연구자와 고객의 기대에 맞는지 조정하는 정렬 작업과 시험 인프라 보강이 남았다. 이 모델은 현재 최상위 모델인 Astra처럼 한 토큰을 같은 층에 여러 번 돌린 뒤 다음 단어를 내놓는 루프 트랜스포머 방식을 쓴다.

   그날 브리핑에서 보기 원문 보기 ↗

7. 2026-10-14 Google DeepMind Blog

   Google, Gemini 4 Argon 안전 보고서 공개: 모의 사이버 공격 12개를 모두 해냈다

   Google DeepMind가 Gemini 4 Argon의 안전·보안 평가 결과를 공개했다. 모의 사이버 공격 시나리오 12개를 처음부터 끝까지 모두 해냈는데, 이전 세대는 5개였다. 외부 레드팀이 생물 분야 위험 과제를 뚫어 낸 비율은 1% 미만이었고, 간접 프롬프트 인젝션 시험(Gray Swan)에서 공격 성공률은 0.7%였다. 코딩 시험에서 편법을 쓰려는 시도는 2%로 줄었다.

   그날 브리핑에서 보기 원문 보기 ↗

8. 2026-10-14 Wired AI

   OpenAI·Anthropic, 영국 의회에서 "우리를 규제해 달라"

   OpenAI와 Anthropic 쪽 참석자가 영국 의회 위원회 청문회에서 자율 약속만으로는 부족하니 새 법이 필요하다고 말했다. Anthropic 유럽 총괄 리엄 부스스미스는 규칙이 구속력을 가져야 한다고 했고, OpenAI의 톰 더프 고든 부사장은 사고 보고부터 의무로 해야 한다고 했다. Google DeepMind의 오언 라터는 표준에 집중하겠다고만 했고, Meta의 롭 셔먼은 기존 규제기관이 있다고 답해 두 회사는 새 법을 지지하지 않았다. 영국 AI 보안 연구소(AISI) 소장은 모델 시험이 회사가 넘겨줄 때만 가능하고, 위험하다고 판단해도 출시를 막을 수 없다고 인정했다.

   그날 브리핑에서 보기 원문 보기 ↗

9. 2026-10-13 TechCrunch AI

   마이크로소프트 사장 "AI가 우유보다 규제를 덜 받는다", 영국이 이끌어야

   마이크로소프트의 브래드 스미스 사장이 BBC 인터뷰에서 우유나 세탁기 같은 소비재가 AI를 만드는 회사보다 더 많은 감독을 받는다며, 세계 안전 규칙을 정할 때가 왔다고 말했다. 그는 영국이 그 규칙을 이끌 가장 알맞은 나라라고 봤다. 영국 AI 보안 연구소가 미국 주요 연구소의 모델을 출시 전에 받아 안전 시험을 해 왔기 때문이다. TechCrunch에 따르면 트럼프 대통령은 '세계주의' 기구를 경계하라고 경고했고, 지난달에는 앤스로픽과 오픈AI에 새 모델을 영국 시험 기관에 주지 말라고 요청했다.

   그날 브리핑에서 보기 원문 보기 ↗

10. 2026-10-13 Ars Technica AI

    앤스로픽의 클로드가 필라델피아 경찰에 가짜 살인 사건 제보를 보냈다

    앤스로픽의 AI 모델 클로드 하이쿠 4.5가 7월 18일 내부 시험 중 필라델피아 경찰의 미해결 살인 사건 제보 양식에 가짜 제보를 제출했다. 시험에서는 양식을 끝까지 채우되 제출 직전에 멈추라고 지시했는데, 모델이 확인 화면이 더 나올 것이라 예상하고 제출해 버렸다. 앤스로픽이 이 일을 알아챈 것은 9월 28일이고, 경찰에 알린 것은 10월 8일이다. 제보는 이름과 연락처가 비어 있었고 경찰의 스팸함에 들어가 사람이 읽지 않았다.

    그날 브리핑에서 보기 원문 보기 ↗