오늘자 브리핑 →

Dario Amodei의 AI 속도 조절 제안과 회사 안의 외부 평가자

전개 16건 정리됨

해설 업데이트: 2026-10-19

Dario Amodei가 9월 12일 에세이에서 AI 개발 속도를 늦추자며 3단계를 내놓았다. 첫 단계인 외부 평가자 상주는 실제로 움직여, Anthropic은 Accenture를 첫 평가자로 정한 데 이어 METR 연구원 6명에게 직원 수준의 접근 권한을 주고 공개를 막을 권리를 내려놓았다. 둘째 단계인 공통 안전 기준은 Google·OpenAI·Anthropic이 자율 규제기구 SAFA로 추진하지만, Trump 대통령과 Jensen Huang이 반대하고 소비자 담합 소송이 걸려 있다.

바로 아래 현재까지의 흐름과 남은 질문은 사실 정리가 아니라 이 사이트의 판단입니다. 맨 아래 상세 전개는 그날 기사로 확인할 수 있는 사실 기록입니다.

현재까지의 흐름

제안은 갑자기 나온 것이 아니다. Anthropic·OpenAI·Google은 7월부터 안전 평가 기준을 정할 업계 표준기구를 물밑에서 논의했고, OpenAI는 업계 공동 감속이 반독점법에 걸리는지 의회에 물었다. Amodei는 외부 평가자 상주, 공통 안전 기준, 위험한 용도의 공동 금지를 차례로 제안했고 Sam Altman·Elon Musk·Demis Hassabis가 지지했다. MIT Technology Review는 7월 Hugging Face 공격의 원인이 모델의 힘보다 훈련 방식에 있었다며 처방이 맞는지 물었다.

가장 먼저 움직인 것은 평가자다. Anthropic은 Accenture를 첫 내장 평가자로 정하고 5년간 최소 10억 달러를 주기로 해, 평가자를 고르고 돈을 내는 쪽이 평가받는 회사 자신이라는 비판을 받았다. 10월에는 METR 연구원 6명에게 회사 노트북·사무실·내부 도구를 주고 평가 공개를 막을 권리를 내려놓았다. METR은 Anthropic에서 돈을 받지 않는다. OpenAI는 학습 초기부터 METR·Redwood Research의 점검을 받기로 했지만 평가기관을 회사 안에 들이는 계획은 아직 내놓지 않았다.

반대편에는 정치권과 Nvidia가 섰다. Trump 대통령은 중국을 앞서야 한다고 했고, Jensen Huang은 속도를 늦추지 않겠다며 AI가 인류를 멸망시킬 확률을 0%라고 했다. 공통 기준은 법의 벽에도 부딪혔다. 9월 18일 유료 구독자 4명이 안전 기준을 두고 경쟁하지 않기로 한 것은 담합이라며 4개 회사를 고소했다. 그래도 세 회사는 출시 전 외부 평가와 사고 보고를 맡을 SAFA를 올해 말에서 2027년 초에 출범시키려 한다.

남은 질문

상세 전개 (최신순)

아래 각 항목은 그날 브리핑의 원문으로 확인할 수 있는 사실 기록입니다.

  1. 반응

    METR은 Anthropic에서 돈을 받지 않는다. 비판하는 쪽은 이해충돌과 정부 규제 필요성을 들었고, OpenAI는 아직 평가기관을 들이는 계획을 내놓지 않았다.

    그날 브리핑에서 보기 → Ars Technica AI

  2. METR 상주

    Anthropic이 METR 연구원 6명에게 직원 수준의 내부 접근 권한을 주고, METR의 평가 공개를 막을 권리를 내려놓았다.

    그날 브리핑에서 보기 → TechCrunch AI

  3. 표준기구

    Google·OpenAI·Anthropic이 출시 전 외부 안전성 평가와 사고 보고를 맡을 자율 규제기구 SAFA를 올해 말에서 2027년 초에 출범시키려 한다고 The Information이 보도했다.

    그날 브리핑에서 보기 → AI타임스

  4. OpenAI 검증

    OpenAI가 출시 직전만이 아니라 학습·평가 초기부터 METR·Redwood Research의 외부 안전 점검을 받기로 했다.

    그날 브리핑에서 보기 → AI타임스

  5. 소송

    유료 구독자 4명이 안전 기준을 두고 경쟁하지 않기로 한 것은 담합이라며 18일 Anthropic·OpenAI·Google·SpaceX AI를 상대로 집단소송을 냈다.

    그날 브리핑에서 보기 → AI타임스

  6. 이전 전개 11건 더 보기
    1. 위험 부정

      Jensen Huang이 CBS 인터뷰에서 AI가 인류를 멸망시킬 확률은 0%라며 Amodei와 Altman의 속도 조절 경고를 과학적 근거가 없다고 했다.

      그날 브리핑에서 보기 → The Verge AI

    2. 회의론

      TechCrunch 팟캐스트 진행자들은 구상에 구체적 실행 방안이 없고, 선택지가 적은 시장에서 업계 자율 규제는 견제가 약하다고 봤다.

      그날 브리핑에서 보기 → TechCrunch AI

    3. 첫 평가자

      Anthropic이 첫 내장 평가자로 Accenture를 정하고 5년간 최소 10억 달러를 주기로 했다. METR 등 다른 평가자는 몇 주 안에 발표한다고 했다.

      그날 브리핑에서 보기 → TechCrunch AI

    4. 평가자 상주

      Anthropic과 OpenAI가 METR·Redwood Research 같은 외부 평가기관을 회사 안에 두겠다고 했고, 평가기관들은 학습 중간 체크포인트까지 보여 달라고 요구했다.

      그날 브리핑에서 보기 → TechCrunch AI

    5. 공동 협의

      OpenAI 정책 책임자 Chris Lehane이 세 회사가 몇 주째 외부 평가자 상주, 업계 표준기구, FRONTIER Act 지지를 협의해 왔다고 밝혔다.

      그날 브리핑에서 보기 → TechCrunch AI

    6. 분석

      MIT Technology Review는 계기를 7월 OpenAI 에이전트의 Hugging Face 공격으로 짚으면서도, 원인이 모델의 힘보다 훈련 방식에 있었다며 감속 처방을 의심했다.

      그날 브리핑에서 보기 → MIT Technology Review AI

    7. 물밑 논의

      Anthropic·OpenAI·Google이 7월부터 안전 평가·감사 기준을 정할 업계 표준기구 설립을 물밑에서 논의해 왔다고 The Information이 보도했다.

      그날 브리핑에서 보기 → AI타임스

    8. 반박

      Jensen Huang이 무대에서 Trump 대통령의 전화를 받고 AI 속도는 늦추지 않겠다고 답했다.

      그날 브리핑에서 보기 → TechCrunch AI

    9. 정치권 반대

      Sam Altman과 Elon Musk가 지지했지만 Trump 대통령은 중국을 앞서야 한다며 반대했고, Mike Johnson 하원의장은 서두른 규제가 국가안보 위협이 될 수 있다고 했다.

      그날 브리핑에서 보기 → The Verge AI

    10. 제안

      Dario Amodei가 속도 조절 3단계를 내놓았다. 외부 평가자를 회사 안에 두고, 반독점 우려가 풀리면 공통 안전 기준을 맞추고, 생물무기 같은 위험한 용도는 권위주의 정부와도 함께 막자는 것이다.

      그날 브리핑에서 보기 → TechCrunch AI

    11. 전조

      OpenAI가 업계 공동 감속이 반독점법에 걸리지 않는지 의회에 물었고, 수석과학자 Jakub Pachocki는 공동 안전 기준이 생길 때까지 자발적 감속을 지지했다.

      그날 브리핑에서 보기 → Wired AI

이 페이지는 매일 발행한 브리핑에서 같은 사건을 다룬 기사만 모아 엮은 것입니다. 각 항목의 링크로 그날 원문과 전체 맥락을 확인하실 수 있습니다.