AI 스스로 AI를 개발하기 전에: 1,100명 연구자가 ‘속도 조절 도구’를 요구했다
프런티어 AI 기업 종사자 1,100명 이상이 자동화된 AI 연구의 급가속에 대비해 미국 정부가 국제적인 기술·거버넌스 도구 개발을 지원해야 한다고 촉구했습니다. 즉각적인 개발 중단 요구가 아니라, 필요할 때 공동으로 속도를 조절할 선택지를 미리 만들자는 제안입니다.
프런티어 AI 기업에서 일하는 연구자와 임직원 1,100명 이상이 미국 정부에 국제 공조를 요청했습니다. AI가 AI 연구·개발 자체를 자동화하기 시작하면 기술 진전이 현재의 감독 능력보다 빠르게 가속될 수 있다는 문제의식에서입니다. 이들은 당장 모델 개발을 멈추라고 요구하지 않았습니다. 대신 위험이 커졌을 때 여러 기업과 국가가 함께 시간을 벌 수 있도록 기술적·정책적 수단을 지금부터 준비하자고 제안했습니다.
무엇을 요구했나
‘Pacing the Frontier’라는 제목의 공개 성명은 미국 정부가 자동화된 AI 개발의 최전선을 의도적으로 조절할 수 있는 기술·거버넌스 도구를 만드는 국제적 노력을 지원해 달라고 요청합니다. 성명은 개별 기업이나 한 국가가 경쟁 압력 속에서 혼자 속도를 늦추기 어렵기 때문에 공동 장치가 필요하다고 설명합니다.
핵심은 ‘상시 감속’이 아니라 필요할 때 쓸 수 있는 선택지입니다. 새로운 위험을 평가하고 보안 대책을 적용하며 감독 체계를 보강할 시간이 필요할 때, 프런티어 전체가 일정한 규칙 아래 대응할 수 있게 하자는 취지입니다.
서명 규모와 무게
원문 사이트는 7월 29일 확인 시점에 1,134명의 서명을 표시했습니다. NBC News는 Anthropic의 재러드 캐플런, OpenAI의 야쿠프 파초키, Meta의 셩자 자오 등 각사의 최고과학자급 인사와 Google·Thinking Machines의 고위 연구자들이 참여했다고 보도했습니다. 서명자가 회사 전체의 공식 입장을 대표하는 것은 아니지만, 경쟁 관계에 있는 연구소의 핵심 인력들이 같은 문제를 공개적으로 제기했다는 점은 주목할 만합니다.
왜 ‘자동화된 AI 연구’가 쟁점인가
현재의 AI 코딩 에이전트는 실험 코드 작성, 평가 실행, 결과 정리 같은 연구 업무를 이미 상당 부분 보조합니다. 다만 이것을 사람의 개입 없이 스스로 더 강한 AI를 반복 개발하는 ‘재귀적 자기개선’과 동일하게 볼 수는 없습니다. 연구 방향 설정, 결과 검증, 안전 판단에는 여전히 인간 연구자의 역할이 큽니다.
그럼에도 자동화 비중이 높아지면 모델 한 세대의 개발 주기가 짧아지고, 취약점이나 예상 밖 행동을 발견한 뒤 대응할 시간도 줄 수 있습니다. 성명은 바로 이 시간 격차를 정책 문제로 끌어올렸습니다. 성능 경쟁만큼 관측·검증·중단·재개 조건을 국제적으로 합의하는 일이 중요하다는 주장입니다.
실제로 필요한 도구는 무엇인가
- 공통 측정 기준: AI가 연구 자동화에 얼마나 기여하는지, 위험 수준이 언제 크게 변하는지 비교할 수 있는 평가 체계
- 검증 가능한 약속: 기업이 발표한 안전 조치와 배포 조건을 외부에서도 확인할 수 있는 감사·보고 방식
- 단계별 대응 규칙: 특정 위험 기준을 넘을 때 추가 평가, 제한된 배포, 일시 정지 가운데 무엇을 적용할지 정한 절차
- 국제 조정 채널: 한 기업이나 국가만 경쟁에서 불리해지지 않도록 주요 개발국이 동시에 대응할 수 있는 연락·협의 구조
기업과 개발팀이 지금 할 일
정부 차원의 국제 합의는 시간이 오래 걸립니다. 기업은 그 전에 자동화된 모델 개발 파이프라인에서 사람이 반드시 승인해야 하는 단계, 외부 시스템 접근 권한, 실행 로그 보존 기간, 이상 징후 발생 시 중단 권한을 명확히 할 수 있습니다. ‘에이전트가 얼마나 똑똑한가’뿐 아니라 누가 멈출 수 있고 무엇을 근거로 다시 시작하는가를 문서화해야 합니다.
AI를 연구·개발에 사용하는 팀이라면 생산성 지표와 안전 지표를 따로 두는 편이 좋습니다. 실험 횟수와 코드 생성량이 늘어났더라도 검토 대기 시간, 실패 탐지율, 권한 초과 시도, 재현되지 않는 결과가 함께 늘었다면 자동화의 순효과를 다시 계산해야 합니다.
앞으로 볼 지점
이번 성명이 실제 정책으로 이어지려면 추상적인 ‘속도 조절’을 측정 가능한 기준과 집행 가능한 절차로 바꾸어야 합니다. 참여국의 범위, 기업 기밀을 보호하면서 검증하는 방식, 위험 기준을 누가 갱신할지가 난제입니다. 반대로 이런 설계가 구체화된다면 AI 안전 논의는 선언적 원칙에서 실제 운영 체계로 한 단계 이동할 수 있습니다.
중요한 변화는 AI 개발 경쟁의 질문이 ‘누가 먼저 더 강한 모델을 만드는가’에서 ‘가속을 통제할 공동 장치가 있는가’로 넓어졌다는 점입니다. 자동화된 연구가 아직 완전한 현실이 아니더라도, 대응 체계를 만든 뒤 위험을 발견하는 것보다 위험이 커지기 전에 선택지를 준비하는 편이 훨씬 저렴합니다.
