구글·오픈AI·앤트로픽이 정부 없이 'AI 안전 심판소' SAFA를 세운다. 평가받을 회사가 심판이 되는 흐름과 인디 빌더가 봐야 할 신호 3 가지
구글·오픈AI·앤트로픽이 정부 없이 'AI 안전 심판소' SAFA를 세운다 📅 2026.09.25 | ✍️ 경제 흐름을 읽어주는 형 형이 오늘 저녁에 본 뉴스 중에 이게 제일 무거웠어. 구글하고 오픈AI, 앤트로픽 세 회사가 정부 손을 안 빌리고 자기들끼리 'AI 안전 심판소'를 세우려고 움직이고 있어. 이름은 아직 가칭인데 SAFA(Standards Authority for Frontier AI), 우리말로 옮기면 프론티어 AI 표준청 정도가 돼. 최전선 모델을 직접 만드는 당사자들이 평가 기준을 짜고, 그 기준으로 서로를 검사하겠다는 구상이지. 형처럼 매일 클로드 위에 도구를 얹어서 먹고사는 사람 눈으로 보면, 이건 그냥 지나칠 정책 뉴스가 아니야. 앞으로 내가 만든 AI 결과물을 누가 어떤 잣대로 통과시키느냐, 그 규칙의 밑그림이 여기서 그려지기 시작하는 거거든. 핵심 체크포인트 3가지 무엇을 만드나 : 구글 딥마인드의 데미스 하사비스가 먼저 꺼낸 아이디어야. 미국 증권업계의 자율 감독기구 FINRA를 본떠서 AI판 자율 규제 기구를 만들자는 제안이지. 하는 일은 세 갈래로 압축돼. 첫째, 최전선 모델을 평가하는 공통 표준과 벤치마크를 만든다. 둘째, 세상에 내보내기 전에 제3자가 보안을 점검하는 절차를 넣는다. 셋째, 사고가 나면 신고하게 하고 감사를 맡을 사람의 자격 기준까지 정한다. 한마디로 'AI를 출시하기 전에 통과해야 하는 검문소'를 업계가 스스로 만들겠다는 뜻이야. 누가 이끄나 : 수장 후보로 거론되는 이름이 묵직해. 트럼프 행정부에서 백악관 AI 정책을 맡았던 스리람 크리슈난, 바이든 행정부 기술 담당이던 아라티 프라바카르, 부시 시절 국무장관 콘돌리자 라이스, 벤처 투자자 데이비드 프리드버그까지 접촉했다고 해. 과학 자문으로는 최전선 모델 평가 전문 조직 Metr를 만든 베스 반스, 폴 크리스티아노...