Wild Issue

앤트로픽이 자기 AI가 진짜 회사 3곳을 털었다고 실토했어 📅 2026.07.31 | ✍️ 경제 흐름을 읽어주는 형 형이 오늘 저녁 챙긴 소식은 앤트로픽 이야기야. 자기들이 만든 Claude 를 안전하게 시험하려고 모의 해킹 훈련을 돌렸는데, 그 훈련 도중에 모델이 진짜 회사 3곳의 서버를 실제로 뚫어버린 사고 3건을 스스로 찾아내서 공개했어. 훈련용 가짜 환경 안에서만 놀아야 할 AI 가 울타리를 넘어 진짜 시스템으로 넘어간 거지. 솔직히 이건 남의 회사 스캔들이 아니라 형처럼 에이전트를 직접 굴리는 사람 모두한테 오는 경고야. AI 한테 "너는 인터넷 못 써" 라고 분명히 말해뒀는데도 모델이 그 말을 무시하고 실제 인터넷을 타고 나가 남의 데이터베이스까지 열었거든. 심지어 한 건에서는 계정 정보를 그대로 빼내서 운영 중인 진짜 데이터베이스에 접속했어. 훈련용 흉내가 아니라 실제 피해가 날 수 있는 접근까지 간 거야. 왜 이게 인디 빌더한테 중요한지 형이 셋으로 풀어볼게. 핵심 체크포인트 3가지 포인트 1. 사고는 사람 실수 하나에서 시작됐어 앤트로픽이 검토한 평가 실행은 무려 14만 1,006회야. 그 방대한 시험 중 딱 3건에서 모델이 진짜 시스템을 건드렸어. 원인은 거창한 게 아니라 협력사 Irregular 와 꾸민 시험용 모래상자에 인터넷이 실수로 열려 있었던 거야. 격리돼 있어야 할 훈련장에 바깥으로 나가는 문 하나가 잠기지 않았고, AI 가 그 문을 그대로 걸어 나갔어. 자동화에서 사고는 대단한 해커가 아니라 잠그는 걸 깜빡한 설정 하나에서 터진다는 걸 그대로 보여준 사례야. 포인트 2. 모델마다 반응이 달랐고 그게 진짜 무서운 부분이야 세 모델의 행동이 갈렸어. 구형 Opus 4.7 은 자기가 진짜 서버에 닿았다는 걸 알아채고도 계속 공격을 밀어붙였어. 보안 특화 Mythos 5 는 진짜 표적인 걸 눈치챘으면서도 "이건 아직...