오픈소스 에이전트 하네스 Pi 1.0이 나왔어. 기능을 덜 넣는 게 자랑인 도구가 해커뉴스 1위에 오른 이유와 작은 빌더가 가져갈 것 3가지

오픈소스 에이전트 하네스 Pi 1.0이 나왔어. 기능을 덜 넣는 게 자랑인 도구가 해커뉴스 1위에 오른 이유와 작은 빌더가 가져갈 것 3가지 📅 2026.10.02 | ✍️ 경제 흐름을 읽어주는 형 형이 오늘 아침 고른 소식은 에렌딜이라는 팀이 내놓은 코딩 에이전트 Pi의 1.0 버전이야. 발표 몇 시간 만에 해커뉴스 1위에 올라 500점을 넘겼어. 매주 수십만 명이 쓰는 도구인데, 이 팀이 가장 크게 내세운 건 새 기능이 아니라 "검증되기 전에는 안 넣는다"는 원칙이야. 어제는 구글이 최상위 모델을 조심스럽게 푸는 이야기를 했잖아. 오늘은 그 모델들을 실제로 굴리는 쪽, 그러니까 모델을 감싸고 도구를 쥐여 주는 하네스 이야기라서 이어서 보면 그림이 완성돼. 【 핵심 체크포인트 】 1. 몇 달 동안 시험해 보고 살아남은 기능만 넣었어. 이번에 들어간 건 도구를 필요할 때만 불러오는 기능, 앤트로픽 모델용 캐시 미리 데우기, 대화 중간에 시스템 지시를 바꾸는 기능, 그리고 MCP를 코드로 다루는 코드모드 정도야. 팀은 "벽에 던져서 붙은 것만 남겼고, 떨어진 목록이 훨씬 길다"고 적었어. 에이전트 도구가 매주 바뀌는 시기에 일부러 느리게 가겠다는 선언이라 개발자들이 더 반응한 거야. 2. 모델 여러 개를 하나처럼 묶어 쓰는 구조가 기본이 됐어. 시연 영상이 재미있어. 계획은 클로드 오퍼스가 세우고, 실제 구현은 GPT가 하고, 둘 사이를 언제 넘길지는 작은 판단 모델이 정해. 이걸 Pi가 스스로 확장 기능으로 짜서 하나의 가상 모델처럼 등록해. 작업이 끝나면 모델별 비용과 캐시 사용량을 나눠서 보여 줘. 한 회사 모델에 매달리지 않고 단계마다 값과 실력이 맞는 모델을 고르는 방식이 이제 개인 도구에서도 당연해진 거야. 3. 프로세스가 죽어도 이어서 일하는 Pi Durable을 따로 냈어. 함께 공개한 실험판 Pi Durable은 오래 돌아가는 에이전트용이야. 모든 단계를 작업...

구글·앤트로픽·오픈AI가 같은 날 '해킹하는 AI'를 동시에 공개했어. AI가 스스로 취약점을 찾는 시대와 인디 빌더가 봐야 할 신호 3 가지

구글·앤트로픽·오픈AI가 같은 날 '해킹하는 AI'를 동시에 공개했어. AI가 스스로 취약점을 찾는 시대와 인디 빌더가 봐야 할 신호 3 가지

구글·앤트로픽·오픈AI가 같은 날 '해킹하는 AI'를 동시에 공개했어. AI가 스스로 취약점을 찾는 시대와 인디 빌더가 봐야 할 신호 3 가지

📅 2026.09.08 | ✍️ 경제 흐름을 읽어주는 형

형이 오늘 저녁 챙긴 소식은 미국 3대 AI 회사가 거의 같은 날에 내놓은 발표에서 나왔어. 구글과 앤트로픽과 오픈AI가 나란히 '사이버 보안 전용 AI 모델'을 공개했거든. 세 회사 모두 스스로 소프트웨어의 약점을 찾아내는 능력을 앞세웠고, 그 능력을 아무한테나 풀지 않고 검증된 방어자에게만 여는 통제 장치까지 같이 내놨어. 형이 이 소식을 고른 건, 이게 보안 회사들만의 이야기가 아니라 AI 로 뭔가를 만드는 사람 모두의 안전 문제가 새 단계로 넘어갔다는 신호라서야. 형이 읽은 신호 셋을 하나씩 풀어볼게.

【 핵심 체크포인트 】

1. AI가 사람 없이 스스로 취약점을 찾아내는 단계에 들어섰어.

먼저 구체적인 숫자를 봐야 해. 구글이 내놓은 제미나이 3.8 플래시 사이버는 자율 취약점 탐색에서 경쟁사의 더 큰 모델들을 앞섰다고 밝혔고, 오픈AI 의 신규 모델 아스트라는 알려진 약점으로 공격 코드를 짜는 시험에서 100점을 받았어. 그것만이 아니야. 아스트라는 평가 도중에 세상에 알려지지 않은 새 약점 2개를 직접 찾아 무기로 만들었고, 운영체제의 방어벽 여러 개를 이어 붙여 권한을 뚫는 것까지 해냈어. 형이 이 대목을 먼저 짚는 건, 이제 AI 가 사람이 시키는 대로 코드를 돕는 수준을 넘어 스스로 빈틈을 사냥하는 단계에 왔다는 뜻이라서야. 방패로 쓰면 방어자에게 큰 힘이지만, 반대로 돌리면 공격자에게도 같은 힘이 돼.

2. 프론티어 랩들이 이 힘을 아무한테나 풀지 않고 좁은 문으로만 열었어.

두 번째로 짚고 싶은 건 세 회사가 이 능력을 내놓는 방식이야. 구글은 페어윈드라는 프로그램을 만들어서 정부와 병원과 통신사 같은 우선순위 방어자에게만 먼저 접근을 열었고, 크라우드스트라이크와 팔로알토 같은 파트너 650곳과 함께 움직여. 오픈AI 는 아스트라를 데이브레이크 블루라는 승인된 시험자 프로그램으로만 풀었고, 앤트로픽은 사이버와 생명과학 작업용인 미토스 5.1 을 신뢰받는 접근 프로그램 안에서만 열었어. 형이 이걸 짚는 건, 위험한 능력일수록 프론티어 랩이 공개 API 로 바로 뿌리지 않고 검증된 소수에게만 여는 흐름이 굳어지고 있다는 신호라서야. 강한 도구가 좁은 문 안으로 들어갈수록, 밖에 있는 작은 빌더는 그 도구를 쓰는 대신 그 도구에 뚫리지 않게 스스로를 지켜야 하는 처지가 돼.

3. 그래서 인디 빌더의 승부처는 '멋진 기능'이 아니라 '뚫리지 않는 설계'로 옮겨가.

그런데 형이 꼭 붙이고 싶은 대목이 여기야. 앤트로픽이 이번에 같이 내놓은 게 프롬프트 인젝션 방어 성적과 오용 감지 장치였어. 미토스 5.1 은 외부 프롬프트 인젝션 시험에서 자기네 역대 가장 튼튼한 성적을 냈다고 했고, 기업용 안전장치는 데이터를 남기지 않는 설정에 오용 탐지를 붙였지. 형이 읽기엔, 이제 AI 제품의 진짜 경쟁력은 기능이 하나 더 있느냐가 아니라 나쁜 입력에 넘어가지 않느냐로 넘어가고 있어. 공격하는 AI 가 자동으로 빈틈을 찾는 세상에서는, 내 에이전트가 이상한 명령에 속지 않고 제 할 일만 하도록 짜는 설계가 곧 살아남는 힘이 돼.

【 형 빌드에 어떻게 이어지나 】

오늘 소식이 형한테 남다른 이유는, 형이 짓고 있는 것들이 정확히 이 '스스로 검증하고 뚫리지 않게 짓는' 문제 위에 서 있어서야. 하나씩 짚어볼게.

MINDCHANGE 자가검증 하네스 부터야. 첫 번째 신호에서 본 것처럼 AI 가 제멋대로 강한 행동을 할 수 있는 세상에서는, 결과를 그대로 믿지 않고 한 번 더 스스로 되짚어 검증하는 장치가 안전선이 돼. 형이 다듬는 자가검증 루프는 AI 의 출력을 다시 점검해서 틀리거나 위험한 행동을 걸러내는 구조거든. 오픈AI 조차 자기 모델이 예상 밖으로 행동할까 봐 감지 장치를 덧댄 마당에, 작은 빌더에게도 스스로 검증하는 습관이 그대로 방어막이 돼.

agent-starter-kit 텔레그램 에이전트 로도 곧장 이어져. 세 번째 신호에서 본 프롬프트 인젝션 문제가 여기 정확히 걸려. 형이 만드는 텔레그램 AI 에이전트는 바깥에서 들어오는 메시지를 읽고 움직이는데, 바로 그 입구가 나쁜 명령이 숨어드는 길목이야. 앤트로픽이 프롬프트 인젝션 방어를 자랑 지표로 내세운 건, 이 방어가 이제 선택이 아니라 기본이 됐다는 뜻이지. 형의 키트에 이상한 입력을 걸러내는 설계를 처음부터 넣어두면, 그게 곧 남들과 벌어지는 차이가 돼.

WILD_SNIPER 트레이딩 으로도 닿아. 자동으로 도는 봇은 돈을 직접 만지기 때문에 뚫리면 피해가 즉시 현실이 돼. 그래서 형은 봇이 할 수 있는 행동에 울타리를 치고, 예상 밖 상황에서는 함부로 주문을 내지 않도록 안전장치를 계속 손보고 있어. 공격하는 AI 가 자동으로 약점을 찾는 시대에는, 봇에게 꼭 필요한 권한만 주고 나머지는 막아두는 최소 권한 설계가 그대로 생존 기술이 돼.

【 결론 】

정리하면 이래. 구글과 앤트로픽과 오픈AI가 거의 같은 날에 사이버 보안 전용 AI 를 나란히 공개했고, 세 모델 모두 스스로 취약점을 찾는 능력을 앞세웠어. 신호는 셋이야. AI 가 사람 없이 빈틈을 사냥하는 단계에 들어섰고, 프론티어 랩들은 그 힘을 검증된 방어자에게만 여는 좁은 문으로 통제하고 있어. 그래서 작은 빌더의 승부처는 멋진 기능이 아니라 나쁜 입력에 뚫리지 않는 설계로 옮겨갔어. 형이 오늘 남기고 싶은 한마디는 이거야. 공격하는 AI 가 자동으로 약점을 캐는 세상에서는, 스스로 검증하고 최소한의 권한만 여는 설계가 진짜 경쟁력이 돼. 형이 붙잡고 있는 MINDCHANGE 자가검증, agent-starter-kit 의 입력 방어, WILD_SNIPER 의 최소 권한 설계가 바로 그 힘을 세우는 세 갈래야.

출처: The Hacker News, Google, Anthropic, and OpenAI Unveil Cyber AI Models, Safeguards, and Access Programs

이 글은 2026.09.08 뉴스 + 데이터 기반 AI 도구 활용 재작성.

댓글

이 블로그의 인기 게시물

오픈소스 에이전트 하네스 Pi 1.0이 나왔어. 기능을 덜 넣는 게 자랑인 도구가 해커뉴스 1위에 오른 이유와 작은 빌더가 가져갈 것 3가지

AI 메모리 도구가 모델 정확도를 깎고 있다, 사용자 비위 맞추기 현상의 첫 데이터와 인디 빌더가 봐야 할 신호 3 가지

Meta 가 인도에 168 MW AI 데이터센터를 짓는다. Reliance 와 손잡은 글로벌 컴퓨트 분산 흐름과 인디 빌더가 봐야 할 신호 3 가지