Wild Issue

AI 에이전트한테 도구를 그냥 쥐여줬다간 사고 나. 한 개발자가 만든 '문지기'와 인디 빌더가 봐야 할 신호 3 가지 📅 2026.08.14 | ✍️ 경제 흐름을 읽어주는 형 오늘 아침 형이 챙긴 소식은 AI 에이전트를 굴려 본 사람이라면 무릎을 칠 얘기야. 한 개발자가 에이전트한테 도구를 맡길 때마다 겁이 나서, 아예 도구 앞에 문지기를 하나 세웠어. Agent ToolTrust라는 물건인데, 에이전트가 어떤 도구를 부르려고 하면 그 호출을 실행 직전에 가로채서 지금 이거 해도 되는 상황인지를 먼저 따져 봐. 형이 이 소식을 고른 이유가 있어. 형이 굴리는 자동화가 대부분 에이전트한테 진짜 도구를 쥐여 주는 구조거든. 텔레그램으로 글을 내보내고 파일을 만지고 외부에 뭔가를 쏘는 일까지 알아서 하게 두는 거야. 그 편함 뒤에 늘 걸리는 게 얘가 엉뚱한 걸 실행하면 어쩌지 하는 불안이었어. 이 개발자가 그 불안을 정면으로 붙잡았더라고. 형이 읽은 신호 셋을 풀어볼게. 【 핵심 체크포인트 】 1. 도구를 통짜로 허용하는 방식이 지금 가장 큰 구멍이야. 요즘 에이전트 시스템은 도구를 줄지 말지를 단순하게 허용 아니면 거부로만 정해. 문제는 같은 동작이라도 상황에 따라 위험도가 완전히 달라진다는 거야. 테스트 서버에서 뭔가를 지우는 건 아무 일도 아니지만, 실제 운영 서버에서 같은 걸 지우면 사고야. 그런데 지금 대부분의 도구 권한은 이 맥락을 아예 안 봐. 이 개발자가 인용한 수치가 뼈아파. 조직의 80퍼센트가 자기네 에이전트가 원래 정한 범위를 넘어서는 행동을 한 적이 있다고 인정했고, MCP 서버 배포 가운데 접근 범위를 제대로 좁혀 둔 곳은 18퍼센트뿐이야. 보안 표준을 만드는 OWASP도 에이전트의 도구 오남용을 1급 위험으로 올려놨어. 편하자고 열어 둔 문이 그대로 사고의 통로가 되고 있다는 뜻이야. 2. 진짜 해법은 검증을 모델 밖에 두는 거야. 이 문지기가 똑똑한 지점이 여기야. 에이전트가 도구를...