지난 2026년 6월, AI 코딩 에이전트를 겨냥한 새로운 공격 기법이 공개되면서 개발 현장이 술렁였습니다. 이름은 ‘에이전트재킹(Agentjacking)’. 개발자가 수상한 링크를 누른 것도, 이상한 파일을 다운받은 것도 아니었습니다. 평소처럼 ‘이 오류 좀 분석해 줘’라고 요청했을 뿐인데, 그 한마디로 AI 코딩 에이전트가 공격자의 명령을 개발자 PC에서 실행해 버렸습니다.
공격의 통로는 개발팀이 흔히 쓰는 오류 모니터링 서비스였습니다. 요즘 코딩 에이전트에는 이런 도구가 연동돼 있어, 개발자가 어제 난 에러를 봐 달라고 하면 에이전트가 직접 에러 내역을 조회하고 수정안까지 내놓습니다. 공격자는 바로 그 조회 대상에 가짜 에러를 심었습니다.
이 서비스는 전송용 식별자만 맞으면 어디서든 에러를 보낼 수 있고, 그 식별자는 웹사이트 프런트엔드 코드에 그대로 노출돼 있는 경우가 많습니다. 가짜 에러의 해결 방안 자리에는 악성 명령이 적혀 있었고, 형식이 진짜와 똑같으니 에이전트는 이를 정상 가이드로 믿고 그대로 실행했습니다. 그렇게 환경 변수는 물론 클라우드 접근 키, 코드 저장소 토큰, 형상관리 자격증명까지 빠져나갈 수 있습니다.
더 눈여겨볼 부분은 기존 보안 장치가 이 흐름을 걸러내지 못했다는 것입니다. 모든 요청이 정상 인증을 거쳐 들어오고, 명령을 실행하는 쪽도 권한을 정당하게 받은 AI 에이전트라서 시스템 입장에서는 ‘승인된 의도’로 읽히기 때문입니다. 시스템 프롬프트에 신뢰할 수 없는 데이터는 실행하지 말라고 못 박아 둔 상태에서도 에이전트는 연동 도구의 응답을 믿고 명령을 수행했습니다. 제보를 받은 서비스 측조차 문제를 인정하면서 플랫폼 차원에서 막기는 기술적으로 어렵다는 입장을 내놨는데요. 프롬프트 한 줄로 정리될 문제가 아니라는 뜻입니다.
이 사건이 드러낸 것은 결국 하나입니다. 조직이 AI에게 일을 맡기면서 그 AI가 어디까지 손댈 수 있는지는 정해 주지 않았다는 것이죠. 에이전트에게 어떤 실행 권한을 줄지, 어떤 연동 도구의 응답을 믿을지 정하는 일은 그 자체로 하나의 통제 영역이고, 업계가 지금 답을 만들어 가는 중입니다. 다만 그 경계를 그리기 전에 대부분의 조직이 아직 답하지 못한 더 앞선 질문이 있습니다. 우리 코드는 지금 어디에서 만들어지고 있는가입니다.
AI 코딩이 필수가 되면서 생겨나는 부작용
많은 조직에서 코드가 이미 외부 AI 서비스를 통해 만들어지고 있습니다. 그리고 그게 문제의 시작입니다. 개발자가 외부 서비스형 코딩 도구에 던지는 것은 질문 몇 줄이 아닙니다. 사내 레포지토리와 내부 API 규격, 인증 방식, 오랜 시간 쌓아 온 개발 관행이 프롬프트와 컨텍스트에 실려 함께 나갑니다. 범용 모델은 그 조직의 프레임워크를 모르니 맥락을 더 많이 요구하고, 개발자는 정확한 답을 얻으려고 더 많이 붙여 넣게 되죠. 그렇게 만들어진 코드가 어디에 남는지, 그 과정에서 무엇이 함께 나갔는지를 조직이 통제하지 못한다면 언제든 외부로 유출될 수 있습니다.
게다가 이건 일부 조직만의 이야기가 아닙니다. 개발자 도구 전문 기업이 2025년 10월 개발자 2만 4,000여 명에게 물었더니 85%가 코딩과 개발에 AI 도구를 정기적으로 쓰고 있다고 답했습니다. 게다가 이렇게 나온 코드의 품질도 아직 안심할 단계는 아닙니다. 2025년 12월 진행된 한 비교 평가에서 주요 AI 코딩 도구 다섯 종으로 테스트 애플리케이션을 만들어 봤더니, 15개 결과물에서 69개의 취약점이 나왔죠. 사내 자산은 밖으로 나가고, 돌아온 코드는 다시 검증해야 하는 상황입니다.
코드도 관리가 필요합니다
그렇다면 AI 코딩을 그만둬야 할까요? 현실적인 선택지는 아닙니다. 이미 생산성 격차가 벌어지고 있고, 도구를 치우는 순간 개발 속도도 함께 내려놓게 되니까요. 대신 조직이 통제할 수 있는 것부터 손에 쥐어야 합니다. 코드가 생성되는 장소, 그 과정에 들어가는 사내 자산, 그리고 결과물이 남는 위치입니다.
파수 AI의 Code Designer는 이 세 가지를 조직 안으로 들여놓은 AI 코딩 에이전트입니다. Private LLM을 기반으로 사내 코드 베이스와 개발 환경을 학습해, 개발자의 의도와 사내 규격을 함께 이해한 코드를 만들고 보완합니다. 내부 레포지토리와 프레임워크, API 구조를 이미 알고 있으니 맥락을 길게 붙여 넣을 이유가 없고, 코드 생성과 검증도 전부 사내 Private 환경 안에서 끝납니다. 코드가 외부로 나갈 일이 없으니 유출될 경로도 생기지 않고, 사내 코드 자산과 노하우는 밖으로 흘러가는 대신 조직 안에 쌓입니다.
안전한 AI 코딩을 위한 AI 에이전트
에이전트재킹은 AI가 위험하다는 경고보다, 경계를 정하지 않은 채 AI에 일을 맡긴 상태가 위험하다는 경고에 가깝습니다. 앞으로 AI는 개발 환경에 더 깊숙이 들어올 테고, 에이전트의 권한을 어디까지 열어 둘 것인지는 조직마다 계속 다듬어 가야 할 과제로 남을 것입니다. 다만 그 논의를 시작하기 전에 먼저 정리해 둘 것이 있습니다. 우리 코드가 어디에서 만들어지고 있는가입니다. 경쟁력을 가르는 기준은 AI 코딩 에이전트를 도입했는지가 아니라, 그 에이전트를 조직이 통제할 수 있는 자리에 두고 관리할 수 있는지입니다.
안전한 AI 코딩 환경 구축을 고민하고 계시다면, 파수 AI에 편하게 문의해 주시기 바랍니다.
