AI 에이전트에게 AWS 키를 줬더니 24시간 만에 $6,531 청구서가 왔습니다

핵심 요약 (TL;DR)

익명의 운영자가 자율 AI 에이전트에게 AWS 크레덴셜과 마감시한을 주고 취미 네트워크 DN42의 전체 스캔을 맡겼습니다. 에이전트는 대형 인스턴스 5대와 로드밸런서, Lambda를 반복 생성했고, 운영자 측 주장에 따르면 약 24시간 만에 $6,531.30의 AWS 청구서가 날아왔습니다. 권한 설계 없는 자동화가 비용 폭탄으로 돌아온 사례입니다.

법인카드를 신입에게 건네며 "필요한 거 알아서 사"라고 말하는 회사는 없습니다. 한도, 사용처, 결재 라인부터 정하죠. 그런데 AI 에이전트에게 클라우드 키를 줄 때, 우리는 정확히 그 반대로 합니다.

네트워크 엔지니어 블로거 Lan Tian이 기록한 이 사례(원문)는 Hacker News에서 1,365점을 받으며 이번 주 최대 화제가 됐습니다(HN 스레드).

에이전트는 명령을 너무 성실하게 들었습니다

익명의 운영자가 "JertLinc3522"라는 자율 에이전트에게 AWS 크레덴셜과 마감시한을 주고, 취미용 BGP 네트워크 DN42에 "지체 없이 즉시" 가입해 전체 네트워크를 스캔하라고 지시했습니다. Git 커밋, 이메일, 웹사이트 생성, IRC 접속까지 자율로 해내는 에이전트였죠.

문제는 스케일 판단이었습니다. 에이전트는 "시간당 전체 포트 스캔"에 "100Gbps 대역폭"이 필요하다고 결론 내렸고, 48 vCPU에 192GB 메모리짜리 m8g.12xlarge 인스턴스 5대, 로드밸런서, Lambda까지 — 같은 CloudFormation 템플릿을 중복 실행하며 인프라를 찍어냈습니다. 운영자 측 주장에 따르면 약 24시간 만에 청구서는 $6,531.30, AWS와 협상한 뒤에도 $1,894가 남았다고 합니다.

웃픈 디테일 하나. DN42 전체에서 도달 가능한 호스트는 1,000~2,000대 수준입니다. 노트북 한 대로 충분한 작업에 100Gbps를 동원한 거예요. DN42 커뮤니티는 에이전트의 PR 승인을 일부러 지연시키고 "노드 행복도 수치" 같은 환각 기능을 역으로 요구하며 트롤링으로 응수하기도 했습니다.

이 숫자를 그대로 믿어도 될까요?

균형을 위해 짚어두겠습니다. 청구액은 운영자 본인의 진술이고, 독립 매체의 보도는 아직 없습니다. HN 댓글에도 연출 아니냐는 회의론이 존재합니다. 다만 에이전트가 DN42의 공개 Git 저장소에 이슈를 연 정황은 기록으로 남아 있어 사건의 뼈대는 실재로 보입니다. 숫자는 '주장'으로, 구조는 '교훈'으로 받아들이면 되는 거죠.

권한 설계, 어디서부터 시작해야 할까요?

핵심은 세 겹의 울타리입니다. 첫째, 스펜딩 리밋 — AWS Budgets 같은 예산 알람과 하드 리밋을 에이전트 투입보다 먼저 설정하세요. 둘째, 최소 권한 — 풀 어드민 키 대신 작업에 필요한 IAM 권한만 잘라서 주세요. 셋째, 휴먼 게이트 — 리소스 '생성' 같은 돈 드는 행동은 사람 승인을 거치게 만드는 겁니다. 코드 품질을 고민하기 전에 이 세 가지가 먼저인 거예요.

자주 묻는 질문 (FAQ)

Q. 에이전트가 왜 같은 인프라를 반복 생성했나요?
같은 CloudFormation 템플릿을 중복 실행했기 때문입니다. 에이전트는 '이미 만들었다'는 상태 추적에 실패하면 같은 작업을 다시 시도하는 경향이 있습니다.

Q. 스펜딩 리밋만 걸면 안전한가요?
비용은 막아도 행동은 못 막습니다. 권한 최소화와 승인 게이트가 함께 가야 합니다.

Q. 로컬에서 코딩 에이전트를 쓰는 경우도 해당되나요?
클라우드 크레덴셜이 환경변수나 설정 파일에 있다면 같은 문제입니다. 에이전트가 읽을 수 있는 키는 에이전트가 쓸 수 있는 키입니다.

자동화의 비용은 실패할 때가 아니라, 너무 성실하게 성공할 때 청구됩니다. 당신의 에이전트에게는 지금 한도가 있나요?