AI 에이전트가 같은 일을 반복한다면, 멈춤 조건은 어디에 둘까요?

핵심 요약 (TL;DR)

AI에게 작은 자동화를 맡겼는데 검색과 재시도만 이어질 때가 있습니다. 이때 필요한 것은 더 강한 독촉보다, 어떤 반복을 중단할지 정한 규칙입니다. 한국 시간 9월 15일 아침 Hacker News에 소개된 savi-loop-guard는 도구 호출 기록을 바탕으로 반복 징후를 찾는 Python 라이브러리입니다. 공식 저장소와 구현을 읽어 확인했으며, 실제 서비스에 설치하거나 성능을 시험한 후기는 아닙니다.

반복을 감지한다는 것은 무엇을 본다는 뜻일까요?

이 도구는 같은 에이전트의 호출이 짧은 시간에 몰리는지, 같은 도구가 누적해서 반복되는지를 따로 봅니다. 이름이 조금 다른 도구도 이름을 구성하는 단어의 유사도로 묶습니다. 이는 AI가 같은 생각을 반복하는지 읽는 기술이 아니라, 실행 기록의 패턴을 관찰하는 방법입니다.

따라서 감지 결과를 곧바로 ‘AI가 고장 났다’는 판정으로 받아들이면 안 됩니다. 여러 자료를 차례로 검색하거나 파일을 하나씩 읽는 정상 작업도 반복 호출을 만듭니다. 내 작업에서 허용할 반복과 중단할 반복을 먼저 구분해야 합니다. 예를 들어 문의 접수 MVP에서는 저장 실패를 다시 시도하는 일과 고객에게 같은 알림을 다시 보내는 일을 다르게 취급하는 편이 좋습니다.

기록만 남기면 다음 호출도 막아 줄까요?

공식 구현에서 record()와 check()는 기록과 검사 역할입니다. 결과를 읽는다고 실행이 저절로 멈추지는 않습니다. 호출 전에 사용하는 check_before_call()은 기준을 넘으면 예외를 발생시킵니다. 실제 차단이 되려면 개발한 프로그램이 외부 요청보다 먼저 이 검사를 하고, 예외가 났을 때 다음 작업을 진행하지 않도록 연결해야 합니다.

‘문제가 있었다’는 로그와 ‘문제가 생기기 전에 멈췄다’는 결과는 다릅니다. AI에게 구현을 맡길 때도 “루프 방지 기능을 넣어 주세요”보다 “검사 실패 시 외부 요청이 실행되지 않는지 시험해 주세요”라고 요청해 보세요. 완료 조건이 화면 문구가 아니라 실행 순서로 바뀝니다.

작은 자동화에서는 어떤 기준부터 정하면 좋을까요?

우선 작업 하나가 어디서 시작하고 끝나는지 정하세요. 이 라이브러리는 기록을 자동으로 지우지 않으며, 구조적 반복 검사는 시간 제한 없이 호출을 누적합니다. 그래서 긴 실행에 같은 인스턴스를 계속 쓰면 정상적인 반복까지 잡거나 메모리 사용이 계속 늘어날 수 있습니다. README도 논리적인 작업 단위마다 새 인스턴스를 만드는 방식을 안내합니다.

다음에는 중단 후 행동을 적어 두세요. 마지막 오류와 이미 끝낸 단계를 저장하고 사람이 확인하도록 돌릴 수 있습니다. 고객 발송이나 결제처럼 되돌리기 어려운 행동에는 별도의 중복 실행 방지도 필요합니다. 호출 횟수를 세는 장치만으로 중복 결제나 모든 잘못된 판단을 막을 수는 없습니다.

이 글은 새 도구를 모든 프로젝트에 넣으라는 권유가 아닙니다. 처음 만드는 앱이라면 자동 재시도 횟수를 제한하고, 멈췄다는 사실을 확인할 수 있게 하는 것부터 시작해도 됩니다. 빠르게 끝내는 능력만큼, 더 진행하지 않을 순간을 정하는 능력도 자동화의 일부입니다.

FAQ: 코딩을 몰라도 바로 사용할 수 있나요?

완성된 앱이 아니라 Python 코드에 연결하는 라이브러리입니다. AI에게 설치만 맡기기보다 테스트용 작업에서 검사와 중단이 실제로 연결됐는지 확인해 달라고 요청하세요.

FAQ: 반복이 많으면 무조건 제한을 높이면 되나요?

먼저 정상 작업인지 같은 오류의 재시도인지 구분하세요. 기준을 무작정 높이면 문제를 늦게 발견합니다. 업무 단위를 나누고 그 범위 안에서 허용할 호출을 정하는 편이 낫습니다.

출처
https://github.com/data-gras/savi-loop-guard
https://github.com/data-gras/savi-loop-guard/blob/main/loop_guard/detector.py
https://news.ycombinator.com/item?id=49704711