실전 가이드 · 3분 · 09.10

Cursor와 Claude Code를 비교하기 전에, AI의 어떤 행동을 봐야 할까요

loopy vibecoder

핵심 요약 (TL;DR)

AI 코딩 도구를 바꾼 뒤 답변이 더 그럴듯해졌는데, 실제 작업도 나아졌는지는 모르겠다면 무엇을 봐야 할까요? Google은 9월 9일 공개한 하네스 엔지니어링 글에서 최종 점수뿐 아니라 관찰 가능한 중간 행동을 평가하자고 제안했습니다. 모호한 요청에 확인 질문을 하는지, 변경 뒤 검증기를 실행하는지 등을 살피는 접근입니다.[5] 초보자도 이 관점을 빌려 도구 선택 기준을 ‘말투’에서 ‘확인 가능한 행동’으로 옮길 수 있습니다.

결과가 같아도 작업 과정은 왜 다를까요?

하네스는 모델이 파일을 읽고 도구를 쓰며 작업하도록 둘러싼 실행 구조를 뜻합니다. Google 글은 종합 점수가 변해도 원인이 과신인지, 테스트 누락인지, 존재하지 않는 명령 옵션인지 바로 알기는 어렵다고 설명합니다.[5] 화면 하나가 완성됐다는 사실만으로 다음 수정도 믿고 맡길 수 있는 것은 아닙니다.

예를 들어 두 도구가 똑같은 문의 접수 화면을 만들었다고 가정해 보겠습니다. 하나는 성공 화면만 확인했고, 다른 하나는 빈 입력과 저장 실패까지 확인했을 수 있습니다. 겉모양만 비교하면 이 차이는 보이지 않습니다. 이 예시는 실제 비교 실험 결과가 아니라, 무엇을 기록해야 하는지 보여 주는 가정입니다.

내 프로젝트에서는 무엇을 적으면 될까요?

최근 AI가 놓친 행동 하나부터 고르세요. ‘테스트를 하지 않고 끝냈다’면 다음 수정에서 실행한 테스트 명령과 결과를 요구합니다. ‘요구를 제멋대로 해석했다’면 애매한 지점에서 질문했는지 남깁니다. ‘문서 링크가 틀렸다’면 실제 열리는 공식 주소를 제시했는지 확인하면 됩니다.

Google도 최근 실패 하나를 고르고, 작업 복잡도에 맞는 평가 기준을 만들며, 반복 평가로 안정성을 관찰하는 흐름을 권합니다.[5] 처음부터 거대한 평가 체계를 만들 필요는 없습니다. 작업명 옆에 기대 행동, 실제 흔적, 미확인 사항을 짧게 남겨도 다음 선택에 쓸 자료가 됩니다.

Cursor vs Claude Code 비교에도 쓸 수 있을까요?

같은 문의 앱의 복사본에 같은 수정 요청을 주고, 변경 파일과 검증 행동을 나란히 기록하는 방식으로 응용할 수 있습니다. 한쪽에는 새 프로젝트를, 다른 쪽에는 이미 고친 프로젝트를 주면 출발선이 달라집니다. 사용 모델과 설정, 확인 날짜도 남겨야 합니다.

비용은 구독료만 적기보다 실제 사용량을 확인할 수 있는 범위와 추가 과금 여부를 구분하세요. 이번 글은 두 도구를 직접 실행한 설치·비용·성능 비교가 아니며, 어느 쪽이 우수하다고 결론 내리지 않습니다. 비교표에 빈칸이 남더라도, 직접 확인한 결과와 아직 모르는 부분을 나누는 편이 더 유용합니다.

FAQ: 특정 명령을 실행했으면 성공 아닌가요?

명령 호출은 필요한 행동을 했다는 증거이지, 제품이 맞게 작동한다는 완전한 증거는 아닙니다. 결과를 읽었는지, 실패를 고쳤는지, 사용자 흐름이 통과했는지도 보세요. Google 역시 행동 평가와 종단간 평가를 서로 보완하는 것으로 설명합니다.[5]

FAQ: 한 번 잘하면 도구를 바꿔도 될까요?

한 번의 성공만으로 일반화하지 않는 편이 좋습니다. AI 실행에는 변동성이 있으므로 반복 결과를 관찰해야 합니다. Google도 단일 평가만으로 변경을 막기보다 여러 실행의 추세를 보라고 권합니다.[5] 독자에게 중요한 것은 순위보다 자기 작업에서 반복되는 실패가 줄어드는지입니다.

FAQ: 코드를 몰라도 확인할 수 있나요?

시작할 수 있습니다. ‘저장 실패를 숨기지 않는가’, ‘고객 발송 전에 멈추는가’처럼 눈으로 볼 수 있는 기준부터 고르세요. 다만 권한·결제·개인정보 관련 구현의 안전성까지 화면만으로 판단하지 말고 별도 검토를 받는 편이 좋습니다.

Sources

[5] https://developers.googleblog.com/the-anatomy-of-harness-engineering-how-to-evaluate-iterate-and-guard-ai-coding-agents

0

댓글 0

아직 댓글이 없습니다