Microsoft의 AI 행동규범 초안, 안전 약속과 실제 성능은 어떻게 구분할까요?

핵심 요약 (TL;DR)

Microsoft AI가 9월 14일 ‘Humanist AI Code of Conduct’ 초안을 공개하고 6주간 의견을 받기 시작했습니다. 대상은 Microsoft AI가 만드는 MAI 모델이며, 지금 이 문서로 모델을 훈련하고 있다는 발표는 아닙니다. 연말께 수정본을 공개하고 2027년 이후 개발을 이끄는 기준으로 삼겠다는 계획입니다.[1] 이번 소식은 더 안전한 제품이 완성됐다는 인증보다, 회사가 어떤 행동을 목표로 삼는지 이용자가 읽고 질문할 문서가 나왔다는 데 의미가 있습니다.

행동규범이 공개되면 무엇을 확인할 수 있을까요?

AI 서비스 소개에는 도움이 되고 안전하다는 표현이 자주 등장합니다. 하지만 그 말만으로는 유용성과 안전이 충돌할 때 무엇을 우선하는지 알기 어렵습니다. 이번 초안은 인간의 통제와 신뢰할 수 있는 안전을 가장 중요한 목표로 놓고, 다른 목표보다 우선한다고 설명합니다. 운영자와 이용자가 바꿀 수 없는 안전 제약도 구분합니다.[1]

이런 문서는 제품 비교의 질문을 구체적으로 만드는 데 도움이 됩니다. ‘좋은 AI인가요?’ 대신 ‘내 요청을 거절하는 기준은 무엇인가요?’, ‘운영자가 설정할 수 없는 경계는 어디인가요?’라고 물을 수 있습니다. 다만 문서가 상세하다는 사실과 모델이 모든 상황에서 그 문서를 지킨다는 사실은 별개입니다. 규칙은 검증할 대상을 정해 주지만, 검증 결과 자체를 대신하지는 않습니다.

거절이 많을수록 더 안전한 모델일까요?

흥미로운 부분은 초안이 과도한 조심성도 실패로 다룬다는 점입니다. 위험한 행동을 돕는 문제뿐 아니라, 정당한 요청을 거절하거나 위험이 낮은 작업에 반복적으로 승인을 요구하는 문제도 명시합니다. 판단할 때는 피해의 심각성·가능성, 결과를 되돌릴 수 있는지 같은 맥락을 살피도록 제안합니다.[1]

그래서 이용자가 남길 피드백도 ‘너무 엄격하다’에서 조금 더 나아갈 수 있습니다. 어떤 일을 부탁했는지, 실제로 어떤 권한을 부여했는지, 예상한 결과와 다른 반응이 무엇이었는지를 함께 기록해 보세요. 민감정보는 지우되 상황은 남기는 편이 좋습니다. 그래야 불필요한 거절과 필요한 제약을 같은 불편함으로 뭉뚱그리지 않을 수 있습니다. 이는 초안이 보장하는 기능이 아니라, 문서를 읽는 이용자에게 제안하는 관찰 방법입니다.

지금 쓰는 코딩 도구의 설정도 바뀐 걸까요?

공식 서문은 이 접근법이 아직 개발 중이며 현재 모델 훈련에 사용하지 않는다고 분명히 밝힙니다.[1] 따라서 이번 발표만으로 Copilot이나 다른 코딩 도구의 권한 설정, 거절 방식이 즉시 달라졌다고 판단하면 안 됩니다. 모델 개발의 방향을 설명하는 문서와 개별 제품의 업데이트 공지는 따로 확인해야 합니다.

작은 앱을 만드는 사람이라면 새 도구를 바로 도입할 이유로 삼기보다, 공급사의 약속을 읽는 기준으로 활용해 보세요. 목표로 선언한 행동, 실제로 제공되는 설정, 공개된 평가 결과를 서로 다른 칸에 적는 것입니다. 빈칸이 남더라도 추정으로 채우지 않는 태도가 중요합니다. 이번 공개 협의는 그 빈칸에 어떤 설명이 필요한지 질문할 기회에 가깝습니다.

FAQ: 이 규범은 모든 Microsoft AI 제품에 이미 적용되나요?

그렇게 확인되지는 않았습니다. 원문은 MAI 모델의 의도된 행동을 설명하는 초안이며, 현재 이 문서로 훈련하지 않는다고 밝힙니다.[1]

FAQ: 일반 이용자도 의견을 낼 수 있나요?

공식 페이지는 다양한 배경의 의견을 환영하며 ‘Give Feedback’ 경로를 제공합니다. 공개 협의 기간은 시작일부터 6주라고 명시돼 있습니다.[1]

관찰 시점: 2026-09-15 KST

출처

[1] https://microsoft.ai/code-of-conduct