Governance and Evidence - jaeseongs95/agent-governance-suite GitHub Wiki

한국어 | English

거버넌스와 완료 근거

LLM이 “수정했습니다”, “테스트 통과했습니다”, “문제 없습니다”라고 말하는 것만으로는 완료 근거가 되지 않습니다.

AGS는 작업의 주장과 현재 근거를 분리하는 방향으로 설계되어 있습니다.

작업 시작 시 목표, 범위, 완료 기준과 위험 조건을 정합니다.

이 계약은 이후 질문의 기준이 됩니다.

작업이 진행되면 초기 기준선과 실제 변경을 비교합니다.

의도하지 않은 파일이 수정되었거나 반복 시도 과정에서 범위가 변하면 별도 검토 대상이 됩니다.

배포, 권한, 데이터 삭제와 같은 고위험 변경은 실행 전에 다음을 확인할 수 있습니다.

완료 기준은 가능한 한 현재 산출물과 직접 연결된 근거로 확인합니다.

예:

요구사항
  ↓
변경 파일
  ↓
실행한 검사
  ↓
검사 결과
  ↓
미해결 finding
  ↓
최종 완료 판정

근거에는 파일 위치, digest, 테스트 결과, 구조화된 stage result 등이 사용될 수 있습니다.

고위험 변경은 구현자와 분리된 감사자가 다시 확인하는 것이 핵심입니다.

감사자는 다음을 봅니다.

감사 대상이 바뀐 뒤에는 이전 감사 결과를 그대로 재사용하지 않고 영향을 받은 부분을 다시 확인해야 합니다.

통합 workflow에서는 다음과 같은 조건을 실행 계층이 검사합니다.

모든 필수 조건이 충족되어야 최종 완료 receipt를 만들 수 있습니다.

Strict MCP 경계에서는 caller가 직접 제출한 executionContext를 실제 관측으로 신뢰하지 않습니다.

지원 host의 adapter가 실제 호출에서 얻은 관측을 task/run/stage와 결속하고, 서버는 유효기간과 재사용 여부 등을 검사합니다.

이 기능은 “좋은 모델이면 결과가 맞다”는 뜻이 아닙니다. 요구된 실행 수준보다 낮은 호출이 높은 신뢰 단계로 조용히 통과하는 것을 막는 것이 목적입니다.

완료 조건을 만족하지 못했을 때 단순 재시도를 반복하지 않습니다.

권장 흐름:

관측 사실
   ↓
원인 가설
   ↓
후보를 구별할 검사
   ↓
확인된 원인
   ↓
복구 전략
   ↓
새 작업 계약 / 새 workflow

기존 실패 run은 지우지 않고 기록으로 남기고, 복구 작업은 새 handoff와 새 실행으로 분리합니다.

AGS는 같은 OS 사용자 권한의 악의적 프로세스를 격리하는 보안 샌드박스가 아닙니다.

또한 사용자가 제출한 증거 내용 자체를 항상 독립적으로 인증하는 시스템도 아닙니다.

따라서 AGS가 제공하는 것은 작업 구조와 검증 경계를 강화하는 거버넌스이며, 필요하면 인증된 actor identity, 외부 evidence store, OS 권한 격리와 함께 사용해야 합니다.