과학기술정보통신부와 한국인터넷진흥원(KISA)은 기업이 에이전틱 AI를 도입·운영하는 환경에서 활용할 수 있는 ‘에이전틱 AI 제로트러스트 안내서’를 마련했다고 밝혔다. AI가 스스로 판단하고 도구를 사용해 업무를 수행하면서 생기는 보안위협에 대응하기 위한 실무 지침이다.
에이전틱 AI 환경에서는 기존 사용자·단말·서버뿐 아니라 AI 에이전트가 접근하는 외부 서비스와의 상호작용, 물리적 장치에 대한 명령 등도 통제 대상이 된다. 안내서는 프롬프트 오염이나 위임된 권한을 넘어선 자율 행동 같은 위험에 제로트러스트를 적용하는 방안을 담았다.
계속 검증하고 위험에 맞게 통제
기본 개념 : 제로트러스트는 시스템 접속 요청 때 네트워크가 이미 침해됐을 수 있다고 보고 ‘절대 믿지 말고, 계속 검증하라’는 원칙을 적용하는 보안 개념이다.
행위 검증 : 입력 처리, 도구 호출, 작업 위임, 외부통신 등 여러 지점에서 행위를 검증하고 정책을 집행한다. 위험 수준에 따라 인간의 승인이나 사전 승인 정책을 적용하도록 안내한다.
단계별 개선 : 조직이 현재 수준을 자가 진단하고 우선순위에 따라 개선할 수 있도록 성숙도 단계별 실무 기준과 도입·운영 절차, 활용 예시를 제시한다.
안내서는 2024년 12월 나온 ‘제로트러스트 가이드라인 2.0’의 성숙도 모델을 에이전틱 AI 이용 환경에 맞게 확장했다. 기업의 보안 수준 진단·분석부터 목표 설정과 검증에 활용하는 4단계 체계를 토대로 구체적 적용 기준을 정리했다.
안내서 상세 내용은 KISA 누리집(www.kisa.or.kr)에서 확인할 수 있다. 이번 자료는 기업의 자율적인 보안체계 확산을 지원하는 안내서로, 새로운 의무 규정의 시행 발표와는 구분된다.
문의: 과학기술정보통신부 정보보호산업과 044-202-6451, KISA AI보안기술팀 061-820-1555.
댓글 (0)
댓글 작성
댓글을 작성하려면 로그인이 필요합니다.
로그인하기