Skip to main content
Korean only
This page is available in Korean only. An English version will be added later.

국내외 AI 보안 가이드라인·표준

AI 보안성 평가는 "감(感)"이 아니라 공인된 기준을 근거로 해야 설득력이 있습니다. 여기서는 실무에서 가장 많이 참조되는 국제·국내 문서를 정리합니다.

:::tip 큰 그림

  • 위협 체크리스트가 필요하면 → OWASP LLM Top 10, MITRE ATLAS
  • 리스크 관리 체계가 필요하면 → NIST AI RMF, ISO/IEC 42001·23894
  • 규제 준수가 필요하면 → EU AI Act, (국내) AI 기본법, 개인정보보호법 :::

I. 국제 — 위협·보안 중심​

OWASP Top 10 for LLM Applications (2025)​

LLM 애플리케이션의 대표 보안 위험 10가지. 평가 체크리스트의 사실상 표준입니다. 자세한 항목별 설명은 03. 위협 모델에서 다룹니다.

MITRE ATLAS​

AI 시스템을 겨냥한 공격 전술·기법을 MITRE ATT&CK 방식의 매트릭스로 정리한 지식 베이스. 실제 공격 사례 기반이라 위협 모델링에 유용합니다.

Google SAIF (Secure AI Framework)​

AI 시스템 보안을 위한 6대 핵심 요소를 제시하는 실무 프레임워크. 거버넌스·탐지·대응 관점이 잘 정리돼 있습니다.

CISA · NCSC 「Guidelines for Secure AI System Development」​

미국 CISA와 영국 NCSC가 공동 발표한 AI 시스템 안전 개발 가이드. 설계–개발–배포–운영 전 수명주기의 보안 원칙을 담았습니다.

II. 국제 — 리스크 관리·거버넌스​

NIST AI RMF (AI Risk Management Framework)​

미국 NIST가 만든 AI 리스크 관리 프레임워크(AI 100-1). Govern–Map–Measure–Manage 4개 기능으로 구성됩니다. 생성형 AI에 특화된 부속 문서 Generative AI Profile(NIST AI 600-1) 도 함께 참고합니다.

ISO/IEC 42001 — AI 경영시스템(AIMS)​

AI를 다루는 조직의 경영시스템 인증 표준. ISO 27001이 정보보안에 대해 하는 역할을, 42001은 AI에 대해 합니다(정책·역할·리스크 관리·지속 개선). 인증 획득이 가능합니다.

ISO/IEC 23894 — AI 리스크 관리​

ISO 31000(리스크 관리)을 AI 맥락에 적용한 리스크 관리 가이드. 42001과 짝으로 쓰입니다.

EU AI Act — 위험 기반 규제​

AI를 위험도에 따라 금지(unacceptable)–고위험(high)–제한적(limited)–최소(minimal) 로 나눠 규제하는 세계 최초의 포괄적 AI 법. 역외 적용이 있어 EU 대상 서비스라면 국내 기업도 영향을 받습니다.

주요 시행 일정(2025~2026):

시점적용 내용
2025-02-02AI 시스템 정의 · 금지된 AI 관행 적용, AI 리터러시 의무
2025-08-02거버넌스 규정 + 범용 AI(GPAI) 모델 제공자 의무 적용
2026-07-27AI Omnibus 개정 규정 발효(고위험 일정 연장·간소화)
2026-08-02대부분의 나머지 조항 적용(§50 투명성 의무 포함) = 일반 적용
2026-12-02신규 금지 2건 + 생성물의 기계판독 표시(워터마크) 의무
2027-12-02부속서 III 고위험 시스템(채용·교육·필수서비스·생체인식 등) 요건 적용
caution

EU AI Act 일정은 AI Omnibus 개정으로 조정되었습니다(2026). 법적 판단이 필요하면 반드시 관보(EUR-Lex) 원문을 확인하세요.

III. 국내​

인공지능 기본법 (AI 기본법)​

대한민국의 AI 종합법으로 2026년 1월 22일 시행. 산업 진흥과 규제를 함께 담았습니다.

핵심 포인트:

  • 고영향 AI: 생명·권리에 큰 영향을 주는 분야(에너지·의료·원자력·범죄수사·채용·대출심사·교통·공공서비스·교육 등)의 AI → 사람이 관리·통제할 수 있는 안전조치 의무

  • 생성물 표시: 생성형 AI 결과물에 워터마크 부착 원칙, 딥페이크는 AI 생성 사실 고지·표시 의무

  • 국내 대리인 지정: 일정 규모 이상 해외 사업자

  • 규제 대상은 AI 개발·서비스 제공 사업자이며 단순 이용자는 대상이 아님. 최소 1년 이상 계도 기간 운영

  • 참고: AI 기본법 해설 (KB)

개인정보보호위원회 — 생성형 AI 개인정보 보호 가이드​

개인정보위가 2026년 5월 19일 공개. 이용자가 AI에 개인정보를 입력할 때 알아야 할 점을 중심으로, 학습 활용·삭제·국외 이전 등 8가지 쟁점을 정리했습니다.

핵심 메시지:

  • 입력한 텍스트·파일·이미지·음성이 모델 개선에 활용될 수 있음 → 서비스별 정책 확인, 가능하면 학습 opt-out, 주민번호·여권·계좌 등 민감 식별자 입력 금지

  • 대화 삭제가 완전 삭제를 보장하지 않음(백업·보관 기간)

  • 데이터가 국외에 저장·처리될 수 있음 → 이전 국가·항목·목적 확인

  • 기업 데이터는 엔터프라이즈 라이선스 + 내부 이용규칙으로 관리 권고

  • 플러그인/연동 서비스에 넘어간 데이터는 연결 해제 후에도 남을 수 있음 → 최소 권한만 부여

  • 참고: 개인정보보호위원회

금융보안원 · KISA · 과기정통부​

  • 금융보안원(FSI): 금융권 생성형 AI 보안·활용 가이드, 침투테스트 가이드 등 금융 특화 기준 발간
  • KISA: AI 보안 가이드라인 및 위협 대응 연구 공개
  • 과기정통부: AI 윤리기준·신뢰성 확보 정책 추진

IV. 기준 매핑 — 무엇을 볼 것인가​

목적1순위 참조성격
위협 점검 체크리스트OWASP LLM Top 10, MITRE ATLAS기술·위협
리스크 관리 체계 수립NIST AI RMF, ISO/IEC 42001·23894거버넌스
안전 개발 수명주기CISA/NCSC 가이드, Google SAIF개발·운영
규제 준수 (해외)EU AI Act법규(역외 적용)
규제 준수 (국내)AI 기본법, 개인정보보호법, 개인정보위 가이드법규
금융권금융보안원 가이드산업 특화

V. 결론​

표준은 "선택"이 아니라 조합입니다. 보통 리스크 관리 체계(NIST·ISO) 위에 위협 체크리스트(OWASP·ATLAS) 를 얹고, 적용되는 법규(AI 기본법·개인정보보호법·EU AI Act) 를 준수 기준으로 매핑하는 방식으로 평가를 설계합니다. 다음 문서에서 위협 모델을 구체적으로 살펴봅니다.