1 의료 AI 규제의 본질: Rule-based부터 생성형 AI까지

1.1 AI 분류의 규제적 의미

AI를 분류하는 방법은 여러 가지가 있지만, 의료 규제 관점에서 가장 중요한 구분은 Rule-based AI와 Data-driven AI의 이분법이다. 이 구분은 단순한 기술적 분류가 아니라, FDA(미국 식품의약국), EMA(유럽의약품청), MFDS(식품의약품안전처) 등 규제 당국이 AI 시스템의 안전성과 유효성을 평가하는 핵심 프레임워크다.

이 구분이 중요한 이유는 규제 당국이 “어떻게 작동하는가”가 아니라 “얼마나 예측 가능하고 검증 가능한가”를 본다는 점에 있다. 2026년 1월 FDA가 발표한 Clinical Decision Support Software 가이던스는 이 원칙을 명확히 한다: “의료기기 소프트웨어는 그 작동 메커니즘보다 환자 안전에 대한 위험도와 임상적 검증 가능성으로 평가된다.”

1.1.1 AI의 두 계열과 규제적 특성

1.1.1.1 Rule-based AI (기호주의 AI, Symbolic AI)

람이 규칙을 명시적으로 설계하는 방식이다. if-else 구문, 규칙 테이블, 로직 엔진으로 구현되며, 연역적 추론(deductive reasoning)을 따른다.

주요 특징:

판단 근거 추적 가능 (traceable)
동일 입력 → 동일 출력 보장 (deterministic)
전문가 지식의 명시적 코딩
도메인이 제한적일 때 강력

규제적 이점:

규칙 기반 시스템은 FDA 21 CFR Part 820의 Software Validation 요구사항을 만족하기가 상대적으로 쉽다. 모든 규칙이 문서화되어 있고, 테스트 케이스 작성이 명확하며, 임상의와 규제 심사자가 로직을 직접 검증할 수 있다.

예시: 약물 상호작용 체크 시스템, 알레르기 경고 시스템, 임상 가이드라인 기반 의사결정 지원

기호주의 AI (Symbolic AI, 심볼릭 AI)

AI 역사의 첫 번째 주요 패러다임
지식과 추론을 명시적인 기호(symbols)와 규칙으로 표현하는 접근 방식이다.
“기호(Symbol)”란?
- 의미를 가진 추상적 표현 (예: “환자”, “당뇨병”, “혈당 > 126”)
- 수학적 논리 기호 (AND, OR, NOT, IF-THEN)
- 변수와 관계식
예시

# 기호주의 AI 예시
IF 환자.공복혈당 >= 126 AND 환자.HbA1c >= 6.5:
    진단 = "당뇨병"
    추천 = "내분비내과 의뢰"
ELSE IF 환자.공복혈당 >= 100:
    진단 = "전당뇨"
    추천 = "생활습관 개선"

장점:
- 투명성: 모든 규칙이 명시적 → 추론 과정 추적 가능
- 설명 가능: “왜 이렇게 판단했는가” 명확히 설명
- 전문가 지식 직접 활용: 의사가 알고리즘 직접 검증 가능
- 규제 친화적: 의료기기 승인 시 유리
단점:
- 확장성 제한: 규칙이 수천 개 넘으면 관리 어려움
- 예외 처리 약함: 규칙에 없는 경우 대응 불가
- 패턴 학습 불가: 데이터에서 자동으로 규칙 발견 못함

1.1.1.2 Data-driven AI (통계적 AI, Sub-symbolic AI)

데이터로부터 규칙을 학습하는 방식이다. 확률, 통계, 최적화를 기반으로 하며, 귀납적 추론(inductive reasoning)과 확률적 추론(probabilistic reasoning)을 활용한다.

주요 특징:

패턴을 데이터에서 자동 발견
명시적 규칙 없이 예측/분류 수행
대량의 학습 데이터 필요
복잡한 비선형 관계 모델링 가능

규제적 도전:

이 계열은 “블랙박스 문제”를 안고 있다. EU MDR 2017/745 Annex I의 요구사항 중 “제조업체는 소프트웨어의 개발 및 검증 프로세스를 문서화하고, 그 성능 특성을 입증해야 한다”는 조항을 만족시키기가 점차 어려워진다.

이 계열 내부에는 명확한 위계 구조가 존재한다:

Data-driven AI
├─ 통계적 모델 (Statistical Models)
│  └─ 회귀, 시계열, 베이지안 모델
│     규제 특성: 수학적 해석 가능, 가정 검증 가능
│     예시: Cox 비례위험모델, ARIMA
│
└─ 머신러닝 (Machine Learning)
   ├─ 전통 ML (Classical ML)
   │  └─ SVM, Random Forest, XGBoost, KNN 등
   │     규제 특성: Feature importance 해석 가능
   │     예시: 당뇨병 위험도 예측 모델
   │
   └─ 딥러닝 (Deep Learning)
      ├─ CNN / RNN / Transformer
      │  규제 특성: Saliency map, Attention으로 부분 해석
      │  예시: IDx-DR (당뇨망막병증 진단 CNN)
      │
      └─ 생성형 AI (Generative AI)
         └─ LLM, Diffusion Model 등
            규제 특성: 비결정론적, Hallucination 위험
            예시: GPT-4 기반 의료 문서 작성 (Class III 승인 사례 거의 없음)

Sub-symbolic AI (서브심볼릭 AI, 비기호 AI)

Symbolic AI와 정반대의 접근 방식이다.

	Symbolic AI	Sub-symbolic AI
표현 방식	명시적 기호와 규칙	숫자, 가중치, 벡터
지식 저장	IF-THEN 규칙	신경망 가중치, 통계 모델
학습 방법	전문가가 규칙 코딩	데이터에서 패턴 학습
설명 가능성	완벽히 설명 가능	블랙박스 (해석 어려움)
예시	전문가 시스템	신경망, 딥러닝

Sub-symbolic의 의미
- 명시적 “개념”이 아닌 그냥 숫자의 패턴만 있다.

# Symbolic AI
"개" = 개념 (기호)
"포유류" = 개념 (기호)
규칙: 개 → 포유류

# Sub-symbolic AI
"개" = [0.8, -0.3, 0.5, 0.1, ...] (수치 벡터)
"포유류" = [0.7, -0.2, 0.4, 0.2, ...] (수치 벡터)
관계: 행렬 연산으로 계산

Sub-symbolic AI는 확률과 통계를 기반으로 작동한다: - 회귀분석: 통계 모델 - 신경망: 가중치는 통계적으로 학습됨 - 딥러닝: 확률적 경사하강법(stochastic gradient descent)

규제 관점에서: - Symbolic: 규칙 명확 → 승인 쉬움 - Sub-symbolic: 블랙박스 → 설명 가능성 입증 필요 → 승인 어려움

역사적 배경:

1950-1980년대: Symbolic AI 전성기 - 전문가 시스템, LISP, Prolog

1990년대 이후: Sub-symbolic AI 승리 - 신경망, 딥러닝이 Symbolic AI를 압도 - 이유: 복잡한 패턴 인식(이미지, 음성)에서 월등한 성능

1.1.2 AI 포함 관계와 규제 난이도의 상관성

이 구조에서 중요한 점은 GenAI ⊂ DL ⊂ ML ⊂ Data-driven AI라는 포함 관계다.
생성형 AI는 딥러닝의 한 분야이며, LLM은 생성형 AI의 한 종류다.

규제 난이도 상승 곡선:

Rule-based → 통계 모델 → 전통 ML   →   딥러닝   →   생성형 AI
   ↓           ↓           ↓           ↓           ↓
 Class I    Class I/II   Class II   Class II/III  (규제 불확실)
승인 빠름    중간 난이도    어려움      매우 어려움     승인 사례 극소

FDA의 AI-enabled Medical Device List를 보면 2025년 12월 기준 945개의 승인된 AI 의료기기 중:

통계/전통 ML: 약 620건 (65.6%)
딥러닝 (CNN/RNN): 약 310건 (32.8%)
생성형 AI (LLM 포함): 15건 미만 (1.6%), 대부분 보조 도구로 제한적 승인

생성형 AI가 적은 이유는 다음의 4대 규제 기준을 만족시키기 극히 어렵기 때문이다:

설명 가능성 (Explainability)

“왜 이렇게 판단했는가” 추적 가능한가?
의사가 결과를 이해할 수 있는가?

고정성 (Locked)

승인 후 알고리즘이 변하지 않는가?
동일 입력 → 동일 출력 보장되는가?

위험도 (Risk Classification)

오판 시 환자에게 위해를 가하는가?
Class I (낮음) → Class III (높음)

검증 가능성 (Clinical Validation)

임상 데이터로 성능 입증 가능한가?
Sensitivity/Specificity 등 통계적 검증

1.2 결론

의료 AI 규제의 핵심 원칙: 의료 AI 규제는 알고리즘의 종류가 아니라 4대 기준으로 평가된다:

설명 가능성: 임상적 합리성
고정성: Locked > Adaptive
위험도: Class I < II < III
검증 가능성: 임상시험 필수

규제 난이도:

Rule-based < 통계/ML < 딥러닝 <<< 생성형 AI
   ↓           ↓         ↓          ↓
  쉬움         중간     어려움    현재 거의 불가능

실전 전략:

빠른 승인 원하면: Rule-based 또는 전통 ML, Class I/II 타겟, 510(k) 경로
고성능 필요하면: 딥러닝, Class II/III 각오, Prospective study 준비
생성형 AI 사용하려면: “보조 도구” 포지셔닝, 인간 감독 필수, 규제 샌드박스 고려

“규제는 장벽이 아니라 환자 안전을 위한 필터다. 규제를 이해하고 협력하는 것이 성공적인 의료 AI 제품의 첫걸음이다.”

1.3 참고문헌 및 추가 자료

1.3.1 주요 규제 기관 링크

FDA AI/ML 의료기기: https://www.fda.gov/medical-devices/software-medical-device-samd/artificial-intelligence-and-machine-learning-aiml-enabled-medical-devices
FDA AI-enabled Device List (945+ 승인 제품, 2025년 12월 기준): https://www.fda.gov/medical-devices/software-medical-device-samd/artificial-intelligence-enabled-medical-devices
FDA Clinical Decision Support Software Guidance (2026년 1월): https://www.fda.gov/regulatory-information/search-fda-guidance-documents/clinical-decision-support-software
EMA 의료기기 규정 (MDR 2017/745): https://health.ec.europa.eu/medical-devices-sector/new-regulations_en
EU AI Act (2024): https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai
MFDS 의료기기 전자민원: https://emed.mfds.go.kr

1.3.2 표준 및 가이던스

IEC 62304: 의료기기 소프트웨어 생명주기 프로세스
ISO 13485: 의료기기 품질경영시스템
IMDRF SaMD 가이던스: https://www.imdrf.org/documents/software-medical-device-samd-clinical-evaluation
IMDRF Machine Learning-enabled Medical Devices (2021): https://www.imdrf.org/documents/machine-learning-enabled-medical-devices-key-terms-and-definitions
ISO/IEC 23894: AI 위험 관리 (2023)

1.3.3 주요 학술 논문 및 리소스

Abramoff, M. D., et al. (2018). “Pivotal trial of an autonomous AI-based diagnostic system for detection of diabetic retinopathy in primary care offices.” NPJ Digital Medicine, 1(39). https://doi.org/10.1038/s41746-018-0040-6
FDA AI/ML SaMD Action Plan (2021): https://www.fda.gov/media/145022/download
FDA Good Machine Learning Practice (2021): https://www.fda.gov/medical-devices/software-medical-device-samd/good-machine-learning-practice-medical-device-development-guiding-principles
EU MDR 2017/745: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX:02017R0745-20250110
EU AI Act (Regulation 2024/1689): https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX:32024R1689
Nature Digital Medicine - AI in Healthcare 특집: https://www.nature.com/natdigitalmed/
NEJM AI (New England Journal of Medicine): https://ai.nejm.org/
FDA Workshop on AI/ML Medical Devices: https://www.fda.gov/medical-devices/workshops-conferences-medical-devices/artificial-intelligencemachine-learning-based-software-medical-device-action-plan

1.3.4 추천 서적

FDA Regulatory Affairs: A Guide for Prescription Drugs (Mark Mathieu, 2021)
Artificial Intelligence in Medicine (Robert M. Wachter, et al., 2023)
Regulatory Science for Medical Devices (Gail Baura, 2022)

1.3.5 용어집

SaMD: Software as a Medical Device (의료기기 소프트웨어)
510(k): FDA의 실질적 동등성 입증 경로
De Novo: 새로운 유형의 저위험/중위험 의료기기를 위한 FDA 승인 경로
PMA: Premarket Approval (시판 전 승인, Class III 필수)
MDR: Medical Device Regulation (유럽 의료기기 규정)
IMDRF: International Medical Device Regulators Forum (국제 의료기기 규제기관 포럼)
GMLP: Good Machine Learning Practice (우수 머신러닝 실행 지침)
PMCF: Post-Market Clinical Follow-up (시판 후 임상 추적)