ㅁ 신뢰/위험

ㅇ 정의:
모델 워터마킹(Model Watermarking)은 AI 모델에 고유한 식별 정보를 은닉하여, 해당 모델의 소유권을 증명하거나 무단 사용을 탐지할 수 있도록 하는 기술.

ㅇ 특징:
– 모델의 동작에 영향을 주지 않으면서 은밀하게 식별 정보 삽입
– 주로 모델의 가중치나 출력 패턴에 특정 시그니처를 포함
– 디지털 저작권 보호와 유사한 개념이지만 AI 모델에 특화
– 제거가 어렵고, 법적 증거로 활용 가능

ㅇ 적합한 경우:
– 상용 AI 모델의 불법 복제 방지
– 클라우드 API 기반 모델 서비스에서 무단 배포 감시
– 연구기관·기업의 지식재산권 보호

ㅇ 시험 함정:
– 워터마킹은 모델의 성능 향상을 위한 기술이 아님 → 오답 유도
– 워터마킹과 모델 핑거프린팅(Fingerprinting) 혼동
– 데이터 워터마킹과 모델 워터마킹의 개념 차이 구분 필요

ㅇ 시험 대비 “패턴 보기” 예시:
O: “모델 워터마킹은 AI 모델의 소유권 보호를 위해 출력에 은닉된 식별 정보를 포함시킨다.”
X: “모델 워터마킹은 모델의 정확도를 향상시키는 기법이다.”

ㅁ 추가 학습 내용

모델 워터마킹 구현 방식
1. 백도어 기반: 특정 트리거 입력에 대해 의도된 응답을 출력하도록 학습시켜 워터마크를 삽입.
장점: 구현이 비교적 간단하고 명확한 검증 가능.
단점: 백도어 탐지 기법에 의해 발견될 수 있고, 재학습 시 손실 가능.

2. 파라미터 수정 기반: 모델 가중치 일부를 특정 패턴으로 변경하여 워터마크를 내장.
장점: 외부에서 쉽게 관찰되지 않아 은밀성 높음.
단점: 모델 최적화나 압축 과정에서 워터마크가 손상될 수 있음.

3. 출력 응답 패턴 기반: 특정 질문 집합에 대한 출력 분포나 확률 패턴에 워터마크를 부여.
장점: 모델 구조 변경 없이 적용 가능.
단점: 출력 변동성이 커서 환경 변화나 후처리에 취약.

워터마킹 검증 절차
– 사전에 정의한 트리거 입력을 모델에 주고, 특정 응답이나 패턴이 나타나는지 확인.
– 통계적 검증을 통해 우연 발생 가능성을 낮춤.

공격 시나리오와 방어 기법
– 워터마크 제거 시도: 모델 파라미터 수정, 재학습, 지식 증류 등을 통해 워터마크를 약화 또는 제거.
– 모델 압축·최적화로 인한 손실: 양자화, 프루닝 과정에서 워터마크 정보가 손실될 수 있음.
– 방어 기법: 다중 워터마크 삽입, 강인한 트리거 설계, 워터마크 재삽입, 정기적 검증.

법적 효력과 저작권 분쟁 사례
– 워터마크가 저작권 소유 증거로 인정된 사례 존재.
– 법적 효력은 국가별로 상이하며, 워터마크 검증의 신뢰성과 무결성이 핵심.

모델 핑거프린팅과의 차이점
– 워터마킹: 의도적으로 식별 정보를 삽입.
– 핑거프린팅: 모델의 고유 특성을 분석해 식별, 별도의 삽입 과정 없음.

데이터셋 워터마킹과의 비교
– 모델 워터마킹: 학습 완료된 모델에 식별 정보 포함.
– 데이터셋 워터마킹: 학습 데이터에 인위적 패턴을 삽입하여 해당 데이터로 학습한 모델을 추적.