728x90
안녕하십니까,
부매경입니다.
내 데이터를 넘기지 않고도 AI를 학습시킬 수 있는 방법이 있습니다. 아직 이름도 낯선 기술이지만, 스마트폰 자판 추천부터 은행 자금세탁방지 시스템까지 이미 조용히 쓰이고 있습니다. 오늘은 프라이버시 강화 기술(PET, Privacy-Enhancing Technologies)에 대해서 한번 알아보도록 하겠습니다.
프라이버시 강화 기술(PET) 정의
- 미국 정보기술혁신재단(ITIF)은 PET을 "개인이나 조직의 민감한 정보를 노출하지 않으면서 데이터를 접근·공유·분석할 수 있게 해주는 도구들"로 정의.
- 미국 NIST(국립표준기술연구소)는 프라이버시 강화 암호(PEC) 프로젝트를 통해 "당사자들이 서로에게나 제3자에게 불필요한 개인정보를 노출하지 않고도 목적에 맞게 상호작용하는 것"을 핵심 과제로 설명.
- 대표 기법으로 영지식증명(ZKP), 다자간 안전연산(MPC), 완전동형암호(FHE), 프라이빗셋교집합(PSI) 등을 꼽음.
- 학계·업계에서는 연합학습, 차등 프라이버시, 동형암호, 다자간 안전연산(SMPC)을 4대 PET 계열 기법으로 함께 논의.
- 한 줄 정의: 원본 데이터를 그대로 넘기지 않고도 분석·학습이 가능하게 해주는 기술 묶음.
프라이버시 강화 기술(PET)이 지금 중요한 이유
- AI 모델 학습에는 대량의(종종 민감한) 데이터가 필요.
- 그런데 GDPR, HIPAA 같은 프라이버시 규제와 데이터 소유권 이해관계 때문에 데이터가 사일로(고립) 상태로 남는 경우가 많음.
- PET은 데이터의 기밀성을 유지하면서도 그 가치를 활용하고, 안전한 협업을 가능하게 하는 기술로 주목받는 배경.
- 2026년 데이터 프라이버시 환경은 GDPR 재개정 논의, AI 기술의 급속한 발전, 지정학적 요인에 따른 디지털 규제 확대라는 세 흐름으로 재편 중.
- EU AI Act의 고위험 AI 시스템·생성형 AI 투명성 요건이 2026년 8월 전면 적용 예정.
- 영국 ICO(개인정보보호감독기구)는 2023년부터 금융·의료·연구·정부 부문에 PET 도입을 공식 권고.
- 2024년 11월에는 DSIT(과학혁신기술부)와 함께 "PET 비용-편익 인식 도구"를 발표해 도입 비용·편익 평가를 지원.
- 시장조사기관들은 글로벌 PET 시장이 2030년까지 약 120억~143억 달러 규모로 성장할 것으로 전망(연평균 성장률 약 19.8~26.9%, 조사기관별 차이).
프라이버시 강화 기술(PET) 3대 기법 비교
| 구분 | 원리 | 장점 | 한계 | 활용처 |
|---|---|---|---|---|
| 연합학습 | 기기 내 로컬 학습 후 업데이트(요약)만 서버로 전송해 평균화 | 낮은 지연시간, 즉각적 개인화, 통신량 10~100배 절감(Federated Averaging) | 기기 이질성으로 통신 비용·수렴 속도·모델 편향 문제 | 구글 Gboard, 제약업계 MELLODDY 컨소시엄 |
| 차등 프라이버시 | 쿼리·데이터에 통계적 노이즈를 더해 개인 재식별 차단(ε으로 조절) | 노이즈 분포 공개해도 개인 식별 불가, 집계 통계는 계속 공개 가능 | ε 낮출수록(프라이버시↑) 정확도↓ 트레이드오프 | 美 2020 인구총조사, 애플 QuickType·이모지 추천 |
| 동형암호 | 복호화 없이 암호화된 상태 그대로 연산 수행(FHE) | 경쟁·규제 관계 기관도 대상자 노출 없이 데이터 교차 조회 가능 | 평문 대비 최대 수백만 배 연산 저하, 상용 도입 비용 6자리 수 이상 | 스코샤은행 AML, MS Edge Password Monitor |
연합학습(Federated Learning)
연합학습 원리
- 기기가 현재 모델을 내려받아 자체 데이터로 로컬 학습.
- 학습 결과를 작은 업데이트(요약)로 압축.
- 이 업데이트만 서버로 전송해 다른 사용자들의 업데이트와 평균화(aggregation), 공유 모델 개선.
- 원본 데이터 자체는 기기 밖으로 나가지 않음.
연합학습 장점
- 온디바이스 처리로 지연시간이 낮고 전력 소모가 적음.
- 개별 기기 단위의 즉각적인 개인화 효과.
- 구글의 Federated Averaging 알고리즘은 순진하게 데이터를 모으는 방식 대비 통신량을 10~100배 절감, 압축 기법 추가 시 업로드 비용을 최대 100배 추가 절감.
연합학습 한계
- 수백만 대 기기에 데이터가 불균등하게 분산.
- 기기 간 네트워크 환경(3G/4G/WiFi), 배터리, 연산 성능 차이로 통신 비용이 핵심 걸림돌.
- 기기 이질성으로 수렴 속도 저하, 성능 좋은 기기의 기여가 과대 반영되며 전역 모델의 일반화 성능 저해 가능.
연합학습 활용 사례
- 구글 안드로이드 Gboard: 검색어 제안 클릭 여부를 기기 내에서 처리해 다음 버전 모델 개선에 활용, 대화 내용 자체는 서버로 전송되지 않음.
- 제약업계 컨소시엄 MELLODDY: 10개 제약회사가 각자의 신약후보 데이터를 노출하지 않고 연합학습으로 신약 발굴 모델 공동 학습.
차등 프라이버시(Differential Privacy)
차등 프라이버시 원리
- 데이터나 쿼리 결과에 통계적 노이즈(무작위성)를 더해 개인 재식별을 막는 수학적 프레임워크.
- 노이즈 양은 프라이버시 손실 허용치를 나타내는 파라미터 엡실론(ε)으로 조절.
- ε이 클수록 노이즈가 적어 정확도는 높아지지만 프라이버시 보호 수준은 낮아지는 트레이드오프.
차등 프라이버시 장점
- 노이즈 분포 범위는 공개해도, 공격자가 특정 테이블에 정확히 얼마의 노이즈가 들어갔는지 알 수 없어 개인 식별 위험을 구조적으로 차단.
- 통계적으로 유의미한 집계 데이터(예: 인구조사 통계)는 계속 공개 가능.
차등 프라이버시 한계
- 프라이버시 손실 예산이 높을수록 정확도는 높아지지만 보호는 약해지고, 예산이 낮을수록 보호는 강해지지만 정확도는 떨어지는 근본적 트레이드오프 존재.
- 미국 인구조사국은 지리적 수준(전국-주-카운티-구역-블록그룹-블록)별로 프라이버시 예산을 나누어 배분했는데, 공개된 오차 지표가 평균값이라 특정 지역의 실제 오차는 알 수 없다는 한계.
- 2018년 베타 버전 공개 이후 미네소타 인구센터 등 데이터 이용자 커뮤니티에서 정확도 저하 비판 제기.
차등 프라이버시 활용 사례
- 미국 인구조사국: 2020년 인구총조사에서 최초로 top-down 차등 프라이버시 메커니즘 적용, 전국·주·카운티 등 6개 지리적 단위에 무작위 노이즈 주입.
- 애플 QuickType/이모지 추천: QuickType은 ε=8로 하루 2회, 이모지는 ε=4로 하루 1회 데이터를 기기에서 노이즈 처리한 뒤 식별자 없이 전송, Count Mean Sketch 기법으로 인기 이모지·추천 개선에 활용.
동형암호(Homomorphic Encryption)
동형암호 원리
- 데이터를 복호화하지 않고 암호화된 상태 그대로 연산을 수행하는 암호 기술(완전동형암호, FHE).
- NIST가 분류하는 프라이버시 강화 암호(PEC)의 핵심 도구 중 하나.
동형암호 장점
- 원본 데이터를 복호화(노출)하지 않고도 암호화된 정보를 분석·공유 가능.
- 경쟁·규제 관계에 있는 기관(예: 서로 다른 은행)도 개별 대상자를 드러내지 않은 채 데이터를 교차 조회 가능.
동형암호 한계
- 평문 연산 대비 속도 저하가 여전히 큼. IBM HElib 2018년 버전은 평문 대비 약 100만 배 느림(연산 1초가 11~12일로 늘어나는 수준), 세부적으로 뺄셈 50만 배, 덧셈 160만 배, 곱셈은 약 1,900만 배.
- Microsoft SEAL은 덧셈/뺄셈 6만~10만 배, 곱셈 약 1,500만 배 저하. Paillier·ElGamal 등 부분동형암호는 약 2만~3만 배 저하.
- 2026년 기준 실용 수준 오버헤드는 1,000배~1만 배 선까지 개선되었지만 여전히 범용 연산에는 큰 제약.
- 상용 솔루션 도입 비용은 최소 6자리 수(미화 10만 달러 이상) 예산과 다년 계약이 필요한 경우가 많음. 실시간 즉답보다는 배치(batch) 처리 업무에 더 적합.
동형암호 활용 사례
- 캐나다 스코샤은행: Duality Technologies의 동형암호 기술로 자금세탁방지(AML) 탐지, 여러 은행 간 계좌 활동을 규제상 대상자 노출 없이 연관 조회. UN 추산 매년 최대 2조 달러가 전 세계 금융시스템을 통해 자금세탁되는 것으로 추정.
- 마이크로소프트: SEAL 라이브러리와 오픈소스 APSI를 결합해 Edge 브라우저 "Password Monitor" 기능에 동형암호(FHE) 적용, 저장된 계정정보를 유출 데이터와 대조.
- 싱가포르 IMDA(정보통신미디어개발청): 'PET Sandbox'를 운영해 여러 금융기관이 국제은행계좌번호(IBAN) 관련 위험지표를 서로 질의하는 실증 진행.
프라이버시 강화 기술(PET) 남은 과제
- 연합학습: 통신 비용이 핵심 제약. 최적화(Federated Averaging, 압축) 없이는 통신량이 매우 커, 최적화 적용 후에도 기기 간 네트워크·연산 성능 격차로 수렴 속도 저하와 특정 기기 편향 문제가 남음.
- 차등 프라이버시: 프라이버시 예산(ε)을 낮출수록 통계 정확도가 떨어지는 트레이드오프가 수학적으로 내재. 2020년 미국 인구조사에서도 데이터 이용자 커뮤니티의 정확도 저하 비판이 제기된 바 있음.
- 동형암호: 평문 연산 대비 최소 수천 배에서 많게는 수백만 배(연산 종류·구현체별 상이, 예: 곱셈 기준 IBM HElib 약 1,900만 배, MS SEAL 약 1,500만 배) 느리고, 2026년 기준으로도 실용 수준 오버헤드가 1,000배~1만 배 선. 상용 도입 비용도 최소 6자리 수 이상이 필요해, 실시간 서비스보다는 배치 처리 위주로 우선 적용되는 추세.
- 세 기법 모두 "완벽한 해법"이라기보다는 상황(실시간성 요구, 데이터 분포, 예산)에 맞춰 선택·조합해야 하는 트레이드오프 관계로 봐야 함.
관련 산업·기업 동향(PET 관련주)은 별도로 thema-stock 블로그에서 다룰 예정입니다.
AI 학습에 데이터가 필수인 시대에, 프라이버시 강화 기술(PET)은 규제와 활용이라는 두 마리 토끼를 동시에 잡을 수 있는 실질적인 대안으로 자리잡고 있습니다. 다만 속도·비용·정확도 트레이드오프가 여전히 뚜렷해, 모든 상황에 만능으로 적용하기보다는 용도에 맞는 기법 선택과 최적화가 관건으로 보입니다.
이상입니다. 감사합니다.
320x100