페드텐서 FedTensor

익명화(Anonymization)는 개인 식별 정보를 제거하거나 변환하여 데이터의 유용성은 유지하면서 개인정보를 안전하게 보호하는 핵심 기술입니다. 본 문서는 성공적인 데이터 익명화를 위해 '왜' 익명화가 필요한지 이해하고, 보호 수준을 측정하는 '무엇(프라이버시 모델)'을 배우며, 이를 구현하는 '어떻게(처리 기법)'를 단계적으로 알아봅니다.1. 주요 용어 정리익명화 기법을 이해하기 전에 몇 가지 핵심 용어를 알아두는 것이 좋습니다.식별자 (Identifier): 그 자체만으로 특정 개인을 바로 알아볼 수 있는 정보입니다. (예: 주민등록번호, 여권번호, 이름, 전화번호)준식별자 (Quasi-identifier): 단독으로는 개인을 식별하기 어렵지만, 다른 정보와 결합하면 특정 개인을 추론할 수 있는 ..

개인정보 보호 기술의 세계에는 서로 다른 두 가지 접근법이 존재합니다. 바로 k-익명성(k-anonymity)으로 대표되는 '데이터 익명화'와 차등 정보보호(Differential Privacy)라는 '통계적 프라이버시'입니다.​결론부터 말하자면, 차등 정보보호는 k-익명성, l-다양성, t-근접성과 직접적으로 비교하거나 연관 짓기 어렵습니다. 이 둘은 서로를 대체하는 관계가 아닌, 각기 다른 문제 상황을 해결하기 위한 별개의 도구이기 때문입니다.​핵심 차이점: '데이터'를 보호하는가, '분석 결과'를 보호하는가?두 기술의 가장 큰 차이는 무엇을 보호의 대상으로 삼는지에 있습니다.1. k-익명성 (k-anonymity), l-다양성, t-근접성​"데이터 자체를 수정하여 안전하게 만든다"​이 기법들은 데이..

서론​데이터가 21세기의 원유라면, 개인정보는 지켜야 할 가장 중요한 자산입니다. 빅데이터와 AI 시대는 이 두 가치가 충돌하는 '데이터 패러독스'의 시대이기도 합니다. 이러한 딜레마 속에서 대한민국의 개인정보보호위원회(이하 '개인정보위')는 '보호'와 '활용'의 균형을 맞추기 위한 정책적 방향성을 가이드라인을 통해 제시하고 있습니다. 그러나 정책적 목표만으로는 안전한 데이터 생태계를 구축할 수 없습니다. 본 문서는 개인정보위 가이드라인이 제시하는 '안전한 활용'이라는 정책적 이상과 '재식별 위험'이라는 기술적 현실 사이의 간극을 분석하고, '차등 정보보호' 기술이 어떻게 그 간극을 메우는 수학적 신뢰의 다리가 될 수 있는지 그 가능성을 제시하고자 합니다.​1부: 개인정보위 가이드라인의 정책적 함의와 과..

1. NIST 개인정보보호 엔지니어링 프로그램(PEP) 개요미국 국립표준기술연구소(NIST)는 개인정보보호 엔지니어링 프로그램(Privacy Engineering Program, PEP)을 운영하고 있습니다. 이 프로그램의 목표는 신뢰할 수 있는 정보 시스템의 개발을 지원하는 것입니다. 이 프로그램의 핵심 목표는 측정 과학과 시스템 엔지니어링 원칙을 적용하여 개인정보보호 위험을 관리하고 완화할 수 있는 프레임워크, 지침, 도구 및 표준을 개발하고 보급하는 것입니다.​주요 활동은 다음과 같습니다.위험 관리: 조직이 개인정보보호 문제를 식별, 평가, 관리하고 개인에게 미치는 부정적인 영향을 줄일 수 있도록 지원합니다. 대표적인 결과물이 'NIST 개인정보보호 프레임워크(NIST Privacy Framewor..

정보 보안 기술과 개인정보보호 강화 기술(PETs)은 데이터를 보호한다는 공통점을 갖지만, 목표와 범위, 핵심 기능에서 뚜렷한 차이를 보입니다. 정보 보안 기술이 외부의 위협으로부터 데이터라는 성을 지키는 '견고한 방패'라면, PETs는 성 안의 중요한 개인정보를 보호하면서도 안전하게 바깥과 교류(활용)할 수 있도록 길을 열어주는 '마법 열쇠'에 비유할 수 있습니다. 핵심 목표의 차이 가장 큰 차이는 기술이 추구하는 핵심 목표에 있습니다. 정보 보안 기술: 정보의 기밀성(Confidentiality), 무결성(Integrity), 가용성(Availability), 즉 '정보 보안의 3요소(CIA Triad)' 보장을 최우선으로 합니다. 허가되지 않은 접근을 막고, 데이터 위변조를 방지하며, 필요할 때 언..

전역 민감도(Global Sensitivity)는 데이터셋 자체와는 무관하게, 오직 질의(query) 함수에 의해서만 결정된다.1. 간단한 비유로 시작하기학교 선생님이 학생들의 키를 조사한다고 상상해 봅시다. 선생님은 두 가지 질문(질의)을 할 수 있습니다.질의 1(COUNT): "우리 반 학생은 총 몇 명인가요?"질의 2(SUM): "우리 반 학생들의 키(cm)를 모두 더하면 얼마인가요?"이때, '민감도'란 "학생 한 명이 전학을 오거나 갔을 때, 질문의 답이 얼마나 크게 변할 수 있는가?"를 의미합니다.질의 1(COUNT): 학생 한 명이 추가되거나 빠지면, '총 학생 수'는 언제나 정확히 1만큼 변합니다. 우리 반에 어떤 학생들이 있는지, 그들의 키가 몇인지는 전혀 중요하지 않습니다. 이 질의의 민..

차등 정보보호(Differential Privacy)는 "어떤 한 개인이 데이터셋에 포함되거나 포함되지 않더라도, 분석 결과는 거의 바뀌지 않아야 한다"는 강력한 개인정보보호 모델입니다. 여기서 '거의 바뀌지 않음'을 수학적으로 엄밀하게 정의하기 위해 사용되는 핵심 도구가 바로 인접 데이터셋(Adjacent Datasets)입니다. 간단히 말해, 인접 데이터셋이란 단 한 사람의 데이터만 다른 두 개의 데이터셋을 의미합니다.인접 데이터셋의 두 가지 주요 정의인접 데이터셋을 정의하는 방식은 크게 두 가지로 나뉩니다. 어떤 시나리오에서 개인정보를 보호하고 싶은지에 따라 적절한 정의를 사용합니다.1. 레코드 추가/삭제 (비제한적 인접성, Unbounded Adjacency)가장 일반적인 정의입니다. 두 데이터셋..

데이터 처리 방식에 따른 분류데이터에 직접 적용되어 프라이버시를 보장하는 핵심 알고리즘들입니다.노이즈 추가차등 정보보호에서 가장 보편적으로 사용되는 기법입니다. 핵심 원리는 데이터베이스에 대한 통계적 질의(Query)의 결과값에 수학적으로 생성된 '노이즈(noise)'라고 불리는 무작위 숫자를 더하여, 개별 데이터의 기여도를 모호하게 만드는 것입니다.작동 원리쿼리 실행: 데이터 분석가가 데이터베이스에 쿼리(예: "30대 사용자들의 평균 소득은 얼마인가?")를 실행하면, 시스템은 먼저 실제 결과값을 계산합니다.민감도(Sensitivity) 계산: 쿼리 결과가 데이터베이스 내의 단 한 사람의 데이터 변화에 의해 얼마나 크게 변할 수 있는지를 측정합니다. 예를 들어, 한 사람의 데이터를 추가하거나 제거했을 때..

차등의 의미차등 정보보호(Differential Privacy)에서 '차등(differential)'이라는 단어는 '차이(difference)'를 의미하며, 데이터베이스에 특정 개인의 데이터가 포함되거나 포함되지 않았을 때, 또는 변경되었을 때 발생하는 '결과의 차이를 제어'하는 기술의 핵심 개념을 직접적으로 나타냅니다.이 용어는 2006년 컴퓨터 과학자 신시아 드워크(Cynthia Dwork)가 발표한 논문 "Differential Privacy"에서 처음으로 공식화되었습니다. 이 개념의 핵심은 데이터베이스에 대한 질의(query) 결과가 특정 개인의 데이터 유무, 또는 변경에 따라 크게 달라지지 않도록 보장하는 것입니다. 즉, 데이터베이스에서 한 사람의 정보를 추가, 삭제, 또는 변경하더라도 분석 결..

재식별 위험, 어떻게 측정할 수 있을까?데이터가 공개될 때 우리가 느끼는 '왠지 모를 불안감'을 숫자로 측정할 수 있다면 어떨까요? 놀랍게도, 프라이버시 보호 기술은 그 막연한 불안감을 구체적인 '위험도'로 계산하고 관리하는 것을 목표로 합니다. 그 실마리는 '한 개인의 정보가 전체 결과에 미치는 영향'을 살펴보는 데 있습니다. 데이터베이스에 내 정보가 추가됨으로 인해 통계 결과가 크게 달라진다면, 역으로 그 결과를 통해 나를 특정하기 쉬워진다는 의미입니다. 반대로 내 정보가 추가되어도 결과에 거의 변화가 없다면, 나는 수많은 데이터 속에 안전하게 숨을 수 있습니다. 즉, 재식별 위험을 낮추려면 개인의 정보가 결과에 미치는 영향(차이)을 최소화해야 합니다.상황 1: N명의 데이터베이스 → 통계 결과 A상..