페드텐서 FedTensor

보안 다자간 계산(SMPC)은 여러 참여자가 각자 가진 비밀 정보를 노출하지 않으면서, 그 정보들을 종합하여 특정 함수(예: 합산, 평균)의 결과만을 얻고자 할 때 사용하는 암호 기술입니다. '덧셈 기반 비밀 공유'는 이를 구현하는 간단하면서도 강력한 방법 중 하나입니다.핵심 원리: 비밀을 조각내어 분배하기핵심 아이디어는 각자의 비밀 값을 의미 없는 여러 개의 '조각(share)'으로 나눈 뒤, 이 조각들을 서로에게 교환하는 것입니다. 어떤 참여자도 비밀 값의 조각 하나만으로는 원래 정보를 추측할 수 없지만, 모든 조각이 모이면 원래 정보를 복원할 수 있습니다. 덧셈 기반 비밀 공유에서는 비밀 값 $S$를 $S = s1 + s2 + s3 + ...$ 와 같이 여러 조각의 합으로 표현합니다.계산 절차여기서..

1. 비밀 공유(Secret Sharing)란 무엇인가?비밀 공유는 하나의 비밀 정보를 여러 개의 조각으로 나누어 서로 다른 참여자들에게 분배하는 암호 기술입니다. 이 기술의 핵심은, 정해진 수(임계값) 이상의 조각이 모여야만 원래의 비밀 정보를 복원할 수 있고, 그보다 적은 수의 조각으로는 비밀에 대한 어떠한 정보도 얻을 수 없다는 점입니다. 이러한 특성 때문에 비밀 공유는 참여자들이 자신의 입력값을 직접 노출하지 않고도 공동의 함수를 계산할 수 있게 하는 보안 다자간 계산(SMPC)의 근간이 됩니다. 예를 들어, 여러 사람이 각자의 연봉을 공개하지 않으면서 평균 연봉을 계산하고 싶을 때, 각자의 연봉을 비밀 공유 기법으로 분배한 뒤 연산을 수행하면 안전하게 결과를 얻을 수 있습니다.2. 주요 비밀 공..

1. 개요: 연합학습과 새로운 공격 표면연합학습(Federated Learning, FL)은 데이터가 생성되는 위치(예: 모바일 기기, 병원)에서 직접 모델을 학습하여 개인정보를 중앙 서버로 전송하지 않고도 협력적으로 인공지능 모델을 구축하는 분산 학습 패러다임입니다. 데이터 프라이버시를 강화하는 혁신적인 기술로 주목받고 있지만, 전통적인 중앙 집중형 머신러닝과는 다른 새로운 공격 표면(Attack Surface)을 노출합니다. 연합학습의 보안을 이해하기 위해서는 데이터가 아닌 '모델 업데이트(가중치, 그래디언트)'가 네트워크를 통해 교환된다는 점을 인지해야 합니다. 공격자는 이 교환 과정의 각 단계에 개입하여 모델의 무결성(Integrity), 가용성(Availability), 기밀성(Confident..

1. 개요연합학습(Federated Learning, FL)은 데이터를 중앙 서버로 전송하지 않고, 분산된 각 클라이언트(예: 스마트폰, 병원)에서 로컬로 모델을 학습한 뒤, 모델의 변경사항(가중치, 그래디언트 등)만을 서버로 보내 집계하는 분산형 머신러닝 패러다임입니다. 이 방식은 데이터 프라이버시를 근본적으로 강화할 수 있어 각광받고 있지만, 동시에 기존의 중앙 집중식 학습 환경과는 다른 독특하고 복잡한 공격 표면(Attack Surface)을 형성합니다. 이러한 배경에서 본 문서는 연합학습의 공격 표면을 클라이언트, 서버, 통신 채널, 모델의 네 가지 핵심 영역으로 나누어 분석하고, 각 영역에서 발생하는 대표적인 공격 기법과 이를 완화하기 위한 다층적 방어 전략을 순차적으로 제시합니다.2. 연합학습..

1. 개요 연합학습(Federated Learning, FL)은 데이터가 생성된 위치(예: 모바일, 병원)에서 데이터를 버로 이동시키지 않고 머신러닝 모델을 훈련하는 분산형 AI 기술입니다. 이는 사용자의 개인정보를 보호하면서도 대규모 데이터를 활용할 수 있는 강력한 패러다임으로 주목받고 있으며, 이로 인해 기존과 다른 새로운 보안 위협에 직면하고 있습니다. 하지만 데이터가 중앙화되지 않는다는 특성은 기존의 데이터 센터 중심 보안 모델로는 대응하기 어려운 새로운 공격 벡터와 보안 취약점을 야기합니다. 따라서 연합학습 시스템을 안전하게 구축하고 운영하기 위해서는 잠재적 위협을 체계적으로 식별하고 분석하는 위협 모델링(Threat Modeling) 프로세스가 필수적입니다. 본 문서는 STRIDE 방법론을 활..