FedTensor

시빌 공격(Sybil Attack)은 하나의 공격자가 수많은 가짜 신원(Sybils)을 생성하여, 분산 시스템이나 P2P 네트워크에서 자신이 다수인 것처럼 위장하고 부당한 영향력을 행사하려는 공격입니다. 이 이름은 다중인격장애를 다룬 1973년작 소설 '시빌(Sybil)'에서 유래했습니다.1. 시빌 공격의 핵심 원리 대부분의 분산 시스템은 '1인 1표' 또는 '다수결'의 원칙에 따라 작동합니다. 시빌 공격은 이 점을 악용합니다.정상 시스템: 100명의 정직한 사용자와 1명의 공격자가 있다면, 공격자의 영향력은 1%에 불과합니다. 시빌 공격: 100명의 정직한 사용자가 있는 시스템에, 1명의 공격자가 1,000개의 가짜 계정(시빌)을 만들어 참여합니다. 이제 시스템은 1,100명의 "사용자"가 있는 것으로..

연합학습(Federated Learning)에서 기여도 평가(Contribution Measurement)는 시스템의 보안성, 공정성, 효율성을 높이는 데 핵심적인 방어 전략입니다. 이는 "어떤 클라이언트가 글로벌 모델 성능 향상에 '정직하게' 그리고 '유용하게' 기여했는가?"를 측정하는 기술입니다. 주요 목적은 다음과 같습니다. 프리라이딩(Free-riding) 방지: 학습에 기여하지 않으면서 고성능 모델만 받아 가려는 클라이언트를 식별합니다. 보안 위협 완화: 고의로 성능을 저하하거나 백도어를 심으려는 악의적인 업데이트(포이즈닝 공격)를 식별하고 그 영향을 줄입니다. 공정한 보상: 시스템에 많이 기여한 클라이언트에게 더 많은 보상(예: 인센티브, 다음 라운드 참여 우선권)을 제공합니다.가장 큰 어려움..

연합학습에서 견고한 집계 전략(Robust Aggregation Strategy)은 악의적인 클라이언트가 전송하는 비정상적인 업데이트(Outlier)로부터 글로벌 모델을 보호하기 위한 서버 측 방어 기법입니다. 기본적인 FedAvg는 모든 클라이언트의 업데이트를 '단순 평균'하기 때문에, 하나의 강력한 악성 업데이트만으로도 전체 글로벌 모델이 쉽게 오염될 수 있습니다(포이즈닝 공격). 견고한 집계 전략들은 "정직한 클라이언트의 업데이트는 (고차원 공간에서) 서로 유사한 경향을 보일 것이고, 악의적인 업데이트는 이들로부터 멀리 떨어져 있을 것"이라는 핵심 가정을 기반으로, 이러한 이상치를 식별하고 그 영향을 최소화하거나 완전히 제거합니다. 주요 견고한 집계 전략들은 다음과 같습니다.1. 절삭 평균 (Tri..

모델 역공격과 멤버십 추론은 모델의 '학습 데이터'를 표적으로 삼아 프라이버시를 침해하는 반면, 모델 탈취는 '모델 자체'를 표적으로 삼아 지적 재산을 훔치는 공격입니다. 다음은 세 가지 공격 유형에 대한 비교 설명입니다.공격 유형별 비교 요약공격 유형모델 역공격 (Model Inversion)멤버십 추론 공격 (Membership Inference)모델 탈취/추출 (Model Stealing/Extraction)주요 목표학습 데이터의 특징 또는 원본 복원특정 데이터가 학습에 사용되었는지 확인원본 모델과 동일한 성능의 모델 복제공격 대상모델의 출력값, 신뢰도 점수모델의 신뢰도 점수 차이모델 API의 입력/출력 (질의-응답)핵심 침해데이터 프라이버시데이터 프라이버시지적 재산(IP)1. 모델 역공격 (Mod..

인공지능 모델의 보안 위협 중 하나인 멤버십 추론 공격에 대해 소개하고, 실제 적용 사례를 제시합니다.멤버십 추론 공격 소개멤버십 추론 공격은 특정 데이터가 AI 모델의 학습 데이터 세트에 포함되었는지 여부를 알아내려는 프라이버시 공격입니다.1. 공격의 목표와 원리목표: 공격자는 자신이 가진 특정 데이터(예: A라는 사람의 의료 기록, B의 사진)가 이 모델을 학습시키는 데 사용되었는지 '예' 또는 '아니오'로 판별하는 것을 목표로 합니다.핵심 원리: AI 모델, 특히 딥러닝 모델은 학습 데이터에 과적합(overfitting)되는 경향이 있습니다. 즉, 모델은 자신이 학습한 '본 적 있는' 데이터와 '처음 보는' 데이터에 대해 미묘하게 다르게 반응합니다. 학습 데이터(멤버): 모델이 이미 학습한 데이터가..

인공지능(AI) 모델, 특히 딥러닝 모델의 구조(architecture)와 파라미터(parameter, 가중치)는 모델의 핵심 지적 재산(IP)이자 성능을 좌우하는 전부입니다. 이러한 정보가 유출되는 것은 기업이나 연구 기관에 막대한 금전적, 전략적 손실을 초래할 수 있는 심각한 보안 위협입니다. 이러한 위협은 크게 '모델 탈취(Model Stealing)' 또는 '모델 추출(Model Extraction)' 공격의 범주에 속합니다.1. 모델 구조 누출모델 구조 누출은 AI 모델의 '청사진'을 훔치는 행위입니다. 이는 모델이 몇 개의 레이어로 구성되어 있는지, 각 레이어는 어떤 종류(e.g., Convolutional, Recurrent, Transformer)인지, 어떻게 연결되어 있는지 등의 하이퍼파..

1. 개요: 연합학습과 새로운 공격 표면연합학습(Federated Learning, FL)은 데이터가 생성되는 위치(예: 모바일 기기, 병원)에서 직접 모델을 학습하여 개인정보를 중앙 서버로 전송하지 않고도 협력적으로 인공지능 모델을 구축하는 분산 학습 패러다임입니다. 데이터 프라이버시를 강화하는 혁신적인 기술로 주목받고 있지만, 전통적인 중앙 집중형 머신러닝과는 다른 새로운 공격 표면(Attack Surface)을 노출합니다. 연합학습의 보안을 이해하기 위해서는 데이터가 아닌 '모델 업데이트(가중치, 그래디언트)'가 네트워크를 통해 교환된다는 점을 인지해야 합니다. 공격자는 이 교환 과정의 각 단계에 개입하여 모델의 무결성(Integrity), 가용성(Availability), 기밀성(Confident..

1. 개요연합학습(Federated Learning, FL)은 데이터를 중앙 서버로 전송하지 않고, 분산된 각 클라이언트(예: 스마트폰, 병원)에서 로컬로 모델을 학습한 뒤, 모델의 변경사항(가중치, 그래디언트 등)만을 서버로 보내 집계하는 분산형 머신러닝 패러다임입니다. 이 방식은 데이터 프라이버시를 근본적으로 강화할 수 있어 각광받고 있지만, 동시에 기존의 중앙 집중식 학습 환경과는 다른 독특하고 복잡한 공격 표면(Attack Surface)을 형성합니다. 이러한 배경에서 본 문서는 연합학습의 공격 표면을 클라이언트, 서버, 통신 채널, 모델의 네 가지 핵심 영역으로 나누어 분석하고, 각 영역에서 발생하는 대표적인 공격 기법과 이를 완화하기 위한 다층적 방어 전략을 순차적으로 제시합니다.2. 연합학습..

1. 개요 연합학습(Federated Learning, FL)은 데이터가 생성된 위치(예: 모바일, 병원)에서 데이터를 버로 이동시키지 않고 머신러닝 모델을 훈련하는 분산형 AI 기술입니다. 이는 사용자의 개인정보를 보호하면서도 대규모 데이터를 활용할 수 있는 강력한 패러다임으로 주목받고 있으며, 이로 인해 기존과 다른 새로운 보안 위협에 직면하고 있습니다. 하지만 데이터가 중앙화되지 않는다는 특성은 기존의 데이터 센터 중심 보안 모델로는 대응하기 어려운 새로운 공격 벡터와 보안 취약점을 야기합니다. 따라서 연합학습 시스템을 안전하게 구축하고 운영하기 위해서는 잠재적 위협을 체계적으로 식별하고 분석하는 위협 모델링(Threat Modeling) 프로세스가 필수적입니다. 본 문서는 STRIDE 방법론을 활..