데이터 반출 없는 다 기관 협업 인공지능 학습 인프라

전체 글 189

FL-02. 연합학습 보안 프레임워크: 체계적인 접근법

연합학습(Federated Learning, FL)은 데이터를 중앙 서버로 전송하지 않고, 각 클라이언트(예: 스마트폰, 병원)가 로컬에서 모델을 학습한 뒤, 그 결과(모델 업데이트)만을 중앙 서버에 공유하여 전체 모델을 개선하는 분산형 기계학습 방식입니다. 데이터가 로컬 환경을 벗어나지 않아 개인정보보호에 큰 장점이 있지만, 모델 업데이트 값 자체에 민감한 정보가 포함될 수 있으며, 시스템의 분산된 특성으로 인해 새로운 보안 위협이 발생할 수 있습니다. 따라서 본 문서는 연합학습 시스템을 안전하게 구축하고 운영하고자 하는 개발자 및 보안 설계자를 위해, 보안 모델 수립부터 위협 모델링, 그리고 핵심 방어 전략에 이르는 체계적인 접근법을 제시하는 것을 목표로 합니다.1. 보안 모델개념보안 모델은 시스템이..

FL-01. 연합학습 핵심 구조: 허브-앤-스포크 토폴로지

연합학습의 핵심 구조: 허브-앤-스포크 토폴로지연합학습(Federated Learning) 시스템의 가장 일반적인 구조는 허브-앤-스포크(Hub-and-Spoke) 토폴로지를 기반으로 합니다. 이는 중앙 서버(Hub)가 다수의 클라이언트(Spoke)와 연결되어 데이터 교환 없이 인공지능 모델을 훈련하는 분산형 학습 방식을 효율적으로 구현하는 핵심적인 구조입니다. 허브-앤-스포크 토폴로지란?허브-앤-스포크는 원래 물류 및 운송 네트워크에서 효율성을 극대화하기 위해 사용된 모델입니다. 중앙 집중식 허브를 통해 모든 물품이 모이고, 각 목적지(스포크)로 분산되는 방식입니다. 이 개념이 연합학습에 적용되면서 다음과 같은 구성 요소로 이루어진 시스템 아키텍처를 의미하게 되었습니다.허브 (Hub): 중앙 서버 전체..

SMPC-01. 보안 다자간 계산(SMPC) 소개 및 주요 기법 비교

1. 보안 다자간 계산(Secure Multi-Party Computation, SMPC)이란?현대 사회에서 데이터는 막대한 가치를 지니지만, 동시에 개인정보, 기업비밀 등 민감한 정보를 포함하고 있어 그 공유와 활용에 큰 제약이 따릅니다. 보안 다자간 계산(SMPC)은 이러한 딜레마를 해결하는 혁신적인 암호 기술로, 서로 신뢰하지 않는 여러 참여자가 각자의 데이터를 공개하지 않고도 공동으로 분석하고 활용할 수 있게 해줍니다. '데이터를 사용하되, 노출하지 않는다(Compute on data without seeing it)'는 원칙을 실현하여, 프라이버시를 지키면서 데이터의 가치를 극대화하는 것을 목표로 합니다. 신뢰할 수 있는 제3자(TTP, Trusted Third Party)가 존재한다면 이 문제..

유방암 양성예측도, 베이지안 추론으로 설명하기

이 글에서는 유방암 진단 결과가 양성으로 나온 경우 실제로 유방암에 걸렸을 확률을 계산하는 식을 유도합니다. 또한 진단을 전후하여 달라지는 확률에 대하여 베이지안 추론 방식으로 설명해 보고자 합니다.문제 정의관심 대상군에 속하는 여성의 1%가 유방암에 걸린다고 알려져 있습니다. 병원을 방문한 어떤 여성의 진단 결과가 양성으로 나왔고 진단에 사용한 장비의 민감도는 90 %, 특이도는 85% 입니다. 그렇다면 그 여성이 실제로 유방암에 걸렸을 확률은 얼마입니까?진단 장비의 성능혼동행렬(Confusion Matrix)진단 장비의 성능을 파악하기 위하여 질병의 유무를 알고 있는 사람들을 대상으로 진단을 수행하고 아래와 같이 혼동행렬을 작성합니다.A: 진양성(True Positive) 수B: 위양성(False P..

몬티 홀 문제, 베이지안 추론으로 설명하기

몬티 홀 문제를 풀고 이에 대하여 베이지안 추론 방식으로 설명해 보고자 합니다.몬티 홀 문제세 개의 문이 있고 한 개의 문 뒤에는 자동차, 나머지 두 개의 문 뒤에는 염소가 있습니다. 각각의 문에는 1, 2, 3으로 번호가 붙어 있고 문이 닫힌 상태에서는 뒤에 무엇이 있는지 알 수 없습니다. 게임쇼 참여자가 1번을 선택하였습니다. 이어서 문 뒤에 무엇이 있는지 알고 있는 진행자는 3번 문을 열었고 그 뒤에는 염소가 있었습니다. 게임쇼 참여자에게 선택을 2번으로 바꿀 수 있는 기회가 주어집니다. 그렇다면 1번에 머무르는 것보다 2번으로 바꾸는 것이 우승할 확률을 더 높여줄까요? 이때 선택을 바꾸는 것이 자동차를 얻을 확률을 두 배로 높여주기 때문에 유리합니다.왜 선택을 바꾸는 것이 유리할까요?많은 사람들이..