FL-08. 방어 전략: 기여도 평가

연합학습(Federated Learning)에서 기여도 평가(Contribution Measurement)는 시스템의 보안성, 공정성, 효율성을 높이는 데 핵심적인 방어 전략입니다.

이는 "어떤 클라이언트가 글로벌 모델 성능 향상에 '정직하게' 그리고 '유용하게' 기여했는가?"를 측정하는 기술입니다.

주요 목적은 다음과 같습니다.

• 프리라이딩(Free-riding) 방지: 학습에 기여하지 않으면서 고성능 모델만 받아 가려는 클라이언트를 식별합니다.
• 보안 위협 완화: 고의로 성능을 저하하거나 백도어를 심으려는 악의적인 업데이트(포이즈닝 공격)를 식별하고 그 영향을 줄입니다.
• 공정한 보상: 시스템에 많이 기여한 클라이언트에게 더 많은 보상(예: 인센티브, 다음 라운드 참여 우선권)을 제공합니다.

가장 큰 어려움은 서버가 클라이언트의 원본 데이터는 볼 수 없고, 오직 '모델 업데이트'(예: 가중치 파라미터, 그래디언트)라는 암호 같은 숫자들의 집합만을 보고 판단해야 한다는 점입니다.

1. 주요 기여도 평가 방법

서버가 클라이언트의 업데이트를 평가하는 대표적인 방식입니다.

1. 서버 검증 데이터셋 기반 평가 (Performance-based)

• 동작 원리: 서버가 (클라이언트의 데이터와는 다른) 소규모의 '대리(proxy)' 또는 '검증(validation)' 데이터셋을 보유합니다.
• 측정 방법:
  
  1. 현재의 글로벌 모델(M_global)을 기준으로, 이 검증 데이터셋에 대한 성능(예: 손실 값 L_global)을 측정합니다.
  2. 특정 클라이언트(예: A)의 업데이트(U_A)를 임시로 적용한 모델(M_global + U_A)을 만듭니다.
  3. 이 임시 모델로 다시 검증 데이터셋의 성능(L_A)을 측정합니다.
  4. (L_global - L_A) 값, 즉 '손실(Loss)이 얼마나 더 많이 감소했는가'를 클라이언트 A의 기여도 점수로 활용합니다.
• 장점: 가장 직관적이고 직접적인 방법입니다.
• 단점: 서버가 모든 클라이언트의 데이터 특성을 대표할 만한 '좋은' 검증 데이터셋을 가지고 있어야 하며, 이는 연합학습의 근본 취지(데이터 중앙화 방지)와 일부 상충될 수 있습니다.

2. 업데이트 유사도 기반 평가 (Similarity-based)

• 동작 원리: "정직하고 유용한 업데이트는 다른 대다수의 정직한 업데이트와 유사한 방향성을 가질 것"이라는 가정에 기반합니다.
• 측정 방법:
  
  1. 서버가 해당 라운드의 모든 클라이언트로부터 업데이트(U_1, U_2, ..., U_N)를 수집합니다.
  2. 업데이트들의 '중심' 또는 '평균적인 경향'을 계산합니다. (예: 모든 업데이트 벡터의 평균 또는 중앙값)
  3. 각 클라이언트의 업데이트가 이 '중심'과 얼마나 유사한지 코사인 유사도(Cosine Similarity)나 L2 거리(Distance) 등으로 측정합니다.
  4. 유사도가 높은 클라이언트는 높은 기여도를, 혼자만 동떨어진(Outlier) 업데이트를 보낸 클라이언트는 낮은 기여도를 받습니다.
• 장점: 서버에 별도 데이터셋이 필요 없습니다. 포이즈닝 공격(악의적 아웃라이어)을 탐지하는 데 효과적입니다.
• 단점: Non-IID (비정형) 데이터 문제. 희귀하지만 매우 유용한 데이터를 가진 클라이언트(예: 유일하게 '북극곰' 사진을 가진 클라이언트)가 '다수'와 다르다는 이유로 기여도가 낮게 평가될 수 있습니다. (공정성 문제)

3. 평판 시스템 (Reputation-based)

• 동작 원리: '한 번 잘한 클라이언트는 다음에도 잘할 것'이라는 신뢰를 기반으로, 장기적인 기여도를 추적합니다.
• 측정 방법:
  
  1. 각 클라이언트마다 '평판 점수'를 유지합니다.
  2. 매 라운드마다 위 1번(성능 기반)이나 2번(유사도 기반) 방식으로 '단기 기여도'를 측정합니다.
  3. 이 단기 기여도를 기존 평판 점수에 반영하여 업데이트합니다. (예: `새 평판 = 0.9 * 헌 평판 + 0.1 * 이번 라운드 점수`처럼 지수 이동 평균(EMA) 사용)
• 장점: 한두 번의 비정상적인 결과(예: 네트워크 오류)에 크게 영향받지 않고 안정적인 평가가 가능합니다.
• 단점: 악의적으로 변한 클라이언트(좋은 평판을 쌓다가 공격 시작)를 즉각적으로 탐지하기 어렵습니다.

4. (이론적) 섀플리 값 (Shapley Value)

• 동작 원리: 협력 게임 이론에서 가져온 개념으로, "어떤 클라이언트가 참여함으로써 모델 성능이 평균적으로 얼마나 향상되는가"를 측정합니다.
• 측정 방법:
  
  1. 모든 가능한 클라이언트의 '조합(Coalition)'을 만듭니다. (예: {A}, {B}, {A,B})
  2. {A}만 참여했을 때 성능, {B}만 참여했을 때 성능, {A,B}가 참여했을 때 성능을 모두 측정합니다.
  3. A가 B와 협력할 때의 '한계 기여도' (`성능(A,B) - 성능(B)`)를 계산합니다.
  4. A가 포함된 모든 가능한 조합에 대해 이 한계 기여도를 계산하여 평균냅니다.
• 장점: 이론적으로 가장 공정하고 정확한 기여도 배분 방식입니다.
• 단점: 클라이언트 수가 조금만 많아져도(N), 2^N 개의 조합을 테스트해야 하므로 계산량이 폭발적으로 증가하여 현실적으로 거의 불가능합니다. (이를 근사(Approximation)하려는 연구가 활발히 진행 중입니다.)

2. 기여도 평가의 구현 방안

측정된 '기여도 점수'를 실제로 시스템에 적용하는 방식입니다.

1. 가중 집계 (Weighted Aggregation)

• 방안: 연합학습의 기본 집계 방식인 'FedAvg'(Federated Averaging)는 보통 클라이언트의 데이터 개수에 비례하여 가중치를 둡니다.
• 구현: 이 가중치에 '기여도 점수'를 곱하거나 대체합니다.
• 예시: `새 글로벌 모델 = (0.2 * U_A * 0.1) + (0.5 * U_B * 0.9) + (0.3 * U_C * 0.8)` (데이터 개수 가중치 * 기여도 점수)
• 효과: 기여도가 낮은(프리라이더, 악의적) 업데이트는 가중치가 0에 가까워져 모델에 거의 영향을 미치지 못하게 됩니다.

2. 클라이언트 선택 (Client Selection)

• 방안: 서버는 매 라운드마다 학습에 참여할 클라이언트를 선택합니다.
• 구현: '평판 시스템'을 기반으로, 평판 점수(누적 기여도)가 높은 클라이언트들을 다음 라운드에 참여할 확률을 높여 우선적으로 선발합니다.
• 효과: 고품질 클라이언트가 학습을 주도하게 하여 모델 수렴 속도와 효율성을 높이고, 프리라이더는 학습에서 자연스럽게 도태시킵니다.

3. 이상 징후 탐지 및 제외 (Filtering)

• 방안: 기여도 점수를 방어적인 필터로 사용합니다.
• 구현: '유사도 기반 평가' 등에서 기여도 점수가 사전에 설정한 임계값(Threshold)보다 현저히 낮은 업데이트는 악의적이거나 시스템에 해가 된다고 간주하고, 집계(Aggregation)에서 아예 제외합니다.
• 효과: 포이즈닝 공격이나 완전히 망가진 업데이트를 원천 차단하는 강력한 방어선 역할을 합니다.

4. 인센티브 제공 (Incentive Mechanism)

• 방안: 경제학적 접근으로, 기여에 대한 보상을 제공합니다.
• 구현: 측정된 기여도 점수에 비례하여 클라이언트에게 보상(예: 암호화폐, 서비스 이용료 할인, 더 나은 모델 접근권)을 지급합니다.
• 효과: 클라이언트들이 정직하게 고품질의 데이터를 학습에 사용하도록 '자발적인 참여'를 유도하며, 프리라이딩의 동기를 근본적으로 차단합니다.

요약하자면, 기여도 평가는 "공격은 막되(보안성), 유용하지만 특이한 데이터(Non-IID)를 가진 클라이언트를 벌주지 않는(공정성)" 정교한 균형을 맞추는 것이 핵심이며, 연합학습 시스템의 신뢰도를 높이기 위한 필수적인 연구 분야입니다.