페드텐서 FedTensor

1. 직관적인 이해: 이산 시간에서 연속 시간으로10분에 평균 1대꼴로 오는 버스가 있습니다.단위 시간(여기서는 1분) 당 버스 도착 확률(비율): $\lambda = \frac{1}{10} = 0.1$A는 오전 9시에 버스 정류장에 도착하여 버스를 기다립니다. 버스가 도착할 시간을 1분 단위의 구간으로 나누어 생각해 봅시다.0~1분 (구간 1)1~2분 (구간 2)...각 1분 단위 구간마다 버스가 도착할 확률을 $p = 0.1$이라고 가정해 봅시다. (반대로 도착하지 않을 확률은 $1-p = 0.9$입니다.) A가 $t$분 시점까지 계속 기다리고 있을 확률(버스가 아직 도착하지 않았을 확률)을 계산해 보겠습니다.1분 후에도 못 탔을 확률:첫 번째 구간에서 안 옴: $(1-p) = 0.9$2분 후에도 못..

감마 분포(Gamma Distribution)로부터 디리클레 분포(Dirichlet Distribution)를 유도하는 과정은 확률 변수의 변환(Change of Variables) 기법을 사용하여 설명할 수 있습니다. 핵심 아이디어는 "서로 독립인 $K$개의 감마 확률 변수를 그 합으로 나누어 정규화(Normalize)하면 디리클레 분포를 따른다"는 것입니다. 단계별 유도 과정은 다음과 같습니다.1. 전제 조건 및 설정 $K$개의 서로 독립인 확률 변수 $X_1, X_2, \dots, X_K$가 있고, 각각은 척도 모수(scale parameter)가 1인 감마 분포를 따른다고 가정합니다. $$X_i \sim \text{Gamma}(\alpha_i, 1), \quad i = 1, \dots, K$$ 이..

지수 분포가 '첫 번째 사건'이 발생할 때까지의 시간이라면, 감마 분포(Gamma Distribution)는 이를 일반화하여 '$k$번째 사건'이 발생할 때까지의 시간을 모델링합니다. 지수 분포 유도 때와 마찬가지로 푸아송 과정(Poisson Process)을 기반으로 아주 직관적인 방법(미소 구간 확률)을 사용하여 유도할 수 있습니다.1. 목표 설정: 무엇을 구하는가?상황: 사건이 평균적으로 단위 시간당 $\lambda$회 발생하는 푸아송 과정.확률 변수 $T$: $k$번째 사건이 발생할 때까지 걸리는 시간.목표: $T$의 확률 밀도 함수(PDF) $f(t)$ 구하기.2. 직관적 유도 (미소 구간 접근법)확률 밀도 함수 $f(t)$의 정의를 생각해 봅시다. $f(t)dt$는 '정확히 시간 $t$ 시점에..

지수 분포의 수식을 유도하는 가장 논리적이고 표준적인 방법은 푸아송 과정(Poisson Process)에서 출발하는 것입니다. 지수 분포는 '사건이 발생할 때까지 걸리는 시간'에 대한 분포이고, 푸아송 분포는 '특정 시간 동안 발생하는 사건의 횟수'에 대한 분포입니다. 이 둘은 동전의 양면과 같습니다. 이 관계를 이용하여 지수 분포의 확률 밀도 함수(PDF)인 $f(t) = \lambda e^{-\lambda t}$를 유도해 보겠습니다. 1. 전제 조건: 푸아송 분포단위 시간당 평균 $\lambda$번 발생하는 사건이 있다고 가정합니다. 시간 $t$ 동안 사건이 총 $k$번 발생할 확률 $P(N(t)=k)$는 푸아송 분포를 따르며 다음과 같습니다. $$P(N(t) = k) = \frac{(\lambda ..

푸아송 분포(Poisson Distribution)는 이항분포(Binomial Distribution)의 특수한 극한 형태로 유도하는 것이 가장 일반적이고 직관적입니다. 단위 시간(또는 단위 공간) 안에 어떤 사건이 몇 번 발생할 것인지를 표현하는 이 분포는, "시행 횟수($n$)는 무수히 많고, 발생 확률($p$)은 매우 희박할 때"의 확률 분포입니다. 다음은 이항분포에서 출발하여 푸아송 분포의 수식을 유도하는 단계별 과정입니다.1. 기본 설정: 이항분포에서 출발먼저, 확률 변수 $X$가 시행 횟수 $n$, 성공 확률 $p$인 이항분포를 따른다고 가정합니다.$$X \sim B(n, p)$$이때 $k$번 성공할 확률 질량 함수(PMF)는 다음과 같습니다.$$P(X=k) = \binom{n}{k} p^k ..

1) 이항 분포 -> 2) 푸아송 분포 -> 3) 지수 분포 -> 4) 감마 분포 -> 5) 디리클레 분포 -> 6) Non-IID 데이터 시뮬레이션 확률 분포들이 서로 어떻게 연결되어 있는지 이해하는 것은 통계적 모델링과 데이터 시뮬레이션, 특히 머신러닝의 데이터 분포를 이해하는 데 매우 중요합니다. 위 여섯 단계는 '이산(Discrete)에서 연속(Continuous)으로', 그리고 '단일 사건에서 다변량 비율(Multivariate Proportion)로' 확장되는 흐름을 가지고 있습니다. 이 문서에서는 각 단계의 핵심 개념과 수식적 관계, 그리고 마지막으로 이를 활용한 Non-IID 데이터 시뮬레이션까지 설명합니다.1. 이항 분포(Binomial) $\rightarrow$ 푸아송 분포(Poisso..

푸아송 과정(Poisson Process)은 확률론과 통계학에서 시간에 따라 무작위로 발생하는 사건(Events)을 모델링하는 가장 대표적인 확률 과정(Stochastic Process)입니다. 쉽게 말해, "평균적으로 일정한 속도로 발생하지만, 정확한 발생 시점은 예측할 수 없는 사건들의 흐름"을 설명하는 도구입니다.1. 직관적인 정의어떤 사건이 매우 드물게, 그리고 서로 독립적으로 발생한다고 가정해 봅시다. 예를 들어:콜센터에 걸려오는 상담 전화웹사이트에 접속하는 방문자 수방사능 물질에서 방출되는 입자이러한 사건들이 시간에 따라 점(point)처럼 찍히는 과정을 수학적으로 표현한 것이 푸아송 과정입니다.2. 성립 조건 (3가지 핵심 가정)푸아송 과정이 되기 위해서는 다음의 세 가지 조건(Axioms)..

일반 상대성 이론에서 계량 텐서($g_{\mu\nu}$)는 시공간의 기하학적 구조 그 자체를 나타내는 가장 핵심적인 요소입니다. 이로부터 아인슈타인 텐서($G_{\mu\nu}$)를 유도하는 과정은 시공간이 어떻게 휘어져 있는지를 수학적으로 계산해내는 과정입니다.1. 계량 텐서 (Metric Tensor, $g_{\mu\nu}$) 란?계량 텐서는 시공간의 모든 지점에서 '거리'가 어떻게 측정되는지를 정의하는 수학적 도구입니다. 4차원 시공간(시간 1차원 + 공간 3차원)에서 계량 텐서는 4x4 대칭 행렬로 표현됩니다.핵심 역할1. 시공간 간격 (Spacetime Interval) 정의:가장 기본적인 역할입니다. 두 무한히 가까운 시공간 상의 점 $(x^\mu)$과 $(x^\mu + dx^\mu)$ 사이의 ..

일반 상대성 이론을 이해하는 데 있어 텐서와 아인슈타인의 장 방정식은 핵심적인 두 기둥입니다. 간단히 말해, 텐서는 이 이론을 기술하는 '언어'이고, 아인슈타인의 장 방정식(Einstein's Field Equations)은 그 언어로 쓰인 '핵심 문장(법칙)'입니다.1. 텐서: 휘어진 시공간의 언어 일반 상대성 이론의 핵심은 중력이 힘이 아니라 시공간(spacetime)의 휘어짐(curvature) 그 자체라는 것입니다. 문제는 이렇게 휘어져 있는 시공간에서는 우리가 흔히 쓰는 직교 좌표계(x, y, z)가 제대로 작동하지 않는다는 것입니다. 텐서가 필요한 이유:텐서는 좌표계가 변하더라도 그 물리적 본질이 변하지 않는 특별한 수학적 객체입니다.쉬운 비유: '속도'라는 벡터(vector, 1차 텐서)를 ..

1. 행렬 (Matrix) 이란 무엇인가?행렬은 숫자를 사각형 격자 안에 배열한 2차원 배열입니다. 행렬은 $m$개의 행과 $n$개의 열로 구성되며, 이를 $m \times n$ 행렬이라고 부릅니다.예시:$$ \\ A = \begin{pmatrix} 1 & 2 & 3 \\ 4 & 5 & 6 \end{pmatrix} $$(위 행렬은 $2 \times 3$ 행렬입니다.)주요 용도:선형 연립방정식의 표현 및 풀이선형 변환(Linear Transformation)의 표현: 한 벡터를 다른 벡터로 변환(회전, 확대/축소, 전단 등)하는 연산을 나타냅니다.데이터 테이블 (예: 엑셀 시트, 데이터베이스 테이블)2. 텐서 (Tensor) 란 무엇인가?텐서는 행렬의 개념을 더 높은 차원으로 일반화한 것입니다. 텐서를 이..