✨Khoảng cách Hellinger

Trong lý thuyết xác suất và thống kê, khoảng cách Hellinger là một đại lượng đo sự khác biệt giữa hai phân bố xác suất. Nó là một f-khoảng cách. Khoảng cách Hellinger được định nghĩa dựa trên tích phân Hellinger, đưa ra bởi Ernst Hellinger.

Để định nghĩa khoảng cách Hellinger theo lý thuyết độ đo, giả sử P và Q là hai độ đo xác suất liên tục tuyệt đối đối với một độ đo xác suất λ. Bình phương của khoảng cách Hellinger giữa P và Q được định nghĩa như sau

:$H^2(P,Q)\; =\; \backslash frac\{1\}\{2\}\backslash displaystyle\; \backslash int\; \backslash left(\backslash sqrt\{\backslash frac\{dP\}\{d\backslash lambda\; -\; \backslash sqrt\{\backslash frac\{dQ\}\{d\backslash lambda\backslash right)^2\; d\backslash lambda.$

Ở đây, dP / dλ và dQ / _d_λ là đạo hàm Radon–Nikodym của P và Q. Định nghĩa này không phụ thuộc vào λ, nên khoảng cách Hellinger giữa P và Q không thay đổi nếu λ được thay bằng một độ đo xác suất khác mà đối với nó, P and Q cũng liên tục tuyệt đối. Biểu thức trên có thể được viết gọn là

:$H^2(P,Q)\; =\; \backslash frac\{1\}\{2\}\backslash int\; \backslash left(\backslash sqrt\{dP\}\; -\; \backslash sqrt\{dQ\}\backslash right)^2.$

Để định nghĩa khoảng cách Hellinger theo lý thuyết xác suất cơ bản, ta chọn λ là độ đo Lebesgue, khi đó dP / dλ và dQ / _d_λ là các hàm mật độ xác suất. Nếu ta ký hiệu f và g là các hàm mật độ tương ứng, bình phương của khoảng cách Hellinger có thể được biểu diễn bằng tích phân thông thường như sau

:$\backslash frac\{1\}\{2\}\backslash int\; \backslash left(\backslash sqrt\{f(x)\}\; -\; \backslash sqrt\{g(x)\}\backslash right)^2\; dx.$

Khoảng cách Hellinger H(P, Q) thỏa mãn

: $0\backslash le\; H(P,Q)\; \backslash le\; 1.$

Khoảng cách đạt giá trị cực đại là 1 khi P có xác suất bằng 0 tại những phần tử có xác suất dương trong Q và ngược lại.

Đôi khi hệ số 1/2 bên ngoài tích phân bị bỏ qua, khi đó khoảng cách Hellinger nằm trong khoảng từ 0 đến 2.

Khoảng cách Hellinger có liên hệ với hệ số Bhattacharyya $BC(P,Q)$ như sau

: $H(P,Q)\; =\; \backslash sqrt\{1\; -\; BC(P,Q)\}.$

Bình phương khoảng cách Hellinger luôn nhỏ hơn hoặc bằng khoảng cách Jensen-Shannon. :$H^2(P,\; Q)\; \backslash le\; JSD(P\; \backslash parallel\; Q)$

Khoảng cách Hellinger có liên hệ với khoảng cách L1 như sau . :$\backslash frac\{1\}\{2\}|P-Q|\_1\; \backslash le\; H(P,\; Q)\backslash sqrt\{2-H^2(P,\; Q)\}$

Ví dụ

Bình phương khoảng cách Hellinger giữa hai phân phối chuẩn $\backslash scriptstyle\; P\backslash ,\backslash sim\backslash ,\backslash mathcal\{N\}(\backslash mu\_1,\backslash sigma\_1^2)$ và $\backslash scriptstyle\; Q\backslash ,\backslash sim\backslash ,\backslash mathcal\{N\}(\backslash mu\_2,\backslash sigma\_2^2)$ là: : $H^2(P,\; Q)\; =\; 1\; -\; \backslash sqrt\{\backslash frac\{2\backslash sigma\_1\backslash sigma\_2\}\{\backslash sigma\_1^2+\backslash sigma\_2^2\; \backslash ,\; e^\{-\backslash frac\{1\}\{4\}\backslash frac\{(\backslash mu\_1-\backslash mu\_2)^2\}\{\backslash sigma\_1^2+\backslash sigma\_2^2.$

Bình phương khoảng cách Hellinger giữa hai phân phối mũ $\backslash scriptstyle\; P\backslash ,\backslash sim\; \backslash ,\backslash rm\{Exp\}(\backslash alpha)$ và $\backslash scriptstyle\; Q\backslash ,\backslash sim\backslash ,\backslash rm\{Exp\}(\backslash beta)$ là: : $H^2(P,\; Q)\; =\; 1\; -\; \backslash frac\{2\; \backslash sqrt\{\backslash alpha\; \backslash beta\{\backslash alpha\; +\; \backslash beta\}.$

Bình phương khoảng cách Hellinger giữa hai phân phối Weibull $\backslash scriptstyle\; P\backslash ,\backslash sim\; \backslash ,\backslash rm\{W\}(\backslash alpha,\backslash beta)$ và $\backslash scriptstyle\; Q\backslash ,\backslash sim\backslash ,\backslash rm\{W\}(\backslash alpha,d)$ (trong đó $\backslash alpha$ là tham số hình dạng và $\backslash beta\backslash ,,\; d$ là các tham số tỉ lệ): : $H^2(P,\; Q)\; =\; 1\; -\; \backslash frac\{2\; (\backslash beta\; d)^\{\backslash alpha/2\{\backslash beta^\{\backslash alpha\}\; +\; d^\{\backslash alpha.$