2026.02.19 OBPR

Online Bayesian Probit Regression

trochę teorii

---

Factor graph

::: block $=f_A(x_1)\cdot f_B(x_2)\cdot f_C(x_1,x_2,x_3)\cdot f_D(x_3,x_4)\cdot f_E(x_3,x_5)$

---

TrueSkill

::: block (TrueSkill A Bayesian Skill Rating System; Ralf Herbrich, Tom Minka, Thore Graepel; Microsoft Research)

::: block

Skill gracza $i$:
$s_i\sim \mathcal{N}({\mu }_i,{\sigma }_i^2)$

Performance gracza $i$:
$p_i\sim \mathcal{N}(s_i,{\beta }^2)$

Performance drużyny $j$:
$t_j=p_i+p_j+p_k+...$

$r$ - kto wygrał
$A$ - podział na drużyny

---

Cel

Estymowacja skilli $s_i$ graczy.

---

Factor graph dla TrueSkill

::: block

Weźmy 3 drużyny. Podział na drużyny $A$: drużyna nr 1 ma tylko gracza nr 1, drużyna nr 2 ma graczy 2 i 3, drużyna nr 3 ma tylko gracza 4. $r$ - kto wygrał.

$$\mathbb{P}[s_{1,2,3,4},p_{1,2,3,4},t_{1,2,3,4}\mid r,A]$$
$$=\mathcal{N}(s_1;{\mu }_1,{\sigma }_1^2)\cdot \mathcal{N}(p_1;s_1,{\beta }^2)\cdot 1[t_1=p_1]\cdot$$
$$ \cdot \mathcal{N}(s_2;\mu_2,\sigma_2^2) \cdot \mathcal{N}(p_2; s_2,\beta^2) \cdot \mathcal{N}(s_3; \mu_3, \sigma_3^2) \cdot \mathbb{1}[t_1 = p_1] $$
$$ \ldots $$

---

Factor graph dla TrueSkill

---

Posterior

::: block

Celem jest policzenie posteriora:

$\mathbb{P}[s_1,s_2,s_3\mid r,A]=?$

Do tego używamy:

• algorytm “Sum-product message passing”
• algorytm “Expectation Propagation” (do aproksymacji)

Super wprowadzenie: gaussianbp.github.io

---

Co to ma do CTRa?

::: block $s_2$ = “slot == 007”; $s_3$ = “średni CTR usera < 0.1”

---

Jak wygląda realnie predykcja?

---

CatBoost + OBPR

---

Deep Learning + OBPR

---

Co wstawić w miejsce ”?”

::: block

• twarde $1[l_i\ge 0]$ ?

• LSH ?

• losowanie z rozkładu BinConcrete¹ (Gumbel-Max Trick), backpropagacja z wykorzystaniem wartości oczekiwanej funkcji straty, zmniejszanie temperatury wraz z trenowaniem tak, żeby w granicy wartości podawane do OBPR były binarne

::: block

---

Koniec

Footnotes

1. The Concrete Distribution: A continuous relaxation of discrete random variables https://arxiv.org/pdf/1611.00712 ↩