ELBO

Evidence Lower Bound.

Definicja

$L(q,p;D_n)={\mathbb{E}}_{\theta \sim q}[\log p(y,\theta |x)]-H[q]$ gdzie $H$ to Entropia.

Skąd nazwa

Nazwa wzięła się stąd, że ELBO to jest dolne ograniczenie na evidence, czyli Marginal likelihood.

Źródło: Probabilistic Artificial Intelligence