Mamy dany rozkład (dowolny, niekoniecznie normalny) o średniej i skończonej wariancji . Losujemy z niego wartości i liczymy średnią z tych wartości. Rozkład wartości tej średniej można przybliżyć rozkładem normalnym dla dużych .
Konkretniej, rozkład zmiennej losowej zbiega do gdy dąży do nieskończoności.