Żeby system działał, tzn. robił to co chcemy, trzeba dobrać odpowiedni cel. System wykorzysta zadany cel do cna, nie zważając jakie mieliśmy intencje projektując ten cel.
Przykłady:
- Chcemy mieć lepszą edukację. Uznajemy, że miarą edukacji jest kwota przeznaczaną na pojedynczego ucznia. Projektujemy więc system, który ma zwiększyć średnią kwotę przeznaczaną na ucznia i system dokładnie to zrobi. Ale czy to faktycznie będzie miało przełożenie na lepszą edukację?
- Analogicznie, możemy pomyśleć, że miarą jakości edukacji jest zdawalność jakiegoś testu. Spowoduje to tylko tyle, że cały system będzie dążył do polepszenia zdawalności tego testu, ale czy to polepszenie będzie faktycznie oznaczało polepszenie edukacji?
- Często miarą dobrobytu jest produkt krajowy brutto. Ale czy PKB mówi o jakości edukacji czy szkolnictwa? Albo o nierówności majątkowej? No nie. Ba, produkcja słabych jakościowo rzeczy może zwiększyć PKB, ale zmniejszyć odczuwalny dobrobyt.
Rozwiązanie: trzeba bardzo ostrożnie projektować cel, który zadajemy systemowi.
Źródło: Thinking in Systems. A Primer