Lítost (také nazývaná ztráta příležitosti) je definována jako rozdíl mezi skutečnou výplatou a výplatou, které by bylo dosaženo, kdyby byl zvolen jiný postup. Tomu se také říká lítost rozdílu. Poměr lítosti je navíc poměr mezi skutečnou výplatou a tou nejlepší.
Metoda minimax lítosti má minimalizovat nejhorší případ lítosti. Jejím cílem je co nejvíce se přiblížit optimálnímu průběhu. Vzhledem k tomu, že kritérium minimax, které je zde použito, se týká spíše lítosti (rozdílu nebo poměru výplat) než samotné výplaty, není tak pesimistické jako běžná metoda minimax. Podobné přístupy byly použity v řadě oblastí, například:
To se liší od standardního minimaxového přístupu tím, že používá rozdíly nebo poměry mezi výsledky, a tak vyžaduje intervalové nebo poměrové měření, stejně jako řadové měření (ranking), jako ve standardním minimaxu.
Předpokládejme, že investor si musí vybrat mezi investováním do akcií, dluhopisů nebo peněžního trhu a celkový výnos závisí na tom, co se stane s úrokovými sazbami. Následující tabulka ukazuje některé možné výnosy:
Hrubá volba maximalizace založená na výnosech by byla investovat na peněžním trhu, což by zajistilo výnos nejméně 1. Pokud by však úrokové sazby klesly, pak by lítost spojená s touto volbou byla velká. To by bylo −11, což je rozdíl mezi obdrženou 1 a 12, které by mohly být obdrženy, pokud by byl výnos znám předem. Smíšené portfolio okolo 11,1% v akciích a 88,9% na peněžním trhu by zajistilo výnos nejméně 2,22; pokud by však úrokové sazby klesly, byla by lítost okolo −9,78.
Tabulka lítosti pro tento příklad, sestavená odečtením nejlepších výnosů od skutečných výnosů, je následující:
Proto při použití volby minimax založené na lítosti by bylo nejlepší investovat do dluhopisů, což by zajistilo lítost ne horší než −5. Smíšené investiční portfolio by si vedlo ještě lépe: 61,1% investováno do akcií a 38,9% na peněžním trhu by přineslo lítost ne horší než asi −4,28.
Teorie lítosti je modelem volby za nejistoty. Vyvinutá Grahamem Loomesem a Robertem Sugdenem, zobecňuje přístup minimax lítosti. Volba je modelována jako minimalizace funkce vektoru lítosti, definované jako rozdíl mezi výsledkem, který daná volba přinese, a nejlepším výsledkem, kterého by mohlo být dosaženo v tomto stavu přírody.
Příklad: Nastavení lineárního odhadu
Následuje ilustrace toho, jak lze koncept lítosti použít pro návrh lineárního odhadu. Lítost je rozdíl mezi střední kvadratickou chybou (MSE) lineárního odhadu, který nezná parametr , a střední kvadratickou chybou (MSE) lineárního odhadu, který zná . Protože je také odhad omezen na lineární, nemůže být v druhém případě dosaženo nulové MSE.
Vezměme si problém odhadu neznámého vektoru deterministických parametrů z hlučných měření v lineárním modelu
kde je známá matice s plným sloupcem rank , A je nula střední náhodný vektor s kovariance matice , který modeluje šum.
být lineární odhad z , Kde je některé matice. MSE tohoto odhadu je dána
Vzhledem k tomu, že MSE na něm explicitně závisí, nelze jej přímo minimalizovat. Místo toho lze použít pojem lítosti, aby bylo možné definovat lineární odhad s dobrým výkonem MSE. Pro definování lítosti zde zvažte lineární odhad, který zná hodnotu parametru , tj. matice může explicitně záviset na :
Chcete-li najít optimální , Je diferencovaný s ohledem na a rovnítko k 0 dostat
a pomocí Matrix Inversion Lemma
Nahrazení tohoto zpět do
Jedná se o nejmenší MSE dosažitelný s lineárním odhadem, který ví . V praxi tohoto MSE nelze dosáhnout, ale slouží jako vázaný na optimální MSE. Lítost je definována
Přístup minimax lítosti je zde minimalizovat nejhorší případ lítosti, jak je definováno výše. To umožní výkon co nejblíže nejlepšímu dosažitelnému výkonu v nejhorším případě parametru . I když se tento problém zdá obtížný, může být formulován jako problém konvexní optimalizace a definitivně vyřešen. Podrobnosti o tom viz Eldar, Tal a Nemirovski (2004). Podobné nápady mohou být použity, když je náhodný s nejistotou v kovarianční matici. Pro to viz Eldar a Merhav (2004), a Eldar a Merhav (2005).