Lassoen utfører krymping slik at det er "hjørner" i begrensningen, som i to dimensjoner tilsvarer en diamant. Hvis summen av rutene "treffer" et av disse hjørnene, så krympes koeffisienten som tilsvarer aksen til null. … Derfor utfører lassoen krymping og (effektivt) delsettvalg.
Hvorfor gir lassoen null koeffisienter?
Lassoen utfører krymping slik at det er "hjørner" i begrensningen, som i to dimensjoner tilsvarer en diamant. Hvis summen av rutene "treffer" et av disse hjørnene, så krympes koeffisienten som tilsvarer aksen til null.
Hvorfor krymper lassoen til null, men ikke Ridge?
Det sies at fordi formen på begrensningen i LASSO er en diamant, kan den oppnådde løsningen med minste kvadrater berøre hjørnet av diamanten slik at det fører til en krymping av en variabel. Men i åsregresjon, fordi det er en sirkel, vil den ofte ikke berøre aksen
Hvorfor krymper ryggregresjon koeffisientene?
Ridge-regresjon krymper alle regresjonskoeffisienter mot null; lassoen har en tendens til å gi et sett med null regresjonskoeffisienter og fører til en sparsom løsning. Merk at for både ryggregresjon og lasso kan regresjonskoeffisientene bevege seg fra positive til negative verdier når de krympes mot null.
Er lassokoeffisienter partiske?
…lasso-krympingen fører til at estimatene av ikke-null-koeffisientene blir forspente mot null, og generelt er de ikke konsistente [Lagt til merknad: Dette betyr at, ettersom prøvestørrelsen vokser, koeffisientanslagene konvergerer ikke].
