Observasjoner med sterk innvirkning på modellen
Resultatet (koeffisientene) fra en regresjonsmodell kan påvirkes sterkt av enkeltobservasjoner. Dette er en uønsket effekt, fordi hver observasjon bør bidra like mye til modellen. Det finnes flere forklaringer på hvorfor én eller noen få observasjoner har for stor effekt på modellen:
- Det er for få observasjoner i forhold til modellens kompleksitet. Som regel innebærer dette at antallet prediktorer i modellen er for stort i forhold til antallet observasjoner.
- Ekstremverdier for prediktoren X kan påvirke regresjonskoeffisienten. Pasienter med ekstremverdier kan (eventuelt) ekskluderes dersom verdien er ekstrem og heller ikke er representativ for populasjonen som studeres. Det innebærer også at verdier som ikke er biologisk plausible, kan ekskluderes.
- Noen observasjoner har verdier (for prediktorene) som ikke stemmer overens med utfallet. Dersom det finnes mange slike observasjoner i populasjonen, kan dette endre sammenhengen mellom prediktorene og utfallet. Dette bør likevel ikke føre til eksklusjon av pasientene, fordi man da risikerer å introdusere seleksjonsbias.
Man kan ta utgangspunkt i en variabels fordeling for å ekskludere pasienter med ekstreme verdier. Dette krever imidlertid ettertanke og begrunnelse. Det er også mulig å kvantifisere hvor stor innvirkning en observasjon har på modellen. Dette gjøres ved å beregne leverage. Det finnes ferdige funksjoner for dette i R. Leverage defineres som observasjonens evne til å påvirke modellen.