In statistica, l'efficienza è una misura di desiderabilità di uno stimatore. L'efficienza di una statistica corretta per un parametro è definita come:
dove è l'informazione di Fisher del campione; è uguale al rapporto tra la minima varianza possibile per uno stimatore di e la sua varianza effettiva. La disuguaglianza di Cramér-Rao implica che .
Stimatore efficiente
[modifica | modifica wikitesto]Se uno stimatore di un parametro è tale che per tutti i possibili valori del parametro, lo stimatore si dice efficiente (in senso assoluto). In termini equivalenti, uno stimatore è detto efficiente (in senso assoluto) se la sua varianza raggiunge il limite inferiore di Cramér-Rao .
Se uno stimatore efficiente (in senso assoluto) è anche corretto, esso è uno stimatore MVUE, o stimatore corretto di varianza minima (dall'inglese Minimum Variance Unbiased Estimator). Questo perché, chiaramente, nessuno stimatore corretto alternativo potrà essere caratterizzato da una varianza minore. È interessante osservare che, per contro, uno stimatore corretto di varianza minima (MVUE) non è necessariamente efficiente in senso assoluto: potrebbe infatti esistere uno stimatore distorto la cui varianza raggiunge il limite inferiore di Cramér-Rao.
Efficienza asintotica
[modifica | modifica wikitesto]Alcuni stimatori conseguono l'efficienza in senso assoluto soltanto asintoticamente, ossia se la dimensione del campione di cui sono funzione tende all'infinito. Si parla in tal caso di stimatori asintoticamente efficienti. Questo è il caso, ad esempio, degli stimatori di massima verosimiglianza.
Esempi
[modifica | modifica wikitesto]Si consideri un campione di dimensione estratto da una popolazione normale con valore atteso e varianza unitaria (ossia, ).
La media campionaria del campione , definita come:
ha varianza pari a . Questo valore è uguale al reciproco dell'informazione di Fisher del campione, e dunque, per la disuguaglianza di Cramér-Rao, la media campionaria è uno stimatore efficiente in senso assoluto.
Si consideri ora la mediana campionaria; essa è uno stimatore distorto, ma consistente per . In particolare, per la mediana campionaria ha distribuzione approssimativamente normale, con valore atteso e varianza . La sua efficienza è dunque all'incirca 0.64. Si osservi inoltre che questa è una misura dell'efficienza asintotica; in campioni ridotti (valori finiti di ) l'efficienza è in effetti maggiore (ad esempio, per si ha un'efficienza di circa 0.74). Si osservi inoltre che in certe applicazioni la mediana è preferita alla media, sulla base che la sua maggiore robustezza (minore sensibilità alla presenza di valori anomali nel campione) compenserebbe la minore efficienza.
Efficienza relativa
[modifica | modifica wikitesto]Si considerino due statistiche campionarie, e , stimatori per il parametro ; il senso comune suggerisce che è «più efficiente» di se:
- il suo errore quadratico medio (o MSE, dall'inglese Mean Squared Error) non eccede quello di per ogni possibile valore assunto da ;
- lo MSE è minore per almeno un valore di .
Formalmente,
, ed tale che valga la disuguaglianza stretta.
L'efficienza relativa di rispetto a è allora definita da:
Sebbene sia in generale una funzione di , spesso ciò non è verificato; in tal caso, un valore di minore di 1 indicherebbe che lo stimatore è preferibile (più efficiente), a prescindere dal vero valore di .