s
19 708 Pages

Procédé selon la moindres carrés généralisés de Aitken permet l'estimation d'un modèle linéaire, sous des hypothèses plus générales que le modèle classique régression linéaire Multivariée.

Parce que les hypothèses plus générales?

Sur la base du critère de Le rasoir d'Occam, formuler des hypothèses plus général Elle pose un coût en termes de traitabilité d'un modèle, est donc généralement préférable de ne pas sacrifier la simplicité et l'élégance du modèle classique de régression linéaire, en plaçant l'hypothèse plus générale. Dans d'autres cas, comme dans les exemples suivants, il existe des motifs raisonnables qui rendent la formulation des hypothèses moins restrictives.

  • L'absence / présence de corrélation dans les troubles: dans l'analyse de séries chronologiques données est à prévoir qu'il existe une certaine relation entre les observations faites à des instants successifs; par exemple: l'évolution des taux de natalité dans une zone géographique donnée, la tendance au fil du temps d'un signal électrique ou le rendement d'une part;
  • sur homoscédasticité/hétéroscédasticité Bruit: Où Campionino unités statistiques intrinsèquement hétérogènes peuvent prévoir que les variance la maladie peut varier d'observation pour l'observation; par exemple: analyse de la consommation d'un échantillon de ménages ou de la production d'un échantillon d'entreprises, l'étude d'incidence d'une maladie génétique transmise dans un échantillon de régions.

Limitations du modèle classique de régression linéaire

Le modèle classique régression linéaire Elle impose des hypothèses relativement restrictives sur la structure matrice variances-covariance bruit modèle:

En particulier, on suppose que les perturbations ont valeur attendue zéro: , et sont pris en charge:

  • aucun corrélation: ;
  • homoscédasticité: ;

ces hypothèses peuvent être écrites synthétiquement, en notation matricielle, tels que:

désigne un matrice Commandez l'identité appropriée. Considérons une structure plus générale, comme:

est un matrice définie positive tout. Cela signifie admettre la possibilité d'interférence et la corrélation hétéroscédasticité. Ensuite, envisager la valuer de moindres carrés ordinaire (OLS, de 'Anglais Moindres carrés ordinaires) Dérivé dans le cadre du modèle classique régression linéaire:

Ils veulent évaluer les propriétés statistiques sous les hypothèses les plus générales données ci-dessus. L'estimateur jouit encore de la propriété exactitude:

Comment matrice variances-covariance , nous avons:

S'il vous plaît noter que le matrice variances-covariance , sous les hypothèses du modèle classique régression linéaire, Elle est donnée par . En général, vous ne pouvez pas déterminer si est supérieure ou inférieure à (Par exemple, dans le sens de Gauss-Markov), Comme cela dépend , qui en général n'est pas connue. Toutefois, il est raisonnable de penser que l'estimateur Il n'est pas, dans ce cas, optimal dans le sens établi par la Gauss-Markov sous les hypothèses du modèle classique.

estimateur des moindres carrés généralisés

Selon des hypothèses énoncées ci-dessus, il peut être démontré que valuer est la meilleure méthode valuer moindres carrés généralisés (GLS ou, de 'Anglais Moindres carrés généralisés) de Aitken:

Heuristiquement on peut dire que l'effet du temps dans l'expression ci-dessus, l'estimateur attribue un plus grand poids aux observations caractérisées par une faible variance qu'ils sont donc à considérer comme « fiable ».

Dérivation de l'estimateur GLS

l'estimateur Il peut être interprété comme un estimateur OLS basé sur les variables transformées. On suppose qu'il y a en fait une matrice pas singulier de telle sorte que:

de sorte que . Multiplier les deux côtés de pour Nous avons le modèle dans les variables transformées:

Il est immédiatement noté que:

Le modèle des variables transformées se produit, par conséquent, les hypothèses de modèle linéaire classique. Il utilise ainsi la valuer OLS:

Cette dernière expression est autre que l'estimateur GLS ou généralisée des moindres carrés.

les propriétés de l'estimateur GLS

la valuer Il bénéficie, ainsi que , la propriété de exactitude:

son matrice variances-covariance est également donnée par:

le théorème Aitken établit que l'estimateur est, dans la classe d'estimateurs linéaires pour le modèle de régression généralisé sur la base des hypothèses ci-dessus, l'une caractérisée par le minimum variance en ce sens, l'estimateur GLS est une estimateur efficace.

En utilisant l'estimateur GLS

Dans les applications en général matrice variances-covariance On ne sait pas, pour laquelle l'estimateur GLS ne sont pas directement utilisable, au moins sous la forme dans laquelle il est présenté ci-dessus.

La connaissance du phénomène particulier à l'étude peut toutefois suggérer que les indices des chercheurs sur la structure de . Par exemple, le chercheur peut attendre que hétéroscédasticité ou de corrélation dans les troubles, ou les deux. Cette connaissance du phénomène, peut-être combinée à une analyse des causes de la maladie, peut identifier un approprié valuer de matrice variances-covariance, . En général, vous trouvez un valuer qui jouit de la propriété de cohérence, à-dire tel que:

indique le nombre d'observations et désigne la convergence en probabilité, et

Dans ce cas, la valuer moindres carrés généralisés est dit, sa voix Anglais, valuer de Faisables moindres carrés Generalized, et il est donné par:

Les propriétés de Ils sont semblables à celles des et , Cependant, ils asymptotique nature.

bibliographie

  • Aitken, A. C. (1935), sur les moindres carrés et des combinaisons linéaires des observations, Actes de la Royal Statistical Society 55, 42-48; la contribution originale de Aitken;
  • Davidson, J. (2000), Théorie économétrie, Blackwell, ISBN 0-631-21584-0, un texte spécialisé économétrie, niveau master / doctorat; examine strictement les aspects algébriques de la méthode d'Aitken (en Anglais);
  • Greene, W. H. (2000) Analyse économétrie, Prentice-Hall, ISBN 0-13-013297-7, encore un texte économétrie, Il propose la méthode des moindres carrés généralisés dans le contexte de l'analyse du modèle régression linéaire plus large (en Anglais).

Articles connexes