Introduction aux propriétés des estimateurs OLS

Les modèles de régression linéaire ont plusieurs applications dans la vie réelle. En économétrie, la méthode des moindres carrés ordinaires (OLS) est largement utilisée pour estimer les paramètres d’un modèle de régression linéaire. Pour ce qui est de la validité des estimations du SLO, des hypothèses ont été formulées lors de l’exécution de modèles de régression linéaire.

A1. Le modèle de régression linéaire est  » linéaire en paramètres.”

A2., Il y a un échantillonnage aléatoire des observations.

A3. La moyenne conditionnelle devrait être nulle.

A4. Il n’y a pas de multi-colinéarité (ou colinéarité parfaite).

A5. Erreurs sphériques: il y a homoscédasticité et pas d’auto-corrélation

A6: hypothèse facultative: les Termes D’erreur doivent être normalement distribués.

ces hypothèses sont extrêmement importantes parce que la violation de l’une de ces hypothèses rendrait les estimations OLS peu fiables et incorrectes., Plus précisément, une violation se traduirait par des signes incorrects d’estimations de la SLO, ou la variance des estimations de la SLO serait peu fiable, ce qui entraînerait des intervalles de confiance trop larges ou trop étroits.

ceci étant dit, il est nécessaire d’étudier pourquoi les estimateurs OLS et ses hypothèses rassemblent autant d’attention. Dans cet article, Les propriétés du modèle OLS sont discutées. Tout d’abord, le célèbre théorème de Gauss-Markov est décrit. Par la suite, une description détaillée des propriétés du modèle OLS est décrite., En fin de Compte, l’article parle brièvement des applications des propriétés D’OLS en économétrie.

le théorème de Gauss-Markov

Le théorème de Gauss-Markov est nommé D’après Carl Friedrich Gauss et Andrey Markov.

soit le modèle de régression: Y={ beta }_{ o }+{ beta }_{ I }{ X }_{ i }+varepsilon

soit { beta }_{ o } et { beta }_{ i } les estimateurs OLS DE { beta }_{ o }et { beta }_{ o }

En d’autres termes, les estimateurs OLS { beta }_{ o } et { beta }_{ I }ont la variance minimale de tous les estimateurs linéaires et non biaisés DE { BETA }_{ O } et { beta }_{ i }., Le bleu résume les propriétés de la régression OLS. Ces propriétés D’OLS en économétrie sont extrêmement importantes, faisant ainsi des estimateurs OLS l’un des estimateurs les plus puissants et les plus utilisés pour des paramètres inconnus. Ce théorème indique qu’il faut utiliser des estimateurs OLS non seulement parce qu’il est non biaisé, mais aussi parce qu’il a une variance minimale parmi la classe de tous les estimateurs linéaires et non biaisés.,

propriétés des estimateurs de régression OLS en détail

propriété 1: linéaire

Cette propriété concerne davantage l’estimateur que l’équation d’origine qui est estimée. Dans l’hypothèse A1, l’accent était mis sur le fait que la régression linéaire devrait être « linéaire en paramètres. »Cependant, la propriété linéaire de l’estimateur OLS signifie que OLS appartient à cette classe d’estimateurs, qui sont linéaires en Y, la variable dépendante. Notez que les estimateurs OLS ne sont linéaires que par rapport à la variable dépendante et pas nécessairement par rapport aux variables indépendantes., La propriété linéaire des estimateurs OLS ne dépend pas seulement de l’hypothèse A1 mais de toutes les hypothèses A1 à A5.

Propriété 2: absence de biais

Si vous regardez l’équation de régression, vous trouverez un terme d’erreur associée à l’équation de régression qui est estimée. Cela rend la variable dépendante également aléatoire. Si un estimateur utilise la variable dépendante, alors que l’estimateur serait également un nombre aléatoire. Par conséquent, avant de décrire ce qu’est l’impartialité, il est important de mentionner que la propriété d’impartialité est une propriété de l’estimateur et non d’un échantillon.,

L’impartialité est l’une des propriétés les plus souhaitables de tout estimateur. L’estimateur devrait idéalement être un estimateur non biaisé des valeurs vraies de paramètre / population.

prenons un exemple simple: supposons qu’il existe une population de taille 1000, et que vous prélevez des échantillons de 50 de cette population pour estimer les paramètres de la population. Chaque fois que vous prenez un échantillon, il aura l’ensemble différent de 50 observations et, par conséquent, vous estimerez différentes valeurs de { beta }_{ o } et { beta }_{ i }., La propriété d’impartialité de la méthode OLS indique que lorsque vous prélevez des échantillons de 50 à plusieurs reprises, après quelques tentatives répétées, vous constaterez que la moyenne de tous les { beta }_{ o } et { beta }_{ i } des échantillons sera égale aux valeurs réelles (ou à la population) de { beta }_{ o } et { beta }_{ i }.

Mathématiquement,

E(bo) = ßo

E(bi) = ßi

Ici, le ‘E’ est l’attente de l’opérateur.,

en termes simples, si vous prenez plusieurs échantillons, continuez à enregistrer les valeurs des estimations, puis prenez une moyenne, vous obtiendrez très proche de la valeur de population correcte. Si votre estimateur est biaisé, la moyenne ne sera pas égale à la valeur réelle du paramètre dans la population.

la propriété d’impartialité D’OLS en économétrie est l’exigence minimale de base à satisfaire par tout estimateur. Cependant, cela ne suffit pas pour la raison que la plupart du temps dans des applications réelles, vous n’aurez pas le luxe de prélever des échantillons répétés., En fait, un seul échantillon sera disponible dans la plupart des cas.

propriété 3: Meilleur: Variance minimale

examinons d’abord ce que sont les estimateurs efficaces. La propriété efficace de tout estimateur indique que l’estimateur est l’estimateur non biaisé de la variance minimale. Par conséquent, si vous prenez tous les estimateurs non biaisés du paramètre de population inconnue, l’estimateur aura la variance la plus faible. L’estimateur qui a moins de variance aura des points de données individuels plus proches de la moyenne., Par conséquent, ils seront plus susceptibles de donner des résultats meilleurs et précis que d’autres estimateurs ayant une variance plus élevée. En bref:

1. Si l’estimateur est impartial mais n’a pas la moindre variance – ce n’est pas le meilleur!
2. Si l’estimateur a le moins de variance mais est biaisé – ce n’est pas encore le meilleur!
3. Si l’estimateur est à la fois impartiale et a le moins de variance, c’est le meilleur estimateur.

maintenant, en parlant D’OLS, les estimateurs OLS ont la plus petite variance parmi la classe de tous les estimateurs linéaires non biaisés., Ainsi, cette propriété de la régression OLS est moins stricte que la propriété efficiency. La propriété d’efficacité indique la moindre variance parmi tous les estimateurs non biaisés, et les estimateurs OLS ont la moins variance parmi tous les estimateurs linéaires et non biaisés.,

indiquant simplement mathématiquement,

Varleft( { B }_{ O } right) <Varleft( { b }_{ o } AST right)

Varleft( { b }_{ i } right) <varleft( { b }_{ i }AST right)

Les trois propriétés ci-dessus du modèle ols rendent les estimateurs ols bleus comme mentionné dans le théorème de Gauss-Markov.

il vaut la peine de passer du temps sur les propriétés D’OLS de certains autres estimateurs en économétrie. Les propriétés des OLS décrites ci-dessous sont des propriétés asymptotiques des estimateurs OLS., Jusqu’à présent, les propriétés de l’échantillon fini de la régression OLS ont été discutées. Ces propriétés ont essayé d’étudier le comportement de L’estimateur OLS en supposant que vous pouvez avoir plusieurs échantillons et, par conséquent, plusieurs estimateurs du même paramètre de population inconnue. En bref, les propriétés étaient que la moyenne de ces estimateurs dans différents échantillons devrait être égale au paramètre de population vrai (impartialité), ou la distance moyenne à la valeur du paramètre vrai devrait être la moins (efficace). Cependant, dans la vraie vie, vous n’aurez souvent qu’un seul échantillon., Par conséquent, les propriétés asymptotiques du modèle OLS sont discutées, ce qui étudie le comportement des estimateurs OLS à mesure que la taille de l’échantillon augmente. Gardez à l’esprit que la taille de l’échantillon doit être grande.

propriété 4: impartialité asymptotique

Cette propriété de OLS indique que lorsque la taille de l’échantillon augmente, le biais des estimateurs OLS disparaît.

propriété 5: cohérence

un estimateur est dit cohérent si sa valeur s’approche de la valeur réelle du paramètre vrai (population) à mesure que la taille de l’échantillon augmente. Un estimateur est cohérent s’il satisfait à deux conditions:

A., Elle est asymptotiquement non biaisée

B. sa variance converge vers 0 à mesure que la taille de l’échantillon augmente.

Ces deux valeurs sont valables pour les estimateurs OLS et, par conséquent, ce sont des estimateurs cohérents. Pour qu’un estimateur soit utile, la cohérence est l’exigence de base minimale. Comme il peut y avoir plusieurs estimateurs de ce type, l’efficacité asymptotique est également considérée. L’efficacité asymptotique est la condition suffisante qui fait des estimateurs OLS les meilleurs estimateurs.,

Applications et comment il se rapporte à L’étude de L’économétrie

les estimateurs OLS, en raison de ces propriétés souhaitables discutées ci-dessus, sont largement utilisés et trouvent plusieurs applications dans la vie réelle.

Exemple: Considérons une banque qui veut prédire l’exposition d’un client en cas de défaut. La banque peut considérer l’exposition au défaut comme la variable dépendante et plusieurs variables indépendantes telles que les caractéristiques du niveau du client, les antécédents de crédit, le type de prêt, l’hypothèque, etc., La banque peut simplement exécuter la régression OLS et obtenir les estimations pour voir quels facteurs sont importants pour déterminer l’exposition au défaut d’un client. Les estimateurs OLS sont faciles à utiliser et à comprendre. Ils sont également disponibles dans divers progiciels statistiques et peuvent être largement utilisés.

les régressions OLS constituent les éléments constitutifs de l’économétrie. Toute classe d’économétrie commencera par l’hypothèse de régressions OLS. C’est l’une des questions d’entrevue préférées pour les emplois et les admissions à l’Université., Sur la base des blocs de construction D’OLS, et en assouplissant les hypothèses, plusieurs modèles différents sont apparus comme les GLM (modèles linéaires généralisés), les modèles linéaires généraux, les modèles hétéroscédastiques, les modèles de régression à plusieurs niveaux, etc.

La recherche en économie et en Finance est fortement axée sur L’économétrie. OLS est la pierre angulaire de L’économétrie. Cependant, dans la vraie vie, il y a des problèmes, comme la causalité inverse, qui rendent OLS non pertinents ou non appropriés. Cependant, OLS peut toujours être utilisé pour étudier les problèmes qui existent dans les données transversales., Même si la méthode OLS ne peut pas être utilisée pour la régression, OLS est utilisé pour trouver les problèmes, les problèmes et les correctifs potentiels.

Conclusion

pour conclure, la régression linéaire est importante et largement utilisée, et la technique D’estimation OLS est la plus répandue. Dans cet article, Les propriétés des estimateurs OLS ont été discutées car il s’agit de la technique d’estimation la plus utilisée. Les estimateurs OLS sont bleus (c’est-à-dire qu’ils sont linéaires, non biaisés et ont la plus faible variance parmi la classe de tous les estimateurs linéaires et non biaisés). Au milieu de tout cela, il ne faut pas oublier le théorème de Gauss-Markov (c’est-à-dire, les estimateurs du modèle OLS sont bleus) ne tient que si les hypothèses de OLS sont satisfaites. Chaque hypothèse faite lors de l’étude D’OLS ajoute des restrictions au modèle, mais en même temps, permet également de faire des déclarations plus fortes concernant OLS. Ainsi, chaque fois que vous prévoyez d’utiliser un modèle de régression linéaire à L’aide D’OLS, vérifiez toujours les hypothèses OLS. Si les hypothèses OLS sont satisfaites, la vie devient plus simple, car vous pouvez directement utiliser OLS pour les meilleurs résultats-grâce au théorème de Gauss-Markov!

Avons-nous répondu à vos questions? Laissez-nous savoir comment nous sommes en train de faire!,

vous cherchez une pratique en économétrie?

lancez votre préparation économétrique avec Albert. Commencez votre préparation à L’examen D’économétrie aujourd’hui.