משתמש:Annakuts/טעות ריבועית ממוצעת

טעות ריבועית ממוצעת

בסטטיסטיקה,טעות ריבועית ממוצעת(MSE) של אומד מודדת את ממוצע ריבועי ה"טעויות",כלומר ההבדל בין האומד לבין מה שנאמד.ההבדל נובע בגלל האקראיות או בגלל שהאומד לא לוקח בחשבון מידע שיכול לייצר אומד מדוייק יותר.

טעות ריבועית ממוצעת היא מומנט מסדר שני של השגיאה,ולכן משלבת גם את השונות של האומד וגם את ההטייה שלו.עבור אומד חסר הטייה ,הטעות הריבועית הממצועת היא שונות האומד.בדומה לשונות,לשונות הריבועית הממוצעת יש אותם יחידות מדידה כמו לריבוע המידה שנאמדת.באנלוגיה לסטיית התקן,אם ניקח את השורש של הטעות הריבועית הממוצעת נקבל את שורש הטעות הריבועית הממוצעת(RMSE),אשר יש לה את אותן יחידות מידה כמו למידה שנאמדת; עבור אומד חסר הטייה ,שורש הטעות הריבועית הממוצעת הוא שורש השונות, הידוע כסטיית התקן.

הגדרה ומאפיינים בסיסיים

אם Ŷ הוא וקטור של n ערכים חזויים, ו-Y הוא הווקטור של הערכים האמיתיים ,אזי הטעות הריבועית הממוצעת(המוערכת) היא: $\operatorname {MSE} ={\frac {1}{n}}\sum _{i=1}^{n}({\hat {Y_{i}}}-Y_{i})^{2}$

זהו מדד ידוע ומחושב בהינתן מדגם מסויים (ולכן גם תלוי מדגם). הטעות הריבועית הממוצעת של אומד ${\hat {\theta }}$ בהתייחס לפרמטר לא ידוע $\theta$ מוגדרת כ: $\operatorname {MSE} ({\hat {\theta }})=\operatorname {E} {\big [}({\hat {\theta }}-\theta )^{2}{\big ]}$

הגדרה זו תלוייה בפרמטר הלא ידוע,והטעות הריבועית הממוצעת בהקשר הזה היא תכונה של אומד . הטעות הריבועית הממוצעת שווה לסכום השונות וריבוע ההטייה של האומד או של התחזיות . במקרה של טעות ריבועית ממוצעת של אומד: $\operatorname {MSE} ({\hat {\theta }})=\operatorname {Var} ({\hat {\theta }})+\left(\operatorname {Bias} ({\hat {\theta }},\theta )\right)^{2}$

הוכחה:

${\begin{aligned}\operatorname {MSE} ({\hat {\theta }})\equiv \mathbb {E} (({\hat {\theta }}-\theta )^{2})&=\mathbb {E} \left[\left({\hat {\theta }}-\mathbb {E} ({\hat {\theta }})+\mathbb {E} ({\hat {\theta }})-\theta \right)^{2}\right]\\&=\mathbb {E} \left[\left({\hat {\theta }}-\mathbb {E} ({\hat {\theta }})\right)^{2}+2\left(({\hat {\theta }}-\mathbb {E} ({\hat {\theta }}))(\mathbb {E} ({\hat {\theta }})-\theta )\right)+\left(\mathbb {E} ({\hat {\theta }})-\theta \right)^{2}\right]\\&=\mathbb {E} \left[\left({\hat {\theta }}-\mathbb {E} ({\hat {\theta }})\right)^{2}\right]+2\mathbb {E} \left[({\hat {\theta }}-\mathbb {E} ({\hat {\theta }}))(\mathbb {E} ({\hat {\theta }})-\theta )\right]+\mathbb {E} \left[\left(\mathbb {E} ({\hat {\theta }})-\theta \right)^{2}\right]\\&=\mathbb {E} \left[\left({\hat {\theta }}-\mathbb {E} ({\hat {\theta }})\right)^{2}\right]+2(\mathbb {E} ({\hat {\theta }})-\theta )\overbrace {\mathbb {E} ({\hat {\theta }}-\mathbb {E} ({\hat {\theta }}))} ^{=\mathbb {E} ({\hat {\theta }})-\mathbb {E} ({\hat {\theta }})=0}+\mathbb {E} \left[\left(\mathbb {E} ({\hat {\theta }})-\theta \right)^{2}\right]\\&=\mathbb {E} \left[\left({\hat {\theta }}-\mathbb {E} ({\hat {\theta }})\right)^{2}\right]+\mathbb {E} \left[\left(\mathbb {E} ({\hat {\theta }})-\theta \right)^{2}\right]\\&=\operatorname {Var} ({\hat {\theta }})+\operatorname {Bias} ({\hat {\theta }},\theta )^{2}\end{aligned}}$

כלומר לטעות הריבועית הממוצעת יש תכונה של אומד או סט של תחזיות במונחים של השוני שלה ושל רמת ההטייה. משום שהטעות הריבועית הממוצעת זו תחזית ,טכנית זה לא משתנה מקרי,אבל היא תהיה נתונה לטעות בהערכה כאשר תחושב עבור אומד ספציפי של $\theta$ עם ערך אמיתי בלתי ידוע.כלומר,כל הערכה של הטעות הריבועית הממוצעת על סמך פרמטר מוערך היא אכן משתנה מקרי.

קטגוריה:סטטיסטיקה