תקציר שימושי מחשב, סמסטר ב תשעג, גיא בלשר, משוואות לינאריות וריבועים מינימליים
הקדמה
תהי מערכת משוואות כאשר
,
ו־
. אזי:
- למערכת אין פתרון אם
.
- למערכת יש פתרון יחיד אם
, כלומר
.
- למערכת יש אינסוף פתרונות אם
.
במקרים 1 ו־3 מתקיים ,
.
הערה: - מספר העמודות הבת"ל ב־
.
מקרה 2: פתרון יחיד
שלוש אפשרויות לחישוב הפתרון על ידי MATLAB:
- x=inv(A)*b
- x=A\b
- x=pinv(A)*b
אפשרויות 2 ו־3 מתאימה גם אם אינה הפיכה / ריבועית.
מקרה 1: אין פתרון
התאמת קו ישר לאוסף נקודות
עבור סדרת N נקודות, , ננסה להתאים ישר
הקרוב להן ביותר (קו מגמה).
נגדיר מטריצה :
ו־וקטור :
ונפתור את מערכת המשוואות . הפתרון
שנקבל הינו הווקטור
פתרון המערכת: ניעזר ברגרסיה לינארית
נגדיר פונקציה כאשר
הינו המרחק של הנקודה ה־i־ית מהישר (אנך לציר x), שהוא בעצם הפרשי ה־y. כלומר,
. המינימום של הפונקציה הזו ייתן לנו את הפתרון המקורב ביותר לנקודות, כזה שסכום ריבועי המרחקים שלו מהנקודות הנתונות מינימלי - הכי קרוב.
נגזור ונקבל נגזרות חלקיות:
נמשיך לפתור:
בעצם, קיבלנו מערכת משוואות השקולה למערכת (למי שאינו מאמין, ניתן לבדוק).
נחשב את כדי לדעת מתי אין פתרון יחיד למערכת:
למה:
הוכחה: נסמן את הממוצע . אזי:
מסקנה: אם ורק אם
. לכן, קיים פתרון ריבועים מינימליים (Least squares solution).