הקדמה
תהי מערכת משוואות כאשר , ו־. אזי:
- למערכת אין פתרון אם .
- למערכת יש פתרון יחיד אם , כלומר .
- למערכת יש אינסוף פתרונות אם .
במקרים 1 ו־3 מתקיים , .
הערה: - מספר העמודות הבת"ל ב־.
מקרה 2: פתרון יחיד
שלוש אפשרויות לחישוב הפתרון על ידי MATLAB:
- x=inv(A)*b
- x=A\b
- x=pinv(A)*b
אפשרויות 2 ו־3 מתאימה גם אם אינה הפיכה / ריבועית.
מקרה 1: אין פתרון
התאמת קו ישר לאוסף נקודות
עבור סדרת N נקודות, , ננסה להתאים ישר הקרוב להן ביותר (קו מגמה).
נגדיר מטריצה :
ו־וקטור :
ונפתור את מערכת המשוואות . הפתרון שנקבל הינו הווקטור
פתרון המערכת: ניעזר ברגרסיה לינארית
נגדיר פונקציה כאשר הינו המרחק של הנקודה ה־i־ית מהישר (אנך לציר x), שהוא בעצם הפרשי ה־y. כלומר, . המינימום של הפונקציה הזו ייתן לנו את הפתרון המקורב ביותר לנקודות, כזה שסכום ריבועי המרחקים שלו מהנקודות הנתונות מינימלי - הכי קרוב.
נגזור ונקבל נגזרות חלקיות:
נמשיך לפתור:
בעצם, קיבלנו מערכת משוואות השקולה למערכת (למי שאינו מאמין, ניתן לבדוק).
נחשב את כדי לדעת מתי אין פתרון יחיד למערכת:
למה:
הוכחה: נסמן את הממוצע . אזי:
מסקנה: אם ורק אם . לכן, קיים פתרון ריבועים מינימליים (Least squares solution).