שינויים

''הערה:'' השיעור החל בחזרה על כמה מהמושגים הבסיסיים באלגברה לינארית: מרחב לינארי, צירוף לינארי, תלות וקטורים, בסיס, מרחבים לינאריים של פונקציות (כגון <math>F(-\infty,\infty),C^n(-\infty,\infty)</math>), מכפלה פנימית (כגון <math>\langle f,g\rangle=\int\limits_a^b f(x)g(x)\mathrm dx</math> ב־<math>C[a,b]</math>), נורמה, אי־שיוויון קושי־שוורץ (Cauchy-Schwarz)&rlm; (<math>|\langle\mathbf u,\mathbf v\rangle|\le\|\mathbf u\|\cdot\|\mathbf v\|</math>), מרחבי הסדרות <math>\ell_p=\left\{(x_n)_{n\in\mathbb N}\in\mathbb C^\infty:\ \sum_{n=1}^\infty|x_n|^p<\infty\right\}</math> עם <math>\langle x,y\rangle=\sum_{n=1}^\infty x_i \overline{y_i}</math>, אורתוגונליותואורתוגונליות. חזרה זו אינה מופיעה כאן במלואה, אך נפרט את הנושאים החדשים והקשים הקשים לזכירהוהחדשים:

נעזר באי־שיוויון יונג (Jung):&rlm; <math>\forall\alpha,\beta>0:\ \forall p,q>1\ \and\ \frac1p+\frac1q=1:\ \alpha\cdot\beta\le\frac{\alpha^p}p+\frac{\beta^q}q</math>. נבחר עבור <math>n</math> כרצוננו <math>\alpha=\frac{|x_n|}{\|x\|_p},\beta=\frac{|y_n|}{\|y\|_q}</math>, ונסכום לכל <math>n</math>: <math>\sum_{n=1}^\infty\frac{|x_n|}{\|x\|_p}\frac{|y_n|}{\|y\|_q}\le\sum_{n=1}^\infty\left(\frac{|x_n|^p}{\|x\|_p^p\cdot p}+\frac{|y_n|^q}{\|y\|_q^q\cdot q}\right)=\frac1p+\frac1q=1</math>. נכפול ב־<math>\|x\|_p\|y\|_q</math>ונקבל את הדרוש. {{משל}} == קירוב לווקטור ==נניח ש־<math>V</math> מרחב לינארי, <math>W</math> תת־מרחב ו־<math>\mathbf u\in V\setminus W</math>. נרצה להראות שקיים וקטור יחיד <math>\tilde\mathbf u\in W</math> שהוא קירוב ל־<math>\mathbf u</math> ב־<math>W</math>, כלומר שעבורו <math>\min_{\mathbf v\in W}\|\mathbf u-\mathbf v\|=\|\mathbf u-\tilde\mathbf u\|</math>. === מובן של מציאת קירוב ===הקירוב הטוב ביותר ל־<math>\mathbf u</math> ב־<math>W=\mbox{span}(\{\mathbf e_1,\dots,\mathbf e_n\})</math> הוא <math>\tilde\mathbf u=\sum_{k=1}^n\langle\mathbf u,\mathbf e_k\rangle\mathbf e_k</math>. ==== טענת עזר ====יהי <math>V</math> מרחב מכפלה פנימית, ותהי <math>S=\{\mathbf e_1,\dots,\mathbf e_n\}</math> קבוצה אורתונורמלית ב־<math>V</math>. אם <math>\mathbf u=\sum_{k=1}^n a_k\mathbf e_k</math> אזי <math>\forall k:\ a_k=\langle\mathbf u,\mathbf e_k\rangle</math>. ===== הוכחה ====={{left|<math>\langle\mathbf u,\mathbf e_k\rangle=\left\langle\sum_{i=1}^n a_i\mathbf e_i,\mathbf e_k\right\rangle=\sum_{i=1}^n a_i\langle\mathbf e_i,\mathbf e_k\rangle=\sum_{i=1}^n a_i\delta_{i,k}=a_k</math>}}{{משל}} {{המשך סיכום|תאריך=31.7.12}} ==== הוכחה ===='''הגדרה:''' <math>c_k=\langle\mathbf u,\mathbf e_k\rangle</math> נקרא ''"מקדם פורייה"''. צריך להוכיח ש־<math>\min_{\mathbf v\in W}\|\mathbf u-\mathbf v\|=\|\mathbf u-\tilde\mathbf u\|</math>. אזי יהי <math>\mathbf v\in W</math> ונסמן <math>\mathbf v=\sum_{k=1}^n a_k\mathbf e_k</math>. לכן{|{{=|l=\left\Vert\mathbf u-\mathbf v\right\Vert^2 |r=\langle\mathbf u-\mathbf v,\mathbf u-\mathbf v\rangle }}{{=|r=\langle\mathbf u,\mathbf u\rangle-\left\langle\mathbf u,\sum_{k=1}^n a_k\mathbf e_k\right\rangle-\left\langle\sum_{k=1}^n a_k\mathbf e_k,\mathbf u\right\rangle+\langle\mathbf v,\mathbf v\rangle }}{{=|r=\Vert\mathbf u\Vert^2-\sum_{k=1}^n\Big(\overline{a_k}c_k+a_k\overline{c_k}\Big)+\sum_{k=1}^n\vert a_k\vert^2 }}{{=|r=\Vert\mathbf u\Vert^2+\sum_{k=1}^n\vert c_k-a_k\vert^2-\sum_{k=1}^n\vert c_k\vert^2 |c=מתקיים<br><math>\begin{array}{l}|c_k-a_k|^2-|c_k|^2=\\=(c_k-a_k)(\overline{c_k}-\overline{a_k})-|c_k|^2=\\=|a_k|^2-\overline{a_k}c_k-a_k\overline{c_k}\end{array}</math>}}{{=|o=\ge |r=\Vert\mathbf u\Vert^2-\sum_{k=1}^n\vert c_k\vert^2 |c=המקרה המינימלי הוא כאשר <math>\forall k:\ a_k=c_k</math>}}|}מכאן ש־<math>\|\mathbf u-\mathbf v\|</math> מינימלי כאשר <math>\mathbf v=\tilde\mathbf u</math>. {{משל}} התוצאה נותנת לנו גם את אי־שיוויון בסל: <math>\|\mathbf u\|^2\ge\sum_{k=1}^n|c_k|^2</math>. {{פס|==== הכללה ====בהינתן בסיס אורתוגונלי <math>S=\{\mathbf b_1,\dots,\mathbf b_n\}</math> של <math>W</math> (שאינו בהכרח אורתונורמלי) ניתן להכליל את הנוסחה הנ״ל ל־<math>\tilde\mathbf u=\sum_{k=1}^n\frac{\langle\mathbf u,\mathbf b_k\rangle}{\langle\mathbf b_k,\mathbf b_k\rangle}\mathbf b_k</math>.

== תהליך גרם־שמידט (Gram-Schmidt) === הוכחה =====התהליך מאשר להפוך כל קבוצה <math>B=S</math> בסיס ולכן וקטור האפס אינו נמצא בו. לפיכך הקבוצה <math>\left\{\frac{\mathbf v_1b_1}{\|\mathbf b_1\|},\dots,\frac{\mathbf v_nb_n}{\|\mathbf b_n\|}\right\}</math> בת״ל לקבוצה מוגדרת ואורתונורמלית, ולבסוף {{left|<math>\tilde Bsum_{k=1}^n\frac{\tildelangle\mathbf v_1u,\dotsmathbf b_k\rangle}{\langle\mathbf b_k,\tildemathbf b_k\rangle}\mathbf v_nb_k=\sum_{k=1}</math> אורתונורמלית כך ש־<math>^n\mboxfrac{span\overline{\|\mathbf b_k\|}\left\langle\mathbf u,\frac{\mathbf b_k}{\|\mathbf b_k\|}\right\rangle}{\|\mathbf b_k\|^2}\|\mathbf b_k\|\frac{\mathbf b_k}{\|\mathbf b_k\|}(B)=\mboxsum_{spank=1}(^n\left\langle\mathbf u,\frac{\mathbf b_k}{\|\mathbf b_k\|}\right\rangle\frac{\mathbf b_k}{\|\mathbf b_k\|}=\tilde B)\mathbf u</math>.}}{{משל}}}}

'''טענת עזר:''' יהי === תרגיל ===נתבונן בממ״פ של פונקציות רציפות בקטע <math>V[-1,1]</math> מרחב מכפלה פנימית, ותהי . נגדיר מ״פ באופן הבא: <math>S=\{\mathbf e_1langle f,g\dots,rangle=\mathbf e_nint\}</math> קבוצה אורתונורמלית ב־<math>V</math>. אם <math>\mathbf u=\sum_limits_{k=-1}^n a_k1 f(x)g(x)\mathbf e_kmathrm dx</math> אזי . מצאו קירוב ל־<math>\forall k:\ a_kf(x)=\langle\mathbf u,\mathbf e_k\ranglex^3</math>. '''הוכחה:''' בתת־מרחב הנפרש ע״י המערכת האורתונורמלית <math>S=\langle{\mathbf ue_1,\mathbf e_ke_2\rangle}=\sum_left\{i=1}^n a_i\langlefrac1\mathbf e_isqrt2,\mathbf e_ksqrt\rangle=frac32 x\sum_{i=1}^n a_iright\delta_{i,k}=a_i</math>.

אם נגדיר <math>W=\mbox{span}(S)</math> תת־מרחב של <math>V</math> ואם <math>\mathbf u\in V\setminus W</math> אזי ברור ש־<math>\mathbf u\ne\sum_{k=1}^n\langle\mathbf u,\mathbf e_k\rangle\mathbf e_k</math>. במקרה זה קיים איבר אחר <math>\tilde\mathbf u</math> שהוא הקירוב הטוב ביותר ל־<math>\mathbf u</math> ב־<math>W</math> (כלומר, <math>\|\mathbf u-\tilde\mathbf u\|</math> מינימלי), ומתקיים <math>\tilde\mathbf u=\sum_{k=1}^n\langle\mathbf u,\mathbf e_k\rangle\mathbf e_k</math>. '''דוגמה:''' נתבונן בממ״פ של פונקציות רציפות בקטע <math>[-1,1]</math>. נגדיר מ״פ באופן הבא: <math>\langle f,g\rangleפתרון =\int\limits_{-1}^1 f(x)g(x)\mathrm dx</math>. נמצא קירוב ל־<math>f(x)=x^3</math> בתת־מרחב הנפרש ע״י המערכת האורתונורמלית <math>S=\{\mathbf e_1,\mathbf e_2\}=\left\{\frac1\sqrt2,\sqrt\frac32 x\right\}</math>. מתקיים:{{left|<math>\begin{align}&\langle f,\mathbf e_1\rangle=\int\limits_{-1}^1\frac{x^3}\sqrt2\mathrm dx=0\\&\langle f,\mathbf e_2\rangle=\int\limits_{-1}^1\sqrt\frac32x^3\mathrm dx=\frac\sqrt65\\\implies&\tilde f(x)=0\cdot\mathbf e_1+\frac\sqrt65\mathbf e_2=\frac\sqrt65\sqrt\frac32x=\frac35x\end{align}</math>}}ולפיכך <math>\left\|x^3-\frac35x\right\|</math> מינימליבקטע.{{משל}}