לינארית 2/הרצאה 17
ההרצאה הקודמת | חזרה למערכי ההרצאה | ההרצאה הבאה
קיום בסיס אורתונורמלי - תהליך גראם-שמידט
לכל מרחב מכפלה פנימית [math]\displaystyle{ V }[/math] ממימד סופי קיים בסיס אורתונורמלי.
הוכחה.
יהי [math]\displaystyle{ \left \{ v_1,\dots,v_n \right \} }[/math] בסיס של [math]\displaystyle{ V }[/math]. נקבל מבסיס זה בסיס אורתוגונלי [math]\displaystyle{ \left \{ \overset{\circ}{v}_1,\dots,\overset{\circ}{v}_n \right \} }[/math].
נציג את תהליך גראם-שמידט, שבסופו יתקבל הבסיס הרצוי:
- נגדיר [math]\displaystyle{ \overset{\circ}{v}_1=v_1 }[/math].
- לכל [math]\displaystyle{ k>1 }[/math], נגדיר [math]\displaystyle{ \overset{\circ}{v}_k=v_k-\pi_{\left \{ \overset{\circ}{v}_1,\dots,\overset{\circ}{v}_{k-1} \right \}}\left(v_k \right ) }[/math] (נוסחת גראם-שמידט).
- כשנקבל בסיס אורתוגונלי [math]\displaystyle{ \left \{ \overset{\circ}{v}_1,\dots,\overset{\circ}{v}_n \right \} }[/math], נשתמש בנרמול, ונקבל בסיס אורתונורמלי.
∎
בכל שלב אנו מקבלים וקטור [math]\displaystyle{ \overset{\circ}{v}_k }[/math], שהוא ניצב למרחב [math]\displaystyle{ \operatorname{Span}\left \{ v_1,\dots,v_{k-1} \right \} }[/math]:
[math]\displaystyle{ v_k=\overset{\circ}{v}_k+\pi_{\left \{ \overset{\circ}{v}_1,\dots,\overset{\circ}{v}_{k-1} \right \}}\left(v_k \right )\in\operatorname{Span}\left \{ \overset{\circ}{v}_1,\dots,\overset{\circ}{v}_k \right \} }[/math],
לכן [math]\displaystyle{ \operatorname{Span}\left \{ v_1,\dots,v_k \right \}\subseteq\operatorname{Span}\left \{ \overset{\circ}{v}_1,\dots,\overset{\circ}{v}_k \right \} }[/math],
ומכאן [math]\displaystyle{ \operatorname{Span}\left \{ v_1,\dots,v_k \right \}=\operatorname{Span}\left \{ \overset{\circ}{v}_1,\dots,\overset{\circ}{v}_k \right \} }[/math].
יש גרסה של תהליך גראם-שמידט עם נרמול בכל צעד. זה לא ישנה את האלגוריתם, כי הנוסחה להיטל אינה תלויה בכפל של וקטור בסיס בסקלר.
כל קבוצה אורתונורמלית ניתנת להשלמה עד בסיס אורתונורמלי.
הוכחה.
תהי [math]\displaystyle{ S=\left \{ v_1,\dots,v_k \right \} }[/math] קבוצה אורתונורמלית. היא בת"ל, ולכן [math]\displaystyle{ k\leq n }[/math].
אם [math]\displaystyle{ k=n }[/math], אזי [math]\displaystyle{ S }[/math] היא בסיס אורתונורמלי, ואין מה להוכיח.
אם [math]\displaystyle{ k<n }[/math], נשלים את [math]\displaystyle{ S }[/math] עד לבסיס [math]\displaystyle{ B }[/math] של [math]\displaystyle{ V }[/math], ונשתמש בתהליך גראם-שמידט.
∎
בהוכחה הקודמת, תהליך גראם-שמידט איננו משפיע על [math]\displaystyle{ k }[/math] הווקטורים הראשונים (כלומר, על הווקטורים של [math]\displaystyle{ S }[/math]).
אי-שוויון בסל
אי-שוויון בסל Bessel
תהי [math]\displaystyle{ \left \{ v_1,\dots,v_k \right \} }[/math] קבוצה אורתונורמלית, ויהי [math]\displaystyle{ v\in V }[/math]. אזי \begin{displaymjx}\left \| v \right \|^2\ge\left | \left \langle v,v_1 \right \rangle \right |^2+\cdots+\left | \left \langle v,v_k \right \rangle \right |^2\end{displaymjx}
הוכחה.
נשלים את הקבוצה [math]\displaystyle{ \left \{ v_1,\dots,v_k \right \} }[/math] עד לבסיס אורתונורמלי [math]\displaystyle{ \left \{ v_1,\dots,v_k,v_{k+1},\dots,v_n \right \} }[/math]. נשתמש במשפט פיתגורס: \begin{displaymjx}\left \| v \right \|^2=\left | \left \langle v,v_1 \right \rangle \right |^2+\cdots+\left | \left \langle v,v_k \right \rangle \right |^2+\left | \left \langle v,v_{k+1} \right \rangle \right |^2+\cdots+\left | \left \langle v,v_n \right \rangle \right |^2\ge\left | \left \langle v,v_1 \right \rangle \right |^2+\cdots+\left | \left \langle v,v_k \right \rangle \right |^2\end{displaymjx}
∎
לאחר שהוכחנו את אי-השוויון, נשאלת השאלה האם יכול להיות בו שוויון, ואם כן - מתי. אנו יודעים שיהיה שוויון אם הקבוצה תהיה בסיס אורתונורמלי, אבל נוכיח טענה חזקה יותר:
באי-שוויון בסל יש שוויון אם ורק אם [math]\displaystyle{ v\in\operatorname{Span}\left\{v_1,\dots,v_k\right\} }[/math].
הוכחה.
- [math]\displaystyle{ \boxed{\Rightarrow} }[/math]
- אם [math]\displaystyle{ v\in\operatorname{Span}\left\{v_1,\dots,v_k\right\} }[/math], נשתמש בעובדה שלכל [math]\displaystyle{ i>k }[/math], מתקיים [math]\displaystyle{ v_i\perp\operatorname{Span}\left\{v_1,\dots,v_k\right\} }[/math], ולכן [math]\displaystyle{ v_i\perp v }[/math], זאת אומרת [math]\displaystyle{ \left \langle v,v_i \right \rangle=0 }[/math], ולכן יש שוויון.
- [math]\displaystyle{ \boxed{\Leftarrow} }[/math]
- אם יש שוויון, אזי [math]\displaystyle{ \left \langle v,v_i \right \rangle=0 }[/math] לכל [math]\displaystyle{ i>k }[/math], כלומר [math]\displaystyle{ v\perp v_i }[/math], ולכן [math]\displaystyle{ v\perp\operatorname{Span}\left \{ v_{k+1},\dots,v_n \right \} }[/math]. אבל [math]\displaystyle{ \operatorname{Span}\left \{ v_{k+1},\dots,v_n \right \}^\perp=\operatorname{Span}\left \{ v_1,\dots,v_k \right \} }[/math], ולכן [math]\displaystyle{ v\in\operatorname{Span}\left\{v_1,\dots,v_k\right\} }[/math].
∎
אי-שוויון קושי-שוורץ
נוכיח כעת אי-שוויון נוסף, שיעזור לנו לקבל משמעות גיאומטרית למכפלה הפנימית ולהגדיר גם זווית בין וקטורים. חשוב לציין - בכל משפט שבו משתמשים בנורמה ובמכפלה פנימית, הנורמה היא הנורמה המושרית מהמכפלה הפנימית.
אי-שוויון קושי-שוורץ
- לכל [math]\displaystyle{ u,v\in V }[/math] מתקיים אי-השוויון [math]\displaystyle{ \left | \left \langle u,v \right \rangle \right |\leq\left \| u \right \|\cdot\left \| v \right \| }[/math].
- שוויון מתקיים אם ורק אם [math]\displaystyle{ u,v }[/math] תלויים לינארית.
הוכחה.
נניח [math]\displaystyle{ u\neq 0 }[/math], ונתבונן בווקטור [math]\displaystyle{ w=\frac{1}{\left \| u \right \|}u }[/math]. הוא נורמלי, כלומר [math]\displaystyle{ \left \| w \right \|=1 }[/math].
נתבונן ב-[math]\displaystyle{ W=\operatorname{Span}\left\{w\right\} }[/math]. [math]\displaystyle{ \left\{w\right\} }[/math] בסיס אורתונורמלי של [math]\displaystyle{ W }[/math], כלומר גם [math]\displaystyle{ \left\{w\right\} }[/math] קבוצה אורתונורמלית ב-[math]\displaystyle{ V }[/math]. נשתמש באי-שוויון בסל; נקבל שלכל [math]\displaystyle{ v\in V }[/math] מתקיים \begin{displaymjx}\left \| v \right \|^2\ge\left | \left \langle v,w \right \rangle \right |^2=\left | \left \langle v,\frac{1}{\left \| u \right \|}u \right \rangle \right |^2=\left |\frac{1}{\left \| u \right \|} \left \langle v,u \right \rangle \right |^2=\frac{1}{\left \| u \right \|}^2\left | \left \langle u,v \right \rangle \right |^2\end{displaymjx}
לכן [math]\displaystyle{ \left \| v \right \|^2\left \| u \right \|^2\ge\left | \left \langle u,v \right \rangle \right |^2 }[/math], ומקבלים את הדרוש.
אם [math]\displaystyle{ u=0 }[/math], אזי לכל [math]\displaystyle{ v }[/math] מתקיים [math]\displaystyle{ \left \langle u,v \right \rangle=0 }[/math], וכן [math]\displaystyle{ \left \| u \right \|=0 }[/math], כלומר מתקיים שוויון.
אפשר להניח [math]\displaystyle{ u\neq0 }[/math]. אזי לפי ההערה לאי-שוויון בסל, שוויון מתקיים אם ורק אם [math]\displaystyle{ v\in\operatorname{Span}\left \{ w \right \} }[/math] אם ורק אם [math]\displaystyle{ v\in\operatorname{Span}\left \{ u \right \} }[/math] אם ורק אם [math]\displaystyle{ u,v }[/math] תלויים לינארית.
∎
אם [math]\displaystyle{ V=\mathbb{F}^n }[/math], ואם [math]\displaystyle{ \left \langle \;,\; \right \rangle }[/math] היא המכפלה הפנימית הסטנדרטית, אזי אי-שוויון קושי-שוורץ אומר שמתקיים \begin{displaymjx}\left | \alpha_1\overline{\beta_1}+\cdots+\alpha_n\overline{\beta_n} \right |\le\sqrt{\left | \alpha_1 \right |^2+\cdots+\left | \alpha_n \right |^2}\cdot\sqrt{\left | \beta_1 \right |^2+\cdots+\left | \beta_n \right |^2}\end{displaymjx}
במקרה הממשי [math]\displaystyle{ \mathbb{F}=\mathbb{R} }[/math], \begin{displaymjx}\left | \alpha_1\beta_1+\cdots+\alpha_n\beta_n \right |\le\sqrt{\left | \alpha_1 \right |^2+\cdots+\left | \alpha_n \right |^2}\cdot\sqrt{\left | \beta_1 \right |^2+\cdots+\left | \beta_n \right |^2}\end{displaymjx}
אי-שוויון קושי-שוורץ מאפשר להגדיר (במקרה [math]\displaystyle{ \mathbb{F}=\mathbb{R} }[/math]) זווית בין שני וקטורים שונים מאפס.
נתבונן ביחס [math]\displaystyle{ t=\frac{\left \langle u,v \right \rangle}{\left \| u \right \|\left \| v \right \|} }[/math], [math]\displaystyle{ t\in\mathbb{R} }[/math]. לפי אי-שוויון קושי-שוורץ, [math]\displaystyle{ \left |t \right |=\frac{\left |\left \langle u,v \right \rangle \right |}{\left \| u \right \|\left \| v \right \|}\leq1 }[/math], ולכן [math]\displaystyle{ -1\leq t\leq1 }[/math].
אזי נגדיר את הזווית בין [math]\displaystyle{ u }[/math] ל-[math]\displaystyle{ v }[/math] על ידי [math]\displaystyle{ \varphi:=\arccos\left(t\right) }[/math].
מסמנים לעיתים [math]\displaystyle{ \varphi=\angle \left ( u,v \right ) }[/math].
כעת אנו מוכנים למלא חור ישן: כאשר הגדרנו את הנורמה המושרית ממכפלה פנימית, נותר שם [math]\displaystyle{ \bullet }[/math] - חור; לא הוכחנו את אי-שוויון המשולש. כעת, יש בידינו את הכלים להוכיח אותו.
אי-שוויון המשולש לנורמה המושרית על ידי מכפלה פנימית
\begin{displaymjx}\left \| u+v \right \|\leq\left \| u \right \|+\left \| v \right \|\end{displaymjx}
הוכחה.
ראשית, אם [math]\displaystyle{ z=x+iy\in\mathbb{C} }[/math], \begin{displaymjx}z+\overline{z}=\left(x+iy \right )+\left(x-iy \right )=2x=2\operatorname{Re}\left(z \right )\leq2\left | z \right |\end{displaymjx}
כעת, נוכיח כי [math]\displaystyle{ \left \| u+v \right \|^2\leq\left(\left \| u \right \|+\left \| v \right \|\right)^2 }[/math]: \begin{displaymjx}\left \| u+v \right \|^2=\left \langle u+v,u+v \right \rangle=\left \langle u,u \right \rangle+\left \langle u,v \right \rangle+\left \langle v,u \right \rangle+\left \langle v,v \right \rangle=\end{displaymjx} \begin{displaymjx}=\left \| u \right \|^2+\left \| v \right \|^2+\overline{\left \langle u,v \right \rangle}+\left \langle u,v \right \rangle=\left \| u \right \|^2+\left \| v \right \|^2+2\operatorname{Re}\left(\left \langle u,v \right \rangle\right)\leq\end{displaymjx} \begin{displaymjx}\leq\left \| u \right \|^2+\left \| v \right \|^2+2\left | \left \langle u,v \right \rangle \right |\leq\left \| u \right \|^2+\left \| v \right \|^2+2\left \| u \right \|\left \| v \right \|=\left(\left \| u \right \|+\left \| v \right \|\right)^2\end{displaymjx}
∎