אנליזת פורייה ויישומים קיץ תשעב/סיכומים/הרצאות/30.7.12

הערה: השיעור החל בחזרה על כמה מהמושגים הבסיסיים באלגברה לינארית: מרחב לינארי, צירוף לינארי, תלות וקטורים, בסיס, מרחבים לינאריים של פונקציות (כגון [math]\displaystyle{ F(-\infty,\infty),C^n(-\infty,\infty) }[/math]), מכפלה פנימית (כגון [math]\displaystyle{ \langle f,g\rangle=\int\limits_a^b f(x)g(x)\mathrm dx }[/math] ב־[math]\displaystyle{ C[a,b] }[/math]), נורמה, אי־שיוויון קושי־שוורץ (Cauchy-Schwarz)‏ ([math]\displaystyle{ |\langle\mathbf u,\mathbf v\rangle|\le\|\mathbf u\|\cdot\|\mathbf v\| }[/math]), מרחבי הסדרות [math]\displaystyle{ \ell_p=\left\{(x_n)_{n\in\mathbb N}\in\mathbb C^\infty:\ \sum_{n=1}^\infty|x_n|^p\lt \infty\right\} }[/math] עם [math]\displaystyle{ \langle x,y\rangle=\sum_{n=1}^\infty x_i \overline{y_i} }[/math] ואורתוגונליות. חזרה זו אינה מופיעה כאן במלואה, אך נפרט את הנושאים הקשים לזכירה והחדשים:

אי־שיוויון הולדר (Holder)

אם [math]\displaystyle{ x\in\ell_p\ \and\ y\in\ell_q }[/math] כאשר [math]\displaystyle{ \frac1p+\frac1q=1 }[/math] (כלומר, [math]\displaystyle{ \ell_p,\ell_q }[/math] צמודים) אזי [math]\displaystyle{ \sum_{n=1}^\infty|x_n\cdot y_n|\le\|x\|_p\cdot\|y\|_q }[/math].

הוכחה

נעזר באי־שיוויון יונג (Jung):‏ [math]\displaystyle{ \forall\alpha,\beta\gt 0:\ \forall p,q\gt 1\ \and\ \frac1p+\frac1q=1:\ \alpha\cdot\beta\le\frac{\alpha^p}p+\frac{\beta^q}q }[/math]. נבחר עבור [math]\displaystyle{ n }[/math] כרצוננו [math]\displaystyle{ \alpha=\frac{|x_n|}{\|x\|_p},\beta=\frac{|y_n|}{\|y\|_q} }[/math], ונסכום לכל [math]\displaystyle{ n }[/math]: [math]\displaystyle{ \sum_{n=1}^\infty\frac{|x_n|}{\|x\|_p}\frac{|y_n|}{\|y\|_q}\le\sum_{n=1}^\infty\left(\frac{|x_n|^p}{\|x\|_p^p\cdot p}+\frac{|y_n|^q}{\|y\|_q^q\cdot q}\right)=\frac1p+\frac1q=1 }[/math]. נכפול ב־[math]\displaystyle{ \|x\|_p\|y\|_q }[/math] ונקבל את הדרוש. [math]\displaystyle{ \blacksquare }[/math]

קירוב לווקטור

נניח ש־[math]\displaystyle{ V }[/math] מרחב לינארי, [math]\displaystyle{ W }[/math] תת־מרחב ו־[math]\displaystyle{ \mathbf u\in V\setminus W }[/math]. נרצה להראות שקיים וקטור יחיד [math]\displaystyle{ \tilde\mathbf u\in W }[/math] שהוא קירוב ל־[math]\displaystyle{ \mathbf u }[/math] ב־[math]\displaystyle{ W }[/math], כלומר שעבורו [math]\displaystyle{ \min_{\mathbf v\in W}\|\mathbf u-\mathbf v\|=\|\mathbf u-\tilde\mathbf u\| }[/math].

מובן של מציאת קירוב

הקירוב הטוב ביותר ל־[math]\displaystyle{ \mathbf u }[/math] ב־[math]\displaystyle{ W=\mbox{span}(\{\mathbf e_1,\dots,\mathbf e_n\}) }[/math] הוא [math]\displaystyle{ \tilde\mathbf u=\sum_{k=1}^n\langle\mathbf u,\mathbf e_k\rangle\mathbf e_k }[/math].

טענת עזר

יהי [math]\displaystyle{ V }[/math] מרחב מכפלה פנימית, ותהי [math]\displaystyle{ S=\{\mathbf e_1,\dots,\mathbf e_n\} }[/math] קבוצה אורתונורמלית ב־[math]\displaystyle{ V }[/math]. אם [math]\displaystyle{ \mathbf u=\sum_{k=1}^n a_k\mathbf e_k }[/math] אזי [math]\displaystyle{ \forall k:\ a_k=\langle\mathbf u,\mathbf e_k\rangle }[/math].

הוכחה

[math]\displaystyle{ \langle\mathbf u,\mathbf e_k\rangle=\left\langle\sum_{i=1}^n a_i\mathbf e_i,\mathbf e_k\right\rangle=\sum_{i=1}^n a_i\langle\mathbf e_i,\mathbf e_k\rangle=\sum_{i=1}^n a_i\delta_{i,k}=a_k }[/math]

[math]\displaystyle{ \blacksquare }[/math]

את ההמשך עשינו בשיעור שאחריו:

הוכחה

הגדרה: [math]\displaystyle{ c_k=\langle\mathbf u,\mathbf e_k\rangle }[/math] נקרא "מקדם פורייה".

צריך להוכיח ש־[math]\displaystyle{ \min_{\mathbf v\in W}\|\mathbf u-\mathbf v\|=\|\mathbf u-\tilde\mathbf u\| }[/math]. אזי יהי [math]\displaystyle{ \mathbf v\in W }[/math] ונסמן [math]\displaystyle{ \mathbf v=\sum_{k=1}^n a_k\mathbf e_k }[/math]. לכן

		[math]\displaystyle{ }[/math]	[math]\displaystyle{ \langle\mathbf u-\mathbf v,\mathbf u-\mathbf v\rangle }[/math]	[math]\displaystyle{ = }[/math]	[math]\displaystyle{ \left\Vert\mathbf u-\mathbf v\right\Vert^2 }[/math]	[math]\displaystyle{ }[/math]
		[math]\displaystyle{ }[/math]	[math]\displaystyle{ \langle\mathbf u,\mathbf u\rangle-\left\langle\mathbf u,\sum_{k=1}^n a_k\mathbf e_k\right\rangle-\left\langle\sum_{k=1}^n a_k\mathbf e_k,\mathbf u\right\rangle+\langle\mathbf v,\mathbf v\rangle }[/math]	[math]\displaystyle{ = }[/math]	[math]\displaystyle{ }[/math]	[math]\displaystyle{ }[/math]
		[math]\displaystyle{ }[/math]	[math]\displaystyle{ \Vert\mathbf u\Vert^2-\sum_{k=1}^n\Big(\overline{a_k}c_k+a_k\overline{c_k}\Big)+\sum_{k=1}^n\vert a_k\vert^2 }[/math]	[math]\displaystyle{ = }[/math]	[math]\displaystyle{ }[/math]	[math]\displaystyle{ }[/math]
	מתקיים [math]\displaystyle{ \begin{array}{l}|c_k-a_k|^2-|c_k|^2=\\=(c_k-a_k)(\overline{c_k}-\overline{a_k})-|c_k|^2=\\=|a_k|^2-\overline{a_k}c_k-a_k\overline{c_k}\end{array} }[/math]	[math]\displaystyle{ }[/math]	[math]\displaystyle{ \Vert\mathbf u\Vert^2+\sum_{k=1}^n\vert c_k-a_k\vert^2-\sum_{k=1}^n\vert c_k\vert^2 }[/math]	[math]\displaystyle{ = }[/math]	[math]\displaystyle{ }[/math]	[math]\displaystyle{ }[/math]
	המקרה המינימלי הוא כאשר [math]\displaystyle{ \forall k:\ a_k=c_k }[/math]	[math]\displaystyle{ }[/math]	[math]\displaystyle{ \Vert\mathbf u\Vert^2-\sum_{k=1}^n\vert c_k\vert^2 }[/math]	[math]\displaystyle{ \ge }[/math]	[math]\displaystyle{ }[/math]	[math]\displaystyle{ }[/math]

מכאן ש־[math]\displaystyle{ \|\mathbf u-\mathbf v\| }[/math] מינימלי כאשר [math]\displaystyle{ \mathbf v=\tilde\mathbf u }[/math]. [math]\displaystyle{ \blacksquare }[/math] התוצאה נותנת לנו גם את אי־שיוויון בסל: [math]\displaystyle{ \|\mathbf u\|^2\ge\sum_{k=1}^n|c_k|^2 }[/math].

הכללה

בהינתן בסיס אורתוגונלי [math]\displaystyle{ S=\{\mathbf b_1,\dots,\mathbf b_n\} }[/math] של [math]\displaystyle{ W }[/math] (שאינו בהכרח אורתונורמלי) ניתן להכליל את הנוסחה הנ״ל ל־[math]\displaystyle{ \tilde\mathbf u=\sum_{k=1}^n\frac{\langle\mathbf u,\mathbf b_k\rangle}{\langle\mathbf b_k,\mathbf b_k\rangle}\mathbf b_k }[/math].

הוכחה

[math]\displaystyle{ S }[/math] בסיס ולכן וקטור האפס אינו נמצא בו. לפיכך הקבוצה [math]\displaystyle{ \left\{\frac{\mathbf b_1}{\|\mathbf b_1\|},\dots,\frac{\mathbf b_n}{\|\mathbf b_n\|}\right\} }[/math] מוגדרת ואורתונורמלית, ולבסוף

[math]\displaystyle{ \sum_{k=1}^n\frac{\langle\mathbf u,\mathbf b_k\rangle}{\langle\mathbf b_k,\mathbf b_k\rangle}\mathbf b_k=\sum_{k=1}^n\frac{\overline{\|\mathbf b_k\|}\left\langle\mathbf u,\frac{\mathbf b_k}{\|\mathbf b_k\|}\right\rangle}{\|\mathbf b_k\|^2}\|\mathbf b_k\|\frac{\mathbf b_k}{\|\mathbf b_k\|}=\sum_{k=1}^n\left\langle\mathbf u,\frac{\mathbf b_k}{\|\mathbf b_k\|}\right\rangle\frac{\mathbf b_k}{\|\mathbf b_k\|}=\tilde\mathbf u }[/math]

[math]\displaystyle{ \blacksquare }[/math]

תרגיל

נתבונן בממ״פ של פונקציות רציפות בקטע [math]\displaystyle{ [-1,1] }[/math]. נגדיר מ״פ באופן הבא: [math]\displaystyle{ \langle f,g\rangle=\int\limits_{-1}^1 f(x)g(x)\mathrm dx }[/math]. מצאו קירוב ל־[math]\displaystyle{ f(x)=x^3 }[/math] בתת־מרחב הנפרש ע״י המערכת האורתונורמלית [math]\displaystyle{ S=\{\mathbf e_1,\mathbf e_2\}=\left\{\frac1\sqrt2,\sqrt\frac32 x\right\} }[/math].

פתרון

מתקיים:

[math]\displaystyle{ \begin{align}&\langle f,\mathbf e_1\rangle=\int\limits_{-1}^1\frac{x^3}\sqrt2\mathrm dx=0\\&\langle f,\mathbf e_2\rangle=\int\limits_{-1}^1\sqrt\frac32x^3\mathrm dx=\frac\sqrt65\\\implies&\tilde f(x)=0\cdot\mathbf e_1+\frac\sqrt65\mathbf e_2=\frac\sqrt65\sqrt\frac32x=\frac35x\end{align} }[/math]

ולפיכך [math]\displaystyle{ \left\|x^3-\frac35x\right\| }[/math] מינימלי בקטע. [math]\displaystyle{ \blacksquare }[/math]