内积空间、赋范向量空间、Banach空间和Hilbert空间
向量空间内积和内积空间范数和赋范向量空间Banach空间Hilbert空间总结[1]张贤达.矩阵分析与应用[M].清华大学出版社:北京,:23-25.
向量空间
以向量为元素的集合VVV称为向量空间,若加法运算定义为两个向量之间的加法,乘法运算定义为两个向量与标量域SSS中的标量之间的乘法,并且对于向量集合VVV中的向量和标量域SSS的标量满足两个闭合性和关于加法和乘法的8个公理。
闭合性:
若x∈V\bm{x}\in Vx∈V和y∈V\bm{y}\in Vy∈V,则x+y∈V\bm{x}+\bm{y}\in Vx+y∈V,称为加法的闭合性若a∈Sa\in Sa∈S是一个标量,y∈V\bm{y}\in Vy∈V,则ay∈Va\bm{y}\in Vay∈V,称为标量乘法的闭合性
加法和乘法的8个公理:
加法交换律加法结合律在VVV中存在零向量0\bm{0}0,对∀y∈V\forall y \in V∀y∈V,恒有y+0=y\bm{y}+\bm{0}=\bm{y}y+0=y存在负向量a(by)=(ab)ya(b\bm{y})=(ab)\bm{y}a(by)=(ab)y(a+b)y=ay+by(a+b)\bm{y}=a\bm{y}+b\bm{y}(a+b)y=ay+bya(x+y)=ax+bya(\bm{x}+\bm{y})=a\bm{x}+b\bm{y}a(x+y)=ax+by1y=y1\bm{y}=\bm{y}1y=y,称为标量乘法单位率
内积和内积空间
定义内积的三个公理:
共轭对称性,⟨x,y⟩=⟨y,x⟩∗\langle\bm{x},\bm{y}\rangle=\langle\bm{y},\bm{x}\rangle^*⟨x,y⟩=⟨y,x⟩∗第一变元的线性性,⟨αx+βy,z⟩=α⟨x,z⟩+β⟨y,z⟩\langle\alpha\bm{x}+\beta\bm{y},\bm{z}\rangle=\alpha\langle\bm{x},\bm{z}\rangle+\beta\langle\bm{y},\bm{z}\rangle⟨αx+βy,z⟩=α⟨x,z⟩+β⟨y,z⟩非负性,⟨x,x⟩≥0\langle \bm{x},\bm{x}\rangle\geq0⟨x,x⟩≥0,并且⟨x,x⟩=0⇔x=0\langle \bm{x},\bm{x}\rangle=0\Leftrightarrow\bm{x}=0⟨x,x⟩=0⇔x=0
综上可得:
⟨x,y⟩=xHy=∑i=1nxi∗yi\langle \bm{x},\bm{y}\rangle=\bm{x}^H\bm{y}=\sum_{i=1}^nx_i^*y_i ⟨x,y⟩=xHy=i=1∑nxi∗yi
满足内积三个公理的实向量空间和复向量空间是实内积向量空间和复内积向量空间。
范数和赋范向量空间
定义范数p(x):V→Rp(\bm{x}):V\rightarrow Rp(x):V→R的三个公理:
非负性,p(x)≥0p(\bm{x})\geq0p(x)≥0,并且p(x)=0⇔x=0p(\bm{x})=0\Leftrightarrow\bm{x}=\bm{0}p(x)=0⇔x=0齐次性,p(cx)=∣c∣⋅(x)p(c\bm{x})=|c|\cdotp(\bm{x})p(cx)=∣c∣⋅(x)对任意复常数ccc成立三角不等式,p(x+y)≤p(x)+p(y)p(\bm{x}+\bm{y})\leq p(\bm{x})+p(\bm{y})p(x+y)≤p(x)+p(y)
满足范数定义的(实或复)向量空间是赋范向量空间
Banach空间
对于赋范向量空间VVV,若对任一柯西序列{vn}n=1∞⊂V\{\bm{v}_n\}_{n=1}^\infin\subset V{vn}n=1∞⊂V,在VVV内存在一个元素v\bm{v}v,使得limn→∞vn→v\lim_{n\rightarrow\infin}\bm{v}_n\rightarrow\bm{v}limn→∞vn→v,则称VVV为Banach空间
Hilbert空间
一个相对于范数完备,即满足范数收敛limn→∞∣∣vn∣∣→∣∣v∣∣\lim_{n\rightarrow\infin}||\bm{v}_n||\rightarrow||\bm{v}||limn→∞∣∣vn∣∣→∣∣v∣∣的赋范向量空间VVV称为Hilbert空间。显然,Banach空间⊃\supset⊃Hilbter空间。