内积空间

具有内积运算的线性空间

内积空间

内积空间(inner product space)是具有内积运算的线性空间。[0]其定义为:设V是一个线性空间,对任意x,y∈V有一个实数与之对应并记为(x,y),如果这种对应关系满足对称性公理、关于第一变元的线性公理、正定性公理,则称V为内积空间。[11]数学中的空间是指某种对象构成的集合,这些概念起源于泛函分析的兴起。1903年,法国数学家阿达玛(Hadamard)首先采用了“泛函”一词。[2]希尔伯特(Hilbert)通过严密的极限过程将有限线性代数方程的结果类比推广到积分方程,在这一过程中,他引进了平方可和实数列的集合,即为希尔伯特空间。其学生施密特(Schmidt)和数学家冯·诺伊曼(von Neumann)等人对该空间进一步研究,应用内积的工具进行几何类比,正式确定了内积空间的概念。1922年,波兰数学家巴拿赫(Banach)提出了比内积空间更为一般的赋范空间的概念,用范数代替内积定义线性空间中点列的收敛性与空间的拓扑结构。次年,他又提出了完备赋范空间的概念,后人称为巴拿赫空间。[1]对其他学科复杂问题的探索也促使内积空间理论取得进一步发展。1942年,不定内积空间的概念出现在狄拉克(Dirac)有关量子场论的文章中。1974年,波哥纳(Bogner)给出关于一般不定内积空间理论的第一本专著,其上的线性算子也逐渐开始为人们所理解。[0]

内积空间(inner product space)是具有内积运算的线性空间[1]其定义为:设V是一个线性空间,对任意x,y∈V有一个实数与之对应并记为(x,y),如果这种对应关系满足对称性公理、关于第一变元的线性公理、正定性公理,则称V为内积空间。[12]

数学中的空间是指某种对象构成的集合,这些概念起源于泛函分析的兴起。1903年,法国数学家阿达玛(Hadamard)首先采用了“泛函”一词。[3]希尔伯特(Hilbert)通过严密的极限过程将有限线性代数方程的结果类比推广到积分方程,在这一过程中,他引进了平方可和实数列的集合,即为希尔伯特空间。其学生施密特(Schmidt)和数学家冯·诺伊曼(von Neumann)等人对该空间进一步研究,应用内积的工具进行几何类比,正式确定了内积空间的概念。1922年,波兰数学家巴拿赫(Banach)提出了比内积空间更为一般的赋范空间的概念,用范数代替内积定义线性空间中点列的收敛性与空间的拓扑结构。次年,他又提出了完备赋范空间的概念,后人称为巴拿赫空间[2]对其他学科复杂问题的探索也促使内积空间理论取得进一步发展。1942年,不定内积空间的概念出现在狄拉克(Dirac)有关量子场论的文章中。1974年,波哥纳(Bogner)给出关于一般不定内积空间理论的第一本专著,其上的线性算子也逐渐开始为人们所理解。[1]

内积空间可通过范数定义,因此它是赋范线性空间,具备正尺度性、三角不等式等性质。[9]线性代数中格拉姆-施密特(Gram-Schmidt)标准正交化过程可推广到内积空间上来,它可以用于讨论可分希尔伯特空间的结构。[13]如果不满足定义中的正定性,可形成不定内积空间。[14]此外,内积空间在现实世界中应用广泛,如计算机科学中,基于语义内积空间模型的文本聚类算法可以用于中文短文本数据的聚类,并且提升质量。[4]

定义

设是一个线性空间,对任意的有一个实数与之对应并记为。如果这种对应关系满足:

(1)对任意,有;

(2)对任意,,有;

(3)对任意,有;

(4)对任意,有,当且仅当时,,则称为内积空间,称二元函数为内积。这4个条件称为内积公理,条件(1)为对称性,条件(2)和(3)为关于第一变元的线性,条件(4)为正定性。[12]

特别地,称实数域上的内积空间为欧几里得空间(简称为欧氏空间);称复数域上的内积空间为酉空间或复内积空间。若内积空间是完备的,则称为希尔伯特空间。[7]

早期研究

数学中的空间是指某种对象构成的集合,这些概念起源于泛函分析的兴起,最初它与变分法和积分方程的研究有关。1903年,法国数学家阿达玛(Hadamard)首先采用了“泛函”一词,意大利数学家伏尔泰(Volterra)称其为线函数(即曲线的函数)。[3]同样在20世纪初,希尔伯特(Hilbert)通过严密的极限过程将有限线性代数方程的结果类比推广到积分方程,在这一过程中,他引进了平方可和实数列的集合(即希尔伯特空间),这是历史上第一个具体的无穷维空间。但是,他本人没有使用几何语言对其进行定义。[2]

后来,希尔伯特的学生施密特(Schmidt)和美籍匈牙利数学家冯·诺伊曼(von Neumann)等人进一步研究空间,把每个平方可和无穷实数列看作中的一个“点”,应用内积的工具进行几何类比,正式确定了内积空间的概念,他们的成果是三维空间向量长度的推广。依照三维空间中垂直的概念,他们用内积定义了内积空间中两个向量的正交(垂直),并且在内积空间中定义了标准正交系。此后,数学家们又发现了平方勒贝格(Lebesgue)可积函数空间以及无穷维内积空间的其他示例。[2]

冯·诺伊曼
冯·诺伊曼

后续发展

希尔伯特之外,法国数学家弗雷歇(Frecher)于1906年发表的博士论文中对空间与函数关系进行了明确的阐述。他还将普通的微积分运算推广到了函数空间,为泛函分析的理论奠定了基础。[2]1922年,波兰数学家巴拿赫(Banach)提出了比内积空间更为一般的赋范空间的概念,用范数代替内积定义线性空间中点列的收敛性与空间的拓扑结构。他在1923年又提出了完备赋范空间的概念,后人称为巴拿赫空间。在这个空间上,完备赋范空间上的线性算子理论被建立,该理论中的一些结论可以用于解决积分方程、三角级数等问题。[2]

对其他学科复杂问题的探索促使内积空间理论进一步发展。冯·诺依曼(von Neumann)研究了希尔伯特空间上的对称算子,发现量子力学所用的数学工具恰好是这种算子的谱理论。[2]1942年,不定内积空间的概念出现在狄拉克(Dirac)有关量子场论的文章中。后来,庞特里亚金(Pontriakin)为了研究力学问题,也开始从数学上探讨不定内积空间上的算子理论,1974年,波哥纳(Bogner)给出关于一般不定内积空间理论的第一本专著,其上的线性算子也逐渐开始为人们所理解。[1]

巴拿赫
巴拿赫

举例

(1)在实数域上维线性空间中,对向量,,定义实数域内积,则成为一个欧氏空间。[7]

(2)在复数域上维线性空间中,对向量,,定义复数域内积,其中,则成为一个酉空间。[7]

(3)对定义于区间上的连续实值函数全体,定义内积,,则有形成一内积空间。[15]

(4)记为满足条件的平方可积复值函数全体,定义内积

,则有是一个内积空间。[15]

(5)若是内积空间与的笛卡尔乘积,定义内积,,则有形成一内积空间。此时,与可以看作分别是的子空间与。[15]

(6)对于实矩阵空间中的矩阵,,定义,则是上的内积,是欧式空间。[16]

(7)在随机变量的二阶矩存在时,条件期望有一个几何解释。在中,设随机变量,定义内积。若,定义的模;若,考虑,相当于在欧氏空间中把向量起点平移到原点。假定随机变量的均值为零,若和不相关,则称和正交(或垂直)。若随机变量和独立,则和必正交。在内积的定义下,是一个希尔伯特内积空间。[17]

赋范空间

设是内积空间,则由内积定义的映射,是上的范数,称为由内积诱导的范数。[2]内积空间满足赋范向量空间的所有性质。[9][2]

(1)正尺度性:对于实数域(或复数域)的子域中的所有以及所有和,具有

(2)三角不等式:对所有和,;

(3)正定性:当且仅当为零向量[9]

(4)平行四边形公式:对所有和,;[2]

(5)柯西-施瓦茨不等式:对于中的任意两个向量和,。此外,当且仅当对于某些,时,等号成立。[9]

(6)托勒密不等式:度规空间中的四点满足 。[18]

(7)极化恒等式

当是实内积空间时,。[19]

当是复内积空间时,。[19]

因此,内积的实部为,虚部为。[19]

正交性

定义:设是内积空间,,若,则称与正交,记为。[10]

正交补集:设是内积空间中的真子集,则集合称为集合的正交补集。[20]

勾股正交设是内积空间,则对任意都有。[10]用归纳法可以将该定理进行推广,即若两两正交,应有。[21]

角度:设是内积空间中的非零向量,定义之间的夹角的余弦

[22]

长度:设是内积空间,中向量的长度定义为。[7]

距离:设是内积空间,中向量与之间的距离定义为,并称是由长度导出的距离。[7]

正交化

标准正交基设是维内积空间的一组基,若对一切都成立,则称这组基是的一组正交基。又若的一组正交基中每个基向量的长度等于,则称这组正交基为标准正交基[23]

例如,在上,是一组标准正交基,对,对应的傅里叶(Fourier)系数是。[13]

标准正交化过程:在线性代数中,有将一个线性无关组进行正交化的格拉姆-施密特(Gram-Schmidt)正交化过程,这一方法可以推广到内积空间上来。设是内积空间中的一列线性无关的元素。按下面过程

可得到一组标准正交集,对任一正整数,为的线性组合[13]

该过程从一列线性无关的向量开始,产生出一组标准正交的向量组,它与原来的向量组有相同的生成空间。其依据的定理可表示为:设是一个内积空间,并假设线性无关,则存在标准正交组,使得

,。[8]

由该方法可知,任意有限维的内积空间都有一个正交基,[23]它还可以证明可分希尔伯特空间的结构特性:[13]

希尔伯特空间是可分的充分必要条件是有含可数个元的标准正交基。又若的元素个数为有限,则同构于(或),若中有可列个元素,则同构于。[13]

同构

两个内积空间与称为是同构的,如果二者之间存在一个一一对应的,并且对任何,,满足

(1);

(2);

(3),则这两个内积空间是同构的,首先作为线性空间它们是同构的;其次,在这个同构之下,向量内积是保持不变的。[11]

性质

同构具有反身性、对称性与传递性。[10]

(1)内积空间到的恒等映射是一个同构映射,即同构关系是反身的。[10]

(2)设内积空间与是同构的,与上的内积分别记为与,即存在到的保长同构映射,由于作为线性空间到的映射是同构,且对任意的,则

从而是内积空间到的保长同构映射,即与同构,因而同构关系是对称的。[10]

(3)设,,是数域上的内积空间,其上的内积分别记为,,,若,同构,,同构,即存在保长同构映射,,由于是线性空间到的同构映射,且对任意的,则

从而是保内积的,于是与同构,因而同构关系是传递的。[10]

半内积空间

在内积空间的定义中若取消正定性“当且仅当时,”,则称为半内积,并称是半内积空间。[24]

不定内积空间

更一般地,将不能为正定的内积称为不定内积,例如非正定的内积可能会产生范数,该范数会为某些向量(类空间向量)产生虚数度量,这种度量并非真正的度量,如洛伦兹内积即为一个不定内积。[14]

不定内积空间:令是一个复向量空间,是上的函数,称是一个不定内积空间,如果下列条件成立:

(1)对任意;

(2)对任意,;

(3)对任意,如果,则有,则称为不定内积。[25]

文本聚类算法

在计算机科学中,如何从海量文本中获取知识成为了研究重点之一。传统数据聚类方法在处理文本数据,尤其是短文本数据时,由于没有考虑词之间潜在存在的相似情况,聚类效果不理想。基于语义内积空间模型的文本聚类算法首先利用内积空间的定义建立针对中文概念、词和文本的相似度度量方法;然后从理论上进行分析;最后通过一个两阶段处理过程,即向下分裂和向上聚合,完成文本数据的聚类。该方法成功用于中文短文本数据的聚类,并且提升了质量。[4]

KMeans聚类方法
KMeans聚类方法

社交网络距离预测算法

在对社交网络进行拓扑分析时,计算距离(定义为组成点与点之间最短路径的边的条数)是第一步。一些经典的最短路径距离求解算法,例如广度优先遍历(BFS)、Dijkstra等,时间复杂度较高,不适用于社交网络这类数据规模较大的网络。一种社交网络距离预测方法通过计算起始节点的出坐标和终止节点的入坐标的内积来算出距离,克服了距离的不对称约束。同时,针对已有方法进行改进,从距离矩阵中还原出低秩的主要部分可以消除误差和离群点达到降维去噪的效果,并将离散矩阵分解和坐标计算融合成一个单优化问题,最终提升算法的精确度。[5]

图嵌入到欧式空间的例子
图嵌入到欧式空间的例子

医学

在医学领域,开发一种抗过敏性的新药时,要对不同剂量的药效进行实验,让10名患者各服用了该新药的一个特定的剂量,药物消失时立即记录。通过内积空间矛盾方程组最小二乘解理论可以求得法方程组,首先写出线性方程组增广矩阵,再将增广矩阵的相应列向量求点积即得对应的法方程组。这种方法可以将离散数据最小二乘曲线拟合问题转化成线性矛盾方程组的最小二乘解问题,得到药物剂量和症状持续天数之间的关系,便于药物研发。[6]

药物实验
药物实验

参考资料 25

  1. 参考 1
  2. 参考 2
  3. 参考 3
  4. https://kns-cnki-net-443.webvpn.cauc.edu.cn/kcms2/article/abstract?v=HiJCKhV2ch5jN4fjHB1PQux7dHBnBS-G1fV0zEQjLRx-Ce95i0pxHkJBMWI_-xUjKHpZX7XjrXgjpjdSxnXFuXB8rU5dUuwT08E_NXqt30GobxJkth2J9X7cZLJ_qzsdZ_LbdNBpjq4=&uniplatform=NZKPT&language=CHS
  5. https://kns-cnki-net-443.webvpn.cauc.edu.cn/kcms2/article/abstract?v=HiJCKhV2ch7j7iXzwdNQ-HcFUem3MyHBozrjA9fhMbCsHBdsmZvu4dL5-mJ6-U45eTMmbdiqe9oBFD_RSzyDOm9LTmNRMhAzTA1RbgagIwA66_keW9bLfXI-0tBVsUByxMUyzjiGwMlWgRmOjLqS6g==&uniplatform=NZKPT&language=CHS
  6. https://kns-cnki-net-443.webvpn.cauc.edu.cn/kcms2/article/abstract?v=HiJCKhV2ch4g9PpbNH-x3iURwGChmB4HQH6SYIahbWvLd7gJwtddddd9RVdpUqfmcmBZkHIKimq424mSw8P18dCVNro5N5xTWY2d81UK29-TNeIB47e9zxbk_y9fuosZhnywUx_QFJACr4sbVHQUPA==&uniplatform=NZKPT&language=CHS
  7. 参考 7
  8. 参考 8
  9. 参考 9
  10. 参考 10
  11. 参考 11
  12. 参考 12
  13. 参考 13
  14. Inner Product — mathworld
  15. 参考 15
  16. 参考 16
  17. 参考 17
  18. 参考 18
  19. 参考 19
  20. 参考 20
  21. 参考 21
  22. 参考 22
  23. 参考 23
  24. 参考 24
  25. 参考 25
广告位:底部(ad-bottom)—— 请到中台「公共区块」编辑此内容