主题：【原创】为什么汉语是世界上最先进的语言（上） -- 冷酷的哲学

I don't know if we have any non-正交 math.

Hausdorff测度, still some kind of 邻域正交 in the sense of 拓撲, I think.

with that and 微分结构 introduced, we have 微分流形, where we could 外微分 across local 坐标系, kind of, 广义正交;

out of the above and other "广义正交" math theory and generally speaking, we have all kinds of "non-linear (not really non-linear!)" math models including those you mentioned, I think.

I may be wrong, having not fully researched on this subject.

while writing this and researching on google, I keep thinking that all these type of stuff are very "hard", "confusing" for our natural brain and languages, and even "conflict generating" if in a more sensitive social environment, such as this "language post", where personal ego, national pride type of emotions running very hot.

and life is short, so AI apps need to come faster.

and I hope more people will join discussion with this kind of 人文 physics/math, where a lot of future AI apps will be developed, I guess.

----------quoted----------

1.

拓撲學術語- 维基百科，自由的百科全书

zh.wikipedia.org/zh-hk/拓撲學術語

所以，所有的緊Hausdorff 空間都是正規的。 參閱准紧(quasicompact)。 紧开拓扑(Compact-open topology) 考慮所有由X 到Y 的連續函數所形成的集合C(X, Y)， 我們

Hausdorff测度与Hausdorff维数 THE VOID

zs11235.wordpress.com/.../hausdorff测度与hausdorff... - 轉為繁體網頁

2012年8月1日 – 的正交投影，则 |p_V(x)-p_V(y)|\leq |x-y| 。由推论1，我们有. 推论2. \mathbb{R}^d 中子集的Hausdorff测度在平移和正交变换下不变；; 齐次性： ...

[PDF]

基于新的加权Hausdorff 距离的图像匹配

www.cnoenet.com/m8008189808/.../20070543.pdf - 轉為繁體網頁

檔案類型: PDF/Adobe Acrobat - 快速檢視

由 杨兵 著作 - 2007 - 被引用 4 次 - 相關文章

由特征值所对应的特征向量所构成的正交阵&. 由于结构张量蕴含图像的局部结构信息"在公式. (4)的基础上"可用它来对Hausdorff 距离进行加权%. (STWHD(,,7)1 ...

Hausdorff-Young不等式--中国百科网

www.chinabaike.com/article/.../200806041507449.ht... - 轉為繁體網頁

Hausdorff-Young不等式,中国百科网. ... Hausdorff - Young inequalities. Hal改b ... 对于无界正交函数系来说，Ha班目0盯一YoLn唱不等式的定量表述(如果f6L，，1 ...

种Sierpinski垫片的Hausdorff测度

file.lw23.com/.../68f4beb1-3b51-4f80-95c5-f8d1d61a... - 轉為繁體網頁

其ｓ维Ｈａｕｓｄｏｒｆｆ测度为１． ０. 证明由引理１，不难得到Ｆ的Ｈａｕｓｄｏｒｆｆ维数ｓ＝ １． 现在把Ｆ向ｘ轴正交投影，则在［０，１］区间上得到一个分形集Ｋ，其等价描述如下：记Ｋ ...

2.

流形- 维基百科，自由的百科全书

zh.wikipedia.org/zh-hk/流形 - 轉為繁體網頁

这也许是中文译名“流形”的原因（整体的形态可以流动）。该译名由著名数学家和数学教育学家江泽涵引入。这样，流形的硬度使它能够容纳微分结构，而它的软度使得它 ...

黎曼几何学_百度百科

baike.baidu.com/view/149368.htm - 中華人民共和國 - 轉為繁體網頁

ωn为局部正规正交标架e1，e2，…，en的对偶形式，也称对偶基，即满足的n个一次微分形式，于是在基{ei}下，由于，度量形式可写为。 任一仿紧微分流形总具有黎曼 ...

复流形_百度百科

baike.baidu.com/view/1403361.htm - 中華人民共和國 - 轉為繁體網頁

即它能被一族坐标邻域(见微分流形)所覆盖，其中每个坐标邻域能与n维复空间Cn ... CPn在P点的任一切向量X可对应于球面S2n中与上述大圆正交的切向量塣，把塣的 ...

3.

第十五章正交曲面坐标系_百度文库

wenku.baidu.com/.../315a6226482fb4daa58d4b03.ht... - 轉為繁體網頁

例3 对于柱坐标系， du = 例4 对于球坐标系， du = 运算法则1 ?u ?u ?u dr + dθ + dz. ?r ?θ ?z ?u ?u ?u dr + dθ + dφ. ?r ?θ ?φ ?f dxi , ?xi 外微分算符d在不同坐标系 ...

基于外微分形式的一般坐标系下梯度\旋度\散度的统一推导_高等教育 ...

www.starlunwen.net ... 教育论文 高等教育论文 - 轉為繁體網頁

2011年10月5日 – 四总结本文给出了一种基于外微分形式的推导任意坐标系下梯度、旋度、散度的统一方法。该方法非常简单，其步骤仅有微分运算和比较等式两边。

外微分可以应用于微分方程的数值解算吗？ - Seminar Math - 数学习 ...

www.seminarmath.com/.../外微分可以应用于微分方程... - 轉為繁體網頁

2012年1月24日 – 我简单的查阅了一下文献：采用外微分，好多基本的物理规律要用不同的 ... 起源于对物理世界的描述，而物理定律实际上是脱离于特定坐标系的。

外微分的问题列表- Seminar Math - 数学习明纳尔

www.seminarmath.com/tags/外微分/ - 轉為繁體網頁

2012年1月24日 – ... 起源于对物理世界的描述，而物理定律实际上是脱离于特定坐标系的。 ... 我简单的查阅了一下文献：采用外微分，好多基本的物理规律要用不同的 ...

4.

[PPT]

CH5

140.133.35.1/faculty/pwu/NN/CH05.ppt

檔案類型: Microsoft Powerpoint - 快速檢視

輻狀基底函數類神經網路( Radial Basis Function ANN ). 類神經網路. 4 ..... 在1977 年Mackey和Glass發表了一篇重要的論文，利用一階微分-延遲方程式（first-order ...

[PDF]

3.3 - 國立中央大學

thesis.lib.ncu.edu.tw/ETD-db/ETD-search/getfile?URN...pdf

檔案類型: PDF/Adobe Acrobat - HTML 版

由 T Liao 著作 - 2009 - 相關文章

3.4.2 輻狀基底函數中心點選取法. ..... 圖4-23 回饋式與輻狀基底函數類神經網路填補績效. ...... 的偏微分可由微積分的連鎖律（chain rule）來求得：. )())(. (')(. )(. )( tyt net ...

預測與應用 - 圖書服務- 交通部運輸研究所\\

www.iot.gov.tw 首頁 圖書服務 博碩士論文

此外，在本研究中，採用輻狀基底函數類神經網路（Radial Basis Function Neural ... autoregressive stochastic time series）與確定性一階微分方程式（Deterministic ...

[PDF]

不同人工神經網路架構在不動產大量估價之應用與比較 - 國立臺北大學 ...

www.rebe.ntpu.edu.tw/download.php?filename=499...pdf...

檔案類型: PDF/Adobe Acrobat - 快速檢視

CAMA)已逐漸盛行與被應用，自960年代開始，國外多應用電腦輔助大量估價 ... Link Network, MFLN）、輻狀基底函數網路（Radial Basis Function Network, ...... 號的傳遞過程來調整層與層之間的權值，其方式係利用微分產生，而調整幅度和誤. 差函數 ...

PDF]

支援向量機於信用評等之應用

nlg.csie.ntu.edu.tw/.../...

檔案類型: PDF/Adobe Acrobat - 快速檢視

除了上述的方法外，近幾年中又有許多新的方法被提出，支援向量機(Support Vector .... Dual Optimization Problem)來解決，先對方程式(4)的w 和b. 偏微分：. 0. = .... 本研究採用放射型(RBF)核心函數來建立分類系統，因為放射型函數能分類非線性 ...

5.

MIT牛人解说数学体系（推荐~）2微分几何：流形上的分析——在拓扑空间上引入微分结构

拓扑学把极限的概念推广到一般的拓扑空间，但这不是故事的结束，而仅仅是开 始。在微积分里面，极限之后我们有微分，求导，积分。这些东西也可以推广到拓扑空间，在拓扑学的基础上建立起来——这就是微分几何。从教学上说，微分几何 的教材，有两种不同的类型，一种是建立在古典微机分的基础上的“古典微分几何”，主要是关于二维和三维空间中的一些几何量的计算，比如曲率。还有一种是建 立在现代拓扑学的基础上，这里姑且称为“现代微分几何”——它的核心概念就是“流形”(manifold)——就是在拓扑空间的基础上加了一套可以进行微 分运算的结构。现代微分几何是一门非常丰富的学科。比如一般流形上的微分的定义就比传统的微分丰富，我自己就见过三种从不同角度给出的等价定义——这一方 面让事情变得复杂一些，但是另外一个方面它给了同一个概念的不同理解，往往在解决问题时会引出不同的思路。除了推广微积分的概念以外，还引入了很多新概 念：tangent space, cotangent space, push forward, pull back, fibre bundle, flow, immersion, submersion 等等。

近些年，流形在machine learning似乎相当时髦。但是，坦率地说，要弄懂一些基本的流形算法， 甚至“创造”一些流形算法，并不需要多少微分几何的基础。对我的研究来说，微分几何最重要的应用就是建立在它之上的另外一个分支：李群和李代数——这是数 学中两大家族分析和代数的一个漂亮的联姻。分析和代数的另外一处重要的结合则是泛函分析，以及在其基础上的调和分析。

代数：一个抽象的世界关于抽象代数

回过头来，再说说另一个大家族——代数。

如果说古典微积分是分析的入门，那么现代代数的入门点则是两个部分：线性代数(linear algebra)和基础的抽象代数(abstract algebra)——据说国内一些教材称之为近世代数。

代数——名称上研究的似乎是数，在我看来，主要研究的是运算规则。一门代数， 其实都是从某种具体的运算体系中抽象出一些基本规则，建立一个公理体系，然后在这基础上进行研究。一个集合再加上一套运算规则，就构成一个代数结构。在主 要的代数结构中，最简单的是群(Group)——它只有一种符合结合率的可逆运算，通常叫“乘法”。如果，这种运算也符合交换率，那么就叫阿贝尔群 (Abelian Group)。如果有两种运算，一种叫加法，满足交换率和结合率，一种叫乘法，满足结合率，它们之间满足分配率，这种丰富一点的结构叫做环(Ring)， 如果环上的乘法满足交换率，就叫可交换环(Commutative Ring)。如果，一个环的加法和乘法具有了所有的良好性质，那么就成为一个域(Field)。基于域，我们可以建立一种新的结构，能进行加法和数乘，就 构成了线性代数(Linear algebra)。

代数的好处在于，它只关心运算规则的演绎，而不管参与运算的对象。只要定义恰 当，完全可以让一只猫乘一只狗得到一头猪:-)。基于抽象运算规则得到的所有定理完全可以运用于上面说的猫狗乘法。当然，在实际运用中，我们还是希望用它 干点有意义的事情。学过抽象代数的都知道，基于几条最简单的规则，比如结合律，就能导出非常多的重要结论——这些结论可以应用到一切满足这些简单规则的地 方——这是代数的威力所在，我们不再需要为每一个具体领域重新建立这么多的定理。

抽象代数有在一些基础定理的基础上，进一步的研究往往分为两个流派：研究有限 的离散代数结构（比如有限群和有限域），这部分内容通常用于数论，编码，和整数方程这些地方；另外一个流派是研究连续的代数结构，通常和拓扑与分析联系在 一起（比如拓扑群，李群）。我在学习中的focus主要是后者。

线性代数：“线性”的基础地位

对于做Learning, vision, optimization或者statistics的人来说，接触最多的莫过于线性代数——这也是我们在大学低年级就开始学习的。线性代数，包括建立在它 基础上的各种学科，最核心的两个概念是向量空间和线性变换。线性变换在线性代数中的地位，和连续函数在分析中的地位，或者同态映射在群论中的地位是一样的 ——它是保持基础运算（加法和数乘）的映射。

在learning中有这样的一种倾向——鄙视线性算法，标榜非线性。也许在 很多场合下面，我们需要非线性来描述复杂的现实世界，但是无论什么时候，线性都是具有根本地位的。没有线性的基础，就不可能存在所谓的非线性推广。我们常 用的非线性化的方法包括流形和kernelization，这两者都需要在某个阶段回归线性。流形需要在每个局部建立和线性空间的映射，通过把许多局部线 性空间连接起来形成非线性；而kernerlization则是通过置换内积结构把原线性空间“非线性”地映射到另外一个线性空间，再进行线性空间中所能 进行的操作。而在分析领域，线性的运算更是无处不在，微分，积分，傅立叶变换，拉普拉斯变换，还有统计中的均值，通通都是线性的。

泛函分析：从有限维向无限维迈进

在大学中学习的线性代数，它的简单主要因为它是在有限维空间进行的，因为有 限，我们无须借助于太多的分析手段。但是，有限维空间并不能有效地表达我们的世界——最重要的，函数构成了线性空间，可是它是无限维的。对函数进行的最重 要的运算都在无限维空间进行，比如傅立叶变换和小波分析。这表明了，为了研究函数（或者说连续信号），我们需要打破有限维空间的束缚，走入无限维的函数空 间——这里面的第一步，就是泛函分析。

泛函分析(Functional Analysis)是研究的是一般的线性空间，包括有限维和无限维，但是很多东西在有限维下显得很trivial，真正的困难往往在无限维的时候出现。在 泛函分析中，空间中的元素还是叫向量，但是线性变换通常会叫作“算子”(operator)。除了加法和数乘，这里进一步加入了一些运算，比如加入范数去 表达“向量的长度”或者“元素的距离”，这样的空间叫做“赋范线性空间”(normed space)，再进一步的，可以加入内积运算，这样的空间叫“内积空间”(Inner product space)。

大家发现，当进入无限维的时间时，很多老的观念不再适用了，一切都需要重新审视。

所有的有限维空间都是完备的（柯西序列收敛），很多无限维空间却是不完备的（比如闭区间上的连续函数）。在这里，完备的空间有特殊的名称：完备的赋范空间叫巴拿赫空间(Banach space)，完备的内积空间叫希尔伯特空间(Hilbert space)。

在有限维空间中空间和它的对偶空间的是完全同构的，而在无限维空间中，它们存在微妙的差别。

在有限维空间中，所有线性变换（矩阵）都是有界变换，而在无限维，很多算子是无界的(unbounded)，最重要的一个例子是给函数求导。

在有限维空间中，一切有界闭集都是紧的，比如单位球。而在所有的无限维空间中，单位球都不是紧的——也就是说，可以在单位球内撒入无限个点，而不出现一个极限点。

在有限维空间中，线性变换（矩阵）的谱相当于全部的特征值，在无限维空间 中，算子的谱的结构比这个复杂得多，除了特征值组成的点谱(point spectrum)，还有approximate point spectrum和residual spectrum。虽然复杂，但是，也更为有趣。由此形成了一个相当丰富的分支——算子谱论(Spectrum theory)。

在有限维空间中，任何一点对任何一个子空间总存在投影，而在无限维空间中， 这就不一定了，具有这种良好特性的子空间有个专门的名称切比雪夫空间(Chebyshev space)。这个概念是现代逼近理论的基础(approximation theory)。函数空间的逼近理论在Learning中应该有着非常重要的作用，但是现在看到的运用现代逼近理论的文章并不多。

继续往前：巴拿赫代数，调和分析，和李代数

基本的泛函分析继续往前走，有两个重要的方向。第一个是巴拿赫代数 (Banach Algebra)，它就是在巴拿赫空间（完备的内积空间）的基础上引入乘法（这不同于数乘）。比如矩阵——它除了加法和数乘，还能做乘法——这就构成了一 个巴拿赫代数。除此以外，值域完备的有界算子，平方可积函数，都能构成巴拿赫代数。巴拿赫代数是泛函分析的抽象，很多对于有界算子导出的结论，还有算子谱 论中的许多定理，它们不仅仅对算子适用，它们其实可以从一般的巴拿赫代数中得到，并且应用在算子以外的地方。巴拿赫代数让你站在更高的高度看待泛函分析中 的结论，但是，我对它在实际问题中能比泛函分析能多带来什么东西还有待思考。

最能把泛函分析和实际问题在一起的另一个重要方向是调和分析 (Harmonic Analysis)。我在这里列举它的两个个子领域，傅立叶分析和小波分析，我想这已经能说明它的实际价值。它研究的最核心的问题就是怎么用基函数去逼近 和构造一个函数。它研究的是函数空间的问题，不可避免的必须以泛函分析为基础。除了傅立叶和小波，调和分析还研究一些很有用的函数空间，比如Hardy space，Sobolev space，这些空间有很多很好的性质，在工程中和物理学中都有很重要的应用。对于vision来说，调和分析在信号的表达，图像的构造，都是非常有用的 工具。

当分析和线性代数走在一起，产生了泛函分析和调和分析；当分析和群论走在一 起，我们就有了李群(Lie Group)和李代数(Lie Algebra)。它们给连续群上的元素赋予了代数结构。我一直认为这是一门非常漂亮的数学：在一个体系中，拓扑，微分和代数走到了一起。在一定条件下， 通过李群和李代数的联系，它让几何变换的结合变成了线性运算，让子群化为线性子空间，这样就为Learning中许多重要的模型和算法的引入到对几何运动 的建模创造了必要的条件。因此，我们相信李群和李代数对于vision有着重要意义，只不过学习它的道路可能会很艰辛，在它之前需要学习很多别的数学。

现代概率论：在现代分析基础上再生

最后，再简单说说很多Learning的研究者特别关心的数学分支：概率论。 自从Kolmogorov在上世纪30年代把测度引入概率论以来，测度理论就成为现代概率论的基础。在这里，概率定义为测度，随机变量定义为可测函数，条 件随机变量定义为可测函数在某个函数空间的投影，均值则是可测函数对于概率测度的积分。值得注意的是，很多的现代观点，开始以泛函分析的思路看待概率论的 基础概念，随机变量构成了一个向量空间，而带符号概率测度则构成了它的对偶空间，其中一方施加于对方就形成均值。角度虽然不一样，不过这两种方式殊途同 归，形成的基础是等价的。

在现代概率论的基础上，许多传统的分支得到了极大丰富，最有代表性的包括鞅论 (Martingale)——由研究赌博引发的理论，现在主要用于金融（这里可以看出赌博和金融的理论联系，:-P），布朗运动(Brownian Motion)——连续随机过程的基础，以及在此基础上建立的随机分析(Stochastic Calculus)，包括随机积分（对随机过程的路径进行积分，其中比较有代表性的叫伊藤积分(Ito Integral)），和随机微分方程。对于连续几何运用建立概率模型以及对分布的变换的研究离不开这些方面的知识。