文档章节

(转)---再说卷积

itfanr
 itfanr
发布于 2014/12/22 11:41
字数 1353
阅读 70
收藏 2

信号处理中的一个重要运算是卷积.初学卷积的时候,往往是在连续的情形,

  两个函数f(x),g(x)的卷积,是∫f(u)g(x-u)du

  当然,证明卷积的一些性质并不困难,比如交换,结合等等,但是对于卷积运算的来处,初学者就不甚了了。

  

  其实,从离散的情形看卷积,或许更加清楚,

  对于两个序列f[n],g[n],一般可以将其卷积定义为s[x]= ∑f[k]g[x-k]

  

  卷积的一个典型例子,其实就是初中就学过的多项式相乘的运算,

  比如(x*x+3*x+2)(2*x+5)

  一般计算顺序是这样,

  (x*x+3*x+2)(2*x+5)

  = (x*x+3*x+2)*2*x+(x*x+3*x+2)*5

  = 2*x*x*x+3*2*x*x+2*2*x+ 5*x*x+3*5*x+10

  然后合并同类项的系数,

  2 x*x*x

  3*2+1*5 x*x

  2*2+3*5 x

  2*5

  ----------

  2*x*x*x+11*x*x+19*x+10

  

  实际上,从线性代数可以知道,多项式构成一个向量空间,其基底可选为

  {1,x,x*x,x*x*x,...}

  如此,则任何多项式均可与无穷维空间中的一个坐标向量相对应,

  如,(x*x+3*x+2)对应于

  (1 3 2),

  (2*x+5)对应于

  (2,5).

  

  线性空间中没有定义两个向量间的卷积运算,而只有加法,数乘两种运算,而实际上,多项式的乘法,就无法在线性空间中说明.可见线性空间的理论多么局限了.

  但如果按照我们上面对向量卷积的定义来处理坐标向量,

  (1 3 2)*(2 5)

  则有

  2 3 1

  _ _ 2 5

  --------

      2

  

  

  2 3 1

  _ 2 5

  -----

    6+5=11

  

  2 3 1

  2 5

  -----

  4+15 =19

  

  

  _ 2 3 1

  2 5

  -------

    10

  

   或者说,

  (1 3 2)*(2 5)=(2 11 19 10)

  

  回到多项式的表示上来,

  (x*x+3*x+2)(2*x+5)= 2*x*x*x+11*x*x+19*x+10

  

  似乎很神奇,结果跟我们用传统办法得到的是完全一样的.

  换句话,多项式相乘,相当于系数向量的卷积.

  

  其实,琢磨一下,道理也很简单,

  卷积运算实际上是分别求 x*x*x ,x*x,x,1的系数,也就是说,他把加法和求和杂合在一起做了。(传统的办法是先做乘法,然后在合并同类项的时候才作加法)

  以x*x的系数为例,得到x*x,或者是用x*x乘5,或者是用3x乘2x,也就是

  2 3 1

  _ 2 5

  -----

   6+5=11

  其实,这正是向量的内积.如此则,卷积运算,可以看作是一串内积运算.既然是一串内积运算,则我们可以试图用矩阵表示上述过程。

  

  [ 2 3 1 0 0 0]

  [ 0 2 3 1 0 0]==A

  [ 0 0 2 3 1 0]

  [ 0 0 0 2 3 1]

  

  [0 0 2 5 0 0]' == x

  

  b= Ax=[ 2 11 19 10]'

  

  采用行的观点看Ax,则b的每行都是一个内积。

  A的每一行都是序列[2 3 1]的一个移动位置。

  

  ---------

  

  显然,在这个特定的背景下,我们知道,卷积满足交换,结合等定律,因为,众所周知的,多项式的乘法满足交换律,结合律.在一般情形下,其实也成立.

  

  在这里,我们发现多项式,除了构成特定的线性空间外,基与基之间还存在某种特殊的联系,正是这种联系,给予多项式空间以特殊的性质.

  

  在学向量的时候,一般都会举这个例子,甲有三个苹果,5个橘子,乙有5个苹果,三个橘子,则共有几个苹果,橘子。老师反复告诫,橘子就是橘子,苹果就是苹果,可不能混在一起。所以有(3,5)+(5,3)=(8,8).是的,橘子和苹果无论怎么加,都不会出什么问题的,但是,如果考虑橘子乘橘子,或者橘子乘苹果,这问题就不大容易说清了。

  

  又如复数,如果仅仅定义复数为数对(a,b),仅仅在线性空间的层面看待C2,那就未免太简单了。实际上,只要加上一条(a,b)*(c,d)=(ac-bd,ad+bc)

  则情况马上改观,复变函数的内容多么丰富多彩,是众所周知的。

  

  另外,回想信号处理里面的一条基本定理,频率域的乘积,相当于时域或空域信号的卷积.恰好跟这里的情形完全对等.这后面存在什么样的隐态联系,需要继续参详.

  

  从这里看,高等的卷积运算其实不过是一种初等的运算的抽象而已.中学学过的数学里面,其实还蕴涵着许多高深的内容(比如交换代数)。温故而知新,斯言不谬.

  

  其实这道理一点也不复杂,人类繁衍了多少万年了,但过去n多年,人们只知道男女媾精,乃能繁衍后代。精子,卵子的发现,生殖机制的研究,也就是最近多少年的事情。

  

  孔子说,道在人伦日用中,看来我们应该多用审视的眼光看待周围,乃至自身,才能知其然,而知其所以然。 


本文转载自:http://blog.sina.com.cn/s/blog_6733026501019ubf.html

itfanr
粉丝 115
博文 467
码字总数 165540
作品 1
济南
程序员
私信 提问
想要实现深度神经网络?一张 Excel 表格就够了

卷积神经网络(CNN)经常被用于图像识别、语音处理等领域,是人工智能近年来快速发展的重要组成部分。然而,对于入门人士来说,我们似乎难以理解其中的原理。实际上「卷积」等概念并非遥不可...

机器之心
2018/02/10
0
0
Matlab编程之——卷积神经网络CNN代码解析

卷积神经网络CNN代码解析 deepLearnToolbox-master是一个深度学习matlab包,里面含有很多机器学习算法,如卷积神经网络CNN,深度信念网络DBN,自动编码AutoE ncoder(堆栈SAE,卷积CAE)的作...

酒逢知己千杯少
2018/10/19
0
0
孙启超:卷积神经网络在人脸识别技术中的应用 | AI研习社第51期猿桌会

随着 iPhone X 的发布,Face ID 人脸识别技术开始进入人们的日常生活中,当我们拿起手机并看着它的时候就可以实现手机解锁的功能。而人脸识别中的关键技术就是卷积神经网络。 近日,在雷锋网...

丛末
2018/08/22
0
0
从AlexNet剖析-卷积网络CNN的一般结构

作者:张旭 编辑:王抒伟 本文4794字27图,阅读约11分钟 算了 想看多久看多久 零参考目录: 一、卷积层 1.CNN中卷积层的作用 2.卷积层如何工作 3.AlexNet中的卷积层 二、池化层与激活层 1.池...

szm21c11u68n04vdclmj
2017/11/19
0
0
浅谈卷积神经网络及matlab实现

1卷积神经网络的优点 卷积神经网络进行图像分类是深度学习关于图像处理的一个应用,卷积神经网络的优点是能够直接与图像像素进行卷积,从图像像素中提取图像特征,这种处理方式更加接近人类大...

技术小甜
2017/11/15
0
0

没有更多内容

加载失败,请刷新页面

加载更多

Angular 英雄编辑器

应用程序现在有了基本的标题。 接下来你要创建一个新的组件来显示英雄信息并且把这个组件放到应用程序的外壳里去。 创建英雄组件 使用 Angular CLI 创建一个名为 heroes 的新组件。 ng gener...

honeymoose
54分钟前
4
0
Kernel DMA

为什么会有DMA(直接内存访问)?我们知道通常情况下,内存数据跟外设之间的通信是通过cpu来传递的。cpu运行io指令将数据从内存拷贝到外设的io端口,或者从外设的io端口拷贝到内存。由于外设...

yepanl
今天
6
0
hive

一、hive的定义: Hive是一个SQL解析引擎,将SQL语句转译成MR Job,然后再在Hadoop平台上运行,达到快速开发的目的 Hive中的表是纯逻辑表,就只是表的定义,即表的元数据。本质就是Hadoop的目...

霉男纸
今天
3
0
二、Spring Cloud—Eureka(Greenwich.SR1)

注:本系列文章所用工具及版本如下:开发工具(IDEA 2018.3.5),Spring Boot(2.1.3.RELEASE),Spring Cloud(Greenwich.SR1),Maven(3.6.0),JDK(1.8) Eureka: Eureka是Netflix开发...

倪伟伟
昨天
13
0
eclipse常用插件

amaterasUML https://takezoe.github.io/amateras-update-site/ https://github.com/takezoe/amateras-modeler modelGoon https://www.cnblogs.com/aademeng/articles/6890266.html......

大头鬼_yc
昨天
5
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部