torch.nn.LocalResponseNorm
局部响应归一化的理解
局部归一化的动机：在神经生物学有一个概念叫做侧抑制(lateral inhibitio)，指的是被激活的神经元抑制相邻神经元。归一化的目的是“抑制”，局部响应归一化就是借鉴侧抑制的思想来实现局部控制，尤其当我们使用RELU的时候这种”侧抑制“很管用。
也就是说你可以理解为对一个位置的值进行变形，变形的结果是该位置的值占邻域内的全部值的一个抽象的比重。
好处：有利于增加泛化能力，做了平滑处理，识别率提高1-2%。LRN层模仿生物神经系统的侧抑制机制，对局部神经元的活动创建竞争机制，使得响应比较大的值相对更大，提高模型泛化能力。Hinton在Imagenet中表明分别提升1.4%和1.2%。
LocalResponseNorm参数讲解torch.nn.LocalResponseNorm(size, alpha=0.0001, beta=0.75, k=1.0)
b x , y
