穿越:2014
作者:猪熊 | 分类:都市 | 字数:119.8万
本书由笔趣阁签约发行,版权所有侵权必究
第272章 图奖大佬的肯定的方向
而生成网络则要尽可能地欺骗判别网络。
两个网络相互对抗、不断调整参数。
最终目的是使判别网络无法判断生成网络的输出结果是否真实。
在前世图灵奖获得者、卷积神经网路之父Yann在某次学术论坛上甚至将生成对抗网络模型称之为机器学习方面二十年来最酷的想法。
能得到图灵奖级别大老这样高度肯定,生成对抗网络模型的价值可想而知。
前世生成对抗网络作为非监督式学习的一种方法。
是由尹恩·古德费洛等人于2014年提出的。
不过这个时空由于机器学习方面的研究整体滞后。
这个前世颇为有名的深度学习模型在这个时空想要如约而至似乎是有些难度了。
前世生成式对抗网络自出现以来,针对不同的应用领域出现了许多变体。
这些变体相对于最原始的生成式对抗网络都进行了一定的改进。
这些改进有的是单纯改进了结构。
有的则是因为理论上的发展而对生成式对抗模型涉及到的一些函数或者说参数进行了一定的改进。
再或者就是单纯就应用方面进行了一定的创新调整。
一项技术被频繁改动不是说明这项技术失败。
刚好相反,这恰恰说明这项技术很成功。
因为这某种程度上从侧面反映了该技术有很多的成长空间。
事实也正是如此,前世生成式对抗网络是相当成功且应用广泛的。
在很多机器学习领域都能看到生成式对抗网络的身影。
之所以如此大概是因为原始的生成式对抗网络在构建的时候,先验假设比较少。
正是因为对数据几乎没有任何假设使得生成式对抗网络具有几乎不设限的建模能力。
借助于生成式对抗网路可以拟合多种分布。
此外,由于生成式对抗网路模型不甚复杂。
很多时候在应用生成式对抗网络的时候就不需要预先设计较为复杂的函数模型。
bidige.
在不少生成式对抗网络的应用场景中,工程师甚至只需要应用反向传播算法简单训练一下对应的网络。
就可以让生成式对抗网络中的生成器和判别器正常工作。
之所以将生成式对抗网络搞得这么比较易上手。
跟生成式网络的设计初衷是为了进行无监督学习也有很大的关系。
不过事物都是有两面性的,正是因为原始生成式对抗网路过于自由。
训练过程很容易出现训练发散的情况。
不止于此,生成式对抗网络还存在诸如梯度消失等问题。
由于这些问题的存在,生成式对抗网络是很难学习一些生成离散的分布的。
就比如原始的生成式对抗网路就不是很擅长纯粹文本方面的处理。
除了涉及到部分场景下会将生成式对抗网络用于文本分割之外。
多数时候很少将生成式对抗网络应用于文本(特指纯粹文字形式的文本)方面。
不过尺有所长寸有所短,虽然并不是很擅长对纯粹文本信息的处理。
但在其余很多领域生成式对抗网路都可以大显身手。
在人脸识别方面、超分辨率重建等方面生成对抗网络更是大有用武之地。
甚至是在语义图像修复方面生成式对抗网络同样是可以大显身手。
除此之外,生成式对抗网络还有很多应用方向。
概括地说,生成式对抗网络的应用前景是相当广阔的。
说起来因为在这个时空机器学习方面的研究比较滞后。
林灰想搬运生成式对抗网络这一模型的话其实也不需要担太多风险。
尽管如此,在将生成式文本摘要方面的彻底搞定之前。
林灰也不着急将生成式对抗网络相关的研究成果搬运出来。
至于为什么林灰不将生成式对抗网络搬出来?
林灰不想给外界其余的学术人员一种割裂感。
就像林灰在过往游戏开发(搬运)时不想给游戏玩家一种割裂感一样。
虽然林灰现在已经有了一定的将生成式对抗网络的推出逻辑基础。
(林灰此前搞得生成式文本摘要里面涉及到的生成式模型,而从尹芙·卡莉那收购来的专利中又涉及到类判别式模型,而生成式对抗网络其组成正是包含有生成式网路和判别式网路……)
但如果林灰贸然搞出生成式对抗网路依旧不是很好。
毕竟生成式对抗网络就应用层面来说和林灰现在一向搞得自然语言处理这一学术领域其实关系不太大。
在这种情况下,林灰莫名其妙推出一个和自然语言处理几乎没啥关系的模型算怎么回事呢?
虽然学术方面无心插柳柳成荫的例子很多,很多学术成果最开始问世的时候目的往往是跑偏的。
但林灰内心信奉的原则是注定了林灰不大可能打破此前延续的惯例。
无论是游戏开发还是学术进展上,林灰都不想给别人一种割裂感。
而且,科技树还是按顺序点比较好。
虽然说作为挂比不按顺序点科技树也可以。
但在多元化的社会下不按规矩办事往往就意味着风险。
乱点科技树,自己的科技逻辑链没形成。
潜在对手却形成了相应的发展脉络。
那么科技成果很有可能被对手所窃取。
这是林灰所不愿意看到的。
现在在林灰看来学术方面他所要做的依然是深耕自然语言处理。
深耕生成式文本摘要。
通过不断的深耕,从自然语言处理这一领域找到破局点
或者说点亮相邻于林灰已点亮科技成果的科技树分支才是最好的。
(林灰倒也不着急,即便是一时之间未找到合适的破局点其实也关系不大。
起码是一个月林灰还是不需要太担心的。
毕竟就生成式文本摘要这方面取得的“突破性进展(成功的搬运)”林灰最起码也能“混”一个硕士学位。
而这也是要林灰消化一段时间了。
其实林灰原本的估计更加乐观。
林灰原本是觉得将生成式文本摘要这个方向的论文搞清楚,就差不多能博士了。
不过通过最近跟尹芙·卡莉的交流,林灰觉得是他过于乐观了。