天才一秒记住【畅想小说网】地址:http://www.cxtra.net
之后莫妮卡又分析了一些二十一世纪初的机器翻译软件。
有些软件使用了大量的统计学方法,通过隐变量和对数线性模型来实现翻译(这些术语都是莫妮卡告诉我的,我也不确定自己的表述是否准确)。
这部分的工作我几乎没有参与。
她试图教会我线性代数的基本知识,我也努力了一番,不过最后还是放弃了。
有一天,她把伦敦大学的一位讲师请到了会议室,向她请教了一些高维空间中的线性不可分问题。
而我能做的,只是站在一边泡红茶罢了。
我们在一个学期之内测试了2013年以前所有重要的翻译软件。
因为莫妮卡也懂一点法语,所以着重测试的是英法互译的部分。
她总能很清晰地解释为什么这些软件在面对一些句子时,能或不能派上用场。
然而,真正棘手的是在那以后被开发的软件,它们几乎都采用了深度学习的技术。
和以往一样,我们做了一些英法互译的测试,记录并分析翻译的结果。
然而,莫妮卡却发现我们唯一能做的就是分析结果,所有的过程都是在隐藏层完成的。
解释具体的翻译机制,显然已经超出了她的知识范围。
“我现在能确定,某类神经网络结构比另外一些更有效,能提高翻译的精准度。
引入了注意力机制之后,能降低梯度消失的风险。
但是,我无法解释翻译工作是怎样在隐藏层里完成的。
这些翻译软件对于我们来说,只是一个个‘黑箱’。”
“抱歉,我不太明白。”
“没关系,我也不明白。”
坐在我对面的莫妮卡摇了摇头,“而且这还只是二三十年前流行的深度学习。
后来苏黎世联邦理工学院的一个团队,设计了一套马里亚纳大学学习的算法,能让人工智能根据需要实时修改自己的神经网络,以往能实现可视化的神经网络模型,现在也都变成了隐藏层,而很多具体的运算更是在隐藏层中的隐藏层里完成的。
最新的机器翻译软件都采用了这套机制。
据说能极大地提高精准度,还能彻底解决梯度消失的难题,而代价也不过是完全牺牲了可解释性。
我没有办法分析它,任何人都没有办法。”
“这也就意味着……”
“我们可能要换个课题了。”
她说,“对不起,朱迪,都怪我低估了这个课题的难度,害得你和我一起浪费了这么多时间。”
“我也学到了很多东西。
比如说简单的句法理论和语义学的初级知识,当然,还知道了这个世界上有种名叫线性代数的学科,而Matrix(6)一词在子宫之外还有别的意思。
本章未完,请点击下一章继续阅读!若浏览器显示没有新章节了,请尝试点击右上角↗️或右下角↘️的菜单,退出阅读模式即可,谢谢!