我在微软做研发
2026-07-06 19:00:50
第一,CNTK 比谷歌的 Tensorflow 更早开源,但是它一开始不是在 GitHub上,所以了解的人也少;CNTK 当初的主要目标是服务微软人工智能的各种大数据的训练任务,他们在开源出来的时候还不知道谷歌也会做同样的事情。
第二,CNTK 的性能可能是最好的。根据香港浸会大学对五大开源框架的性能测试,CNTK 在小型 CNN 上表现一流,对于带 LSTM 的 RNN,CNTK 速度最快,比其他工具好上 5 到 10 倍,可谓全面超越其它工具。多 GPU 卡环境下,CNTK 平台在 FCN 和 AlexNet 上的可扩展性更好。
黄学东说:“TensorFlow 当然也有很多值得我们学习的地方,它的生态系统比我们好。严肃的人工智能是需要大数据来学习的,微软的工具 CNTK 在大数据学习上是超一流的。”
黄学东还表示,CNTK 2.0 RC1 三月初一定会和大家见面。CNTK 2.0 会充分扩展 TensorFlow 的基本功能让我们的用户有更有效的选择。所以用户在选择哪一个工具将来也许不是那么重要了。因为不同的模型都可以通过 keras 或者模型转换器互相转换。比如 CNTK 2.0 将会提供 caffe 和CNTK 的转换器。TensorBoard 是谷歌的可视化工具,它也可以用来可视化 CNTK。
下一步:谁能实现语义理解,谁就实现了强人工智能
黄学东介绍说,目前的语言模型难以迁移到不同的任务,通过大量正确的数据解决这一问题有一定的效果。但是究其本质,迁移问题是由于目前的语言模型缺乏语言学“头脑”,无法准确理解语义。另外,它们也不能考虑篇章结构,仅仅只涉及局部词语搭配。
同时,在一些人类听者听来难度很低或毫无难度的细微偏差,会让现有的语音识别系统的性能大幅下降。比如实际场景中可能的各种噪音,“或者是”,黄学东说,“我的湖南口音,都会使语音识别率大幅下降。人可以很快适应各种环境下的语音,机器却不能。”
黄学东也坦白说,微软的系统虽然在 Switchboard 上达到人类水平,但也不能说明在平时的应用中能达到人类水平。
黄学东认为,语音识别基本解决了,只要有足够的计算资源、有足够多的场景数据就可以做得很好。下一步,是要做好语义理解。谁能实现语义理解,谁就实现了强人工智能。
他提到了语言理解中比较有前途的一些技术方向,例如 LSTM + Attention Model + 大数据。把传统的符号系统和现代的概率系统有机的结合,是语言理解重要的研究方向之一。
黄学东说,在六七十年代传统 AI 都是符号逻辑、专家系统,直到八十年代人工智能的冬天,这些都快销声匿迹了。后来通过贝叶斯统计方法再次获得新生。为什么说下一个浪潮是两者从算法和工程上的有机结合?因为获取知识一定要理解语言,要理解语言又需要知识。在学习过程中,这两者是紧扣的。LSTM和“Attention Model”都是人们对 RNN 的改良,其中 Attention Model 是指神经网络在执行任务时知道把焦点放在何处,让神经网络在每一步都从更大的信息集中挑选所关注的信息作为输入。
黄学东认为另一个重大突破点在于怎么样把知识图谱和语言理解有机的结合起来。知识图谱包含了大量的世界知识,实体链接是实现了文本到知识的连接,是基于知识的文本语义理解的基础技术。黄学东认为,关键是要把两者结合起来用深度学习方法和外部存储指导深入学习的训练,目前还没有学会怎么样有效地利用这些。
“如果计算机理解了语言,那才是真正的突破,这就是强人工智能了,它可以二十四小时学习,大大超过人类的学习效率”,黄学东说。关于微软在语言理解方面的进展,黄学东也表示,现在任务艰巨,正在努力。
语音识别的四十年,CMU语音天团的传承
“语音识别的发展有四个阶段。”黄学东说,“第一个阶段,从孤立短语开始应用;第二个阶段,做成连续的,但是中间字和字需要停顿;第三个阶段是李开复当时博士论文做的,可以识别连续的语音,是人和机器交流,不需要训练;第四个阶段,对话式的语音识别早在二十多年前就已提出,其错误率一直徘徊在 30% - 50% 之间,直到最近几年才有突破性进展。”
这四个阶段,横跨了语音识别探索四十余年的艰辛与梦想。
1971 年,由 Allen Newell 领导的语音识别研究小组建议引入更多知识来源,他的报告讨论了六个层次的知识:声学、参量、音素、词汇、语句和语义。DARPA 资助的各种语音理解系统,正是为了实现 Newell 报告的目标。得到资助的研究小组不多,黄学东导师 Raj Reddy 1976 年在 CMU 领导的小组是其中之一。
1982 年,黄学东在清华读研究生,那是他涉足语音识别领域的开始。他说:“大家看到更多的是我在 CMU 和微软的成就,但是我不会忘记我的母校清华和湖南大学的功劳,是清华把我带入语音技术领域。是湖大帮我打下追求科学和工程的坚实基础。”