朱军 受访者供?/span>
今天的h工智能还不算完美Q安全隐(zhn)、失灉|错……掣肘着人工的应用和发展?/span>
10多年来，清华大学计算机系教授、h工智能研I副院长朱军一直致力于解决人工安全性问题。在他看来，做科研、进行成果{化ƈ不是直接目的Q只是到了一定阶D，技术成果有用时?/span>水到渠成?/span>的结果?/span>
日前Q朱军获得第二十五届中国U协求是杰出青年成果转化奖。其获奖理由是，H破了经典的贝叶斯基理论和关键技术，提出扩散模型的高效算法，通过成果转化孵化国家U专_新“小巨h”企业，为安全可靠的人工发展奠定了坚实基?/span>
5q突破基原理
博士期间Q朱军做的研I课题便是机器学?fn)与贝叶斯理论。贝叶斯Ҏ(gu)是自然语a处理、机器学?fn)、图像识别等人工领域的重要基?/span>
在h工智能应用中Q“不定性”是一大问题。例如无人驾Ӟ其环境和pȝ存在很多未知的随机因素Q基于概率的贝叶斯理论可以给出最优决{?/span>
l典贝叶斯理论已存在260余年。它有两大关键要素：(x)先验分布和似然函数。过去，大家公认?/span>非先验即似然?/span>的框Ӟ即通常是假设一个先验分布或一个似然函数再q行q算?span lang="EN-US">2011q图灵奖获得?span lang="EN-US">Judea Pearl教授概率统计引入h工智能，成ؓ(f)C人工的重要理论基。但是，在大数据环境下，贝叶斯学?fn)开始面临多斚w挑战?/span>
“不是那么直接，例如诸多场景无法转换成先验分布或似然函数Q这U情况下贝叶斯理论就q了。”朱军告诉《中国科学报》，他希望贝叶斯Ҏ(gu)变得更灵z，在新的框架下能够更易于优化目标或领域知识?/span>
有了初步的想法，朱军从一个个实际事例开始探索。ؓ(f)了开展更深入的研IӞ朱军前往国卡内基h隆大学担任访问学者和博士后?/span>
从博士到博士后的5q里Q一个个微小事例逐渐在朱军脑中l合成一q广阔的理论图景。他试着做了一个整合和推广Q把l典的贝叶斯推理看成最优化问题Q在最优化框架下找出后验分布，针对目标做约束、根据需要进行模型预?/span>
“作为目标函数直接引导机器学?fn)，q样训练出的后验分布预测准确度更高，在性能上会(x)有更好的表现。”朱军说?/span>
q便是他后来提出的正则化贝叶斯理论：(x)Z贝叶斯定理的信息论描qͼ通过引入后验正则化，在变分优化的框架下可以灵z考虑领域知识Q如Z逻辑表达式的知识Q或学习(fn)d优化的目标（如最大间隔损失）?/span>
朱军提出的正则化贝叶斯理论，被认为是跛_了过?span lang="EN-US">260余年历史的经典贝叶斯?/span>非先验即似然?/span>框架Qؓ(f)贝叶斯推理提供第三维自由度，q带来了应用价值的全新发展方向。在正则化贝叶斯框架下，朱军提出了贝叶斯模型的最大间隔学?fn)理论?qing)高效法Q将q去20多年来相互分ȝ两大方向q行了有合?/span>
U研U篏让{化“水到渠成?/span>
2018q_(d)朱军W一ơ尝试把基础U研推向应用市场。他的初hQ?span lang="EN-US">?/span>我做U研q?span lang="EN-US">15q_(d)U篏了一些算法和模型Q究竟有没有效，能否真正解决行业问题Q我惛_实际场景做一个结?span lang="EN-US">?/span>?/span>
朱军目光聚焦到人工安全场景?/span>
例如Q智能手机常用“刷脸”功能，但用一双“打印”的眼睛pƺ骗q些pȝQ解锁手机，l用户带来巨大风险。传l深度学?fn)和经|络的方法难以解册一问题Q朱军基于贝叶斯理论做出法模型Q可以发现具有欺骗性的“眼睛”，q进行防护。这一“h脔R火墙”已成功在银行应用?/span>
U研界与产业界的对话“`沟”在朱军w上也发生了?/span>
朱军告诉《中国科学报》，U研人员?fn)惯的场景是问题定义比较明确、数据非常清晎ͼ他们再来解决问题。而现实世界ƈ非如此，许多问题都不具备q些解决条gQ数据缺损严重、Q务定义不甚清晰?/span>
朱军记得Q在与一家头部工业企业交时Q他和团队成员都觉得法性能能够帮助厂商优化工艺参数、流E控制等Q但在具体操作过E中很多法实现的前提条仉不存在，q让他们C许多弯\。“我们需要不断与企业交流Q了解对斚w求，后来的合作才能不断成熟v来。?/span>
服务产业Q还需要标准化。依托技术和理论Q朱军徏立了面向产业的通用q_——贝叶斯人工技术与q_Q提供自动检h工智能生成内容的技术能力和标准化服务能力?/span>
q年来，人工法斚w取得了很多突破性进展，同时也发展出了性能良好的概率编E库Q支持贝叶斯深度学习(fn)模型的开发和部v。朱军团队研制的“珠”是最早的pȝ支持贝叶斯深度学?fn)的开源库之一Q推动了深度学习(fn)与贝叶斯两者之间的有机融合?/span>
Z一pd的技术，朱军团队成功孵化了一家h工智能公司，推动贝叶斯深度学?fn)、可解释学习(fn)、h工智能对抗攻防等领域的前沿技术研I及(qing)落地?/span>
在朱军心里，U学研究和技术突破是W一位的Q成果{化则让他收获了“意外”惊喜。“通过产学研合作及(qing)实际事例的反馈，让我们更Ҏ(gu)扑ֈ真正有h(hun)倹{重要的问题Q或是对问题有了更深入的理解Q促q科研发展。?/span>
多方挑战期待更多人才加入
Ҏ(gu)军来_(d)从基U研到成果{化，q条路ƈ非一帆风。尝?span lang="EN-US">5ơ?span lang="EN-US">10ơ，最l才?span lang="EN-US">1ơ成功是常态?/span>
但面Ҏ(gu)战、迎接挑战，早已深深d朱军骨子里。在清华大学Q朱军曾利用很多旉L和培养自q兴趣。ؓ(f)学习(fn)英文思维方式Q他在大一旉择了全英文物理课，定了计机斚w的兴；大二开始进入实验室Q了解如何开展一个课题；大三暑假选择了有挑战性的NQ用一个暑假的旉设计CPUQ中央处理器Q?/span>
也大U在那个时候，朱军正式立从事人工研究的目标。之后，他前往微Y亚洲研究院实?fn)，最先接触的是概率图模型。这U模型将概率Z图论完美地融合在一P深深吸引了朱军。对于他来说Q选择做什么，体现一个h的科研品位，管有困难，但也不能降低水准?/span>
如今Q还有更多挑战摆在朱军面前?/span>
实现安全可靠的h工智能需要从技术上q行H破Q数据安全、系l安全仍需要被x。要x造负责Q的h工智能技术和应用Q还需策力和学研用的深度合作?/span>
2019q_(d)朱军作ؓ(f)发vZ一Q联合清华大学和阉K巴巴发v?span lang="EN-US">?/span>安全AI挑战者计?span lang="EN-US">?/span>Q主?span lang="EN-US">?/span>高难度、高创新、高味、高回报?/span>的题目Q务和q营Q将参赛选手的思\Ҏ(gu)沉淀(wn)在技术社区，旨在探烦高校企业协同Qؓ(f)新基建徏讑֟M的实战型网l安全h才?/span>
“我们希望以竞赛的Ş式吸引更多年Mhx人工安全Q通过技术创Cؓ(f)人工保驾护航。”朱军很ƣ慰Q该竞赛成效显著Q全?span lang="EN-US">26个国家和地区?span lang="EN-US">900余家校企、上万名选手参与其中?/span>
“越多hxQ一个新赛道、新行业的h(hun)值就大。”朱军说?/span>
清华校友M(x)服务?/span>
清华校友M(x)订阅?/span>