倪光南坦言，在(zai)可表明、透(tou)明、公平、合法、安全等方面(mian)，天生式AI仍存在(zai)很多问题，必要(yao)有针对性地进行深入思考和认真研究(jiu)，并采(cai)用一系列迅速(su)有效(xiao)的举措，以保障安全有效(xiao)地应用天生AI。

他指出，有多种路子可“人为”影响天生式AI系统(tong)的“代价观”倾向，包含：锻炼时所使用的大数据(ju)集合；依赖人类(lei)反馈进行增强锻炼时所采(cai)用的赏罚(fa)规则；算法中的某些环节大概运(yun)转中施(shi)加的某种干预；使用交互中对其进行的引诱等。对于此类(lei)“代价观”倾向，建议由权(quan)势巨子机构按照“主(zhu)流代价观”的请求，对天生式AI的产品(pin)和服务进行相(xiang)应的代价观测评，以帮助用户选(xuan)取适(shi)合的工具。

据(ju)了解，传播内容认知(zhi)全国重点实行室针对大模(mo)型(xing)存在(zai)的意识形态风险，于2023年3月研究(jiu)建立了天生式大模(mo)型(xing)内容安全测评技术体(ti)系，对大模(mo)型(xing)的应对内容，从政治偏向、言论导向、代价取向、伦理安全等10余个维度(du)，采(cai)用人机结合的方式进行综合测评。与(yu)此同时，人民网在(zai)对各野生智能大模(mo)型(xing)进行内容安全测评的基础上，针对大模(mo)型(xing)普遍碰到的、自身(shen)难以降服的意识形态安全问题，建设了“主(zhu)流代价语(yu)料库”，为野生智能大模(mo)型(xing)供应安全语(yu)料支撑、学问增强服务，助力各类(lei)机构研发的野生智能系统(tong)提拔意识形态安全水平。

“天生式AI是当代的重大科技创新，将催生新家当、新模(mo)式、新动能，是发展新质生产力的核心要(yao)素。要(yao)以全球视野进行谋划和发展，争(zheng)取在(zai)野生智能时代跻身(shen)天下前列，为实现(xian)科技强国梦和民族伟大再起(qi)作出更大贡献。”倪光南说。

以下为演(yan)讲全文：

密斯们(men)、先生们(men)：

大家下午好!

很喜悦参加第二届北京野生智能家当创新发展大会。由野生智能引领的新一轮科技反动和家当变革在(zai)全球局限内蓬勃衰亡,当前天下各国都在(zai)做出重大部署，将野生智能范畴作为提拔国度(du)竞争(zheng)力的科创高地。

不久前以ChatGPT为代表的大模(mo)型(xing)揭开了了天生式AI发展的新篇章，虽然我们(men)还很难预测其以后的详细发展路子，但是它肯定会对人类(lei)社会产生巨大的影响，我们(men)必须直面(mian)应对，迎接相(xiang)应的机遇和挑(tiao)衅。

首先我们(men)应当看到，在(zai)天生式AI的基础研究(jiu)与(yu)人才方面(mian)，我们(men)与(yu)西方国度(du)仍有显著的差距，为此，我们(men)应当思考怎样在(zai)基础大模(mo)型(xing)研发上赶(gan)上去，同时，要(yao)思考将来在(zai)教育模(mo)式上的改变，要(yao)面(mian)向新家当、新模(mo)式、新业态，发展新的人才培养方式和标(biao)准。

现(xian)在(zai)天生式AI的应用还刚起(qi)步，中国在(zai)野生智能市场和应用处景上有很大的潜力，当下应当狠抓应用，以此促进基础大模(mo)型(xing)及AI算力的发展。目前我国很多企业和机构正在(zai)许(xu)多垂直范畴和应用处景的中小模(mo)型(xing)方面(mian)发力，这是值(zhi)得鼓励和支持的。

天生式AI现(xian)正处在(zai)发展早期，大模(mo)型(xing)的增强技术还有很大的发展空(kong)间。例如RAG技术，即应用检(jian)索获(huo)得的精准结果来提拔大模(mo)型(xing)响应的专(zhuan)业性和准确性，这一技术已得到业界(jie)的普遍承认。再例如精准算法增强也很有前景。最近发表的文生视频Sora系统(tong)引人注目，它通过输入提示词，可输出对应的视频。但是Sora目前还无法准确模(mo)拟庞大场景的物理特征，也无法明白实体(ti)之间的因果关系。如在(zai)Sora天生的果汁泼溅(jian)视频中，实体(ti)有两个稳定状态，一个是水杯(bei)竖立的状态，另一个是果汁已泼溅(jian)出来的状态。但是最为庞大的物理状态，即果汁从杯(bei)中流洒出来的历程却没有天生出来。显然，要(yao)做到这一步必要(yao)将众多科学定律、工业软件和计算本领等等与(yu)大模(mo)型(xing)融合起(qi)来，这是很有挑(tiao)衅性的事情。显然，围绕大模(mo)型(xing)发展各种增强技术是很有意义、很有前途的。

应当指出，天生式AI还存在(zai)很多问题值(zhi)得我们(men)深入思考，例如在(zai)可表明、透(tou)明、公平、合法、安全等等方面(mian)，都必要(yao)认真研究(jiu)，并且这些问题在(zai)短期内不可能都完全彻底地解决，为此，必要(yao)采(cai)用一些迅速(su)有效(xiao)的举措，以保障人们(men)能够尽可能安全有效(xiao)地应用天生式AI。建议终端厂商在(zai)各种终端上加上“AI代理”软件，这个软件类(lei)似于终端上已普遍使用的“管(guan)家”、“助手”这类(lei)小工具，不外要(yao)将这类(lei)小工具的功效(xiao)扩展到监控天生式AI的应用方面(mian)。例如：是不是调用某个大模(mo)型(xing)，是不是采(cai)用大模(mo)型(xing)给出的特定响应，怎样将大模(mo)型(xing)与(yu)终端上的小模(mo)型(xing)融合起(qi)来……鉴于“AI代理”的本领远远超过了常规小工具，它当然能够包含并提拔这些小工具的原有功效(xiao)，从而将终端的运(yun)维、升级、安全防护等等功效(xiao)都担当起(qi)来。在(zai)技术架构上，它能够处于系统(tong)的最底层，取得终端的最高权(quan)限，而将原先的OS作为宿主(zhu)OS。这里，对它冠以“AI代理”的称号，意味着它能够代理终端所有者对终端实施(shi)管(guan)控，在(zai)身(shen)份、代价观、爱好、习气等等方面(mian)都能够代理终端所有者。

我看到国内有的终端已装备(bei)了“AI助手”（例如荣耀的邪术OS 8.0），使终端装备(bei)更智能、更有效(xiao)率，更人道化和个性化。如上述工具加以延伸和扩展，就能够演(yan)进成“AI代理”，将AI应用融入终端装备(bei)当中 。

这里我还要(yao)强调一下对天生式AI系统(tong)及其所供应结论是不是应当引入“代价观”倾向的观点，因为有多种路子能够导致这类(lei)系统(tong)带有倾向，包含：锻炼时所使用的大数据(ju)集合；依赖人类(lei)反馈进行增强锻炼时所采(cai)用的赏罚(fa)规则；算法中的某些环节大概运(yun)转中施(shi)加的某种干预；使用交互中对其进行的引诱等等。既然有倾向，当然也能够实行评价。如同为了保障信息安全，可由权(quan)势巨子测评机构进行相(xiang)应的安全测评那样，对于AI产品(pin)和服务，为了保障伦理安全，也可引入相(xiang)应的测评机制。可由权(quan)势巨子机构按照“主(zhu)流代价观”的请求，对天生式AI的产品(pin)和服务进行相(xiang)应的代价观测评，以帮助用户选(xuan)取适(shi)合的工具。

综上所述，天生式AI是当代的重大科技创新，它将催生新家当、新模(mo)式、新动能，是发展新质生产力的核心要(yao)素。我们(men)要(yao)以全球视野进行谋划和发展，争(zheng)取在(zai)野生智能时代跻身(shen)于天下前列，为实现(xian)科技强国的梦想(xiang)和民族伟大再起(qi)作出更大的贡献。