玉渊谭天:中国AI的开放逻辑
谭主在现场,倾听着人们运用不同语言对这项一日千里的技术所开展的讨论——有人看到了机遇,有人看到了竞争,有人看到了风险,还有人看到了鸿沟。
这些期待与焦虑相互交织的讨论,指向了更为深层的问题,对应着习近平主席在大会开幕当天向世界所提出的四个时代之问:
当机器开始思考之时,人类如何与之相处?当算法参与决策之际,安全如何得以保障?当技术挑战伦理之时,治理如何能够跟上?当鸿沟不断拉大之际,普惠如何得以实现?
于是,谭主拿着这四个问题,与作为会议主办方之一的国家发展改革委相关人士,以及会场内外的多边国际组织代表、中外学者以及头部AI企业研究员开展了交流。
他们的回答在侧重点方面各有不同,但最终都共同指向了同一个方向——开放,而这也正是习近平主席讲话中的一个关键词。
这种共识本身就显得很有意思。如果把外媒报道作为观察窗口,过去十年他们在描述中国AI时所运用的关键词,经历了明显的转变——从早期的“追赶者”,到后来警惕的“战略竞争者”,再到今天频频出现的“规则制定者”以及“开源倡导者”。
围绕着习近平主席的讲话,讨论变得更加聚焦:中国的开放理念,如何能够为人工智能技术提供一套新的框架?
如果从社会运行的几个关键视角进行切入:技术、生产、资源以及秩序——对应到人工智能方面,就分别是算力与模型、应用与场景、数据与语料、规则与治理。
在每一个维度上,中国都在运用自己的开放实践来描绘出新的秩序。
01
习近平主席提到,人工智能是世界经济增长的新引擎以及新旧动能转换的加速器。
而只有在成功做到“开源开放、合作共享”的基础上,将增长的方向从规模崇拜转向普惠时,人工智能技术才能真正助力发展。
如果要对这一判断进行理解,那么可以从会场的一个细节说起。
在走进大会展区的过程中,谭主产生了一个直观的感受:大模型已经不再是话题中心了。
就在大会开始之前,月之暗面发布了全球最大规模的开源模型Kimi K3。谭主本以为,这将成为当天的明星话题。但在逛展的时候,所感受到的却是一种专注——各个展商都在专注自己的应用场景,专注于如何把技术落到一个具体的行业以及一个具体的问题里。
这在一定意义上,对技术发展的价值取向问题进行了回答:
行业正加速走向通用人工智能。过去,主流信仰是“规模法则”——即对更多算力进行堆叠以及对更大模型进行卷动。但极致的人工智能技术,能够带来各国的普遍增长吗?
被称为“硅谷精神之父”的凯文·凯利就告诉谭主,他是“规模法则”的怀疑者之一。对算力进行堆叠、对数据进行增加以及对能源进行投入,他认为是不可持续的。
与之相对应的,则是中国所采取的行动——义无反顾地选择了开源以及共享,从而帮助其他后发国家。
大会期间,国家发展改革委正式发布了一份名为《人工智能合作发展行动计划》的文件,其中包含一条被称作“智能算力普惠行动”的内容——所运用的措辞并非“输出”,而是“联通”。
在落到具体案例之中时,GeoGPT地学基础模型已经成功服务了145个国家以及5.5万名科研工作者;马来西亚橡胶加工从业者正在运用中国的小模型算法对劳作方式进行优化。
这正是以普惠实现发展的体现。
02
习近平主席提到,应当共同反对在人工智能领域对国家安全概念所进行的泛化以及把本国安全凌驾于他国安全之上的做法。
如果要对这句话进行理解,那么需要从今天人工智能的发展阶段说起——人工智能正从数字世界走向物理世界。
谭主在大会现场,对此深有感受。
谭主在对相关信息进行了解之后得知,本次大会有近200家采购团,约三分之一来自海外,需求覆盖了各种行业以及各种场景。
随着人工智能逐步进入能源、制造、医疗、科研以及城市运行等领域,它正逐渐成为对现实世界进行重新组织的一种底层能力。
这使得人工智能逐渐从辅助工具转变为决策以及行为的主体,算法所作出的判断正在对一个人的生命财产安全产生影响,乃至对一个社会的公正产生影响。
那么,这时,安全如何保障?
从国际社会的反应来看,部分国家对他国大模型进行禁用,对国家安全审查加以泛化,从而制造出科技“断链”。
这就进一步引发了一个追问:当智能应用逐步走向全社会之际,那种以邻为壑的安全观是否还管用?
如果将外面的技术阻挡在门外,既无法阻挡算法风险本身所带来的跨界扩散,也拒绝了一个更为务实的出路:在真实场景之中共同开展测试、共同进行迭代以及共同建立追责机制。
在《人工智能合作发展行动计划》之中,包含一条被称作“安全治理协作行动”的内容——明确提出共建安全治理机制,加强信息共享以及应急处置合作。所运用的措辞并非“各自防范”,而是“协作”。
智利电网就成功运用了中国的“数字智脑”,以此来帮助这个国家实现对能源动脉平稳运行的保障。
这背后所体现的是一种“安全共担”的理念——即在真实场景之中共同发现问题以及共同进行迭代。
谭主了解到,随着智能体以及具身智能进入产业,智能体身份怎样进行识别、不同智能体怎样对工具进行调用以及开展协同工作、人机协作怎样对边界进行划分,都将成为标准共建的具体对象。
03
习近平主席提到,应当运用全人类共同价值来对人工智能的价值观进行塑造。
如果说前两个层面所回答的是“往哪里走”的问题,那么,在方向得以正确确立之后,如何开展前行的路径选择同样显得重要。
凯文·凯利分享了一个观察:“目前大多数模型都处于一个非常相似的文化空间之中,从而给出相似的答案,并带着相似的偏见。这可能是因为它们所接受的训练材料是相同的。”
如今,数据供给正从早期的“大水漫灌”进入到对优质语料进行追求的精细化阶段——各国前沿实验室现在普遍运用高质量合成数据来开展训练工作。
问题是,运用单一标准来对什么是“优质”进行判断,这是否能够代表多元世界?
如果标准由技术先发者单方面加以制定,那么全球南方大量的口述文化、本土知识以及小语种,就很可能会在清洗过程之中被判定为“不规范”甚至“噪声”。
纽约大学教授阿伦·桑德拉拉詹告诉谭主,算法质量取决于训练数据,而数据本身则可能包含历史上不公平以及有偏见的决策——需要主动地开展纠偏工作,以确保它不会排斥某些人群。
不过,有了这一认识还远远不够。可以更进一步加以思考的问题是,如果连“什么是偏见”都由一种文明单方面加以定义,那么“纠偏”本身就有可能造成新的偏见。
因此,中国在做的,并不是对数据进行“筛选”,而是对语料库进行“共建”。《人工智能合作发展行动计划》第一条就写着“优质数据供给行动”,正计划推动多语种语料的共建以及共享。
过去几百年的国际秩序,在很大程度上是由先发国家的语言、技术以及制度框架所塑造而成的。那些没有得到充分书写的知识以及文明,天然处于一种劣势之中。
而人工智能时代的语料库建设,给了我们一个新的机会,不是去对旧的知识权力结构进行复制,而是让更多文明平等地参与到对“什么是重要的知识”所进行的定义之中。
中国所选择的“共建”,正是在这一机会面前所作出的回答。
04
习近平主席提到,应当对人工智能发展战略、治理规则以及技术标准的对接协调进行加强,从而早日形成具有广泛共识的全球治理框架。
这其中所提到的治理问题,成为了很多人关注今年大会的一个重要层面。
今年的大会,一票难求。
一位连续三年对海外企业需求对接工作加以负责的参会者告诉谭主,第一年她对海外客户进行邀请的时候,有些人还不了解这个大会;而今年,不少客户“挤破头”想来,她手里已经没票了。
阿伦·桑德拉拉詹告诉谭主:今年的大会对“全球AI治理”开展重点讨论,这本身就具备了很强的信号意义。
先发国家掌握着模型、算力、数据以及标准,难免想要对这种优势加以固化,治理规则就是他们所运用的抓手。
中欧数字协会主席路易吉·甘巴尔代拉就向谭主表达了一个担忧:AI技术可能会将国家分成两类,一类能够销售AI并拥有自己的产业,另一类则只能购买AI且没有自己的产业。
问题是,是否谁建立了先发优势,谁就能够对规则制定权加以独揽呢?
从2023年的《全球人工智能治理倡议》,到联合国大会所通过的“加强人工智能能力建设国际合作”决议,再到《人工智能全球治理行动计划》,中国所给出的回答始终一以贯之:规则并不是先到先得。
在《人工智能合作发展行动计划》之中,“规则标准共建行动”所运用的措辞并非“输出”规则,而是“共建”。
当技术、应用、数据以及规则的四重变革同时涌来之际,为了使人工智能得以成为各国共同参与以及共同受益的公共产品,“中国愿以更加开放的姿态、更加务实的行动以及更加长远的目光,同各方一道对人工智能发展的机遇加以把握并对挑战进行应对,携手共创人类社会更加美好的未来!”
这份答案,正在被越来越多人听见。
来源:玉渊谭天丨中国AI的开放逻辑_中国政库 | 互联网