原标题：如何应对大模型落地挑战？专家：“防火墙+天花板”双管齐下

从ChatGPT、微软Copilot助手、谷歌Bard，到AI文生图Midjourney、AI视频生成Gen-2、Pika 1.0等等，都成为2023年最值得回味的经典案例。

一起向前看，2024年大模型前行的路，仍值得每个人去深思。

如何突破算力瓶颈？如何获取高质量数据？如何让大模型落地？如何让LLM更安全？等一系列问题都成为重要的议题。

12月27日，“AI发展与治理创新研讨会”在北京举行。会上，阿里巴巴集团与中国电子技术标准化研究院联合发布《AIGC治理与实践白皮书》；来自中国科学院、中国社科院大学、复旦大学、浙江大学、国家部委研究机构和国内AI企业的专家参加了研讨会。与会专家从技术趋势、科技伦理和协同治理等角度，共同探讨中国AI的发展之道。

专家谈大模型未来安全前景：

发展AI“宜疏不宜堵”

“用模型监督模型”

中国人工智能产业联盟安全治理委员会专委会副主委、浙江大学教授潘恩荣指出，生成式人工智能（以下简称“AIGC”）对人类经济社会发展带来巨大的观念冲击，“宜疏不宜堵”。一方面，必须克服各种恐惧和臆想，克制“堵”的冲动；另一方面，要在实践中小步快跑地迭代出各种“疏”的方式。

潘恩荣在演讲中

复旦大学教授张谧认为，科技行业应该负责任地发展AI，兼顾AI发展和风险管控。张谧说：“现在全球范围内有AI竞赛的氛围，注重安全反而可能造成技术落后，为了占领先机便不得不搁置安全。各方应该立足长远，携手营造有序竞争，把风险控制在防护能力的上界之内，保障AI发展处于安全区域。”

张谧发言

会上，中国电子技术标准化研究院信息技术研究中心副主任董建援引全球各国AI治理路径，指出目前国内外都在推动AI研发治理工具，包括综合评价与管理AI技术风险，以及加强标准与治理规则联动等；但如何通过技术深层次解决治理问题，将技术圈和学术圈、法律圈的观点标准融合落地，尚需社会多元主体进一步的探索。

董建作主题演讲

张谧对AI大模型未来的安全前景持乐观态度，她援引前沿观点指出，随着评测、治理技术的成熟，以及治理体系的完善，人类提供一整套安全规则，AI就能根据规则实现“用模型监督模型”；而更长远地看，AI大模型有可能自主对齐人类价值观、主动向善发展。“只要我们负责任地对待AI，就能构建‘爱人类’的AI。”张谧说。

专家谈国内AI产业高质量发展痛点：

更便宜的能源价格

更便宜的AI芯片价格

数据是AI时代的“石油”。中国科学院信息工程研究所技术副总师韩冀中在主旨分享中，指出我国构建高质量安全的中文数据集的紧迫性，直言唯有高质量的数据才能推动国内AI大模型真正的高质量发展，“能从本源上解决问题”。

同时，韩冀中围绕AI当前发展和治理中的痛点难点，强调了构建价值对齐等技术防护与监测体系的必要性，指出要从大模型的底层架构生产、中层应用运行到后端内容制作传播全流程来完善价值链责任管理。

圆桌环节，来自行业一线的最新AI实践经验、案例令与会专家高度关注，围绕中美当前在AI技术、生态、应用与基础设施能力等多领域竞速的现实议题，嘉宾们更是纷纷建言献策，讨论热烈。其中，对于国内AI产业在全球AI迭代升级浪潮中如何稳步发展不掉队，商汤科技智能产业研究院院长田丰特别指出：“更便宜的能源价格、更便宜的AI芯片价格，将大大提升中国AI大模型创新速度、AIGC应用的市场规模。”

他呼吁了三点：一是国家能源基建更多地有意识向大模型算力倾斜，做好算力基建和底层架构的国家储备；二是针对大模型的政府金融扶持，建立专项的金融体系如国家基金等；三是深化数据产业链对提升大模型效率的关键作用。“虽然目前不能寄希望于马上实现跨行业的数据共享，但数据的产业链协同成本、交易成本以及数据的后续反哺生产，必然将是未来国产大模型的核心竞争优势。”田丰强调。

阿里连续2年发布AI白皮书：

大模型内生风险需设“防火墙”

癌症筛查、拍影视剧、辅助招聘……生成式人工智能正助力各传统行业突破天花板，与此同时，围绕内容安全、个人信息保护、知识产权归属等内生问题也引发了社会担忧。

论坛当天，阿里发布了其与中国电子技术标准化研究院联合编写的《AIGC治理与实践白皮书》（以下称“白皮书”）。白皮书显示，目前，由于大语言模型具有深度神经网络固有的鲁棒性不足、可解释性缺乏、生成内容可控性较低等缺陷，导致生成式人工智能还存在着较大缺陷。这就需要判断其对人类权益和社会秩序构成的潜在风险，用审慎的态度规划技术发展路径，采取多元协同的方式，聚各方合力，确保技术在正确的轨道上发展和应用。

白皮书介绍了全球AIGC技术与应用的最新进展，剖析了世界各国治理AIGC的不同模式，系统分析大模型和AIGC主要风险，并从产生原因、治理框架、风险治理和多主体协同敏捷治理等多个方面提出治理建议和可操作性实践方案。

白皮书以模型训练中需要使用的数据为例，指出数据中原本就存在的风险点以及特定信息缺失都会对大模型引入风险。同时，对指令的遵循还可能让模型被部分用户诱导，从而学习到恶意导致模型输出风险内容。

基于此，白皮书倡议，生成式人工智能的风险治理需要贯穿产品的全生命周期，包括模型训练、服务上线、内容生成、内容发布与传播各阶段。如在训练环节，首先需要对数据筛选和过滤，评测模型的安全性，并且审核算法机制机理。模型产品上线后，服务提供者还需要选择安全有效的模型作为基座构建完整的算法服务。同时，对用户账号、个人信息以及生成的内容进行保护和审核，避免模型被恶意输入和诱导。

AI上云，赋能千行百业

传统产业借力AI突破“天花板”

薛晖致辞

正如阿里巴巴科技伦理治理委员会委员、阿里巴巴安全部研究员薛晖在会上所说：“关于AI，我们不知道的比知道的多，难以想象的比可以预测的多。AIGC带来前所未有的挑战，需要我们前瞻性地应对。AI的发展和治理，仅凭一家企业、一所高校、一个机构无法独立完成，必须‘多元协同、开放共治’。阿里巴巴正在一边筑牢防火墙，一边突破天花板，与社会各界一道，用AI破解更多社会难题，推动AI惠及更多人。”

论坛现场与会专家一致认为，未来大模型的落地关键，在于要负责任地发展大模型能力。唯有提倡负责任的AI开源，方能促进创新、利于纠错，也将有助于解决未来更多社会问题。

通过日新月异的行业实践可以观察到，当下AI离普通人已经不再遥远，如今，在做PPT、写文案、订机票、玩游戏等场景都有大模型的赋能，包括腾讯、百度、阿里巴巴、网易等在内的科技公司都已将其植入现有业务中。在论坛现场，薛晖还分享了阿里医疗AI团队与医学界合作的创新实践，利用“平扫CT+AI”方法进行胰腺癌早筛。这项技术不仅在胰腺癌筛查上取得了成功，还在食管癌、肺癌、乳腺癌等多个领域有着广泛应用。阿里巴巴的“云+AI”科技平台正在帮助各界破解难题，为人类社会的进步贡献力量。

“很多过去想到但做不到、甚至创作者也没想到的场景，都在AI的助力下呈现在我们的面前。可以预见，AI技术将全面提升中国影视制作的水平。”薛晖表示。

采写：南都记者 吕虹