从ChatGPT到Sora 业界关注大模型“利刃”如何安全出鞘
创始人
2024-05-20 09:47:47
0

原标题:从ChatGPT到Sora 业界关注大模型“利刃”如何安全出鞘

中新社上海2月28日电 (记者 郑莹莹)从ChatGPT到Sora,新一代人工智能在收获大量关注的同时,也引发安全担忧。28日在沪举办的2024上海网络安全产业创新大会上,业界人士围绕大模型安全话题展开探讨。

2月28日,2024上海网络安全产业创新大会在沪举行。圆桌论坛上,业界人士围绕大模型安全话题展开探讨。 中新社记者  郑莹莹  摄

“大模型是一把‘双刃剑’,它既能帮助行业解决很多问题,又会引起很多问题。”中国信通院华东分院院长廖运发说。他表示,现在人工智能发展非常火爆,尤其是大模型,从ChatGPT到Sora都引起了大家的关注。

上海交通大学网络空间安全学院副院长王士林认为,可以从两个角度看,其一,可以用大模型技术来解决行业一些安全问题,包括内容安全等。随着大模型能力的提升,相关领域的AI(人工智能)赋能水平也会随之提升。其二,新的大模型本身会造成新的威胁,比如生成式AI生成人脸图像,可能造成社会问题。因此,相关部门需要研究如何进行相应的监管。

商汤科技信息安全委员会负责人吴友胜从一名信息安全从业者的角度分享了他看到的行业变化。据他介绍,一方面,大模型的引入让业界可以更自动化地处理一些流程化的工作,规避一些低级错误,减少相关领域的安全风险。行业出现了AI赋能安全方面的一些好产品,这些产品涉及威胁的预测、漏洞的管理等等。

另一方面,他指出,在AI赋能安全这个方向上,路程还很遥远。这一领域既需要提升数据的规模与质量、提升算力水平,也需要既懂AI又懂安全的专业人才。吴友胜认为,在AI安全方面,风险与挑战并存,业界需要在重视利用技术的同时,从监管层面更好地确保“利剑”为行业赋能,而非给行业带来灾难。

翼方健数技术总监孙维东说,企业在试图用大模型赋能自身发展的过程中,首先关注安全问题,因为很多商业机密和敏感数据是需要由大模型进行处理的,而且不同行业对安全的需求也存在比较大的差异。他表示,业界还在等待大模型生态稳定下来,等待更多安全技术涌现。(完)

相关内容

原创 ...
伊朗和以色列之间的冲突暂时进入了休止期,双方都在认真反思,检讨这场...
2025-07-07 12:20:47
达利欧为何说这国濒临内战?
近来,美国桥水基金创始人瑞·达利欧发表万字长文《内战?》,指出美国...
2025-07-07 11:21:32
一个气泡水广告,为何几十万...
机器之心报道 机器之心编辑部 最近,一个完全由 AI 制作的广告在...
2025-07-07 11:21:25
植物货币是如何出现的?
《植物塑造的人类史——香料和棉花改变世界》史军著 现代出版社 我们...
2025-07-07 11:01:37
北上广深楼市半年记:上半年...
2025年过半,北上广深楼市成交如何? 综合四个城市上半年成交看,...
2025-07-07 11:01:24
綦江区探索区域柔性引才,效...
原标题:“人才发展体制机制改革的市域实践”系列报道14|綦江区探索...
2025-07-07 09:03:52

热门资讯

存款利息怎么算?湖南农商行存款... 导读湖南农商行存款利息怎么算?湖南农商行作为湖南最大的股份制银行,它是一家地方性、集约化、国际化、股...
金三角李国辉,率领三千残部打败... 原标题:金三角李国辉,率领三千残部打败泰国政府军,到台湾后结局如何? 解放战争...
处暑节气如何做好养生?这些秘笈... 原标题:处暑节气如何做好养生?这些秘笈请收好 处暑的天气多变,可能给我们的身体...
原创 婴... 在宝宝的成长过程中,奶粉作为重要的营养来源,其选择至关重要。那么,什么样的婴儿奶粉比较好呢?奶粉的营...
孕妈检测出胎儿没有“胎心”究竟... 原标题:孕妈检测出胎儿没有“胎心”究竟为何?多半是这4种原因,预防下 昨天小樱...
新农保一年缴费180元60岁后... 导读新农保一年缴费180元,60岁后能拿多少钱呢?我们这一个月是208块。农村大多是买这种农保吧,刚...
原创 如... 肺是人体非常重要的器官,空气中的很多灰尘和垃圾都会随空气进入肺部,所以肺部的清洁是非常重要的。我们可...
激光术后护理指南:如何科学恢复... 二氧化碳激光是一种常用于去除瘢痕、色素沉着、皱纹和其他皮肤问题的治疗方法。它通过发射高能量的二氧化碳...
立春节气如何养生? 原标题:立春节气如何养生? 今天是2024年2月24日,阴历腊月二十五,今日立...
邢台农商银行存款利率表:一年期... 导读邢台农商银行现在的利率表:一年期2.25二年期2.85三年期3.45。农商银行原来的利息比这高好...