【计算万物 湘约未来】大模型亟需“紧箍咒”

2023-09-17 08:24:15 [来源:华声在线] [作者:王亮] [编辑:刘畅畅]
字体:【

华声在线全媒体记者 王亮

要说计算领域,今年上半年哪类产品或者概念最火,非大模型莫属。

9月16日,在2023世界计算大会“数据安全与合规治理”计算安全论坛上,西安电子科技大学教授王皓针对大模型郑重发声:“大模型很好,但也面临法律、道德、隐私等一系列问题,亟需做好监管。”

(论坛现场。王亮 摄)

以国外的ChatGPT、国内的文心一言为代表的通用大模型,是由人工智能技术驱动的自然语言处理工具,能够真正像人类一样来聊天、交流,完成撰写邮件、文案、代码、论文等复杂任务。目前,国内外众多网络科技公司纷纷推出了自己的通用大模型。

“大模型作为人工智能发展到一定程度的产物,因为发展时间短,信息保护比较脆弱,容易导致信息泄露。”王皓介绍,“近期一些大模型被人通过特殊的表述和语言,获取了大量的手机IMEI码或者Windows激活密钥,造成安全风险。”

信息泄露还不是最可怕的,“邪恶大模型”的出现,更让业内感到忧心忡忡。

王皓介绍,“‘邪恶大模型’是别有用心的群体或个人,专为攻击性活动设计的人工智能对话机器人。它们可以根据简单提示,就创建出破解工具、钓鱼邮件,甚至恶意的攻击软件,进行一些危害个人或者社会的事情。”

目前,全球范围都已意识到大模型迅速发展所暴露出的问题。我国上半年出台了《生成式人工智能服务管理暂行办法》,欧洲、美国也颁布了一些初级的协议、权力法案,开始加强对大模型的约束。

“立法是第一位的,要尽快厘定哪些领域属于违规、违法,并进行严厉打击。另一方面,继续加强研发,从技术进步的角度不断完善大模型。”王皓说道。

(一审:夏博 二审:刘乐 三审:蒋玉青)

相关专题:计算万物 湘约未来——计算产业新变革

今日热点
焦点图