人工智能大模型“百花齐放” 呼吁构建负责任、可信赖的人工智能治理体系
发布时间:2023-09-12 21:00:07|来源:中国新闻网|作者:

  技术已经深深扎根于中国的日常生活,人工智能(AI)为从交通到购物的方方面面提供动力。在全球市场研究公司益普索2022年的一项调查中,78%的中国受访者认同使用AI的产品和服务利大于弊的说法,但美国受访者的该比例仅为35%。

  2023年国家网络安全宣传周活动正火热进行中。其间举行的网络安全技术高峰论坛上,中国人工智能产业如何“走好走稳”等话题引发讨论。

  9月10日,2023年网络安全博览会在福建省福州市举办。该博览会设置关键信息基础设施保护、数据安全、个人信息保护、网络安全产品与服务等展区,展示面积约2万平方米,参展单位70余家。图为观众观看回顾展。中新社记者 王东明 摄

人工智能大模型“百花齐放”

  北京百川智能科技有限公司创始人王小川表示,今年以来,中国人工智能产业发展迅猛,包括百川在内的多家人工智能大模型产品陆续上线。人工智能技术,特别是大模型技术不仅将重塑现有产业,更将创造全新价值。

  上海联影智能医疗科技有限公司研发副总经理沈振辉认为,当前,人工智能大模型正掀起新一轮智能革命浪潮,大型语言模型在语言理解、生成、知识推理等层面正展现出令人惊艳的能力,为其在细分垂直领域的发展提供了巨大想象空间。

  腾讯云副总裁吴运声指出,中国人工智能大模型“百花齐放”,产业落地已过“尝鲜期”,产业落地实效成为大模型价值的重要评估维度。

风险与瓶颈

  粤港澳大湾区数字经济研究院创院理事长沈向洋表示,生成式人工智能带来的安全挑战巨大。如果说搜索引擎是一个有限责任公司的话,人工智能大模型产品就是一个无限责任公司,因为前者输出的结果都是有记录,出了问题也是可溯源的;后者输出的内容都是自己生成的,容易出现所谓“一本正经胡说八道”等风险问题。

  北京大学计算机学院教授、北京大学人工智能研究院副院长黄铁军则提到数据的重要性。黄铁军说,如果“喂”给大模型的数据质量差甚至是错误的,将严重影响大模型的输出结果。对于中文大模型来说,存在一个发展瓶颈:国际开源数据集的中文内容少。建设高质量中文数据集是中国生成式人工智能发展的基本前提。

呼吁构建负责任、可信赖的人工智能治理体系

  清华大学人工智能研究院副院长朱军认为,面对挑战,中国已经开展了相关探索,加强技术理论研究,持续构建第三代人工智能,加强技术手段建设,提升训练数据质量和安全评测能力,并在人工智能安全靶场等方面取得实践成果。

  黄铁军建议,各方共建大规模高质量中文数据库,促进中文网页数据汇聚、处理及开放,相关政府部门出台书籍、期刊论文等版权数据用于大模型训练的相关政策及规范,盘活中国高质量中文数据资源,加快数据处理相关标准、技术、工具和支撑平台研发,提高数据处理效率。

  华为云首席技术官(CTO)张宇昕表示,当前人工智能产业发展火热,但人工智能技术带来的安全挑战也非常之高。希望各方共同努力构建一个负责任、可信赖的人工智能治理体系:一是打造多角色协同的治理体系,二是实现基于应用场景风险的分级治理,三是建立卓越的标准和测试认证能力,四是构建包容的国际多边治理机制。(完)

编辑:菲菲
免责声明:文章转载自网络。文章内容不代表本站观点,本站不对其内容的真实性、完整性、准确性给予任何担保、暗示和承诺,仅供读者参考,风险自己甄别并承担后果;如有侵权请及时联系本站,我们会及时删除处理!

图文推荐

相关阅读

资讯

产业

新闻排行