位置: 首页 >> 学院动态 >> 学院新闻 >> 正文

生成谣言不到1分钟!信息化时代,看专家揭秘如何防治AI谣言

作者:

发布时间:2024-09-27

点击次数:

9月27日,河南省2024年“e起辟谣 清朗有我”网络辟谣沙龙(第三季)在中原工学院(龙湖校区)举行。

本次活动由河南省委网信办、团省委、省科协、省科技厅、省教育厅主办,中原工学院、顶端新闻承办,活动以“AI赋能,智慧治谣” 为主题,活动中AI主持人豫小清参与此次活动的主持,探究智能化网络谣言的生成与传播机制,持续提高网络辟谣工作能力水平,共同营造不信谣、不传谣、不造谣的良好网络环境。

当网络谣言披上AI的外衣时,“眼见为实”“有图有真相”遭到严重的挑战,虚假的网络谣言使隐藏在背后的真相变得扑朔迷离。百度河南运营服务中心品牌策略总监刘匍,通过AI技术展现了谣言的生成甚至不到一分钟。“AI谣言生成有多快,传播就有多快。”刘匍说,“百度在相关辟谣工作也做了很多部署,我们成立了百度辟谣平台,建立全国共享的最大谣言及辟谣数据库实现谣言与事实论证信息的快速匹配和分发。”

国家计算机网络与信息安全管理中心河南分中心高级工程师姜淦卿,在活动中表示,2022年以来生成式人工智能呈现爆炸式发展,ChatGPT中,针对微调部分引入了新的算法,大幅提高了AI在人机对话时的准确度和可控性。然而,2023年以来,AI谣言量近半年增长65%。近一年来,经济与企业类AI谣言量增速高达99.91%,谣言治理迫在眉睫。

“目前,中国人工智能安全管理框架正在逐步完善,中央网信办也在持续推进正能量语料库与模型安全测评体系建设,技术的研究、相关的规范措施还有管理制度是必须跟上。要做到智能化协同联动,同时社会人人参与,共同打击谣言,守护真相,做谣言终结者。”姜淦卿说。

活动中,中原工学院人工智能学院副院长杨关,通过讲述人工智能谣言的具体案例,概括出了人工智能谣言的具体类型,直指谣言的危害。在谈到信息化时代如何鉴别谣言,杨关指出首先要鉴别信息来源,并借助技术手段观察图片、视频的细节。其次,媒体机构要提高自律意识,客观公正的报道。最后,政府监管部门加强监管力度,建立健全法规制度。

活动的最后,河南省委网信办举报中心宣传教育科干部王文博积极和现场师生互动,用风趣幽默的方式探讨了网络谣言的生成以及传播。“面对网络谣言,我们要勇敢面对。首先,我们要珍惜时光,专注学业积累与自我提升;第二,是日常上网,精选主流优质传播媒介;第三,要视野开阔,避免茧房效应与群体极化。最后要敢于担当,主动净化自己的社群朋友圈。”王文博说。

此次活动,河南省委网信办、团省委、省科协、省科技厅、省教育厅、顶端新闻、中原工学院等单位相关负责同志,以及相关领域专家学者、中原工学院师生代表齐聚一堂。活动圆满结束,现场互动气氛热烈,与会人员进一步加深了对智能化网络谣言的认识,进一步凝聚不信谣、不造谣、不传谣的社会共识,主动维护网络秩序。

关闭

电话:0371-62506829

地址:河南省郑州市新郑市双湖经济开发区淮河路1号

邮编:450007

  • 官方微信

  • 官方微博

版权所有 © 中原工学院人工智能学院