山东热线 - 山东地区最专业的新闻资讯网站!
当前位置: 主页 > 社会新闻 > 科技新闻 信号山:ChatGPT一本正经胡说八道 谣言泛滥值得警惕

信号山:ChatGPT一本正经胡说八道 谣言泛滥值得警惕

发布时间: 2023-02-23 15:18:52 来源: 未知 作者: -1
谣言的传播能力取决于事件的重要性、模糊程度和公众的判断能力,ChatGPT的“专业性”影响了受众的判断能力,势必会助推虚假信息的传播。

近日,ChatGPT炮制出一条“杭州3月1日取消限行”的假新闻,引发各方担忧。复盘此事件,是有业主尝试用ChatGPT写了一篇杭州不限行的新闻稿,并在群里直播了全过程和最终文章。有些业主不看上下文,随手截图转发,导致失实信息传播。相关词条也登上热搜,ChatGPT“编造谣言”的“功能”令人担心。如果虚假信息在政治、经济等关键领域泛滥,所造成的社会影响将更加恶劣。

ChatGPT,可以将其简单视为一个“聊天机器人+搜索工具+文本创造工具”的组合体。在国内一般称作“人工智能自然语言处理工具”。根据研究机构测试发现,如果对着ChatGPT提出充斥阴谋论和误导性叙述的问题,它能在几秒钟内改编信息,产生大量令人信服却没有来源依据的内容。

以往的谣言大多都有粗制滥造、漏洞百出的特点,“劣质”谣言的套路尚可总结:来源不权威,轻信短视频平台的非官方媒体账户和朋友圈截图;内容“三不提”:不提“政策”来源部门、不提“政策”所在文件、不提“政策”发布时间;话术真假掺半,如“社保卡统一(假)办理电子版(真),不办理就会被销户(假)”,这样的谣言迷惑性极强;风格吓唬人,惯用“必须”“后果自负”等耸人听闻用词和大量感叹号,目的就是利用焦虑情绪替代判断力。

如今,怀有不良企图的人却可以引导ChatGPT写出逻辑清晰、语言表达流畅的谣言。这样一来,ChatGPT生成的内容很容易被当作是权威信息而大肆传播,而且查证的难度很高。谣言的传播能力取决于事件的重要性、模糊程度和公众的判断能力,ChatGPT的“专业性”影响了受众的判断能力,势必会助推虚假信息的传播。

ChatGPT的使用成本极低,造谣成本同样也在大大降低。“一本正经地胡说八道”不能只是一句调侃的玩笑,“错误的废话”绝不是无足轻重,一旦ChatGPT被不法分子利用输出误导信息,将可能导致ChatGPT衍生成为互联网上制造和传播网络谣言的工具。如果虚假信息在政治、经济等重要领域泛滥,如果谣言大肆泛滥却无法追责,那么对于新闻媒体、平台和大众来说,伤害都是不可估量的。

ChatGPT向人们展现了人工智能先进性,与此同时,造谣工具的“利刃”也在出鞘。2023年1月10日起施行的《互联网信息服务深度合成管理规定》,为ChatGPT套上了制约的枷锁。《规定》中明确,任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息,不得利用深度合成服务从事危害国家安全和利益、损害国家形象、侵害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动。深度合成服务提供者和使用者不得利用深度合成服务制作、复制、发布、传播虚假新闻信息。

推动引导ChatGPT有序发展,还需多方发力,方能实现多赢。针对人工智能自然语言处理工具所面临的现实问题,建议使用ChatGPT在互联网生成和发布信息的,进行实名制认证,网络平台加强监管,对结果进行审核。加强互联网人工智能自然语言处理工具管理,在充分调研的基础上,结合《互联网信息服务深度合成管理规定》等法律法规,网信部门可出台相关管理措施,最大程度上保证新技术不被滥用。未来,期待AI安全有更完善的法律保护。

信网评论员 秦璐

  • 关键词浏览:
  • 2022第九季 SIUF国际超模大赛总决赛在深圳举行
  • 8月12日晚,“心衣天使内衣超模”2022第九季SIUF国际超模大赛总决赛在深圳会展中心举行。当晚,13号选手周家圻夺得冠军,1号选手张珊梦夺得亚军,29号选手褚晓雯夺得季军。...

  • 秦怡去世:百岁百件事,致敬这不凡的美丽人生
  • 2022年1月31日,演员秦怡100周岁的生日。这位承载了几代人记忆的老艺术家,正式从“90后”晋升“00后”行列。...

  • 借“医”行诈国家医保基金,这家取名“民泰”的医院被端了!
  • 如果不是警方找上门,23岁的杨某并不知道,2018年底到2019年7月间,“自己”在四川省达州市宣汉县民泰医院住了五次院,共32天,医保报销12831.5元。...

  • 北京证券交易所来了(财经眼)
  • 9月2日,习近平主席在2021年中国国际服务贸易交易会全球服务贸易峰会上提出“我们将继续支持中小企业创新发展,深化新三板改革,设立北京证券交易所,打造服务创新型中小企业主阵地”。...

  • 选手确诊、丑闻不断,东京奥运会“混乱中”即将开幕
  • 如无意外,23日,东京奥运会将迎来延迟一年后的正式开幕。然而,奥运相关人员确诊病例数仍不断增加。...

  • 刚上市就爆火!“1瓶能顶4张面膜”的玻尿酸气泡水,是智商税还是美颜水?
  • 花点小钱真就能抚平皱纹、抵抗衰老、重返十八?吃着零食喝着水也能变漂亮的口服玻尿酸方法真的靠谱吗?...

  • 部分商家宣称护眼仪能让孩子告别眼镜 专家提醒:真性近视不可逆,科学用眼更重要
  • 随着电子产品越来越普及,电脑、智能手机、平板电脑等电子产品已逐渐成为孩子手中的“掌中宝”。...

  • 四名大学生高铁上抢救婴儿 其中三人来自湖北
  • 昨日,一篇暖文火遍全网——飞驰的列车上,4名医学生成功救回一名被食物卡住呼吸道的婴儿。...

  • 谨防洗手间“伏地魔”!男子洗手间内跪地偷窥,当事女子录下视频
  • 小张拍摄的视频显示,洗手间内一名男子趴伏下身子,头部已经快贴到地面上,尝试从缝隙处偷窥如厕。...

  • 乳房健不健康,5点就可判断!女人别太晚知道
  • 说到妇科疾病,必然逃不掉的是乳腺疾病,不管已婚还是未婚,女人都有可能被乳腺疾病盯上。...

    特别推荐