青平:日产文章7000篇,警惕AI批量制造的假新闻!
创始人
2024-06-21 17:19:12
0

  如今,网上信息纷繁复杂,尽管很多信息能具体到时间、地点、人物、经过、结果,但却不一定是真的,很有可能是AI创作的产物。近日江西警方披露一起利用人工智能造谣的案件,让新闻专业人士都惊出了一身冷汗,其中涉案MCN公司就是通过AI软件生成内容进行文章创作,日产最高可达7000篇。庞大的数量充分展现出AI炮制文章的高效率,而其中一条“西安2024年1月10日发生爆炸导致建筑车辆炸毁、人员伤亡”的虚假消息新闻要素之完善,内容之详细让人不寒而栗。如果不是每个细节都去求证,光靠传统的时间、地点、人物实名等新闻要素来识别已经失效。新闻要素俱全的假新闻该怎么整治?

  在智能化迅猛发展的当下,AI技术应用日渐广泛,在为大众的工作生活提供便捷高效服务的同时,也留下不少隐患。特别是随着AI创作工具的泛滥,失实文章的创作变得高效又低成本,几张图片或几个关键词,一条“新闻”马上就能炮制出炉,以假乱真。AI创作工具成为有心人为谋取利益造谣生事的温床,甚至衍生出不少黑灰色产业链。去年“4岁儿童海边走失”事件中,上海警方就侦查出一个借助AI技术,批量制造虚假文章,非法获利的“水军”团伙。

  如今,利用AI生成的假新闻越来越泛滥,从娱乐新闻到社会新闻,造谣涉及面广,内容丰富详尽,蒙太奇式的剪裁手法使不实消息难辨真伪,极具迷惑性,严重影响了大众判断力。面对这些有鼻子有眼、新闻要素俱全的假新闻,别说普通大众,就连专业的新闻人士都难以识别。利用AI技术传播虚假信息不仅误导大众,还对城市形象、政务宣传造成影响,严重威胁社会秩序和舆论环境。更可怕的是,AI识别用户喜好后,算法会精准推送类似假新闻,让用户形成信息茧房。此外,部分软件在进行文章创作时还会设计关键词筛选功能规避监管,进一步伪装其违法外表。AI造谣识别之难、辟谣之难,挑战前所未有,绝不能任其肆意发展。

  AI造谣日渐猖獗,但其背后操控者仍然是人或者组织机构。相关部门在对涉案MCN公司和个人进行严厉处罚的同时,还要加大曝光度,给予整个行业警示,提高违法成本,让AI背后的操控者感到造假付出的代价得不偿失。同时修订和完善相关法律法规,推动各大社交平台和MCN机构建立健全行业审核机制,细化平台和机构责任。此外,从完善造谣综合治理体系入手,统筹协调公安、网信、司法等部门建立多部门联动的综合治理,统一谣言处置标准和流程,提高打击效率。AI造谣的智能化也需要治理智能化来对症下药,从技术层面入手,通过对生成内容进行显示或隐式标识,加强AI技术使用的透明性,做好安全提示也便于溯源追责。

  AI技术本就是把双刃剑,无论是出台相关政策还是加强行业自律,最重要的是管好AI背后的操纵者。一定能让AI做到为人所用,对社会有益,而不是被别有用心的人利用。

相关内容

热门资讯

何猷君:青年要把握大湾区机遇|...   中国青年报客户端深圳5月24日电(中青报·中青网记者 赵安琪)5月24日上午,2024文化强国建...
【国际漫评】鳄鱼的眼泪   近日,美国总统拜登在与以色列总理内塔尼亚胡的通话中,敦促以方采取措施,以减少以军行动对巴勒斯坦加...
上海港完成大型集装箱船绿色甲醇...   今天(4月10日),记者从上海海事局了解到,国内首艘营运的甲醇燃料加注船“海港致远”轮为靠泊在洋...
欧盟驻华大使:看好欧盟和中国的...   中新社成都6月15日电 (记者 岳依桐)“中国很大,这片土地上总是充满机遇。”近日,欧盟驻华大使...
英国学者、伦敦国际仲裁法院成员...   【环球时报报道 记者 白云怡 钱佳音】近期,南海局势持续升温。菲律宾频繁在海上侵权挑衅、制造事端...
印尼鲁昂火山大喷发   中新社雅加达4月18日电 (记者 李志全)印度尼西亚北苏拉威西省一座火山持续喷发,它将一道红色的...
安理会就以伊冲突举行紧急会议 ...   当地时间4月14日,联合国安理会应以色列要求,就伊朗对以色列进行军事行动举行紧急会议。  中国常...
银行理财布局黄金资产   随着金价接连走高,银行理财也将目光对准了黄金。记者注意到,北银理财、招银理财、光大理财、兴银理财...
中国日报记者TikTok账号被...   导读   近日,CNN在节目报道中抹黑中国日报起底工作室记者为“AI人”。记者联系CNN要求更正...
昌响e文明|网络大V走进未来科...   中国青年网北京11月4日电(记者 安俐)近日,由昌平区委网信办主办、中国青年网承办的“昌响e文明...