名人屡被仿冒!合力斩断AI造假的黑手
创始人
2024-12-17 09:20:43
0

  近期,多起知名人士被AI仿冒事件引发关注。有账号仿冒知名医生,深夜带货推销所谓“保健品”。虽然很快被网友识破,但对医生本人造成很大困扰,当事人多次投诉,违规账号仍屡禁不止。

  一段时间内,AI生成内容带有明显加工痕迹,大家尚能识别。随着技术发展,AI生成的画面、声音、视频越来越逼真,普通用户愈发难辨真伪。一些不法商家为躲避监管,通常选择在深夜直播,有的利用老年人警惕性弱、对新技术不了解,精准对其进行“收割”。

  AI造假触及的不止直播带货。有不法分子利用AI技术编“伪消息”、造“假新闻”,骗取网民关注点赞,实现流量变现。部分诈骗分子,深度合成受害者亲属、同事声音画面,精准施骗。

  严防AI造假,关系社会秩序,也关系公民权益,是一个很迫切的话题。近来相关法律法规相继出台,《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等都在内容审核、信息安全方面对生成式AI提出了要求。今年9月,国家网信办发布《人工智能生成合成内容标识办法(征求意见稿)》,进一步提出刚性约束。

  AI技术发展突飞猛进,带来了新奇体验和产业进步,与此同时,不法分子也千方百计为谋私利钻空子。面对新挑战,确实需要想一些新办法,全方位提升防造假的能力。

  网络平台的责任不可推卸,需要不断提升技术手段,加强审核识别,识别深度伪造内容。对于疑似AI生成的内容,应考虑在明显位置进行标识提醒,并做好相关内容的后台存储备案,以防止不法商家一删了之。监管部门应严格执法,对利用AI技术进行不法行为的人员和机构追根溯源、严查严处,加大震慑力度。网友则应提高警惕,加强防范,多方求证,增强信息辨别能力。

  技术发展有其自身规律,关键在于使用技术者,须怀揣一颗向善之心。期待多方协同发力,清扫AI造假乱象,让AI成为造福社会的超级助手,不能沦为不法分子的行骗工具。

  海报制作:陈泉伊

相关内容

热门资讯

【国际漫评】鳄鱼的眼泪   近日,美国总统拜登在与以色列总理内塔尼亚胡的通话中,敦促以方采取措施,以减少以军行动对巴勒斯坦加...
欧盟驻华大使:看好欧盟和中国的...   中新社成都6月15日电 (记者 岳依桐)“中国很大,这片土地上总是充满机遇。”近日,欧盟驻华大使...
何猷君:青年要把握大湾区机遇|...   中国青年报客户端深圳5月24日电(中青报·中青网记者 赵安琪)5月24日上午,2024文化强国建...
印尼鲁昂火山大喷发   中新社雅加达4月18日电 (记者 李志全)印度尼西亚北苏拉威西省一座火山持续喷发,它将一道红色的...
安理会就以伊冲突举行紧急会议 ...   当地时间4月14日,联合国安理会应以色列要求,就伊朗对以色列进行军事行动举行紧急会议。  中国常...
昌响e文明|网络大V走进未来科...   中国青年网北京11月4日电(记者 安俐)近日,由昌平区委网信办主办、中国青年网承办的“昌响e文明...
报告:美国儿童青少年涉枪死亡率...   中新网9月19日电 据《今日美国》报道,最新报告显示,枪支暴力已连续三年成为美国儿童和青少年死亡...
北京:中小学不得强制学生购买校...   日前,北京市教委、北京市市场监督管理局印发《关于进一步加强中小学生校服管理工作的意见》,强调中小...
非洲媒体:非中合作新举措将推动...   9月4日至6日,2024年中非合作论坛北京峰会在中国举行。国家主席习近平宣布将实施中非携手推进现...
服贸会的朋友们丨参展商:互惠共...   2024年服贸会正在北京举行。本届服贸会的“朋友圈”越来越大,在跨境旅游合作领域,各国新老朋友都...