警惕！AI或致虚假信息泛滥

据科技日报，生成式人工智能（ai）横空出世后，除了可能对部分职业岗位有所波及、对现有的版权制度形成新的挑战外，还能被用于社交媒体上的虚假信息活动，既造成了新的危险，也放大了现有的危险，进而危害经济和社会的稳定。

基于现实情况进行合理预测，AI加持下的虚假信息活动可能主要应用于以下4个方面：

①炮制假新闻。

这里主要针对官媒新闻进行歪曲和篡改，淘汰以往“开局一张图，剩下全靠编”的落后的内容生产方式，改为设定要求——输入部分素材——自动生成图文/视频的全自动化模式。

②.散播谣言。

制*消息快、自动化+批量化传播扩散快，如果再加上由深谙新媒体、社媒调性机制，且深谙传播学或新闻学理论的“专业人士”操刀，便能实现“谎言重复一千遍，就会成为真理”的效果。另外，由于谣言还具有极强的噱头性，天然容易在互联网传播中获得极大的关注度和讨论度，与此截然相反的，却是辟谣不仅要“跑断腿”，还因为“太正”而没人看。

③结合生成式AI与社媒特性，推行“垃圾信息海”战术。

向全网灌注娱乐新闻、八卦信息等“奶头乐”内容，占据用户全部视野，以驱除正经新闻和消息，彻底掌握社媒中流通信息的支配权。通过与娱乐公司展开深度合作，幕后推手能够在完成既定战术目标的同时获得额外的收益。

④利用深度合成技术仿冒账号，搅乱正常社媒秩序。

爬取机关、企业、机构、社会组织、名人/大V/意见领袖等官方账号和个人账号的信息，包括但不限于图文、露脸形象、声音等，凭借这些语料和素材生成虚假内容，既能为事主招黑，还能挑起事端、搅乱风波、以假乱真。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

ChatGPT Writer

免费 Chrome 扩展程序，使用 ChatGPT AI 生成电子邮件和消息。

106 查看详情

更关键的是，为牟利也好，为达成其别有用心的目的也罢，虚假信息的制造者和传播者的行为本就非法，自然会无视法律法规、平台规定等束缚，于是便产生了3大难点——审核难、监管难、处罚难。

①审核难。

目前各平台对生成式AI内容的要求，主要可以概括为“上传者自律”，也就是该用户主动做出醒目标识，向受众明示其内容为AI制作，如此规定“防君子不防小人”。正常用户当然依规行事，不法用户则完全可以不标、缓标、少标。

②监管难。

在AI应用于内容生成领域之前，众所周知网上假新闻已经像野草一样层出不穷，难以根除。对此，传统的治理方式为大数据筛查+受理举报相结合，并重点打击违规账号、重点标记其关联账号，这是堂堂正正的处置之道，无可指摘。可问题就在于不法用户引入AI后，如果将之前的状态看成零星的、点状的野火，那此后需要处理和整治的虚假信息，将变成片的大火，治理所耗费的人力、物力、难度呈指数级上升。

③处罚难。

最终，惩罚存在两个问题，一是配套法律法规不够完备，二是由于隐秘性而难以抓取的问题。不过，不久前关于反网暴的适用法律条文已面向社会收集意见，相信很快就能具体落地。预计随着AI生成虚假信息治理工作的推进，相关的法治建设也会紧随其后。

阿知曾多次在关于生成式AI的问题中提及，AI与以往历史上出现的新技术没有本质不同，无关对错和善恶，关键是要看谁来用、怎么用。其作为互联网行业新引擎、金融市场中的新蓄水池作用当然毋庸置疑，但一味地、片面地强调其技术优越性多为投机主义者所为，图利而已。我们必须客观全面地看待生成式AI这项革新性技术，并采取预防措施，以避免其滥用所带来的风险。

以上就是警惕！AI或致虚假信息泛滥的详细内容，更多请关注其它相关文章！

# 假新闻  # 游戏试玩网站推广  # 泰州互联网营销推广培训  # 邢台淘宝网站推广简介  # 餐饮小区营销推广文案范文  # 眉山广场推广招聘网站  # 六心网络seo  # 郑州网站整站优化有哪些  # seo锚  # 大型seo  # 湖南关键词排名渠道  # 就会  # AI  # 这是  # 的是  # 上海  # 应用于  # 谁能  # 还能  # 互联网  # 开源  # 警惕  # 虚假信息 

相关栏目： 【 行业新闻62819 】 【 科技资讯67470 】

相关推荐： 图像生成过程中遭「截胡」：稳定扩散的失败案例受四大因素影响  美图秀秀发布七款 AI 工具：修图一样修视频、打造电影级上镜脸  生成式AI与云结合，机遇与挑战并存  腾讯机器狗进化：通过深度学习掌握自主决策能力  到中国科技馆体验“一滴油的奇妙旅行”，线上元宇宙展厅同步开启  AI 作画工具 Midjourney 推出“pan”功能，可平移扩展图片外场景  在这里见未来！杭州未来科技城全球AI盛会邀您共探最前沿  人工智能即将进入Windows：企业准备好安全策略设置了吗?  人工智能框架生态峰会即将召开，聚焦AI大模型技术与科学智能探索！  亚马逊确认今年不举办re:MARS人工智能大会  令人震惊的特斯拉机器人  湖北科技职业学院举行工业机器人及智能制造技术专精特新产业学院建设启动仪式  阿里云全面支持Llama2训练部署，助力企业快速构建自有大型模型  苹果推出全新沉浸式 AR 体验应用“Deep Field”  利用AI技术更好地发展农村电商  重塑未来生活的五项技术趋势  微软在德国举办MR研讨会，向女性分享元宇宙潜力  讯飞听见会写“会议摘要”功能全面升级，AI更懂你的关注点  网易易盾 AI Lab 论文入选 ICASSP 2025！黑科技让语音识别越“听”越准  AI取代人工先拿教育行业开刀？美版“作业帮”启动裁员  Intel酷睿Ultra发布会官宣！迈向全新的AI时代  时隔 4 年：谷歌更新安卓机器人 LOGO，形象更立体  华为云天筹AI求解器荣获世界人工智能大会最高奖  腾讯AI首次模拟拼接三星堆文物，工作取得阶段性的成果  世界周刊丨AI“棱镜”？  郭帆：AI发展日新月异，或是弯道超车好莱坞的最好机会  AI行业盛会大咖云集！Sam Altam、“AI教父”......一文看懂最新观点  随时随地，追踪每个像素，连遮挡都不怕的「追踪一切」视频算法来了  AYANEO AIR 1S 掌机 7 月 9 日发布：R7 7840U + OLED 屏  参考封面|人工智能“淘金热”  微软新出热乎论文：Transformer扩展到10亿token  特斯拉人形机器人将亮相 预计售价不超过15万元  好莱坞面临全面停摆 好莱坞大罢工抵制“AI入侵”  定义人工智能的十个关键术语  小艺主导智慧交互升级，借助AI大模型增强能力  国家发改委组织工业机器人产业高质量发展现场会  智能化解决方案：保障数据安全阻击泄露和丢失  禁止艺术家使用 AI 创作《龙与地下城》游戏插图的决定已在 D&D Beyond 生效  一次购买全年省心，入手科沃斯这几台机器人，省下时间就是金钱  生成式AI引路产业加速来袭，微美全息探索“AIGC+虚拟人”融合应用  编程版GPT狂飙30星，AutoGPT危险了！  人工智能产业竞跑“未来赛道” 创新发展放大“赋能”效应  Adobe旗下Illustrator引入生成式AI工具Firefly  组建团队，字节跳动要造机器人？  华为盘古AI模型实现秒级全球气象预报时间缩短  马斯克预测：特斯拉全自动驾驶将在今年实现 对AI深度变化感到担忧  最大助力35公斤 外骨骼机器人或在养老、医疗领域“大展身手”  Prompt解锁语音语言模型生成能力，SpeechGen实现语音翻译、修补多项任务  寻求能源转型最优解  当一切设备都受到人工智能的控制