警惕！AI或致虚假信息泛滥

据科技日报，生成式人工智能（ai）横空出世后，除了可能对部分职业岗位有所波及、对现有的版权制度形成新的挑战外，还能被用于社交媒体上的虚假信息活动，既造成了新的危险，也放大了现有的危险，进而危害经济和社会的稳定。

基于现实情况进行合理预测，AI加持下的虚假信息活动可能主要应用于以下4个方面：

①炮制假新闻。

这里主要针对官媒新闻进行歪曲和篡改，淘汰以往“开局一张图，剩下全靠编”的落后的内容生产方式，改为设定要求——输入部分素材——自动生成图文/视频的全自动化模式。

②.散播谣言。

制*消息快、自动化+批量化传播扩散快，如果再加上由深谙新媒体、社媒调性机制，且深谙传播学或新闻学理论的“专业人士”操刀，便能实现“谎言重复一千遍，就会成为真理”的效果。另外，由于谣言还具有极强的噱头性，天然容易在互联网传播中获得极大的关注度和讨论度，与此截然相反的，却是辟谣不仅要“跑断腿”，还因为“太正”而没人看。

③结合生成式AI与社媒特性，推行“垃圾信息海”战术。

向全网灌注娱乐新闻、八卦信息等“奶头乐”内容，占据用户全部视野，以驱除正经新闻和消息，彻底掌握社媒中流通信息的支配权。通过与娱乐公司展开深度合作，幕后推手能够在完成既定战术目标的同时获得额外的收益。

④利用深度合成技术仿冒账号，搅乱正常社媒秩序。

爬取机关、企业、机构、社会组织、名人/大V/意见领袖等官方账号和个人账号的信息，包括但不限于图文、露脸形象、声音等，凭借这些语料和素材生成虚假内容，既能为事主招黑，还能挑起事端、搅乱风波、以假乱真。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

ChatGPT Writer

免费 Chrome 扩展程序，使用 ChatGPT AI 生成电子邮件和消息。

106 查看详情

更关键的是，为牟利也好，为达成其别有用心的目的也罢，虚假信息的制造者和传播者的行为本就非法，自然会无视法律法规、平台规定等束缚，于是便产生了3大难点——审核难、监管难、处罚难。

①审核难。

目前各平台对生成式AI内容的要求，主要可以概括为“上传者自律”，也就是该用户主动做出醒目标识，向受众明示其内容为AI制作，如此规定“防君子不防小人”。正常用户当然依规行事，不法用户则完全可以不标、缓标、少标。

②监管难。

在AI应用于内容生成领域之前，众所周知网上假新闻已经像野草一样层出不穷，难以根除。对此，传统的治理方式为大数据筛查+受理举报相结合，并重点打击违规账号、重点标记其关联账号，这是堂堂正正的处置之道，无可指摘。可问题就在于不法用户引入AI后，如果将之前的状态看成零星的、点状的野火，那此后需要处理和整治的虚假信息，将变成片的大火，治理所耗费的人力、物力、难度呈指数级上升。

③处罚难。

最终，惩罚存在两个问题，一是配套法律法规不够完备，二是由于隐秘性而难以抓取的问题。不过，不久前关于反网暴的适用法律条文已面向社会收集意见，相信很快就能具体落地。预计随着AI生成虚假信息治理工作的推进，相关的法治建设也会紧随其后。

阿知曾多次在关于生成式AI的问题中提及，AI与以往历史上出现的新技术没有本质不同，无关对错和善恶，关键是要看谁来用、怎么用。其作为互联网行业新引擎、金融市场中的新蓄水池作用当然毋庸置疑，但一味地、片面地强调其技术优越性多为投机主义者所为，图利而已。我们必须客观全面地看待生成式AI这项革新性技术，并采取预防措施，以避免其滥用所带来的风险。

以上就是警惕！AI或致虚假信息泛滥的详细内容，更多请关注其它相关文章！

# 假新闻  # 游戏试玩网站推广  # 泰州互联网营销推广培训  # 邢台淘宝网站推广简介  # 餐饮小区营销推广文案范文  # 眉山广场推广招聘网站  # 六心网络seo  # 郑州网站整站优化有哪些  # seo锚  # 大型seo  # 湖南关键词排名渠道  # 就会  # AI  # 这是  # 的是  # 上海  # 应用于  # 谁能  # 还能  # 互联网  # 开源  # 警惕  # 虚假信息 

相关栏目： 【 行业新闻62819 】 【 科技资讯67470 】

相关推荐： 人工智能时代的科幻译者怎么办？“做好翻译工作的高端10%”｜文化观察  猿编程参加人工智能高峰论坛，推动人工智能教育解决方案在千所学校推行  微软Xbox称VR和AR还需要时间 先玩大的  Databricks 发布大数据分析平台 Spark 用 AI 模型 SDK：一键生成 SQL 及 FySpark 语言图表代码  从医疗康复外骨骼到通用人形机器人，傅利叶智能推动核心技术升级  苹果AR头显商标与华为撞车，在中国或改名  破解零碳产业园建设规范和成果评价难题  东软成立魔形科技研究院，积极布局大语言模型系统工程战略，迎接AI时代  借力AI！PCB全球巨头，有爆发潜质吗？  AI时代，企业需要什么样的员工？  网易加速行业AI大模型应用，将覆盖100多个应用场景  智能客服进入AI 2.0时代 容联云发布语言大模型“赤兔”  2025年深圳举办的SUSECON 创新峰会开始接受报名  数字文明尼山对话 | 在东方圣城与AI潮流梦幻联动，看“智慧大脑”让数字山东更美好  ChatGPT大更新！OpenAI奉上程序员大礼包：API新增杀手级能力还降价，新模型、四倍上下文都来了  Meta发布音频AI模型，仅需2秒片段模拟真人语音  中国最强AI研究院的大模型为何迟到了  猿辅导发布最新SaaS业务进展公告：Motiff UI设计工具推出三项新的AI功能  QQ音乐业内率先推出「AI一起听」功能，领取你的AI听歌助手  人工智能行业急缺人 AI人才年薪能达近42万元  五个出色的人工智能应用实例  人工智能“Aria”现身 Opera浏览器100版本更新：新功能“标签岛”  RoboNeo安装教程  清华&中国气象局大模型登Nature：解决世界级难题，「鬼天气」预报时效首次达3小时  ChatGPT会成为你家新的语音助手吗？  掌阅科技对话式AI应用“阅爱聊”开启内测  大脚攀爬者车主福利！无人机、运动相机大奖等你来挑战  中国联通推出“极光一号”5G机载终端，适配大疆等品牌无人机设备  AI和ML推动联网设备的增长  马斯克：将来机器人比人类多！特斯拉机器人亮相人工智能大会  速途网络成立“人工智能专家委员会”5位中美博士加盟  十个AI算法常用库J*a版  陈根教授：离人形机器人时代还有10年吗？  人工智能如何与智能家居集成  618京东3C数码趋势产品备受青睐 AR设备成交额同比增长15倍  微软最新推出的NaturalSpeech2语音合成模型：提供更准确的语音重构，避免棒读效果  360°/180°双模式，佳能公布可折叠小体积的VR全景相机  陈丹琦ACL学术报告来了！详解大模型「*」数据库7大方向3大挑战，3小时干货满满  XREAL发布新款硬件XREAL Beam投屏盒子：可悬停AR空间屏  Meta将VR头显最低年龄限制从13岁降至10岁  AI进军债券交易，BondGPT来了！  ​日媒：AI高效解析纳斯卡地画  深剖Apple Vision Pro中暗藏的“AI”  焊接协作机器人或将成为26届埃森展最大看点  剧透！蜜小豆@2025世界人工智能大会多个亮点曝光  机器人技能大比拼  对艺术家拒绝置若罔闻，Stability AI 将推出适应多种画风的开源模型  机构研选 | 虚拟电厂是电力物联网升级版 智能电网望迎来高速发展  马斯克WAIC2025演讲全文：AI将对人类文明产生深远影响  2025年的网络分区：人工智能和自动化如何改变事物