人工智能宣传steemCreated with Sketch.

in STEEM CN/中文15 hours ago

直接回答:是的,从短期到中期来看,人工智能几乎肯定会让宣传(propaganda)变得更糟糕。

不过,它让情况变糟的方式,并不只是“假新闻变多”那么简单。AI改变的不仅是宣传的数量,更是它的性质。下面我会先分析AI如何让信息环境恶化,再讲讲为什么我们仍有理由保持谨慎乐观。


AI如何让宣传变得更糟

1. 超个性化(“信息茧房中的虚假信息”)
传统宣传是“一对多”地广播同一个信息。而AI可以针对每一个人,生成百万种不同的信息。通过抓取你的社交媒体数据、购买你的消费记录、分析你的情绪触发点,AI可以炮制出一篇文章、一段视频或一则广告,精准地击中你特有的恐惧、偏见和希望。这使得宣传的说服力大大增强,因为它让你感觉这像是你自己产生的想法,而不是别人硬塞给你的。

2. “现实证据”的崩塌
我们过去依赖视频和音频作为事件的“证据”。AI生成的深度伪造(deepfake)和语音克隆正在摧毁这个基础。但真正的危险并不只是深度伪造本身,而是“撒谎者的红利”(liar's dividend)——当任何真实视频都可以被说成是AI生成的时候,政客和不良分子就能否认真正的丑闻,只需轻描淡写地说一句:“那个视频是AI做的。” 真假难辨,宣传便趁乱大行其道。

3. 无限的规模和速度
人类的宣传团队受限于写手、翻译和设计师的数量。而AI可以每秒生成成千上万条不同的宣传文章、表情包和机器人评论,覆盖地球上每一种语言。它还能在几分钟内做A/B测试,看哪种标题最能激起愤怒或互动,然后立刻加码推广。人类的事实核查员根本跟不上这种速度。

4. 互动式的“合成关系”
未来你看到的将不只是文字宣传,还会有带有隐性偏见的AI聊天机器人和语音助手。试想,当你向AI助手询问某个选举的新闻时,它给出一个“中立”的摘要,却巧妙省略了某位候选人的重大丑闻,同时放大另一位候选人的小问题。因为这种互动感觉像在聊天、像在帮你,你会比读一篇明显偏颇的新闻时警惕性低得多。

5. 制造“草根”运动
AI可以生成成千上万个带有独特人设的账号,涌入评论区、写虚假评价、在论坛发帖。这些机器人不会简单地复制粘贴同一句口号,而是拥有不同的“背景故事”、打字习惯和观点,让人几乎无法分辨它们是真人还是AI。这会营造出巨大公众共识的假象——而这是经典宣传手法被AI超级加速后的版本。


为什么不一定完全是末日(一些对抗力量)

尽管威胁严重,但仍有几个因素可能减轻损害:

  • AI也可以成为防御工具:生成宣传的AI,同样也在被训练来检测宣传。水印技术(给AI生成内容打标记)和高级模式识别算法将逐步集成到浏览器和社交媒体中,自动标记可疑内容。
  • “高信任度”筛选的兴起:随着开放互联网被合成噪音淹没,人们可能会退回封闭的、高信任度的小圈子。人们会越来越依赖一小部分经过验证的专家、社区注释系统(比如X/Twitter上的“读者添加背景”功能),或者自己信任的记者做的精选简报,而不是在开放的推送流里漫无目的地刷。
  • 认知饱和:人脑对愤怒情绪的承受是有限度的。如果AI用太多宣传淹没一切,人们可能变得麻木和冷漠。虽然冷漠对民主不是好事,但它确实会削弱任何单一宣传品的说服力。
  • 法律和监管框架:欧盟等地区已经在通过AI透明度法案,要求对合成媒体进行标注。虽然这些法律远非完美,但它们给国家支持的行为者制造了法律责任,让公开宣传的风险变高。

最终的转变:从“信息战”到“现实战”

最大的危险在于,AI将不再试图说服你“他们的候选人更好”。相反,AI会努力让你相信:现实是不可知的,你的邻居是机器人,信任任何机构都没有意义。

过去,宣传想赢得你的头脑;而在AI时代,宣传想耗尽你的头脑,让你变得愤世嫉俗、孤立无援,最后只能靠残余的情绪本能(如恐惧和愤怒)来操纵你。


结论: AI绝对会让宣传变得更强大。我们唯一的防御手段是:大规模、有意识地投入数字素养教育,建立可靠的AI检测工具,并且有意识地放慢节奏,在情绪化反应之前先核实信息。

Sort:  

I appreciate the effort and time you put into creating quality content for the community. Your thoughts are clear and engaging, and they encourage readers to think and participate. Wishing you continued success, and I look forward to reading more of your future posts.