转载 | AI群体智能或能悄无声息地劫持民主——Science杂志重磅警告
顶级学术期刊《科学》（Science）杂志近期发表的政策论坛文章发出严厉警告：由AI生成的虚拟人格已经足够逼真，能够渗透网络社区并潜移默化地引导公众舆论。与传统机器人账号不同，新一代AI群体能够自适应、相互协调并在大规模范围内精炼其信息传播策略，制造出虚假的”共识感”。
文章指出，大型语言模型和多智能体系统的最新进展使得单个操作者可以管理庞大的AI”声音”网络。这些AI人格可以表现得极为真实——使用当地语言和语气，以其他用户感到自然的方式互动。它们还能同时运行数百万次小规模实验，测试哪些信息最具说服力，并实时优化沟通策略。
虽然完全成熟的AI群体智能操控系统在很大程度上仍处于理论阶段，但早期预警信号已经出现。深度伪造（deepfakes）和虚假新闻网络已在全球多场选举中出现。研究人员警告，下一场选举危机可能不是来自单一虚假视频，而是来自成千上万个看似真实的AI人格共同创造的虚假民意环境。
这种新型威胁的可怕之处在于其隐蔽性——公众甚至完全不会意识到自己正在被影响。文章呼吁政策制定者、技术平台和学术界立即采取行动，建立检测和防御机制，保护民主对话的真实性。