某些AI英文回复刻意淡化回避史实。
国家安全部发文提醒:
当前,AI大模型加速赋能千行百业,推动人们生活日新月异,这位能干又贴心的“数字伙伴”正加速融入我们日常生活。然而每一次技术跃迁必然伴随着新的挑战,当AI的触角延伸越广、嵌入越深,随之而来也暴露出数据隐私、算法偏见等潜在风险,亟需我们构筑安全防线,助推这场深刻的智能变革,安全赋能美好未来。
高速发展背后的“暗礁”
——数据隐私与安全边界模糊。个别单位因直接使用开源框架建立联网大模型,导致攻击者未经授权即可自由访问内部网络,从而引发数据泄露和安全风险。据公开案例显示,某单位工作人员在处理内部文件时,违规使用开源AI工具,由于电脑系统默认开启公网访问且未设密码,导致敏感资料被境外IP非法访问和下载。
安平,公众号:国家安全部
——技术滥用与虚假信息产生。利用AI的深度学习算法进行自动化的数据处理,实现图片、音频及视频的智能模拟和伪造,这种技术被称为深度伪造(Deepfake)。一旦该技术被滥用或恶意使用,将给个人合法权益、社会稳定甚至国家安全带来诸多风险和挑战。国家安全机关工作发现,某境外反华敌对势力通过深度伪造技术生成虚假视频,并企图向境内传播,以误导舆论、制造恐慌,对我国家安全构成威胁。
安平,公众号:国家安全部
——算法偏见与决策“黑箱”。AI的判断源于其所学习的资料,若训练数据本身存在社会偏见或代表性不足等问题,大模型便可能放大歧视。测试显示,某些AI会系统性偏向西方视角。当研究人员用中英文向某同一个AI提问历史问题时,发现英文回复会刻意回避、淡化某些史实,甚至会给出包含错误历史信息的内容,引发重大歧误,而中文回复则相对客观。




