近日,央视曝光了一款名为哩布哩布AI的应用存在生成不当内容的问题。记者通过输入网上购买的提示词,在几分钟内就得到了一个半裸女性跳舞的视频。整个过程中,平台没有触发任何限制机制。
针对这一问题,哩布哩布AI在4月14日发布了关于加强内容安全管理的说明。声明中提到,公司已经关注到媒体对AI生成内容安全问题的讨论,并高度重视。公司立即启动了内部专项排查,对平台生成能力和审核机制进行了全面自查。经排查发现,在个别复杂提示词组合及规避表达的情况下,平台确实存在生成不符合规范内容的情况。对此,公司表示深表歉意。
此次事件也提醒公司,在内容安全边界识别与机制完善方面仍存在不足,未达到应有标准。相关技术问题已得到修复,并对风险路径进行了全面封堵。此外,公司还加强了攻防演练和审核机制升级,以提升识别能力和处置效率,从源头上降低风险发生的可能性。同时,公司已启动内部责任复盘机制,进一步完善相关管理与审核流程。内容安全被视为平台的底线,公司将持续以更高标准完善内容安全体系,推动平台生态健康有序发展。




