近日，央视曝光了一款名为哩布哩布AI的应用存在生成不当内容的问题。记者通过输入网上购买的提示词，在几分钟内就得到了一个半裸女性跳舞的视频。整个过程中，平台没有触发任何限制机制。
针对这一问题，哩布哩布AI在4月14日发布了关于加强内容安全管理的说明。声明中提到，公司已经关注到媒体对AI生成内容安全问题的讨论，并高度重视。公司立即启动了内部专项排查，对平台生成能力和审核机制进行了全面自查。经排查发现，在个别复杂提示词组合及规避表达的情况下，平台确实存在生成不符合规范内容的情况。对此，公司表示深表歉意。
此次事件也提醒公司，在内容安全边界识别与机制完善方面仍存在不足，未达到应有标准。相关技术问题已得到修复，并对风险路径进行了全面封堵。此外，公司还加强了攻防演练和审核机制升级，以提升识别能力和处置效率，从源头上降低风险发生的可能性。同时，公司已启动内部责任复盘机制，进一步完善相关管理与审核流程。内容安全被视为平台的底线，公司将持续以更高标准完善内容安全体系，推动平台生态健康有序发展。
