近日,谷歌旗下AI视频生成工具VEO3因被曝生成违禁内容而引发广泛关注。据用户反馈,该工具在生成视频过程中,出现了涉及暴力、色情等敏感内容的片段,严重违反了相关法律法规及平台规范。对此,谷歌迅速作出反应,紧急下架VEO3,并宣布启动全面整改。
此次事件再次将AI生成内容的监管问题推上风口浪尖。随着AI技术的快速发展,生成式AI工具如雨后春笋般涌现,但内容安全、版权保护等问题也随之而来。VEO3的违禁内容事件,无疑为行业敲响了警钟,提醒各大平台在追求技术创新的同时,必须严格把控内容质量,确保生成内容的合法合规。
微信扫码关注酷猫云AIAI 客服体验 · 落地咨询 · 产品动态