图片来源：Stefano Guidi / Getty Images

周一，OpenAI推出了其视频生成工具Sora，但出于进一步测试的需要，该公司决定暂时不向所有用户开放一项关键功能。

该功能允许用户利用上传的真实人物照片或录像作为参考来生成视频。OpenAI表示，虽然“部分”Sora用户将能够访问这一功能，但在完善其“安全机制”之前，该功能不会全面推广。

“利用真实人物照片或视频作为‘种子’生成视频的能力存在潜在的滥用风险，因此我们特别采取了渐进式的方法，以观察早期的使用模式，”OpenAI在博客文章中写道。“艺术家们的初步反馈表明，这是一个他们珍视的强大创意工具，但考虑到潜在的滥用风险，我们初期不会向所有用户开放此功能。”

此外，OpenAI还禁止用户将包含真人片段或图像的生成视频分享到Sora主页的发现动态中。

“显然，作为OpenAI，我们肩负着重大使命，因此希望通过Sora防止非法活动，但同时也希望平衡这一点与创意表达的需求，”Sora产品负责人Rohan Sahai在直播演示中表示。“我们明白这是一个持续的挑战，可能无法在第一天就做到尽善尽美。我们初期会相对保守，如果审核不够准确，请提供反馈。”

生成式视频是一个强大而富有争议的工具，深度伪造和虚假信息是其主要关注点。据身份验证服务Sumsub的数据显示，从2022年到2023年，全球深度伪造欺诈事件激增了十倍以上。

OpenAI为防止滥用还采取了其他措施，例如，Sora配备了一个过滤器，用于检测生成的视频中是否包含18岁以下的人物。如果检测到，OpenAI将对与性、暴力或自残内容相关的审核采取“更严格的阈值”，该公司声称。

所有Sora生成的视频都包含符合C2PA技术标准的元数据，以显示其来源。虽然元数据可以被删除，但OpenAI认为这是一种让支持C2PA的平台能够快速检测视频是否源自Sora的方法。

为防止版权投诉，OpenAI还表示，正在使用“提示重写”技术，以防止Sora以在世创作者的风格生成视频。

“我们添加了提示重写功能，当用户尝试以在世艺术家的风格生成视频时，这些重写会触发，”该公司写道。“我们选择对Sora的这一版本采取保守策略，因为我们正在了解创意社区如何使用Sora……在创意领域，借鉴其他艺术家的风格有着悠久传统，但我们理解一些创作者可能有所顾虑。”

许多艺术家起诉了包括OpenAI在内的AI公司，指控它们未经许可使用其作品进行训练，以创建能够复制其独特风格的AI工具。这些公司则辩称，合理使用原则保护它们免受版权侵权索赔，且AI模型实际上并未复制内容。

在训练数据方面，OpenAI仅透露Sora是基于“多种数据集”的混合开发的，包括公开数据、通过与其数据供应商合作获取的专有数据以及内部开发的自定义数据集。今年早些时候，前OpenAI首席技术官Mira Murati并未明确否认Sora是否在YouTube片段上进行训练，这似乎违反了谷歌拥有的流媒体平台的使用政策。

据视频博主Marques Brownlee透露，他提前预览了Sora，该系统能够根据文本提示或图像创建多个视频片段变体，并通过Re-mix工具编辑现有视频。Storyboard界面允许用户创建视频序列；Blend工具可将两个视频合并成一个新视频，同时保留两者的元素；Loop和Re-cut选项则让创作者能够进一步调整和编辑他们的视频和场景。

OpenAI的ChatGPT Pro和Plus计划订阅者今天即可访问Sora（OpenAI的视频生成器），但仅限于居住在某些国家的用户。