OpenAI再次开放DALL-E 2的面容编辑功能
2022-09-20 18:40:34 来源: 中关村在线

在初期禁用了一段时间之后,OpenAI 本周再次开放了 DALL-E 2 的人脸编辑功能。有权访问的客户,可于即日起上传人脸、以使用 AI 驱动的图像生成系统对其进行编辑。此前该平台禁止用户使用和分享这部分内容,并禁止上传任何可能描绘真实人物的照片,包括名人和公众人物的照片。

OpenAI 表示,得益于安全机制的改进,DALL-E 2 的面部编辑功能再次成为了可能。

因其最大限度地减少了来自深度伪造(Deepfakes)的潜在危害,以及试图创建涉性、政治和暴力内容的尝试。

该公司在致客户的电子邮件中写道:

我们接到了许多用户的反馈,称其想念可借助 DALL-E 来设计自己服装、发型,以及编辑家庭照片背景的功能。

此外一位外科医生提到,他一直在借助 DALL-E 来帮助向患者呈现可视化的整形结果。

还有电影制作人称,其希望能够与人一起编辑现场布景,以帮助其加速创作过程。

有鉴于此,我们特地创建了新的检测与响应技术,以防止 DALL-E 2 被滥用。

需要指出的是,政策变更并不意味着 OpenAI 彻底敞开了大门。现阶段的服务条款,仍禁止用户在未经许可的情况下上传他人照片、或其它未取得相关权益的图像。

另一方面,得到微软和 Khosla Ventures 等在内的著名风投支持的 OpenAI,也在极力避免陷入类似 Stability AI 的 Stable Diffusion 服务的相关争议。

作为一套拥抱开源的图像生成系统,未加限制的 Stable Diffusion 服务很快就陷入了被滥用的窘境 —— 比如被人用于制作艾玛·沃森的深度伪造色情内容。

最后,DALL-E 目前仍处于邀请测试阶段。8 月下旬的时候,OpenAI 宣称有超百万人使用了该服务。

至于 OpenAI 在实际政策执行上的一惯性,目前暂不得而知。但无论怎样,层出不穷的 Deepfake 形式,着实是对其过滤技术的一项真正考验。

责任编辑:zN_2041