2024-04-13 14:45

尽管有DALL-E的军事宣传,OpenAI坚称其工具不会用于开发武器

Intercept周三公布的文件显示,微软Azure在2023年10月向美国军方推出了OpenAI的图像生成器DALL-E版本。在国防部(DoD)的“人工智能素养”培训研讨会上发表的演讲表明,DALL-E可以通过模拟帮助训练战场工具。

微软将DALL-E归入Azure OpenAI (AOAI)旗下,这是微软与OpenAI合作推出的一款联合产品,将前者的云计算与后者的生成式人工智能能力相结合。

在演示文稿中,OpenAI的标志出现在该公司的使命“确保人工通用智能(AGI)造福人类”的上方,详细介绍了国防部如何将AOAI用于从内容分析和虚拟助手等普通机器学习任务到“使用DALL-E模型创建图像以训练战斗管理系统”的所有任务。

由于OpenAI自己的使用指南,这个启示引起了一些公众的困惑。从历史上看,OpenAI的政策页面称其模型不应用于军事发展。但今年1月,The Intercept注意到OpenAI已经从页面上删除了“军事”和“战争”;它现在只禁止使用“我们的服务来伤害自己或他人”,包括“开发或使用武器”。

当被问及这一变化时,该公司告诉CNBC,它的目的是为某些符合OpenAI使命的军事用例腾出空间,包括防御措施和网络安全,微软一直在单独倡导。OpenAI坚持认为,其他应用程序仍然不被允许:“我们的政策不允许我们的工具被用来伤害人民,开发武器,用于通信监视,或伤害他人或破坏财产,”一位发言人说。

然而,武器开发、对他人的伤害和财产的破坏可以被视为训练战场管理系统的可能结果。微软通过电子邮件告诉Intercept, 2023年10月的演讲尚未实施,演讲中的例子旨在成为AOAI的“潜在用例”。

OpenAI发言人Liz Bourgeous告诉The Intercept, OpenAI没有参与微软的演示,并重申了该公司的政策。“我们没有证据表明OpenAI模型被用于这种能力,”Bourgeous说。“OpenAI没有与国防机构合作,将我们的API或ChatGPT用于此类目的。”

对这一宣传的反应说明,在基础技术的衍生版本之间维持政策是多么棘手。微软是美国陆军的长期承包商——AOAI可能比OpenAI更适合军事用途,因为Azure增加了安全基础设施。在与微软的合作中,OpenAI将如何区分其工具的应用程序,以及微软与国防部的持续努力,还有待观察。

相关推荐