OpenAI CEO山姆·奥特曼周四晚些时候告诉员工，他希望公司能“尝试帮助缓和”竞争对手Anthropic与国防部之间的事态。
奥特曼在一份备忘录中写道：“我们长期以来一直认为，AI不应用于大规模监控或自主致命武器，并且在涉及重大后果的自动化决策中，人类应保持参与。这些是我们的主要红线。”
Anthropic需在美国东部时间周五下午5：01之前决定，是否同意授予五角大楼在所有合法用例中不受限制地使用其人工智能模型的权限。这家初创公司希望确保其技术不会被用于完全自主武器或对美国人的国内大规模监控，但国防部并未让步。
奥特曼周四的内部信函旨在表明OpenAI认同Anthropic设定的界限。
在奥特曼发布备忘录之前，OpenAI的员工已开始在社交媒体上发声支持Anthropic。大约70名现任员工签署了一封题为“我们不会分裂”的公开信。根据其网站，该信旨在“在面对来自国防部的压力时，建立共识与团结”。
奥特曼周五在接受采访时表示：“尽管我与Anthropic存在诸多分歧，但我基本上信任他们这家公司，我认为他们确实关心安全问题，我也一直乐见他们支持我们的作战人员。我不确定此事最终会如何发展。”
OpenAI去年获得了国防部授予的一份价值2亿美元的合同，允许该机构开始在非机密用例中使用该初创公司的模型。Anthropic是首个将其模型集成到机密网络任务工作流程中的AI实验室。
奥特曼表示，他将关注OpenAI能否与国防部达成协议，以“符合我们原则的方式”在机密环境中部署其模型。他说，公司将建立技术保障措施并部署人员，以“确保一切运作正常”。
奥特曼写道：“我们会要求合同涵盖除非法或不适于云部署的用途（如国内监控和自主进攻性武器）之外的所有用途。”
奥特曼表示，OpenAI近日已就此话题举行了会议，公司尚未就采取何种行动做出决定。他说，周五将与OpenAI的安全团队举行更多会议。
奥特曼写道：“在这个案例中，对我来说重要的是我们做正确的事，而不是做那些看似强硬实则虚伪的简单之事。但我意识到，短期内这或许对我们‘形象不利’，这其中存在许多细微差别和背景情况。”
海量资讯、精准解读，尽在新浪财经APP
责任编辑：张俊 SF065
网眼查提示：文章来自网络，不代表本站观点。
