萨拉·亚杰（Sarah Yager）在OpenAI担任首席人权与负责任部署负责人，负责监督军事应用。这一角色因她在该领域30年的经验而生效，同时也与美国国防部（DoW）的合作关系密切相关。
在纽约市举行的ScaleUp:AI会议上，亚杰谈及了军方采用人工智能的潜在风险，尤其是在武装冲突中。她表示：“大家都非常担忧，这让我夜不能寐。”
AI在军事中的快速应用
全球各军事机构迅速将AI纳入其作战系统，开发新武器和无人系统，包括无人机和机器人。亚杰投入这一行业的挑战显而易见，她希望在技术影响力中推动人权议题。
OpenAI在2月与DoW签署了合同后迅速聘请亚杰，协助其在高度机密环境中部署先进AI系统。与Anthropic的公开对峙使OpenAI得以取而代之，并成功促使DoW接受类似的技术使用规范。
亚杰起初对加入OpenAI持保留态度，担心自己只是一个“品牌宣传”工具，但在与公司员工特别是年轻一代谈话后，决定试图在公司内部产生实质性影响。
AI技术方向的影响
自加入以来，亚杰在技术方向上取得了一定成就，但也对AI在军事中的应用表示关注。CNN报道显示，美国军方曾几乎因一份不准确的AI生成情报而误伤目标。
亚杰积极与研究人员和工程师合作，确保AI模型遵循1949年日内瓦公约等国际协议，国际专家参与了高风险项目的设计。这一前所未有的成果让她感到十分欣慰。
她指出，AI企业在定义人性和道德方面似乎在“重新发明轮子”。亚杰坚信人权应是底线，称不应让行业自行决定所谓的“善”。
性别与多样性的问题
亚杰也对技术行业性别单一的现状表达不满，批评决策者的代表性不足，尤其是在涉及AI决策时，缺乏来自被影响社区的声音。
最后，亚杰强调政府对AI迅速采纳的重要性，她正协助监测机构建立监督机制，确保AI技术对民主的积极影响。
常见问题
亚杰在OpenAI的角色是什么？
亚杰担任OpenAI首席人权与负责任部署负责人，专注于军事应用的道德和社会影响。
为何军方在采用AI时引发担忧？
亚杰指出，军方将AI应用于武器系统时存在风险，比如误伤和对人权的潜在影响。
亚杰在推动人权议题方面取得了哪些成就？
她与研究人员合作确保AI模型符合国际法律标准，特别是在高风险决策中引入国际专家。
她对行业性别多样性有何看法？
亚杰批评技术决策者主要由男性组成，认为这不足以代表所有受影响社区的利益。
