微软董事长兼首席执行官萨提亚·纳德拉（Satya Nadella）周六呼吁建立先进的人工智能系统，强调必须具备 containment、独立控制和可以随时中断任务的“紧急制动”功能，以保障安全。
纳德拉表示：“我们需要用强大的确定性系统设计、人体控制和可靠的操作程序来包围非确定性模型，建立行业标准，以应对现有标准不足的问题。”他在社交媒体平台X上发表此见解。
此番言论正值全球顶尖科技高管与研究人员发出警告之际，包括微软联合创始人比尔·盖茨、Anthropic首席执行官达里奥·阿莫德伊（Dario Amodei）、OpenAI首席执行官山姆·奥特曼（Sam Altman）和SpaceX首席执行官埃隆·马斯克（Elon Musk）都对当前的AI安全协议表示担忧，认为技术发展过快。
不久前，一位AI研究人员辞去Anthropic职务，指责该公司和OpenAI在“与我们的生命进行赌博”。当天，一位专注于AI安全的对齐领导表示，在未来十年内，技术造成“全人类灭绝”的可能性超过10%。
与此同时，唐纳德·特朗普总统多次否认AI带来的灭绝风险，并强调行业需在与中国的竞争中保持领先。他最近还成立了新的“AI力量”，由国家情报局局长杰伊·克莱顿（Jay Clayton）领导，旨在推动行业发展并清除不法分子。
纳德拉还提到，AI系统应围绕“可观察性原则”进行设计，这包括模型多样性、模型行动的可读性、持续系统测试、独立控制及审计、事件披露等。他指出：“最值得信赖的超级智能系统，不是我们最信任的模型，而是最让我们能够最少信任的模型。”
在此背景下，分析市场反响，美股实时行情可能会受到技术与安全担忧的影响，投资者需保持警惕。
常见问题
纳德拉关于AI的主要观点是什么？
纳德拉强调，应为先进的AI系统设计 containment、独立控制及“紧急制动”功能，以确保安全。
为何目前有人对AI的安全性提出警告？
多位科技高管和研究人员警示，当前的AI安全协议不足，技术发展过快，可能导致严重后果。
特朗普对AI问题持什么态度？
特朗普否认AI灭绝风险，认为行业需在与中国的竞争中保持领先，并成立“AI力量”推进相关工作。
AI系统设计需要遵循哪些原则？
纳德拉提到的原则包括模型多样性、可读性、系统测试、独立控制、事件披露等，以增强AI系统的可靠性。
