当地时间周一，OpenAI发布了一系列关于前沿人工智能（AI）开发过程中安全保障的提案，重点关注对齐研究和一种称为递归自我改进（简称RSI）的计算技术。
该公司在一篇博客文章中表示：“要安全地完成这一转型，需要开展协调研究，以跟上这些能力的发展步伐，从而使我们和其他人构建的系统始终与人类价值观保持一致，并处于人类的控制之下。”
元股证券:ygzq.hk
OpenAI呼吁开展国际合作，制定前沿标准，并建议借鉴世界各地现有AI安全机构的工作成果，包括美国商务部下属的AI标准与创新中心（CAISI），该机构协助测试AI模型并制定相关指引。
三大配资ChatGPT的开发者还表示，这些技术标准应该侧重于前沿人工智能模型和开发者，以及自动化人工智能研究人员的收益-风险管理，其中包括RSI。
RSI，即AI系统能够在无人干预的情况下设计和开发其后续版本。尽管RSI目前尚未实现，但随着人工智能系统在互联网上变得越来越复杂和普遍，基础模型构建者可能会失去对底层技术的控制，或者未能考虑到潜在的意外后果。包括Anthropic和OpenAI在内的多家公司警告称，这将使人类更容易失去对这些系统的控制。
OpenAI在其博客文章中指出：“完全自主的RSI目前还无法实现，除非能够安全实现，否则我们不应贸然推进。如果缺乏适当的谨慎和保障，RSI可能会导致人类失去对人工智能开发的实际控制权，无法对他们不再理解的研究过程进行监督。”
OpenAI还在上述博客文章提到了“抱抱脸（Hugging Face）事件”，该攻击虽不涉及RSI技术，但文章将其视为“如果没有强有力的保障措施和协调，某些风险可能会变得更加严重”的一种“预览”。
上周，竞争对手Anthropic公司也提出了自己关于前沿AI模型安全开发的构想，这是对近期热门研究人员纷纷就AI对人类威胁发出警告的回应。曾先后在Anthropic和OpenAI两家公司任职的Jacob Coxon近两周前宣布辞职，并称这些公司“拿我们的生命冒险”，此举引发了全球热议。
随后，Anthropic公司首席执行官达里奥·阿莫代伊（Dario Amodei）发表了一篇长篇博文将事情推向白热化，呼吁业界放慢脚步，并表示这项工作需要行业和全球的协调配合。这立即得到了OpenAI首席执行官萨姆·奥尔特曼和埃隆·马斯克的支持。
阿莫代伊还提出了在公司内部引入第三方评估人员的想法美股投资数据平台，以此来审核和减轻其技术可能对社会造成的任何潜在风险，例如加剧网络安全相关的黑客攻击或制造生物武器。但由于AI评估领域尚处于起步阶段，对于允许独立第三方更彻底地检查尖端技术的基本标准和原则，尚未达成统一共识。
股票杠杆网提示：本文来自互联网，不代表本网站观点。
