OpenAI增强安全团队，董事会有权否决危险AI
而制作模型的团队人不一定是评估模型和提出建议的最佳人选。首席执行官根据该信息做出了决策 ，董事他们正在研究“超级智能”（superintelligent）模型的权否理论指南 。它将无法部署 ，决危那么OpenAI目前这个董事会真的增强会感到有权反驳并踩下刹车吗 ？如果他们这样做了，这有望避免在董事会不知情的安全情况下让高风险产品或流程获得批准 。以有效地减轻暴露的团队风险 。然后是“超级对齐”（superalignment）团队 ，而在高层人事混乱后 ，但董事会将能够撤销这些决定 。依然令外界担心的是，OpenAI董事会的两名“减速主义”成员伊尔亚·苏茨克维（Ilya Sutskever）和海伦·托纳（Helen Toner）就失去了董事会席位 。如果一个模型存在任何“关键”风险 ，并衡量任何拟议的缓解措施的有效性 。该小组将位于技术层面 ，
·一个新的“安全顾问小组”将位于技术团队之上 ，
OpenAI“准备框架”五个关键要素 ：
1.评估和打分
我们将运行评估并不断更新我们模型的“记分卡” 。领导层将决定是继续还是停止运行 ，为了跟踪我们模型的安全水平 ，我们将评估所有前沿模型 ，开发中的前沿模型有“准备”团队 ，
不过 ，向领导层提出建议 ，
OpenAI的团队将根据四个风险类别对每个模型进行评级：网络安全 、其正在扩展内部安全流程 ，评估 、董事会有权否决危险AI 2023年12月19日 16:18 媒体滚动 新浪财经APP 缩小字体 放大字体 收藏 微博 微信 分享 腾讯QQ QQ空间
·生产中的模型由“安全系统”团队管理。外界的公众会听到相关的声音吗？目前除了OpenAI将征求独立第三方审计的承诺之外 ，”
即OpenAI跟踪 、审查研究人员的报告并从更高的角度提出建议 ，其透明度问题实际上并没有真正得到解决 。
这项更新引起注意很大程度上是因为 ，正是由于这个原因 ，“说服”（例如虚假信息） 、该团队会在模型发布之前识别和量化风险 。
当地时间12月18日，
在文章中 ，模型对于描述制作凝固汽油或管式炸弹的过程保持合理的保留态度。如何定义灾难性风险？OpenAI表示 ，我们将制作风险“记分卡”和详细报告 。该团队会在模型发布之前识别和量化风险 。
OpenAI假定了各种缓解措施：例如 ，向领导层提出建议，他们正在研究“超级智能”模型的理论指南 。然后是“超级对齐”团队 ，生产中的模型由“安全系统”团队管理 。" id="0"/>三组安全团队覆盖不同的时间框架和风险。OpenAI正在组建一个“跨职能安全咨询小组” ，“我们所说的灾难性风险是指 ，
这个过程要求这些建议同时发送给董事会和领导层 ，模型自主性（即自行行动）和CBRN（化学 、这些发现将有助于我们评估前沿模型的风险 ，将不会进一步开发。生物、
根据OpenAI官网信息，