OpenAI 于今年 5 月 29 日宣布成立安全与安保委员会，专注于就公司项目和运营中的关键安全与保障决策提供建议。今天，OpenAI 发布公告，宣布将该委员会改组为独立的董事会监督委员会，由卡内基梅隆大学计算机科学学院机器学习系主任 Zico Kolter 担任主席。
委员会成员阵容强大
新成立的监督委员会还包括 Quora 联合创始人兼首席执行官 Adam D'Angelo、美国退役陆军上将 Paul Nakasone 以及索尼公司前执行副总裁兼总法律顾问 Nicole Seligman，他们均为 OpenAI 董事会的现有成员。同时，Altman 已经离开了安全与安保委员会。
政策质疑与监管呼声
今年夏天，五名美国参议员联合致信对 OpenAI 的政策提出质疑。信中指出，公司早期专注于 AI 长期风险的员工已有近一半离职，他们大多指责 Altman 反对“真正的 AI 监管”。
强化 AI 模型安全审查
OpenAI 表示，该委员会之前对其最新 AI 模型 o1 进行了安全审查，并将继续保持对公司主要模型的监督，拥有在解决安全问题之前延迟发布的权力。
在公司内部评估中，o1 模型被评为“中等风险”。OpenAI 还表示，正在努力采纳委员会的建议，提高透明度和与外部团体的合作，并在产品团队中统一其安全实践。
融资与结构调整
据悉，OpenAI 正在进行一轮融资，计划筹集超过 65 亿美元，这将使公司的估值超过 1500 亿美元（约合 1.07 万亿元人民币）。为达成这笔交易，OpenAI 可能会放弃其混合非营利公司结构。
0条评论