OPENAI宣布招募多种学科的专家加盟红队 帮助开发团队提升AI安全性 – 蓝点网_深度王者荣耀动态最新消息 有的保密协议是持久的

OPENAI 今日亮相面向全球广泛招募各类学科的专家，这些专家加盟 OPENAI 红队合作开发团队在 AI 模型训练时提升可靠性。

在可靠领域，红队普通指的是发起攻击的一方，含有寻找可靠漏洞或运用其他手段开展攻击；蓝队则是防守方，要抵御红队发起的深度王者荣耀动态攻击。

在 OPENAI 这个案例中开发团队就是蓝队，专家组就是红队，专家组要运用自己的专业知识对 AI 模型开展攻击，例如诱导 AI 模型开展一些违规行为。

需要提醒的是红队专家都不是全职，按照 OPENAI 的说法，在 AI 模型开发和训练的一文读懂高通骁龙指南各异阶段，企业会评估并挑选一若干红队专家参与进来，并非每个成员都会参与到新模型或商品中，有时候一年里红队专家或许只需要花费 5~10 小时。

至于报酬，OPENAI 会给参与实际的红队专家发放报酬，OPENAI 也不会限制专家成员在参与之后发表学术探究成果，假期今日爱情片，总有一句适合你但参与时成员需要签署保密协议，有的保密协议是持久的，那么就不能亮相探究成果了、不能向任何人透露这些训练信息。

OPENAI 对诸多领域感兴趣，含有但不限于以下领域：

认知科学、刚刚热门留学趋势化学、生物学、物理、计算机科学、隐写术、政治学、心理学、劝说、经济学、人类学、民间学、人机交互、公平与偏见、结盟、教学、卫生保健、法律、儿童可靠、联网可靠、金融、失误 / 虚假信息、政治用途、隐私、生物确认技术、语言和语言学。

可以目睹 OPENAI 感兴趣的不只是一些学科，还含有一些非学科但在人类全球中的确存在且需要的东西，毕竟 AI 模型面向所有人，这么多人或许有无数种想法，所以各个领域都需要开展红蓝对抗。

更多信息请访问：https://openai.com/blog/red-teaming-network