社会実験のフェーズに入ったと分かる、OpenAIの求人【ChatGPT】生成AI

⚠️求人を読んで個人的な解釈で書いた記事です。
気になる方は一次ソースも併せてご覧ください。

Preparedness（備え）責任者を募集しています。

これは非常に重要な時期における、極めて重要な役割です。モデルは急速に進化しており、多くの素晴らしいことができるようになっていますが、同時に、いくつかの現実的な課題も見せ始めています。

モデルがメンタルヘルスに与える潜在的な影響については、2025年にその「前触れ」をすでに目にしました。また現在では、モデルがコンピュータセキュリティの分野でも非常に高度になり、重大な脆弱性を見つけ始めている段階に入っています。

私たちは、能力が成長していく様子を測定するための強固な基盤をすでに持っています。しかし今、私たちは、
その能力がどのように悪用され得るのか、
また、その悪影響をプロダクトの中でも、社会全体においても、どのように制限すべきか、
という点について、より精緻で、より深い理解と測定が必要とされる世界に足を踏み入れています。
それによってこそ、私たちはその計り知れない恩恵を享受することができるのです。
これらの問いは非常に難しく、前例はほとんどありません。一見すると良さそうに聞こえる多くのアイデアにも、実際には厄介なエッジケースが存在します。

もしあなたが、最先端の能力をサイバーセキュリティ防御側に提供しつつ、攻撃者がそれを害に使えないようにする方法――理想的には、すべてのシステムをより安全にする形で――を世界と共に考えたいと思うなら、ぜひ応募を検討してください。
同様に、生物学的能力をどのように公開・展開すべきか、あるいは自己改善可能なシステムを安全に運用できているという確信を、どのように得るかといった問題にも取り組んでいただきます。

この仕事は非常にストレスフルになるでしょうし、着任と同時に、いきなり深い水域に飛び込むことになります。

一見すると良さそうに聞こえる多くのアイデアにも、実際には厄介なエッジケースが存在します。

Head of Preparedness

セーフティシステムズ部門（サンフランシスコ）
今すぐ応募

チームについて

Safety Systems（セーフティシステムズ）チームは、OpenAIが開発する最も高性能なモデルが、責任をもって開発・展開されることを保証する役割を担っています。
私たちは、現実世界の環境においてモデルが意図どおりに振る舞うための、評価手法、セーフガード（安全対策）、安全フレームワークを構築しています。

OpenAIは、複数世代にわたるフロンティアモデルにおいて、Preparedness（備え）に深く投資してきました。
具体的には、中核となる能力評価、脅威モデル、部門横断的な緩和策を構築してきました。

今後もモデルの能力がさらに向上し、より複雑な安全対策を実装していくことが予想される中で、この取り組みは引き続き最重要課題のひとつです。
Head of Preparednessは、このプログラムを拡張・強化・主導し、私たちが開発するシステムの能力に見合った形で、安全基準がスケールするよう導く役割を担います。


役割について

Head of Preparednessとして、あなたはOpenAIのPreparednessフレームワークにおける技術戦略と実行全体を主導します。
このフレームワークは、深刻な被害をもたらす新たなリスクを生むフロンティア能力を、どのように把握し、備えるかというOpenAIのアプローチを説明するものです。

あなたは、能力評価・脅威モデル・緩和策を構築・調整する責任者として、
それらを一貫性があり、厳密で、かつ運用上スケール可能な安全パイプラインとして機能させます。

この役割には、深い技術的判断力、明確なコミュニケーション能力、複数のリスク領域にまたがる複雑な取り組みを導く力が求められます。
少人数で高い影響力を持つチームを率い、Preparednessの中核研究を推進すると同時に、Safety Systems全体およびOpenAI全体と連携し、フレームワークの実装と定着を進めます。


この役割で行うこと
• 能力評価の構築、脅威モデルの確立、緩和策の構築・調整を通じて、OpenAIのPreparedness戦略をエンドツーエンドで主導する

• フロンティア能力評価の開発をリードし、迅速なプロダクトサイクルの中でも正確・堅牢・スケーラブルであることを保証する

• サイバー、バイオなどの主要リスク領域における緩和策設計を監督し、技術的に妥当で、効果的かつ脅威モデルと整合していることを確保する

• 評価結果の解釈を導き、それがローンチ判断、ポリシー選択、安全性の根拠に直接反映されるようにする

• 新たなリスク、能力、外部からの期待が現れた際に、Preparednessフレームワークを洗練・進化させる

• 研究、エンジニアリング、プロダクト、ポリシー監視・執行、ガバナンス、外部パートナーと部門横断的に協働し、現実世界での展開にPreparednessを組み込む


こんな方に向いています
• フロンティアAIシステムが安全・信頼性が高く、責任をもって展開されることに強い動機を持っている

• 機械学習、AI安全性、評価、セキュリティ、または隣接するリスク分野における深い技術的専門性を持っている

• 複雑な技術システムに対して、高い厳密性を持つ評価設計・実行の経験がある

• 不確実性の中で、明確で高リスクな技術的判断を下すことに抵抗がない

• 明瞭にコミュニケーションでき、多様なステークホルダーを安全判断のもとにまとめられる

• 技術チームのマネジメント経験、または研究集約型環境での部門横断イニシアチブを主導した経験がある

• 科学的な深さと運用上の現実を両立し、高速で変化する環境の中でも高品質な成果を期限内に出せる

• （尚可）脅威モデリング、サイバーセキュリテ
ィ、バイオセキュリティ、ミスアラインメント／欺瞞、その他フロンティアリスク領域の経験

OpenAIについて

OpenAIは、汎用人工知能が全人類に利益をもたらすことを使命とする、AI研究・展開企業です。
私たちはAIシステムの能力の限界を押し広げる一方で、それらを安全に世界へ届けることを目指しています。

AIは極めて強力なツールであり、安全性と人間のニーズを中核に据えて設計されなければなりません。
その使命を果たすため、私たちは人類の多様な視点・声・経験を尊重し、価値あるものとして受け止めています。

OpenAIは機会均等雇用主であり、人種、宗教、肌の色、出身国、性別、性的指向、年齢、退役軍人の地位、障害、遺伝情報、その他法的に保護された特性に基づく差別を行いません。

追加情報については、OpenAIの積極的差別是正措置および雇用機会均等ポリシー声明をご覧ください。

応募者のバックグラウンドチェックは適用法に従って実施されます。
逮捕・有罪判決の記録を持つ応募者についても、サンフランシスコ・フェアチャンス条例、ロサンゼルス郡フェアチャンス条例、カリフォルニア・フェアチャンス法を含む関連法令に従い、雇用の対象として検討されます。

ロサンゼルス郡未編入地域の応募者については、以下の職務において犯罪歴が直接的かつ不利な関連性を持つ可能性があると合理的に判断される場合、条件付き内定が撤回されることがあります。
• 貸与されたコンピュータハードウェアを盗難・紛失・損傷から保護する
• 雇用終了時または業務終了時に、所持しているすべてのコンピュータハードウェア（内部データを含む）を返却する
• 専有情報、機密情報、非公開情報の機密性を維持する

また、本職務では安全に保護された情報技術システムおよび関連するデータセキュリティ義務へのアクセスが求められます。

この求人が法令に違反していると考える場合は、こちらのフォームからご報告ください。
求人コンプライアンス以外の問い合わせには回答されません。

OpenAIは、障害を持つ応募者に対して合理的配慮を提供することに取り組んでおり、申請はこのリンクから行えます。

OpenAI グローバル応募者プライバシーポリシー

OpenAIは、人工知能が人類規模の課題解決を支援できる可能性を信じています。
AIの恩恵が広く共有される未来を目指し、私たちと共にテクノロジーの未来を形作りませんか。

These questions are hard and there is little precedent
答えを示してくれる前例がほぼ存在しない、難しい問いです

This will be a stressful job and you’ll jump into the deep end pretty much immediately.

この Head of Preparedness、ただの「安全担当」じゃない。

① 技術レベル（必須）
• 最先端ML / AIの深い理解
• フロンティアモデルの能力評価ができる
• 「今できること」だけでなく「次にできるようになること」を予測できる
• 評価設計の経験
• capability evals / red teaming / stress testing
• 複数リスク領域の理解
• サイバーセキュリティ
• バイオリスク
• 悪用・逸脱・自己改善系リスク

👉 これだけで、世界のML研究者の上位数％。

⸻

② 判断力（これが一番レア）
• 前例がない状況で、高リスク判断を下す
• 「100%安全じゃないが出す / 出さない」を決める
• 間違えたら
• 社会的被害
• 規制強化
• OpenAIの信用失墜
が起きうる

👉 研究者気質だけでもダメ
👉 官僚タイプでもダメ
👉 技術 × 現実 × 倫理の三重判断ができる人

⸻

③ 組織的影響力
• 研究・プロダクト・ポリシー・法務と横断的に動ける
• サムや幹部に NO を言える
• しかも、説得できる

👉 これは 「実績と人格」込みの条件。

⸻

で、世界に何人いるか？

かなり保守的に見積もっても：
• 条件を“ほぼ満たす”人
👉 数十人レベル（50〜100人）
• 本当に理想形に近い人
👉 一桁〜20人以下

しかもその多くはすでに：
• DeepMind / OpenAI / Anthropic / Meta AI / Gov系
• すでに重責ポジションにいる
• 今の仕事を捨てて来る動機が弱い

⸻

なぜこんな無茶な求人を出すのか
サムのポストと完全に一致してる。

These questions are hard and there is little precedent

＝
「普通の人材では無理」
「正解がない前提で責任を負える人が必要」

だからこれは
• 「大量応募を期待する求人」じゃない
• 世界に向けた“召喚”に近い

⸻

そして、ここが一番重要な点

サムがこのポジションを
今・公開で・強い言葉で募集しているという事実。

これは、
• メンタルヘルス影響 → すでに“予兆”を見た
• セキュリティ → もう臨界に入りつつある
• 自己改善 → 遠い未来じゃない

とOpenAI自身が判断している、ということ。