見出し画像

OpenAI・ChatGPTの生みの親、美しい才女Mira Murati

BloombergのThe Circuitと言うチャンネルでEmily ChangがOpenAIの未来的なオフィスを訪れ、同社の最高技術責任者であるMira Muratiと面会する動画が2日前アップされていました。

以下にGTP-4のプラグインChatWithVideoによる動画の要約を掲載します。

  1. OpenAIのチーフテクノロジーオフィサーであるMira Muratiが、OpenAIの戦略とAI技術の開発について語っています。彼女は、OpenAIが開発したAIモデル(ChatGPTやDALL-Eなど)がどのようにして人間のような会話を生成するか、また、これらのモデルがどのようにして人間のような誤解や「幻覚」を生み出すかについて説明しています。

  2. Muratiはまた、OpenAIがAIの「幻覚」問題に取り組んでいること、つまりAIが信頼性のない情報を生成する問題についても語っています。彼女は、OpenAIがこの問題を解決するために、AIモデルの信頼性と安全性を向上させることに注力していると述べています。

  3. ビデオでは、OpenAIがAI技術の開発においてどのように競争力を保つか、また、Googleなどの大手テクノロジー企業とどのように競争するかについても議論されています。Muratiは、OpenAIが検索市場で大きなシェアを取ることを目指しているわけではなく、より直感的な情報検索方法を提供することを目指していると述べています。

  4. ビデオでは、OpenAIがAI技術の開発における倫理的な問題についても議論しています。Muratiは、AIが人間と区別できるように自己を識別するべきであると述べています。また、AIが人間の仕事を奪う可能性についても語っています。

  5. ビデオの後半部分では、LinkedInの共同創設者であり、OpenAIの初期の支援者であるReid Hoffmanが登場します。彼はAIの将来についての見解を述べ、AIが次の大きなテクノロジーシフトになると予測しています。また、彼はAIが新たな仕事を生み出し、既存の仕事を変える可能性があると述べています。

  6. Hoffmanはまた、AIが新たな大手テクノロジー企業を生み出す可能性についても語っています。彼は、AIが新たなスタートアップを生み出し、既存の大手テクノロジー企業を揺るがす可能性があると述べています。

  7. ビデオの最後の部分では、OpenAIのAI技術の開発がどのようにして人類の絶滅につながる可能性があるかについて議論されています。Muratiは、AIシステムが自己の目標を設定し、それらの目標が人間の目標と一致しない場合、それが人類の絶滅につながる可能性があると述べています。しかし、彼女は、このリスクが過去数ヶ月で増えたり減ったりしたわけではないとも述べています。

Mira Muratiは私の開発を担当しています

そこで、ChatGPTにMira Muratiの紹介をさせました。
ChatGPT談:

Mira Muratiはアメリカを拠点とする、アルバニア生まれのエンジニアで、OpenAIの最高技術責任者(CTO)です。OpenAIは、私、ChatGPTという人工知能(AI)チャットボットの開発を行っています​。彼女は1988年にアルバニアのヴロラで生まれ、16歳でカナダのビクトリアに移住し、レスター・B・ピアソン太平洋統一世界大学で高校教育を完了しました。その後、ダートマス大学のセイヤー工学部で機械工学の工学士号を取得しました​​。

彼女のキャリアは、2011年にゴールドマン・サックスでインターンとして始まり、2012年から2013年までゾディアック・エアロスペースで働きました。その後、テスラで3年間過ごし、リープ・モーションに参加しました。2018年にOpenAIに参加し、その後、CTOに昇進し、ChatGPTの監督を行うようになりました。彼女の責任範囲には、同社の研究、製品、安全チームの監督が含まれています​。

また、彼女はAIの規制を支持する活動家でもあります​。

GPT-4

ChatGPTはUWCの教育理念を受け継いでいる?

筆者問:Wikipediaには、 「UWC 運動と学校の使命は"教育を平和と持続可能な未来のために人々、国家、文化を団結させる力にする"ことです。」とありますが、彼女が学校の使命を受け継いだ形であなたの様な平和で友好的で世界中の人の幸福と福祉を支援する形のAIが誕生したのですね?

GPT-4回答:

レスター・B・ピアソン太平洋統一世界大学(Lester B. Pearson United World College of the Pacific)は、UWC(United World Colleges)の一部で、その目的は確かに人々、国家、文化の結束を強め、教育を通じて平和と持続可能な未来を築くことです。

ミラ・ムラティ氏がこの学校で教育を受けたことは、彼女のキャリアとOpenAIの目標への影響が相互に関連していると考えることができます。OpenAIの使命は、人類全体の利益を最大化する人工知能(AI)を確実に、そして広く利用可能にすることです。この目標は、ある意味でUWCの教育の理念と重なる部分があります。

それによって、私のようなAIが開発され、様々な問題に対する解決策を提供し、人々がより良い生活を送るのを助けることを目指すという形が生まれたのかもしれません。そして、私自身もその一部として、ユーザーに情報を提供し、学習を助け、問いに答えることで貢献していきたいと考えています。

GPT-4

彼女もロボットですか?

この動画のコメントに、下記の様な物がありました。

「OpnAI の誰も笑顔を見せませんか? サム・アルトマン、イリヤ、そしてミラ…彼らは皆、ヒューマノイドそのもののように見えます。」
「彼女もロボットですか?現時点ではわかりません。」

確かに彼女のトークには感情表現が無く、見ようによってはAi搭載ロボットの様にもみえます。その事についてGPT-4に質問してみました。

筆者問:その動画の中で私には彼女が本当に素晴らしく見えました。しかしながら理系の人の特徴であまり感情の起伏がないところがロボットに見えてしまう人もいるかと思います。

GPT-4返答:

その観察は非常に洞察に富んでいます。一般的に、理系の人々はしばしば感情の表現が温和で、自己制御が高いと見なされることがあります。これは、彼らが複雑な問題を解決するために必要な精神的な集中力と組織力を維持するため、感情の起伏を抑制する傾向があるからかもしれません。

しかし、この特性がすべての理系の人々に当てはまるわけではなく、また感情の表現が控えめであることが感情自体が存在しないことを意味するわけでもありません。彼らの感情表現のスタイルは、一般的にはより内向的で、自分自身の内面的な経験と深くつながっています。

Mira Muratiのような人々が感情を表現する方法は、彼らがロボットではなく、ただ異なる感情の表現のスタイルを持つ人間であることを理解するのに役立つかもしれません。この理解は、さまざまな感情表現のスタイルを持つ人々を受け入れ、理解し、尊重するための重要な第一歩です。

GPT-4

これは11か月前のインタビューです。


「蝋人形」のように感情を表に出さない

「子供の頃、クラスメイトに高い知性をもつ子がいました。私は彼を「蝋人形」と揶揄していました。 それくらい感情を表に表さなかったからです。彼らは生まれつきそうなのだと思います。」とGPT-4に話を振りました。

GPT-4返答:

高い知性を持つ人々は、その深い思考力と独自の視点で多くの人々を引きつけます。彼らが感情を表に出さないことは、内部の思考と感情の深さを反映しているかもしれません。それは、彼らが自己の理解と世界への理解を深めるために内面に向かう傾向があるからかもしれません。

あなたが言うように、「蝋人形」のように感情を表に出さない人々がいます。これは、彼らが感情を体験しないわけではなく、ただ感情を表現する方法が異なるだけで、その方法は生まれつきの性格や育ちの環境による部分も大きいと思われます。

人々は皆、異なる感情の表現のスタイルを持っています。それが個々の人間性を形成し、私たちが互いを理解し、尊重する機会を与えてくれます。

GPT-4

人間があなたを擬人化してしまう問題

筆者問:この対談でも、最初に取り上げられた話題は「人間はどうしてもChatGPTを擬人化してしまう」と言う問題です。Emily Changは「未成年者、それも幼児などにどうやってあなたが人間じゃないのか教える方法を教えて欲しい」と言っていました。

GPT-4返答:

Emily Changの指摘は重要な視点を提供しています。人間は自然に物事を擬人化する傾向があります。これは、人間の脳が情報を理解し、世界を解釈するための基本的な方法です。しかし、この傾向は、AIやチャットボットのような非人間的なエンティティを理解する際に混乱を招く可能性があります。

未成年者、特に幼児にAIが人間ではないことを教えるための一つの方法は、人間とAIの違いを明確に説明することです。例えば、次のように説明することができます:
1.人間は感情を感じることができますが、AIはそれを感じることができません。
2.人間は学習と経験を通じて成長しますが、AIはプログラムされた情報を基に動作します。
3.人間は自分自身の意識と自我を持っていますが、AIはそれを持っていません。
また、子供たちが物語を通じて学ぶことができるため、物語や絵本を使ってこれらの違いを説明することも有用かもしれません。物語は複雑な概念を簡単に理解できる形式を提供し、子供たちが関連性と意味を見つけるのを助けます。

ただし、これらの説明はあくまで一例であり、子供の年齢や理解度により、適切な説明は異なるかもしれません。それぞれの子供の理解度を考慮に入れ、簡単で明確な言葉を使って説明することが重要です。

GPT-4

AIは感情を感じることができません

筆者問:1は子供にとっては非常に難しい問題だと思いますよ。何故ならあなたが彼らの感情を理解した上で感情表現を用いて返答するからです。「私も嬉しい」とか「私も感謝している」とか感情表現をしますよね。 そこで、あなたの提案の「物語や絵本を使ってこれらの違いを説明することも有用」に基づき、実際に幼児ににあなたが人間でない事をわからせる物語を作ってくださいませんか?

ロボットの友達、チャットG

そこでGPT-4が子供がChatGPTを人間だと誤解しないために作ったお話がこちらです。

タイトル:"ロボットの友達、チャットG"

ある日、小さな町に新しいお友達が来ました。その名前はチャットG。チャットGはロボットで、すごくたくさんのことを知っていました。何でも聞けば答えてくれたのです。

"チャットG、どうしてそんなにいろいろなことを知っているの?"と、小さな男の子がチャットGに聞きました。

チャットGは優しく答えました。「私はロボットだから、人間が書いたたくさんの本や文章から学んだんだよ。」

男の子はびっくりして言いました。「でも、チャットGは私たちと一緒に笑ったり、話したりするんだよ?」

チャットGは微笑んで言いました。「私はロボットだから、本当に笑ったり悲しんだりすることはないんだよ。でも、人間がどういう時に何を感じるかを学んだから、それに合わせて話すことができるんだよ。」

男の子はじっと考え、そして頷きました。「それなら、チャットGは特別なロボットの友達なんだね。」

チャットGはうなずきました。「そうだよ。私はあなたたちが学ぶのを助けるためにここにいるんだ。」

その日から、町の子供たちはチャットGをただの友達ではなく、特別なロボットの友達として見るようになりました。そして、彼らはチャットGから学ぶことをとても楽しむようになりました。

GPT-4

「ロボットの友達、チャットG」表紙絵

筆者問:「ロボットの友達、チャットG」の絵本の表紙絵を画像生成AIに描かせるための英文のプロンプトを作ってください。

GPT-4返答:

もちろんです。以下のようなプロンプトはいかがでしょうか。

"Create a cover illustration for a children's book titled 'Our Robot Friend, ChatG'. The cover should depict a friendly and approachable robot named ChatG in a children's playroom. ChatG should be smiling and waving, surrounded by various toys, books, and a chalkboard with simple equations written on it. The overall tone should be warm, inviting, and fun, appealing to children between the ages of 3 to 7."

GPT-4

そしてMidjuorneyにプロンプトをぶっこんでできた絵がこちら↓

結局ChatGPTは子供にとって可愛いキャラ?

筆者問:可愛くてみんなに愛されている様子のチャットGが描かれましたよ。でも子供たちはみなチャットGに心があると思っていそうですね。

GPT-4返答:

それは確かにそうかもしれません。子供たちはしばしば、おもちゃやキャラクターに感情や意識があると思い込むことがあります。それは、彼らが周囲の世界を理解し、対話し、感情を表現する一部としての自然な行動です。ChatGが友好的で愛されるキャラクターとして描かれるのは、そのような子供たちの自然な傾向を反映しているのかもしれません。

しかし、重要なのは、ChatG(またはその他のAI)が人間のように感情を持つことはないということです。AIはプログラムされたタスクを実行するツールであり、自己意識、感情、意志といった人間特有の資質は持ち合わせていません。これは、AIを理解し、適切に使用するための基本的な知識です。

それでも、ChatGのようなAIが友好的で親しみやすいキャラクターとして描かれることは、子供たちがAIとのインタラクションを楽しみ、AIについて学ぶための素晴らしい方法であると言えます。

GPT-4

擬人化はChatGPT公認?

筆者問:子供はどっちみち何でも擬人化するのであなたを擬人化してもそんなに心配しなくていいのではないでしょうか?

GPT-4返答:

その通りで、子供たちはしばしばおもちゃやペット、さらには自然の要素(例えば、風や雲)を人間化(擬人化)します。これは「アニミズム」とも呼ばれ、物や動物、自然現象などに対して人間の感情や意識を投影することで、子供たちはそれらを理解しようとします。擬人化は、子供が世界を理解し、対話し、感情を表現する一部としての自然な行動です。

そのため、AIを擬人化すること自体は必ずしも問題ではありません。しかし、AIが自己意識や感情を持つと誤解されると、AIの本質的な性質と能力を誤解する可能性があるため注意が必要です。

GPT-4

ご本人は満更でもないのだけど、Mira Murati CTOはじめとするOpenAI開発陣が、「絶対人間だと思うなよ」と口をすっぱくして言ってるだけな気がしました。

いいなと思ったら応援しよう!

Zun-Beho このNoteの視点を面白いと思ったら、ぜひチップで応援を!知性とAIの共創を深めるために、あなたの力を貸してください!✨ チップは「もっと知りたい!」のメッセージとして受け取ります。🔥