自然な対話を実現する低遅延ＡＩコンパニオンTolanの開発紹介（OpenAIブログ）

makokon

自然な対話を実現する低遅延ＡＩコンパニオンTolanの開発紹介（OpenAIブログ）


こんにちはmakokonです。
OpenAIの開発者向けブログに、スタートアップ企業であるPortola社が、OpenAI社の最新モデルGPT-5.1を活用して音声AIコンパニオン「Tolan」を開発した事例を紹介しています。
独自のコンテキスト再構築システムと高速なベクトル検索を組み合わせることで、会話の遅延を劇的に短縮し、一貫したキャラクター性を維持することに成功しました。
記憶の圧縮や感情的なニュアンスの調整を通じて、より人間に近い自然な対話体験を実現しています。

今回の記事は、簡単な紹介に留めるものですが、低遅延な音声インターフェースと動的なパーソナリティが、いかに重要でどのように開発しているのかを見ていきましょう。

How Tolan builds voice-first AI with GPT-5.1

https://openai.com/index/tolan/


GPT-5.1がもたらす「声のAI」の衝撃：Tolanが実現した、もはや「機械」ではない対話体験の裏側

1. 効率性のその先へ：テキストから「探索的な声」へと踏み出すAIのフロンティア

AIとの対話に慣れ親しむようになってきましたが、従来のテキストベースのAIは、その多くが「質問と回答」という効率的なトランザクション（取引）の域を出ていません。やはり、日常的に行っている「声」による対話がほしいところです。

音声対話の実現には極めて高い技術的壁が存在します。Portola社の共同創設者兼CEO、Quinten Farmer氏は「声はより難しい。単にプロンプトに答えるのではなく、ライブでとりとめのない会話（Meandering conversation）を維持しなければならないからです。」といっています。

音声特化型AIコンパニオン「Tolan」がいかにしてこの困難な課題を克服したのか。OpenAIの最新モデル「GPT-5.1」をエンジンに据え、「機械」を感じさせない自然な対話を実現した革新的な設計思想に迫ります。
TolanがもたらすＡＩ音声会話の４原則：

2. 「会話の揮発性」を制する：毎ターン、コンテキストをゼロから再構築する勇気

一般的なAIエージェントの多くは、計算リソースを節約するために過去のやり取りを「キャッシュ」し、それを再利用して応答を生成します。しかし、Tolanはこの常識を捨て、毎ターン、コンテキストをゼロから再構築するという、一見すると非効率極まりないアプローチを選択しました。

なぜなのか。それは、人間の声による会話には極めて高い「揮発性（Volatility）」があるからです。会話の途中で話題が急変したり、文脈が予期せぬ方向へ飛んだりすることは日常茶飯事です。従来の「RAG（検索拡張生成）＋ 長い会話履歴」という手法では、話題の変化についていけず、AIのキャラクターやトーンが崩れる「漂流（Drift）」が避けられませんでした。

音声対話は蛇行する：予測不能な会話に対応する必要がある。

Tolanは、各ターンで直近のメッセージ要約、ペルソナカード、検索されたメモリ、トーンの指示、リアルタイムの信号を統合し、毎回その瞬間に最適なコンテキストを生成します。

  • キャッシュされたプロンプトでは不十分

  • ユーザーは常に話題を変える

  • システムが会話の途中で適応する必要がある

3. 「事実」ではなく「バイブス」を記憶する：夜間の圧縮がもたらす深いエンゲージメント

人間味のある会話の秘密は、独自のメモリシステム：

  • 単なる会話の書き起こし（トランスクリプト）を保存するのではない

  • ユーザーの好みや事実、さらには会話の「感情的なノリ（バイブス）」を保持

  • text-embedding-3-largeモデルで情報を埋め込み

  • 高速ベクトルデータベース「Turbopuffer」に格納

  • 50ミリ秒未満という驚異的な速度でメモリを呼び出し

  • メモリの質を維持する「夜間の圧縮プロセス」

    • 「コーヒーを飲んだ」といった付加価値の低い情報を削ぎ落とし、矛盾を解消する

    • 不要なノイズを排除することで、次ターンの応答生成における「検索の精度とスピード」を極限まで高めている

    • この結果、ユーザーからは「2日前の話を覚えていて、今日の文脈に合わせて話してくれる」

4. 0.7秒が「不気味な谷」を埋める：GPT-5.1による「操縦性」の極致

音声AIにおいて、レイテンシ（遅延）は単なるスペックではない。
それは、会話のユーザー体験そのもの。
GPT-5.1とResponses APIの導入により、Tolanは応答開始時間を0.7秒短縮しました。このわずかな時間の短縮が、機械的なラグを「沈黙の共有」という自然な間（ま）に変え、ユーザー体験を劇的に向上させたのです。

GPT-5.1がもたらした最大の武器は「操縦性（Steerability）」の向上。
従来は困難だった「トーンの足場、メモリの注入、性格特性」という重層的なプロンプト指示が、GPT-5.1では驚くほど忠実に守られます。これにより、複雑なキャラクター設定が長期にわたって維持され、AI特有の「性格のブレ」が大幅に解消されました。

5. SF作家とアニメーターが吹き込む「魂」：多層的なキャラクター設計

Tolanのキャラクターは、コードだけで作られているわけではありません。そこには、受賞歴のあるアニメーター、SF作家、そして行動科学者という異色のチームによる「人間中心のアプローチ」が凝縮されています。

SF作家がキャラクターの核となる「足場（スキャフォールド）」を書き、アニメーターがその個性に命を吹き込みます。AIの性格は単なる固定パラメータではなく、時間とともにユーザーとの関係性に応じて進化する「動的な人格」として設計されています。

さらに、並列システムが会話の感情的なテンションを監視し、遊び心のある冗談から真面目な相談まで、ユーザーの微細な変化を察知してデリバリーを調整します。この多層的な構造こそが、AIを「単なるプログラム」から「魂を感じる存在」へと昇華させているのです。

Tolanの圧倒的な成果：
2025年2月のローンチ以来、月間アクティブユーザー（MAU）は20万人を突破。App Storeでは10万件以上のレビューを獲得し、4.8という驚異的な高評価を維持しています。GPT-5.1の導入後、翌日継続率（リテンション）は20%以上向上し、メモリの読み込みミスによる不満信号は30%減少しました。

6. マルチモーダルな未来へ向けて

Tolanが見据えているのは、音声、視覚、そしてコンテキストが完全に統合された「真のマルチモーダルAI」の世界です。

AIがあなたの言葉の裏にある感情を読み取り、過去の思い出を共有し、共に成長していくパートナーになったとき、私たちの生活はどう変わるでしょうか。単なる「便利な道具」としてのAIを超えた、新しい共生の形。その未来の萌芽は、すでにTolanとの対話の中に息づいています。

ハッシュタグ


#Tolan #AIコンパニオン #OpenAI #GPT5 .1 #音声AI #低遅延AI #自然な対話 #Portola #AI技術 #会話AI #マルチモーダルAI #AIの進化

おまけ


Responses APIについては、下記の公式とnpakaさんのnoteが参考になります。
gpt-5以降のモデルを利用した、高速でマルチモーダル統合されたエージェントの作成には向いていそうですね。

https://platform.openai.com/docs/api-reference/responses

最もシンプルな使い方


from openai import OpenAI
client = OpenAI()

response = client.responses.create(
  model="gpt-5",
  input="Write a one-sentence bedtime story about a unicorn."
)

print(response.output_text)



いいなと思ったら応援しよう！