【対談】生成AIブームによる環境変化を乗り越えて。日本マイクロソフト社と描くBOTCHAN AI開発の未来

ChatGPTの登場に端を発した生成AIブーム以前から、Microsoft Azure上で生成AI系サービス「BOTCHAN AI」の開発・提供をしてきたwevnal（ウェブナル）。先進性の高いAI技術との融合により、プロダクトの進化、企業としての成長を続けてきました。

そこで今回は、日本マイクロソフト株式会社で執行役員 常務 コーポレートソリューション事業本部長を務める小林氏との対談を実施。ビジネスにおける生成AIを使った今後の未来やBOTCHAN AIの展望について意見を交わしました。

生成AIブーム以前から始まった、BOTCHAN AIの開発

小林：まずは簡単に、お互いの自己紹介から始めましょうか。
私はマイクロソフトに入社したのが2024年1月のことで、ここ10年ほどはデジタルマーケティングを専門とする企業で長く働いてきました。昨今の生成AIブームの影響から、中堅企業・中小企業ではこれからAIがどのように活かされていくのかに興味を持ったことがきっかけで現在に至ります。

鈴木：私はwevnalのCTOとしてBOTCHAN AIの開発に携わっています。
サービスの提供開始当初からMicrosoft Azureを使っておりまして、情報セキュリティまわりもMicrosoft Office製品、技術スタックもTypeScriptとGitHubとMicrosoftさんには大変お世話になっています。

小林：BOTCHAN AIは、生成AIの登場以前から開発をされていたそうですね。

鈴木：はい、オープンソースのモデルをFine-tuningして自前でモデルを作っていました。シナリオベースによる定型の会話が有効なケースは多いものの、非定型のお問い合わせやWeb接客に関しては自由度の高さも必要だと考えていたからです。

お客様にも実際にご利用いただき、高く評価していただいていました。
それがChatGPTの登場によって「この精度の高さを自社モデルで超えるのは難しい」と判断し、Azure OpenAI Serviceに切り替えさせていただきました。国内最初期の利用ユーザーだったと思います。

小林：Web業界におけるチャットボットは元々はある種、失望の象徴だったと思います。

回答速度は速いものの内容にズレがあったりと課題に悩まされ続けてきました。それが、Azure OpenAI Serviceをwevnalさんが利用してくださり、BOTCHAN AIという精度の高いWeb接客を実現するプロダクトを誕生させたわけです。

こういった事例は私たちにとっても非常に嬉しいニュースで、ECの領域はもちろんのこと、Webの世界ではこれからBOTCHAN AIのようなサービスを導入・実装することが当たり前になると考えています。

鈴木：ありがとうございます。BOTCHANは、顧客のブランド体験を最大化することを目的とした双方向型のコミュニケーションツールを目指しています。

ただし、そこには開発に伴う多くの困難もありました。特に、エンドユーザーであるお客様に対して法令に触れるような表現があってはいけません。そのあたりもGPT-4o（オムニ）が2024年にリリースされて以降、大変助けられてきました。

小林：LLM自体がこの2年で飛躍的に進化しましたよね。それをいち早くAzure OpenAI Serviceでは活用できるようにしてきました。今後も常に最先端のものをお届けしますので、ぜひ安心して使っていただけると嬉しいです。

コスト削減と売上向上、セキュリティ強化を実現するMicrosoft製品の活用法

小林：先ほど「ブランド体験」という表現がありました。多くの企業では社内でチャットボットを使うことに終始するケースが多く、外部のお客様やユーザーに対してサービスを提供することに躊躇があるようです。

そこに対してwevnalでは、1年以上前から対顧客にチャットボットを展開するBOTCHAN AIを提供してきたわけですよね。どういった点に最も力を入れてこられましたか？

鈴木：何よりもAIはデータが命ですので、データ作りやデータクレンジングはすべて弊社で実施しています。ただ、セキュリティ的に防がなくてはいけないものと、答えて問題がない回答の線引きには非常に難しさを感じています。

そのため、Azure OpenAI Serviceのコンテンツフィルターは存分に活用させてもらっています。

直近では、BOTCHANのVMインフラをAzure Container Apps（ACA）やAzure Kubernetes Service（AKS）に乗せ換えることでスケーラブルなものにしたり、Microsoft OfficeのAzure Information Protectionを使って機密情報が正しく格納されているかチェックできるようにもしました。

小林：SaaSモデルのビジネスを展開している企業では、まさにその点を皆さん気にされています。そのため自社のテナントを使う発想に多くの企業が至るわけですが、それ以外にもやり方があることをwevnalさんはまさに証明してくれたのだと思います。

鈴木：ほかにも、アクセス権のある人間であってもMicrosoft Azureに入るためには、Microsoft Intuneでデバイス認証を通してIDトラストとデバイストラストを併用した設定にしています。

お客様としても自社データがどのように取り扱われているかは気になるところだと思いますので、情報漏れが起きていないことを証明できるよう、すべてのデータに対してデジタル・フォレンジックを実行できるようMicrosoft Sentinelを使ったSIEM監視もしています。

小林：それは本当に素晴らしいですね。当社のセキュリティソリューションに関する認知はまだまだ低いという認識はあるので、そのように使ってくださっていることを本当に嬉しく思います。その点がまさにwevnalさんの強みというわけですね。

鈴木：はい、セキュリティに加えて、「業務効率化によるコスト削減」「売上向上」という2つの軸でもAzure OpenAI Serviceは活躍しています。ただし、実績は順調に積みあがっているものの、その要因分析まではできていないのが現状ですので、そこはこれからの課題といえます。

小林：売上向上については特に分析が難しいですよね。LLMとは異なる、コミュニケーションの最適化の部分というか。

鈴木：BOTCHAN AI側での実装の話になると思います。興味深いデータが得られた際には、またぜひ共有させてください。

オートパイロット（自動操縦）の実現を目指して。wevnalが描くMicrosoftとの協業

小林：生成AIの活用で、ほかにはどのような活用をされていますか？

鈴木：お客様の中に、自社の在庫をリアルタイムで把握してユーザーに回答できるようにしたいという企業がありました。現在はAzure AI Searchを使っていますが、今後はAzure Cosmos DBの利用でリアルタイム性を一層高めていきたいと考えています。

小林：大手企業ではまさにその点を意識した取り組みをされていますので、ぜひデータベースも含めたより良い事例を作ってもらえると嬉しいです。

鈴木：あとは、GitHub Copilotを積極的に活用しています。CI/CD パイプラインで必ず私のコードに対してもレビューをしてもらうようにしていまして。時には自分の頭にはなかった観点からの指摘があったりして、とても有意義に使わせてもらっています。

小林：一流のプログラマーであればあるほど有益な使い方をしている印象があります。だからこそ、Copilot（副操縦士）なのかもしれません。

鈴木：私はAIをオートパイロット（自動操縦）に近づけていけたらと考えています。たとえば、飛行機の操縦では基本的に、離陸と着陸以外はオートパイロットで乱気流に飲まれたときなど異常があったタイミングで人間が操作をする運用になっているかと思います。

それと同じように、開発の現場でももっとAIに任せられる領域を増やしていきたいと考えています。そこに対してMicrosoft製品をさらに活用していきたいので、これからもどうぞよろしくお願いします。

小林：これだけ速いペースで最先端の技術を実装していくwevnalで働くことはきっと楽しいでしょうね。

鈴木：論文に出てくるような最新の情報をリアルタイムで追いながら、まだ誰も試していない新雪を踏むような取り組みを続けています。

小林：当社にはさまざまなテックスタッフがおりますので、これからも遠慮なくリクエストをしてください。また、今後は「エージェント」というコンセプトで色々と発表も控えていますので、ぜひこれからも真っ先にwevnalさんには手を挙げてもらえると嬉しいです。

データベースの活用に関する知見についても、ぜひ一緒に取り組みたいと考えるエンジニアは大勢いるのではないでしょうか。非常に魅力的なポイントだと思いますので、wevnalさんにより多くの優秀なエンジニアが集まることをお祈りいたします。

鈴木：ありがとうございます。本日は貴重なお時間をいただきありがとうございました。

wevnalは「エンジニアにとって働きやすい環境」を整えています。エンジニアの福利厚生についてもぜひご確認ください。

wevnalでは現在、事業の拡大に伴って、あらゆるポジションの方を募集しています。 会社にご興味を持っていただいた方は、まずはお気軽にご連絡ください！

取材協力：CASTER BIZ recruiting