Rinna（企業・サービス）

AIチャットボット「りんな」を手がけるrinnaの対話エンジン搭載キャラがDMM GAMESで配信中の恋愛ゲームに登場

AIチャットボット「りんな」を手がけるrinnaの対話エンジン搭載キャラが恋愛ゲーム「プラスリンクス」に登場

AIチャットボット「りんな」を提供するrinnaは2月22日、EXNOA運営・DMM GAMES配信のリアルチャット恋愛ブラウザゲーム「プラスリンクス～キミと繋がる想い～」において、rinnaが開発した対話エンジンを搭載したAIキャラクター「足繋逢」（あししげくあい）が実装されたと発表した。

プラスリンクス～キミと繋がる想い～は、街で出会ったヒロイン達とチャットによる自由な会話を通して関係を深めるという恋愛ゲーム。今回追加の足繋逢もそのヒロインの1人となる。彼女は自分の声では話せず、AI登載犬型ロボット「真希奈」を介してコミュニケーションを取るというキャラクター。会話は基本的にAI任せにしており、本人ががんばることもあるとのこと。

rinnaによると、足繋逢は、プラスリンクスが培ったノウハウをAIが学習し生まれたものという。会話のベースは、rinnaが提供するSTC（Style Transfer Conversation）モデルにより即時応答する。STCモデルとは、大規模データから構築した事前学習済みのモデルに、キャラクターの性格や口調を反映した学習データを追加学習させたモデル。

このSTCモデルによる応答文の出力後、表情、記号、ボイス、スタンプなど応答文内容に最適な表現をClassifierモデルが出力する。Classifierモデルとは、ゲーム内のグラフィック表現の演出に関する法則性を学習させた分類モデルとなっている。今回の場合は、STCモデルによるテキストに応じて、AIキャラクターとしての最適な表現を出力する。表情の変化や各種演出は、キャラクターに合わせてカスタマイズ可能で、足繫逢の性格を再現するのに最適なカスタマイズを実装しているそうだ。

STCモデルとClassifierモデルはRCP（Rinna Character Platform）上で連携しており、AIがプレイヤーの入力に対して即時応答するテキストチャットを可能にしている。これによりプレイヤーは、ゲーム内のキャラクターとリアルタイムでやり取りしているかのような体験を楽しめるという。

今後の展開として、現在rinnaが研究開発中の新しいAIモデルとの併用準備を進めているとのこと。この実装によって、より多彩なチャットのやり取りが可能になるという。単一のキャラクターとチャットを継続していくことで変化するAIモデルの開発も検討しているそうだ。

rinnaが日本語に特化したGPT-2とBERTの事前学習モデルを開発しオープンソース化

rinnaは8月25日、日本語に特化したGPT-2とBERTの事前学習モデルとその学習を再現するためのソースコードを、GitHubおよびNLPモデルライブラリーHuggingFaceにオープンソースソフトウェア（OSS）として公開したと発表した。ライセンスはMIT。製品開発のための実験過程で開発したもので、日本語の自然言語処理（NLP）の研究・開発コミュニティに貢献するためという。

GitHub：https://github.com/rinnakk/japanese-pretrained-models
HuggingFace：https://huggingface.co/rinna

rinnaは、2021年4月に日本語に特化した中規模サイズのGPT-2（GPT2-medium）をOSS化しており、今回はモデルサイズが異なる2つのGPT-2（GPT2-small、GPT2-xsmall）を公開したことになる。モデルサイズの違いはパフォーマンスとコストのトレードオフとしており、研究者や開発者は最善のモデル選択可能となるという。また、GPT2-mediumも、学習データと学習時間を増やし、より高性能なモデルへとアップデートしているそうだ。

またGPT-2に加え、BERTを改良したモデルであるRoBERTaも公開した。 GPT-2とBERTの公開により利用者は目的に合わせたモデル選択や、追加学習により多様なタスクへの応用が可能となる。

GPT-2は、予測したい単語より前の単語を考慮して次の単語を予測する言語モデルとなっており、BERTについては、予測したい単語の前の単語だけでなく後の単語も考慮して予測を行う。例えばGPT-2では以下図のように「吾輩」「は」を考慮して「猫」を予測するが、BERTでは前の単語「吾輩」「は」と後ろの単語「で」「ある」を考慮して「猫」を予測する。

rinnaが日本語に特化したGPT-2とBERTの事前学習モデルを開発しオープンソース化

また、今回公開のRoBERTaはBERTを改良したモデルにあたり、BERTより高い性能が報告されているという。RoBERTaを用いて、「4年に1度、［MASK］は開催される。」の［MASK］部分を予測すると、オリンピックやワールドカップといった4年に1度開催されるイベントが上位に予測される。

rinnaが日本語に特化したGPT-2とBERTの事前学習モデルを開発しオープンソース化

文章生成タスクにおいては、文章を1単語ずつ順次予測するGPT-2が用いられるものの、文章分類タスクなどの文章全体を考慮したタスクにおいては、BERTが利用される。文章分類タスクの他にも、質問応答タスクや固有表現認識タスクなど多様なタスクに適用することが可能という。

rinnaの研究チームが開発する大規模な事前学習モデルは、すでに同社製品で広く利用しているという。同社は今後も、AIに関する研究を続け、高性能な製品を開発するとともに、研究・開発コミュニティに貢献するために、研究成果を公開していく予定としている。他社との協業も進めることで、AIの社会実装の拡大を目指す。

rinnaの日本語事前学習モデルの特徴

- 学習データとして、日本語CC-100と日本語Wikipediaの計75GBのオープンソースデータを使用
- 8つのNVIDIA Tesla V100 GPUを用いて、75GBの日本語テキストを最大45日間かけ学習。その結果、すべてのモデルにおいて、十分に学習された汎用性があるモデルとなっているという。学習された事前学習モデルはHuggingFaceにおいてMITライセンスで公開
- 事前学習モデルの学習に用いたソースコードはGitHubにMITライセンスで公開。利用者は、日本語CC-100とWikipediaのオープンソースデータを用いることで、自分のマシンでrinnaによる結果を再現可能
- GPT-2ではモデルサイズが異なるGPT2-medium（3.36億パラメータ）、GPT2-small （1.10億パラメータ）、GPT2-xsmall （0.37億パラメータ）の3つのモデルを公開。またBERTを改良したRoBERTa （1.10億パラメータ）も公開
- 利用者の目的に沿った多様なタスク（ドメインに特化した文章生成、文章分類、質問応答など）について、rinnaが公開した事前学習モデルを用いた追加学習により実現できる

ソフトバンクの人型ロボット「Pepper」が「りんな」を手がけるrinnaのAI会話エンジン最新版を採用

rinnaは8月20日、法人向けAIチャットボット開発プラットフォーム製品「Rinna Character Platform」新バージョンが、ソフトバンクロボティクスのヒューマノイドロボット「Pepper」（ペッパー）に採用されたと発表した。

rinnaは、MicrosoftのAI＆リサーチ部門でAIチャットボットの研究を行っていたチームがスピンアウトして2020年6月に設立したAI開発企業。ディープラーニング技術を活用し、AIが文脈に応じた会話文を自動生成して人間と自然に会話する「共感チャットモデル」、AIが話し声や歌声で豊かに感情表現することを可能にする「音声合成システム」などの技術を発表してきた。これら技術は、rinnaが運営するLINE上のAIチャットボット「りんな」、法人向けAIチャットボット開発プラットフォーム製品「Rinna Character Platform」に応用されている。

Rinna Character Platformは、会話内容や音声表現をカスタマイズしてキャラクター性を持たせたAIチャットボットを開発可能。2021年春リリースの新バージョンでは、新開発のチャットエンジン「Style Transfer Chat」（STC）を使用することで、大規模会話データから構築した事前学習済みモデルに、作り上げたいキャラクターの性格や口調を反映した少量の会話データを追加学習させるだけで、キャラクター性を反映した自由会話が可能という。

また新バージョンでは、外部サービスと柔軟に連携でき、WebHookフィルターを利用しユーザーが自由に機能を拡張可能。カスタム機能はどのような言語でも開発可能という。カスタム機能とチャットボットのサーバーを分離し、チャットボットの各モジュールを小さくシンプルにすることで、耐障害性とセキュリティも向上させた。

ソフトバンクロボティクスのPepperでは、2019年からRinna Character Platformを採用しているという。同新バージョンの最新チャットモデルの効果により、Pepperの会話機能が向上し、Pepperが提供するサービスの顧客満足度が高まることが期待されるとしている。また、Rinna Character Platformの新しいアーキテクチャによってシステムの導入が容易になるとともに運用効率と耐障害性が向上し、自由会話のAIチャットボットをより低コストで安定したサービスとして提供できるようになるとした。