SeaGate Reloaded

Twinmotion 2023.2 の新機能、アニメーション付きFBXのインポート（早期アクセス、gLTF/glB形式にも対応）、リアルタイムGI（間接ライティングをリアルタイム適用）を試してみました。 自作のアニメーション付き3Dモデルがインポートできるのは良いね！ 以前、Lumionにアニメーション付きのアバターをインポート しようとして、力業でやってみたけど、ソフト側で対応してくれるのはありがたい。 アニメーション付きの点景やキャラクターが自作できることで、よりリアルなイメージが作成できそう。

以前のバージョン では、音声認識・合成にGoogle Cloud Speech APIを使用してたんだけど、落ち着いた大人の女性の声って感じだったので、音声認識・合成周りを Microsoft Azureの音声サービス に変更した。 今度は、アバターの外見より少し幼い感じの声になってしまったけど、妹設定としてはまあまあ良い感じになったんじゃないかなw

いつも、おじさん だと何なので、アバターを差し替えて、声を女性に。 ChatGPT のキャラクター設定を変更すれば、サブカルチャーに詳しくカワイイものが大好きな、妹設定の少女型のアンドロイドのAIチャットボットのできあがり。 まあ、妹設定の割には、落ち着いた声だけどねw

AIしげちゃん（スマホ版）Ver 2.4 をバージョンアップしたばかりだけど、いろいろ機能を増やしたせいでUIが混乱してしまったので、少し整理した。 マイクボタンを押すと音声入力待機状態になったり、アイドル時に独り言を喋ったり、ポーズを取ったりするようにしたのは、簡単にデモができるようにするため。 人に見せる時、取り敢えずサクッと「AIしげちゃん」が喋ったりしてくれないと間が持たないので、独り言を言う機能を専用のボタンに割り当てて、動作・表情はアバターをタッチした時に行うように変更した。 これで、ワンタッチで喋ったり動いたりしてくれるので、デモしやすくなったねw  しかし、大阪の天気予報を聞くと、大阪弁で回答するChatGPTはお茶目だね。

スマホ版 AIしげちゃん を Ver 2.4 にしたので、しばらく放置していたMeta Quest 2版も、アイドル中に独り言を喋ったり、勝手にアクションをするようバージョンアップした。 Quest 2もAndroidなので、移植自体はそんなに難しくないんだけど、入力デバイスの扱いがスマホと違うので、よくわからなくて実装できなかった。 ホントは、ボタンを押すと喋ったり、表情を変えたりとかしたかったんだけど。ちょっと勉強しないとね。。。

生成AI(GPT-3.5/4)と音声認識・合成(Google Cloud Speech)により、VRM形式の3Dアバターと音声対話できるスマホアプリ 【基本機能】 音声による質問を認識し、生成AIの回答を音声で話す 生成AIの回答等に応じて3Dアバターの表情や動作が変わる 【追加機能】 生成AIの回答を音声だけでなくテキストウインドウでも表示 気象庁の気象情報APIを利用し、指定した地域の天気予報等を答える 環境センサーと連携し、温湿度の値や不快指数等を答える スマートリモコンと連携し、部屋の照明や家電製品を制御する ウェイクワード(起動音声コマンド)の代わりにマイクボタンをタッチすることで、音声入力待機状態にできる 音声入力待機時に待機ウィンドウをクリックすると、プリセットされた質問をランダムに行い、生成AIに回答させることができる アイドル時にプリセットされた独り言をランダムに喋る。 3Dアバターをクリックすると、プリセットされた独り言をランダムに喋らせることができる タイトルをタッチするとプリセットされた動作をランダムに行う。 ChatdollKit をベースにさせていただき、いくつか機能を追加して、概ねやりたかったことはできたので、ほぼ完成版かなw

Googleローカルガイド の特典で Googleストア の15%割引クーポンもらったので、 Pixel 6a は娘にあげることにして Pixel 7a を買った。 折しも Google創立25周年記念キャンペーン 中だったので、限定トートバックもついてきた。うれしいね～🎁 しかし、Pixel 6aと7aは見た目も重量もほとんど一緒なので目新しさがないなあ... で、早速 Pixel 7aに「 AIしげちゃん 」をインストールしようとしたら、エラーが出てインストールできない。どうもPixel 7以降は64bitアプリしか利用できなくなったらしく、「AIしげちゃん」も64bitアプリとしてリビルドしたら無事動いた。よかった～😆 Tensoe G2チップのおかげか「AIしげちゃん」もきびきび動いている気がするw

「 AIしげちゃん 」に話しかける前のウェイクワード（iPhoneの「Hey Siri」とか、Googleの「OK Google」みたいな音声コマンド）の代わりに、スクリーンのタイトル部分をタッチすれば、リスニング状態に切り替わるようにした。 いちいち「こんにちわ～」とか呼び掛けてから話すのは面倒くさいし、ちょっと恥ずかしいので... それから、 こちらを参考 に、「 AIしげちゃん 」がアイドル状態の時、独り言を喋る機能も追加した。こちらから話し掛けない限り喋ってくれないので、ちょっと寂しかったからw もっとも、あらかじめ定義してある言葉をランダムに喋っているだけだけどね。

少し前からGPT-4 APIが使えるようになってたんだけど、ようやく「 AIしげちゃん 」で試してみた。 ついでに、気象データの取得先を気象庁の天気予報JSONに変更したり、仕事部屋に設置している環境センサーの値と不快指数を答えられるようにしたり、照明だけでなく扇風機やLEDテープライト等のオン・オフも制御できるようにしたので、ますます、しげちゃん はできる子になったなあw こうやって会話を見ると、GPT-4は3.5に比べて感情が豊かな気がする。ただ、GPT-4 APIの単価は高いので、「AIしげちゃん」のデモ程度なら当面はGPT-3.5のママでいいかなあ...

取り敢えず AIチャットボット（AIしげちゃん）の改造 が終わりまして、ChatGPTのFunction callingを利用して、スマートリモコン（Nature Remo）経由で部屋の照明がオン・オフができるようになりました。 今までは会話しかできませんでしたので、家の中の家電製品も操れるようになって、ちょっとだけ実用的になりましたかね。 まあ、会話の部分に関してはChatGPTなので、今でも十分、GoogleアシスタントやAlexaよりは優秀ですけどね。

Android版AIしげちゃん を、ChatGPTのFunction callingを利用して、スマートリモコン（ Nature Remo ）経由で部屋の照明がオン・オフができるように改造中。

> VRoid Hub ※ 大阪・関西万博公式キャラクター「ミャクミャク」の二次創作物です。

VRM形式のアバター を、 VRM Automatic Photographing でポーズと表情をつけて撮影し、 kohya_ss でLoRA（追加学習データ）を自作してみた。 上が学習元の画像。今回は60枚程度撮影し、Epoch数を20に設定して生成に2時間程度かかった。テストなので、取り敢えずキャプション・データはなしで。 元画像がアニメ調のアバターなので、アニメ系のモデルとは相性がいいですね。いろいろ作業を省略したにもかかわらず、それなりに特徴を捉えて画像を生成してくれている感じ。 しかし、実写系はかなり厳しいですね。多数の失敗作の中から、何とか鑑賞に堪えられる「奇跡の一枚」w をチョイス。でも、まあ、初めてにしてはそれなりかなと思ったり。

AIしげちゃん（スマホ版）Ver 2.0 ができたので、お約束通り、VR版（Meta Quest 2版）もバージョンアップして、VR空間の「しげちゃん」に会いに行ってきました。 前回 と違って表情や身振りもあるので、大きな空間でも多少は見栄えがします。でも、まあ、結局最後は「しげちゃん」をぶん投げるんですけどねw

「しげちゃん」のアバターは、見ての通りw 自作なので、いろいろ設定を間違えているところもあって、騙しだまし動かしていたんだけど、 BlendShapeの設定等を見直し て、ようやく ChatdollKit のサンプルで実装されていた機能がほぼ全て動くようになったので、Ver 2.0としてビルドした。 回答内容によって顔の表情が変わったり、gpt-3.5-turbo-0613 の Function Calling によって、お天気の情報なんかも教えてくれるようになったので、APIを ChatGPT-4 に切り替えれば、もう、本物の「しげちゃん」は要らないかもしれないなあ...

VRM形式のアバターのBlendShape（シェイプキー）を見直し中。 初めに作った時は、目・鼻・口・上顎・下顎・舌のシェイプキーを分けて作っていなかったので、表情のアニメーション時に支障が出ることがあり、分けることにした。 ニュートラル 喜（JOY） 怒（ANGRY） 哀（SORROW） 楽（FUN） 驚（SURPRISED）

OpenAI APIがアップデートして、 GPT-4、GPT-3.5の0613版がリリース されました。 ユーザーの入力に応じて適切な外部の関数を呼び出すことができる仕組みで、ChatGPTが苦手なリアルタイムの情報等を、別のAPIに問い合わせた結果を元に答えさせることができるとのこと。 で、 ChatdollKit でも、gpt-3.5-turbo-0613 の Function Calling を利用して、外部の天気予報APIから指定した都市の天気を回答するサンプルが実装されたので、「AIしげちゃん」に組み込んでみました。 gpt-3.5-turboでは天気に関する話をしても、天気予報にはアクセスできないの一点張りだけど、gpt-3.5-turbo-0613では「東京は晴かな？」とか、会話の続きで「大阪はどうかな？」と言っても、ちゃんと天気予報を返してますね。偉い子w

前回 は顔の3DメッシュからMetaHumanを自動的に作成する Mesh to MetaHuman を試しましたが、今回はiPhoneの「 Live Link Face 」アプリを使用して自分の顔・表情をキャプチャし、自分自身に似たキャラクターの作成を試してみました。 iPhoneで顔・表情のアニメーションをキャプチャし、Unreal Engineに取り込んでからは、前回の Mesh to MetaHuman とほぼ同じ手順です。 やはり、似てないですねw でも、前回より日本人ぽくなりました。ただ、自分自身には似ていませんが、叔父さんの若い頃に似てる気がします。骨格が似てるからかなあ? MetaHuman Animator は、本来、高品質のフェイシャル アニメーションをiPhone等の簡単な機材だけで作れる優れものですが、今回はキャラクターの作成のみに使用しました。

顔の3Dモデルのメッシュを元に、似た顔のMetaHumanを自動的に作成してくれる Mesh to MetaHuman で、自分自身に似たキャラクターの作成を試してみました。 Avatar SDK で写真から顔の3Dモデルを作成 Track Active Frameで目・唇・ほうれい線を指定 Mesh To MetaHumanでMetaHumanの生成 この時点で既に元の顔写真とは全然に似てねー！ まあ、Avatar SDK自体テクスチャで胡麻化してるところ大だしね MetaHuman Creator で肌・髪・目等を調整 全く別人、日本人っぽくなくなってしまいました... Unreal Engineに召還してみましたが、誰？って感じw

いろいろ調整して、ようやく顔面にフィットした 後半は歓喜の踊り💃 ダンスをしても落ちないよw https://skfb.ly/oHVSB