Webcam Motion Capture + ゆかりねっと + VOICEPEAK

-


で、Webカメラによる上半身モーションキャプチャ（Webcam Motion Capture）と音声認識・字幕（ゆかりねっと）→音声合成（VOICEPEAK）を組み合わせてみた。

リアルタイムでボイチェンできたら、完璧なんだけどなあ。。。

コメント

コメントを投稿

このブログの人気の投稿

Evernote から Googleドライブに移行

-
イメージ
もうすぐ、プレミアムプランの更新になるので、いよいよ重い腰を上げて、長年愛用してきた Evernote を Googleドライブ に移行する決心をした。 ノート類はそんなに数が多くないので、そのまま Googleドキュメントにコピペ、PDFなどの添付ファイルはフォルダに分けてファイルとして保存し、Webクリップは印刷してPDFファイルに変換した。 一番の問題は、スキャンした2,000件あまりの名刺画像の扱い。名刺はタイトルに「会社名:名前」を付けて、「関係」をタグで分けるだけのシンプルな管理をしていたのだけれど、移行に当たっては汎用性を重視して、名刺画像のファイル名は同じく「会社名:名前」にして　に「フリガナ」と「関係」をメタデータとして埋め込むことにして、ちょこちょこっとプログラムを書いた。 そのおかげで、当初思ってたよりも早く名刺の移行ができた。Windows エクスプローラで名刺画像ファイル見ると、「フリガナ」と「関係」がタグとして書き込まれているのがわかる。そのため、ファイル名だけでなく「フリガナ」や「関係」でも検索することができる。 また、 Googleドライブ には画像のOCR機能もあるので、「フリガナ」や「関係」以外にも、 Evernote  のように名刺に書かれている住所や部署などの情報で検索することもできる。これで、 Evernote  から  Googleドライブ  に完全移行できた。めでたしめでたし。(^^;
続きを読む

ゆかりねっと VOICEPEAKプラグイン

-
イメージ
音声認識型トークアプリ「 ゆかりねっと 」で VOICEPEAK にしゃべらせるテスト。Google Chromeの音声認識→テキスト→VOICEPEAK→音声・字幕 の一連の流れが1つのアプリでできる。 以前 、Google Chromeで音声認識～音声合成を行うスクリプトを作ったけど、VOICEPEAKの方が自然な日本語で聞こえるのが良い。 実際に喋ってから合成音声が出力されるまでラグが出るのは仕方がないけど、いずれこの辺りもAIで解決しそう。
続きを読む

TDPT（Three D Pose Tracker）

-
イメージ
続いて、Webカメラだけで、全身のモーションキャプチャができる TDPT（Three D Pose Tracker） のテスト。 左上がWebカメラの映像だけど、AIによる画像認識で、単眼のWebカメラだけでトラッキングしたとは思えない精度。 それなりのGPUを搭載したPCが必要ではあるけど、モーションデータはBVHやVMDで書き出せるし、今後が期待できる。しかし、僕自身、踊れたらよかったんだけど。。。
続きを読む

Platearu-Blender-Importer

-
イメージ
BlenderにPLATEAUのCityGML形式の3D都市モデルをインポートするアドオンツール「 Platearu-Blender-Importer 」が公開されています。 PLATEAU公式からは「 PLATEAU SDK for Unity 」などもリリースされているので、ゲームエンジンでの利用やFBXファイル等への変換が目的なら、そちらの方が安心・高機能と思いますが、Blenderで直接編集やデータ変換などを行いたい場合は重宝しそうですね。
続きを読む

ARCore Geospatial Creator for Unity

-
イメージ
先日のGoogle I/O 2023で公開された、 ARCore Geospatial Creator for Unity でARコンテンツを作成してみました。 Unityの開発環境内でGoogleマップのリアルな3D都市モデルを参照しながらARコンテンツを配置できるので、実際の場所でどのように見えるのか把握しやすいですね。 今回はオクルージョンのテストもしてみました。この辺りは PLATEAU のデータがないので、自前で遮蔽物となる3D建物モデルを用意したのもあって、ちょっとズレてしまいましたが、ちゃんと建物の後ろに隠れて表示されています。 ARCoreの Streetscape Geometry API も試してみたいですね。
続きを読む