リアルタイムボイスチェンジャー Realtime Voice Changer
Go to file
2023-01-15 04:42:47 +09:00
client bugfix: icon 2023-01-14 18:56:32 +09:00
docker WIP: Docker on linux 2023-01-14 19:36:53 +09:00
docker_onnx WIP refactoring 2023-01-07 20:07:39 +09:00
docs update 2022-11-12 09:26:28 +09:00
script refactoring 2023-01-06 01:37:29 +09:00
server tmp folder 2023-01-15 01:30:46 +09:00
.gitignore tmp folder 2023-01-15 01:30:46 +09:00
Checklist.md update 2023-01-14 19:28:26 +09:00
LICENSE add license 2022-08-24 09:50:45 +09:00
MMVCTrainerFrontendDemo.ipynb Colaboratory を使用して作成しました 2022-12-11 09:15:57 +09:00
package-lock.json update 2022-08-27 11:43:55 +09:00
package.json WIP refactoring 2023-01-07 20:07:39 +09:00
README.md update 2023-01-15 04:42:47 +09:00
SoftVcDemo.ipynb Colaboratory を使用して作成しました 2022-10-29 09:56:28 +09:00
start2.sh WIP: Docker on linux 2023-01-14 19:36:53 +09:00
start_v0.1.sh update 2022-10-30 00:58:21 +09:00
VoiceChangerDemo_Simple.ipynb Colaboratory を使用して作成しました 2023-01-14 19:54:40 +09:00
VoiceChangerDemo.ipynb Colaboratory を使用して作成しました 2023-01-14 20:00:44 +09:00
VoiceRecorder.ipynb Colaboratory を使用して作成しました 2022-11-09 04:12:09 +09:00

Voice Changer Trainer and Player

概要

AIを使ったリアルタイムボイスチェンジャーMMVCのヘルパーアプリケーションです。

MMVCで必要となる一連の作業トレーニング用の音声の録音、トレーニング、ボイスチェンジャの中で、音声の録音とボイスチェンジャを各種プラットフォームでお手軽に実行できます。

公式のトレーニング用ノートブックに大幅なユーザビリティ向上がありました。簡単化を目指していたこちらのトレーニング用アプリの役目は終了したと思われますので開発をストップしています2023/01/10)。公式のトレーニングの利用を推奨します。

image

このアプリケーションを用いることで、以下のことを簡単に行うことができます。

  • MMVCトレーニング用の音声録音 (GithubPages (ローカル環境構築不要))
  • MMVCモデルを用いたリアルタイムボイスチェンジャー
    • リアルタイム話者切り替え
    • CPU/GPU切り替え
    • リアルタイム/ニアリアルタイム声質変換

本アプリケーションのリアルタイムボイスチェンジャーは、サーバ・クライアント構成で動きます。MMVCのサーバを別のPC上で動かすことで、ゲーム実況など他の負荷の高い処理への影響を抑えながら動かすことができます。

image

使用方法

v.1.3.x(2023/01/10~)でボイスチェンジャーの大幅な変更を行っています。

レコーダー(トレーニング用音声録音アプリ)

MMVCトレーニング用の音声を簡単に録音できるアプリです。 Github Pages上で実行できるため、ブラウザのみあれば様々なプラットフォームからご利用可能です。

録音アプリ on Github Pages

録音したデータは、ブラウザ上に保存されます。外部に一切漏れることはありません。

詳細については引き続きwikiをご確認ください。

プレイヤー(ボイスチェンジャーアプリ)

MMVCでボイチェンを行うためのアプリです。 お手元のPCでの使用を推奨します。一部ユーザ体験が劣化しますが、次のートでColaboratoryでの実行も可能です。

また、バイナリαの配布も行っています。M1 Mac版は、ダウンロード後、ターミナルで実行権限を付与して実行してください。

https://user-images.githubusercontent.com/48346627/212490839-9727daff-8629-4bd7-a885-39b9058a7eba.mp4

詳細は、こちらのBlogをご確認ください。

(古いボイスチェンジャについては、引き続きwikiをご確認ください。)

説明動画

No タイトル リンク
01 ざっくり説明編 youtube
02 ユーザー音声の録音編 youtube
03 トレーニング編 作成中
04a Colabでボイチェン編 youtube
04b PCでボイチェン編 欠番(ex1, ex2, 04aの内容と被るため)
ex1 番外編WSL2とDockerのインストール youtube
ex2 番外編WSL2とAnacondaのインストール youtube

リアルタイム性

GPUを使用するとほとんどタイムラグなく変換可能です。

https://twitter.com/DannadoriYellow/status/1613483372579545088?s=20&t=7CLD79h1F3dfKiTb7M8RUQ

CPUでも最近のであればそれなりの速度で変換可能。

https://twitter.com/DannadoriYellow/status/1613553862773997569?s=20&t=7CLD79h1F3dfKiTb7M8RUQ

古いCPU( i7-4770)だと、1000msecくらいかかってしまう。

Acknowledgments

免責事項

本ソフトウェアの使用または使用不能により生じたいかなる直接損害・間接損害・波及的損害・結果的損害 または特別損害についても、一切責任を負いません。