OpenAIが公開したGPT-2 モデルをベースにしてPytorch用の日本語事前学習モデルを作成した。 事前学習用の日本語コーパスにはjawikipediaと青空文庫を使用した。Ubuntu20.04上のPytorch 1.6で動作させた。GPT-2の文章生成用の導入フレーズとして以下の文章を使用した。 "私は三流小説家と言われているのは知っているが、小説家に一流も二流も、三流もない、小説を書くだけだ。批評家は嫌いだ。女も嫌いだ" 以下のように文章生成用コマンドでパラメータと導入フレーズを入力するとGPU使用で、数秒で文章を作成してくれる。run-rootフォルダに日本語Pre-trained modelが保存されている。
三流小説家(GPT-2 Japanese Pre-trained Model)

日本語音声コーパスJSUTを使用した、最新の音声生成、Multi-band MelGAN事前学習モデルが公開されたので、早速使ってみた。自前ではなかなか困難な、100万学習ステップの大規模なモデルなので、ありがたく使わせてもらいました。前回と同様に日本語テキスト解析にOpenJTalk、音響モデルにTacotron2を使用して、今回、音声波形変換VocoderにMelGANを使って比較した。結論として、より流暢な生々しい日本語を話すAIになったみたい。滑舌がよりなめらかになったのは、学習ステップの効果か。  
Tacotron 2 と Multi-band MelGANによる日本語音声生成

Googleの最新のDeepLearningによる自然言語処理技術BERTの日本語対応が進んでいる。PyTorch版はhuggingface/transformersで活発に移植、開発されている。日本語BERTをEncoderとするChatbotの作成方法がGithubに挙がっていたので、これを参考にしてテキスト入力された質問を、日本語音声で回答するChatbotを作ってみた。日本語音声は以前作った、Wavenetによる日本語音声の生成を活用している。
日本語BERTで音声Chatbot

Ubuntu20.04LTSがリリースされたので、早速、最新版のPytorch1.5をインストールして使ってみた。 Pytorchはpip3でインストールするので、まずpip3をインストールしてtorchその他をインストール。 sudo apt updatesudo apt install python3 python3-pippip3 install torch torchvisionpip3 install tensorflow-gpu tensorboard これで、pytorch1.5, tensorflow2の最新版がインストールされた。
Ubuntu 20.04でPyTorch 1.5を使う

Volumio2でNHK-FMなどのインターネットラジオ放送を聴くための設定方法、最新版。 初期の頃のVolumio2ではNHK-FMなどがうまく聴けなかったが、最近のバージョンでは良くなった。ちなみにV2.729で使用中。ウエッブラジオ・メニューをクリックすると、登録された世界中のインターネットラジオ局を選んで聴ける。 登録されてないNHK-FMなどのインターネットラジオ局を追加したい場合は、マイウエッブ放送局のメニューバーをクリックして”ウエッブラジオの追加”を実行する。Urlに以下のNHK FM 東京のストリーミング用m3uプレイリストを入力して追加を押すとNHK FM局が登録される。https://nhkradioakfm-i.akamaihd.net/hls/live/512290/1-fm/1-fm-01.m3u8拡張子の.m3u8はUTF-8文字コードの意味なので、間違いではない。 そのほかの国内で公開しているラジオ局のリストを挙げる。[Kamakura FM] http://musicbird-hls.leanstream.co/musicbird/JCB016.stream/playlist.m3u8?args=web_03 [Shonan Beach FM]http://150.95.174.29:8000/by_the_sea各ラジオ局のURLは変わることがあるので、ご注意。NHK-FMは48K/32bitで配信しているので、非可逆圧縮形式ながら、結構いい音をしてる。 これでVolumio 2 でRaspberry Pi 3/4と専用I2S DACを使用して、高音質でNHK-FMを楽しめる。
Volumio 2でNHK-FMを聴くには（その２）

昨今の状況により、飲み歩くのもままならず、とうとう我が家に猫バーをオープン。気に入ったウイスキーを近くのＯＫストアで購入して飲んでます。いずれも１０００円台のウイスキーの１０００ベロ酒場。お代は猫に小判。おや早速のお客さん。最近飲んでるのは、Scotch Whisky Dewar'sとIrish Whiskey Jameson。スコッチとアイリッシュでは同じウイスキーでも英語のスペルが違うのが興味深い。味は好みに依るが、Dewar'sはオンザロックで、Jamesonはサントリーの南アルプス炭酸水で割るとおいしい。飲み方も人様々。 たまにはカクテルも。今宵も猫バーの夜は更け行く。
今宵も猫バーでウヰスキーを