新システムとしてTesla V100SでSingularityでSlurmな環境が導入されたので、BERT with SentencePiece を日本語 Wikipedia で学習してモデルを公開しましたを使ってlivedoor ニュースコーパスのジャンル推定するfine-tuningしてみた。

なろう系小説タイトルのつもりで書きましたがわかりやすいようでわかりにくいですねごめんなさい。

• 新システムのGPU使ってみた
  • この記事は琉大 Advent Calendar 2020の19日目です。昨日はdobuzoraさんでした。
• 本記事の趣旨
  • 知能情報コースで2020年10月から新システムが稼働しています。まだまだ不十分なところはありますが、GPU使う環境が11月頃から整い始め、その簡易マニュアルが11月末頃に用意、説明会が行われました。が、参加者が実質シス管メンバ関係者だけだったこともあり、あまりにも勿体ないので使い方やそもそもの前提知識などをまとめておこうというのが今回の趣旨です。一部の記事を研究室学生、3年次実験で紹介してる感じでは少しずつ利用者増えてるぽいです。良き良き。今回はそれらを整理し直してみました。
• GitHub: naltoma/trial-keras-bert
  • うんちく含めて詳細は上記で！
  • 明日はせしさんです！