(FIT2026) 3日目

Share on:

台風24号さんもお疲れ様でした!(沖縄周回中に消えそう)

自然言語処理(LLM)

  • E-046 日本語キャッチコピー評価のための LLM as a Judge の検証
    • キャッチコピーは何を伝えるか、どう伝えるかに分けられる。質の高い「どう伝えるか」は難しい。
    • 問い:プロの評価基準を言語化すれば、LLMは人間の判断を再現できるか?
    • プロのコピーライター5名への調査に基づくJudge評価基準構築。汎化限界とモデル選択関する知見を得た。過去の作品に対して評価し、理由を述べて貰う形のインタビュー。3名の完全一致は僅か28%。正解ラベルの統一は困難。今回は一致度の高い正解ラベルを優先抽出してGold Standard Datasetとした。Train(同ブランド)に対しては0.79ぐらいまでいくが、valid(分布が異なる)では0.44、test(異ブランド)では0.19まで下がる。Judge誤りは一貫して「甘い」方向に振れる。
    • コメント: キャッチコピーを付ける対象そのものに関する情報は何をどのように与えているのだろう。インタビューはバイアス高そうな印象。インタビュー結果→因子分析→質問紙作成みたいなことを繰り返して収束するまでやるのが良いのかな。平均見るならこれで良さそうだけど「尖った評価」は逆に消えてしまいそうな気もするな。Judge誤りが一貫して甘くするのが真なら対策しやすいけど、データ分布(ドメイン)によらない?
  • E-047 Enhancing Few-Shot Writing Style Imitation in Fine-Tuned LLMs via Authorship Verification
    • Few-shotでスタイル分析し、スタイルに沿ったrewritingするという話。ただしスタイルには linguistic/persona を考慮したい。単に水増しするのではなく、フィルタ構築してデータセット構築。
    • コメント: 丁寧にフィルタ作れたという話だと思うけど、ドメイン依存度高そうな印象。実験では複数ドメインでうまくいったという結果を示してたけれども、そんなにうまくいくの?
  • E-048 連想課題に基づくLLMのペルソナプロンプト設計と出力多様性評価
    • 自由連想課題:あくび→ねむけ、睡眠、、、。連想語分布を分析対象とする。
    • 仮説:性格特性付与による多様性向上
    • 結果:連想語分布が広がるが、人間と比較して低い。
    • コメント: 多様性確保特化を狙ってるようにみえる(?)けど、多様性だけが欲しいというのはどういう状況だろう。Big Fiveで設計という時点で何かしら方向性のある状態での多様性が欲しい(あるペルソナに沿った範囲での多様性)ではないのかな。ペルソナ設計工夫しようという話な気がするけどそっち方面を踏まえた話は現時点でやってなさそう→討論では少し触れてたので問題意識としては持ってるらしい。
  • E-049 日本語の発達的文法評価ベンチマークの構築に向けた要件の検討
    • 子どもは限られた言語入力で文法を獲得。丸暗記→過剰一般化→例外のマスターというU字型の発達変化。
    • 問い:子どもに近い入力条件で言語モデルを学習したときにこのような変化があられるか?
    • 日本語CHILDESコーパス(子どもと周囲の大人の会話を収録した言語発達過程観察用のコーパス)で学習し、文法知識を評価。文法資源BLiMP/Zorro(幼児言語モデル用に再構成)→日本語版がない。だから設計要件を整理した。
    • コメント: BaybyBERTaみたいな話を日本語でより丁寧にやろうという話かな。ベンチマーク設計に向けた検討偉い。この点で 本日の個人的ベストプレゼンテーション。ポリシーなしに集めただけだと使いづらいからな。
  • E-050 SCANタスクにおけるInformation Bottleneck理論に基づくTransformer内部表現における構文情報保持・圧縮解析
    • 元々の出発点はTransformerの層を削って小さくしたいみたいなところから始まってる研究。
    • うちの学生さんの発表。たくさん質問&コメント貰えて良かった!

イベント企画 教育現場におけるマイクロクレデンシャル

オープニング・趣旨説明

マイクロクレデンシャル:学習成果を細分化して可視化する学修証明。学位では表現できない学習成果を示す学修証明。学修証明をデジタルで発行する国債標準規格 Open Badges。Open Badgesは学位と比べるとより細かなメタデータ(エビデンスへのリンクURLなど)が付与。バッジは「ウォレット」で管理。

講演(1):マイクロクレデンシャルの通用性を高める「資格枠組み(NQF)」

  • 問い:異なる資格や制度の間で、学びの証明をどう理解し、繋げるか。
  • NQF = National Qualifications Framwork. 資格の可視化・国際比較・公的な認知の基盤。国内では資格体系の可視化。国際的には比較の翻訳装置。制度的には資格制度の公的な認知。
  • 日本版NQF = Japanese Educational Qualifications Framework (JEQF)が2025年に認定。日本の教育資格枠組み。

講演(2):マイクロクレデンシャルに関わる国際標準規格とその国際動向

  • 教育・人材開発分野における国際標準化団体: The 1EdTech Consortium(旧称 IMS Global Learning Consortium)
  • Comprehensive Learner Record (CLR) Standard: Open Badgesを含めた包括的証明書。典型的には成績証明書。作品等を含めることもできる。

講演(3):マイクロクレデンシャルの社会実装:JMICROの取り組みとマイクロクレデンシャルの普及に向けた課題

  • 日本マイクロレデンシャル機構 JMICRO

感想

このあたりの全体像全く知らなかったので助かる。NQF大事なの分かるし、JEQF用意できたのも良かったと思うのだけど、「これを広げること」自体を目的にしているようにみえなくも無い点が気がかり。あくまでも手段だよね。