# データ・マイニング
- [琉大知能情報コース](https://ie.u-ryukyu.ac.jp/~tnal/2025/dm/)3年次向けの選択科目、かつ、工学部の融合選択科目。
  - 2021年度から前期開講になることを受け、Numpy/Pandas/Matplotlib周りの演習も加えています。
  - 2022年度
    - 演習追加予定。
    - spacyの都合で pip を推奨。詳細は[前提](./1-intro/env.md)参照。
  - 2024年度
    - Transformerを追加。コード例の多くはこちらに追加済みだが、授業資料はまだこちらに含めていない。
  - 2025年度
    - 本授業の継続2026年度までのため、微修正に留める予定。
  - 2026年度
    - 特徴量エンジニアリング進化史を明文化。
    - 課題2を更新。
    - Spacyトラブルへの対応。Python 3.12 + Spacy 3.8 + Ginza 5.2 の構成だとそのままでは動作しないため、config設定を追加。
    - 課題3を更新。
    - 課題4を更新。
    - word2vec周りを[特徴量設計の進化：word2vecから深層学習への道](./4-nlp/towards_deeplearning2.md)へ刷新。

---
## 参考文献
- データマイニング・機械学習全般
  - [Data Mining: Practical Machine Learning Tools and Techniques, 4th Edition](http://www.cs.waikato.ac.nz/ml/weka/book.html), 代表的なアルゴリズムとそれを用いた事例集。深層学習まで含みます。学内接続で[附属図書館の電子版](http://opac.lib.u-ryukyu.ac.jp/opc/xc/openurl/search?rft.isbn=9780128042915)読めます。
  - [データからの知識発見](https://www.amazon.co.jp/dp/459531373X/), 代表的なアルゴリズムの解説本。1冊にまとめてるためにやや急ぎ足ですが、多数のアルゴリズムを概観するならオススメ。
  - [Python Machine Learning: Machine Learning and Deep Learning with Python, scikit-learn, and TensorFlow 2, 3rd Edition](https://www.amazon.co.jp/dp/1789955750), scikit-learnをベースに「適用方法」を中心に解説。
  - [Pythonで動かして学ぶ！あたらしい機械学習の教科書 第2版](https://www.shoeisha.co.jp/book/detail/9784798159911), 機械学習の中身をシミュレーション＆可視化しながら学んでいく教科書。
  - [機械学習のエッセンス 実装しながら学ぶPython、数学、アルゴリズム](https://www.sbcr.jp/product/4797393965/), 数学中心に基礎から学んでいく教科書。
  - [仕事ではじめる機械学習](https://www.oreilly.co.jp/books/9784873118215/), タスク視点から整理した事例集。
- 特徴量エンジニアリング
  - [機械学習のための特徴量エンジニアリング――その原理とPythonによる実践](https://www.oreilly.co.jp/books/9784873118680/), 機械学習を具体的なタスクに適用しようとした際に直面する「あるある事例集」。
  - [5.3. Preprocessing data](https://scikit-learn.org/stable/modules/preprocessing.html)
- 自然言語処理
  - [自然言語処理の基礎](https://www.ohmsha.co.jp/book/9784274229008/), オーム社, 2022年8月24日
  - [自然言語処理 (放送大学教材)](https://www.amazon.co.jp/dp/4595319584/)
  - [ゼロから作るDeep Learning ――Pythonで学ぶディープラーニングの理論と実装](https://www.oreilly.co.jp/books/9784873117584/)
  - [ゼロから作るDeep Learning ❷ ――自然言語処理編](https://www.oreilly.co.jp/books/9784873118369/)
  - [深層学習](https://www.kspub.co.jp/book/detail/1529021.html)
  - [自然言語処理の基本と技術](https://www.shoeisha.co.jp/book/detail/9784798128528)
  - NLTK: [Natural Language Processing with Python – Analyzing Text with the Natural Language Toolkit](https://www.nltk.org/book/)
  - [MeCab: Yet Another Part-of-Speech and Morphological Analyzer](https://taku910.github.io/mecab/)
  - [日本語構文・格・照応解析システム KNP](http://nlp.ist.i.kyoto-u.ac.jp/index.php?KNP)
    - [KNPの基本的な出力の読み方](http://cr.fvcrc.i.nagoya-u.ac.jp/~sasano/knp/format.html)
    - [pyknp: Python Module for JUMAN++/KNP](https://pyknp.readthedocs.io/en/latest/)
  - [Python による日本語自然言語処理](http://www.nltk.org/book-jp/ch12.html)
    - Python 2.x時代のコード。関連ライブラリも当時のもののため、そのままでは動作しないコード例あり。自然言語処理における代表的なタスクや取組事例として参考にしよう。
  - [GiNZA公式サイト](https://megagonlabs.github.io/ginza/)
  - [spaCy公式サイト](https://spacy.io)
  - [word2vecによる自然言語処理](https://www.oreilly.co.jp/books/9784873116839/)
  - [gensim](https://radimrehurek.com/gensim/)
  - [fastText](https://fasttext.cc)
  - [BERT](https://ai.googleblog.com/2018/11/open-sourcing-bert-state-of-art-pre.html)
  - T5
  - GPT-3
  - 事例紹介
    - [自然言語処理 #2 Advent Calendar 2019](https://qiita.com/advent-calendar/2019/nlp2)
    - [自然言語処理 Advent Calendar 2020](https://qiita.com/advent-calendar/2020/nlp)