機械学習エンジニアのためのTransformers の商品レビュー

ルイス・タンスタール(著者),レアンドロ・フォン・ウェラ(著者),トーマス・ウルフ(著者),中山光樹(訳者)

2024/07/02

本書によって、Hugging Face が提供する NLP や機械学習のためのエコシステムの概要を知ることができる。また、そのエコシステムを利用した様々なタスクの実行方法についても触れることができる。タスクは大まかには、トークン化、テキスト生成、文章の要約、質疑応答システムなどである。後半では、ラベル付けや学習方法の説明もある。

3章『Transformer の詳細』では、Transformer が含むエンコーダ、デコーダ部の構造を含むアーキテクチャが Python のコードによって解説される。数式による説明はないので、理論を学ぶというよりは処理の流れを知るという程度の理解に留まる。

Transformer が依存する数学的な仕組みを理解するのであれば、他の書籍をあたる必要があるだろうが、そのきっかけを作ったり、Hugging Face のエコシステムを利用して学習に役立てたりといった目的には有益だと感じた。

2023/07/24

Maker Faire Kyoto 2023 で購入。Transformerはさんざん解説動画を読んでいるけれど、もっと本質を知りたいと思って。

積読なう。

2023/02/03

様々なAIモデルを共有できるHugging FaceのTransformersの使い方をNLPを対象に紹介している書籍。Hugging Faceの中の人が執筆している。
NLPには様々なタスクがあるが、この書籍では王道のテキスト分類・固有表現抽出・テキスト生成・要約・質問応答、といった幅広いタスクを学ぶことができ、NLPをざっくり学びたいという目的としても活用することが出来る。
また、それだけではなく、Transformerの構造の説明やAIモデルの高速化方法(蒸留や枝刈りなど)、半教師あり学習などのTransformersの使い方以外の重要なポイントも解説されている。
Transformersの使い方を学びたいという人はもちろんのこと、NLPや実務的なテクニックを学びたい人にもお勧めできる書籍だ。
マイナス点としては、翻訳の質があまり良くない印象があり、読みづらかったことが挙げられる。