令和7年度 科目A 問1
情報に関する理論
ファインチューニングに関する記述
大規模言語モデルを用いた自然言語処理において,事前学習済みのモデルに対して行う,ファインチューニングに関する記述として,最も適切なものはどれか。
- ア強化学習を行い,最適な結果が得られるようにする。
- イ事前学習と同じデータを繰り返し用いて学習を行い,モデルの精度を高めるようにする。
- ウ大量のテキストデータを用いて学習を行い,モデルの精度を高めるようにする。
- エ特定のデータを用いて追加で学習を行い,目的とするタスクに適用できるようにする。
答えと解説を見る
✓ これが正解エ特定のデータを用いて追加で学習を行い,目的とするタスクに適用できるようにする。
解説
事前学習済みのモデルを特定のデータで追加学習し、目的のタスクに合わせます。
ファインチューニングを見分ける軸は、すでに事前学習を終えたモデルを出発点にして、目的に合わせた追加の学習をするかどうかです。大規模言語モデルは、まず大量のテキストデータで事前学習を行い、言葉に関する幅広い知識を身に付けます。そのうえで、特定の業務や分野のデータを使って追加で学習させると、要約や分類、問合せへの回答など、目的とするタスクに適した振る舞いに調整できます。一から学習し直すのではなく、学習済みのモデルを土台にして仕上げる点がこの手法の特徴です。事前学習は幅広く大量に、ファインチューニングは目的に絞って追加で、と二段階の役割を対にして覚えると見分けやすくなります。
ほかの選択肢はなぜ違うのか
- ア強化学習を行い,最適な結果が得られるよう…:強化学習は、行動の結果に与えられる報酬を手掛かりに、よりよい行動を学んでいく学習方法の名前です。この記述は学習のやり方の種類を述べているだけで、学習済みのモデルを特定の目的に合わせて追加で学習させるという中身には触れていません。
- イ事前学習と同じデータを繰り返し用いて学習…:事前学習で使ったものと同じデータを繰り返し使っても、モデルが新しい目的に合わせて調整されるわけではありません。目的とするタスク向けのデータで学習を加えるという狙いを満たさないので、ファインチューニングの説明にはなりません。
- ウ大量のテキストデータを用いて学習を行い,…:大量のテキストデータで学習して精度を高めるという説明は、モデルが言葉の幅広い知識を身に付ける事前学習の段階の姿です。ファインチューニングは、その段階を終えたモデルに対して、目的に絞ったデータで後から行う学習です。
出典:令和7年度 基本情報技術者試験 科目A 問1
この解説に誤りを見つけたら教えてください。直して、直した記録を残します。誤りを報告する(メールが開きます)