LLMの仕組み(簡単バージョン)
この動画で学べること
LLMとは何か:大量テキストから学習し、あらゆる文の「次の語」の確率分布を出す関数として捉える。3blue1brown.com
チャットが成り立つ仕組み:人間とAIの台本を用意し、“AIの返答”部分を次語予測を繰り返して生成するイメージ。3blue1brown.com/gigazine
学習の直感:正解とのズレを減らすように確率を調整していく(損失を下げる)ことで、もっと“それらしい”文を出せるようになる。3blue1brown.com
出力が毎回少し違う理由:確率に基づいて語を選ぶため、サンプリングでバリエーションが生まれる。3blue1brown.com
限界の理解:LLMは世界知識を“理解”して答えるというより、言語のパターンをうまく予測している、という立場。3blue1brown.com
前へ
【なぜ人間は宇宙に存在し続けている?】現代物理学の謎、素粒子研究の最前線/ライバルは「カミオカンデ」米の最新プロジェクト/ハーバード大学 久保田しおん【EXTREME SCIENCE】
次へ