パラメータ
生成AIにおける「パラメータ」は、ざっくり言うと生成AIの「頭の中の知識量」を数値で表したものです。より正確に言うと、学習可能な「重み（weight）」「バイアス（bias）」「埋め込みベクトル」「正規化層の係数」など、ニューラルネットワーク全体の調整可能な値をすべて含む概念です。
生成AIモデルは、学習を通じて「どんな言葉がどういう文脈で使われるか」「どんなパターンが自然か」などを覚えますが、その覚えた内容をすべて数字で持っているのがパラメータだと思ってください。
ただ、なかなかイメージしづらいと思いますので、「重み」と「バイアス」を中心に、ここからもう少し具体的に説明します。
パラメータのイメージ
AIの内部には、たくさんの「ニューロン（生物の神経細胞のようなものです）」があり、それぞれが線（結合）でつながっています。
- 「重み（weight）」は、その結合の強さを示します。情報の「通りやすさ」を決めるバルブのようなものです。「この入力をどれくらい重要視するか」という影響度のことを指します。
- 「バイアス（bias）」は、ニューロンがどのタイミングで反応するかを微調整する値です。スイッチが「いつONになるか」を調整するつまみのようなものです。
単に出力を押し上げたり下げたりするだけでなく、活性化関数（Sigmoid関数、ReLU関数など）のしきい値をずらすことで、「入力が小さいときでも反応するかどうか」などを決める役割を担います。
AIは学習を通じて、これらの値を少しずつ変えながら、「入力 → 出力」の関係をより正確に表現できるようになります。
「処方解析用の生成AI」を例に挙げると
仮に「処方解析用の生成AI」があったとしましょう。前提条件として、このAIは学習の過程で「薬剤Aと薬剤Bを併用するときのリスク度合い」を数値（＝パラメータ）として学んでいるものとします。
この生成AIが、次のような質問をされたとします。
「この処方内容に、相互作用のリスクが高い組み合わせの薬剤はあるか？」
その後、生成AIは学習データから以下のような判断を下します。
（注：架空の例示です。実際の相互作用の程度を正確に表しているわけではありません）
| 組み合わせ | 重み | 出力（例） |
|---|---|---|
| ワルファリン＋ミコナゾール | 1.00 | 併用禁忌 ミコナゾールがワルファリンの肝薬物代謝酵素を阻害する。 |
| クラリスロマイシン＋レンボレキサント | 0.90 | 強い相互作用：併用注意 レンボレキサントの代謝酵素であるCYP3Aを阻害し、レンボレキサントの血漿中濃度を上昇させるおそれがある。 |
| メトホルミン＋インスリン製剤 | 0.70 | 併用注意 併用による血糖降下作用の増強のリスクあり。 |
| アムロジピン＋アセトアミノフェン | 0.20 | 問題なし |
この表の場合は、併用の危険度が「重み」です。
この情報に加えて、患者さんの背景情報（年齢・腎機能・肝機能・既往歴…etc.）によって、リスクを少し補正する必要があります。この補正値が「バイアス」の働きに近いです。
これらのパラメータが絡み合って、「薬剤間の相互作用」や「患者さんの状態による補正」を表現しているわけです。
パラメータ数と生成AIの「賢さ」
よく「GPT-3は1,750億パラメータ」「GPT-4は兆単位」などと言われていますが、
これは生成AIが持つ「学習済みの重み・バイアスなどの総数」を示しています。
確かに、パラメータが多いほど表現力（＝より複雑な知識を扱う力）は高まりますが、
実際の性能はパラメータ数だけで決まるわけではありません。
AIの賢さを左右するのは、
- 学習データの質と多様性
- 最適化手法や正則化による訓練の安定性
- アーキテクチャの工夫（例：Transformerの注意機構、Mixture-of-Experts構造など）
なども同等以上に重要です。
（補足）
最適化手法：AIが「より正しい答え」を出せるように、パラメータを調整していく学習の進め方
正則化：AIが「過学習（訓練データには完璧に答えられるが、新しいデータには弱い）」状態にならないように、ブレーキをかける工夫
アーキテクチャ：AIの「脳の構造」や「情報の流れ方」の設計図
また、モデル圧縮や知識蒸留によって、少ないパラメータでも性能を維持できる技術も発展しています。
文脈理解の源でもある
生成AIが自然な文章を作れるのは、学習過程において、パラメータの重みが
- 単語の共起（どの単語がどの単語とよく一緒に出るか）
- 構文構造（文法的つながり）
- セマンティクス（意味的近さ）
などの確率的パターンを「符号化」しているためです。
AIはこれらをもとに、「この文脈では、次にどの単語が最も出現する可能性が高いか」を
確率分布に基づいて予測（＝次の語を予測）しています。
つまり、パラメータは「言語世界の確率マップ」ともいえる存在なのです。
まとめ
生成AIのパラメータは、モデル全体の学習済みの設定値（重み・バイアス・埋め込み・正規化係数など）を指します。それらが言語や知識の「確率的パターンを符号化」しており、次に来る言葉を最も自然に予測できるように導いているのです。
このようにパラメータ数は重要な要素ですが、AIの「賢さ」を上げたい時は、データ品質やアーキテクチャの設計も同じくらい大切です。
