大規模言語モデルのトレーニングには、出力精度を高めるために入力データの重要度を調整する「重み付け」という仕組みがあります。「IN THE WEIGHTS」は、歴史上の偉人・芸能人・スポーツ選手といったさまざまな人物の名前が、AIモデルの内部でどれほど強く重み付けされているかを確認できるウェブサービスです。誰でもアクセスして特定の名前を入力するだけで、そのモデル内での存在感の強さを視覚的に把握できます。
LLMの「重み付け」という概念は、研究者やエンジニア向けの技術用語として語られることが多かったのですが、IN THE WEIGHTSはそれを一般ユーザーが直感的に触れられる形に落とし込んでいる点が面白いところです。
AIが「誰を知っているか」という問いは実はかなり根本的で、たとえばノーベル賞受賞者でも特定分野外では重みが低いケースや、フィクションのキャラクターなのに実在人物並みの重みを持つケースなど、トレーニングデータの偏りがそのまま可視化される可能性があります。検索エンジンの「被リンク数」が影響力の代理指標だったように、LLMの重み付け強度もある種の「インターネット上での存在感」の写し鏡になっているわけです。
ただし、重み付けの高さが「正確な情報量」と直結するわけではない点には注意が必要です。誤情報やバイアスを含むテキストが大量に流通していた人物は、正確性とは無関係に重みが強くなり得ます。「重み付けが高い＝AIがよく知っている」ではなく、「重み付けが高い＝AIが学習したテキストに頻繁に登場していた」という読み方が正確です。
【編集部補足】
このようなツールが広まると、「自分の名前がAIに学習されているかチェックしたい」というプライバシー観点の関心も高まりやすいと考えられます。ただし一般論として、重み付けの強度は「名前が学習データ内に存在するか否か」とは別の概念であり、重みが低い＝学習されていない、とは言い切れない点も議論になることが多いです。あくまで「どの程度強く関連付けられているか」の相対指標として使うのが現実的な活用範囲でしょう。
手軽に試せるツールとしての価値は高く、LLMの内部構造に興味がある方にとっては格好の入口になりそうです。
関連サービス（広告）
AIの挙動を実際に試してみたい方は、ブラウザだけで本格的なAI画像生成ができる ConoHa AI Canvas
で、出力傾向を自分の手で確かめてみるのも面白い切り口です。
