PHOTONは、富士通などの研究者が提案した言語モデルの新しいアーキテクチャです。名称は「Parallel Hierarchical Operation for TOp-down Networks」の略で、文章を平らなトークン列として毎回たどるTransformerとは異なり、文脈を複数の細かさへ階層化して処理します。狙いは、長い文脈や多数の同時問い合わせで増えるGPUメモリへのアクセスを減らすことです。
PHOTONという名前だけを見て、一般利用者向けの「富士通製チャットサービス」や「既存LLMを即座に置き換える完成製品」と理解するのは早計です。公開情報の中心は研究論文と富士通の技術解説です。本稿では、仕組み、実験結果、想定用途、限界、企業が注目すべき点を分けて説明します。情報は2026年9月6日時点です。
PHOTONは何を解決する研究か
現在の多くの大規模言語モデルはTransformerを基盤にします。回答を一トークンずつ生成するとき、過去の文脈を効率よく再利用するため、KeyとValueをKVキャッシュへ保存します。文脈が長くなり、同時処理する問い合わせが増えるほど、このキャッシュの容量と読み書きが増えます。
GPUには計算能力だけでなく、メモリ容量と帯域という制約があります。長文の生成では、計算器が空いていても、大量のKVキャッシュを読み込む速度が全体を制限する場合があります。これは、長い文書、多数ユーザー、同じ問題へ複数候補を生成する処理で重要です。
PHOTONは、細かなトークンを常に同じ解像度で扱わず、まとまりごとの状態へ圧縮し、必要な細部を上位状態から復元する階層構造を採用します。グローバルな文脈を短い上位系列で扱い、局所的な生成を限られた範囲に閉じ込めることで、KVキャッシュの負担を減らそうとします。
名前の意味
Parallelは、下位の文脈チャンクを並列に扱える設計を示します。Hierarchicalは、トークン、まとまり、より粗い文脈という複数階層を持つことを表します。Operation for TOp-down Networksは、上位の粗い状態から下位の細かな表現を復元する方向を強調しています。
光子を意味する一般語のPHOTONと同じ綴りですが、論文中では各語の頭文字から構成された研究名です。画像生成や光学計算の製品ではなく、自己回帰型の言語生成アーキテクチャとして説明されています。
階層エンコーダーの役割
入力側の階層エンコーダーは、連続する表現をチャンクへまとめ、一つ上の階層の状態に変換します。これを複数段重ねることで、元のトークン系列より短い粗い系列を作ります。
論文のContext Chunkerは、下位階層の一定数の表現を一つのチャンク表現へ写します。Context Encoderは、そのチャンク同士の関係を自己回帰的に処理します。上位へ進むほど系列が短くなるため、長距離の関係をトークン単位より少ない状態で扱えます。
ただし、単純な文章要約を人が読める形で作る処理ではありません。内部の潜在表現を圧縮する学習可能な機構です。「段落を一文へ要約してから回答する」といった通常のアプリ機能と同一視しません。
階層デコーダーの役割
デコーダーは、上位の粗い状態を条件にして、一段下の細かな状態を復元します。各チャンクのローカルデコーダーが見る範囲は一定の大きさへ制限され、異なるチャンクを並列に処理できるよう設計されています。
通常のTransformerでは、新しいトークンが増えるたび、長くなる履歴へ注意を向けます。PHOTONの下位デコーダーはチャンク内の限られた範囲を扱うため、全体の文脈長が増えても局所処理の窓が直接は増えません。大域情報は、短い上位状態から渡されます。
粗い設計図を上位で持ち、その指示に基づいて複数の担当が細部を書く比喩で理解できます。ただし、実際には各チャンクが独立した自然文の担当者になるわけではなく、学習された数値表現を段階的に復元します。
学習時の二つの目的
PHOTONは通常の次トークン予測を使います。つまり、出力レベルでは、過去の文脈に基づき次のトークンの確率を学ぶ自己回帰モデルです。
それに加えて、上から復元した状態が、下から圧縮して得た状態と一致するよう促す補助損失を導入します。論文では、この再帰的一貫性が、後述するRecursive Generationで再エンコードを省くために重要だと説明されています。
効率化のために予測課題を完全に別物へ変えるのではなく、次トークン予測を維持しながら、階層間で情報を往復できるよう学習する設計です。
Hierarchical Generationとは
階層生成では、グローバルな計算を低レートの上位系列へ移し、トークンに近い下位生成を固定サイズの局所窓へ限定します。上位文脈に対応する複数の下位チャンクを並列に復元できる点が、逐次的なトークン生成との違いです。
KVキャッシュについても、下位は現在の局所チャンクに必要な範囲へ抑えられます。長い文脈全体の細かな状態を、すべての階層で同じ頻度に読み続けないことが狙いです。
一方、生成した下位トークンから上位状態を更新するために、下から再びエンコードすると追加負荷が生じます。この負荷をさらに減らす方法が、論文第2版で詳しく示されたRecursive Generationです。
Recursive Generationとは
Recursive Generation、論文中の略称RecGenは、最初に入力を一度だけ階層的に処理した後、生成中は最上位のKVキャッシュだけを伸ばす方式です。下位デコーダーが復元した内部状態を要約し、その情報で最上位の状態を直接更新します。
これにより、新しく生成したトークンを毎回下から上へ再エンコードする工程を省きます。下位デコーダーのキャッシュは固定窓内で使い、チャンク境界で捨てられます。文脈と共に増え続けるグローバルキャッシュを最上位へ限定します。
この置き換えが正確に働くには、下から作った内部状態と上から復元した内部状態が十分に一致する必要があります。そのため、学習時の補助損失で再帰的一貫性を促します。単なる実装上のキャッシュ削除ではなく、学習目標と推論手順を組み合わせた方法です。
「最大475倍」の正しい読み方
富士通の2026年6月24日の技術解説は、PHOTONがTransformerと比べ、GPU当たり最大475倍のマルチクエリー性能を示したと発表しています。注記では、この性能をGPUリソース当たりのスループットと定義しています。
この数値は、一般的なチャット回答が必ず475倍速く表示されるという意味ではありません。600M、900M、1.2Bパラメータ規模の数値実験で、比較対象、モデルサイズ、メモリ予算、複数候補の生成と統合という条件があります。特に1.2Bモデルで、わずかな生成品質の低下と引き換えに約475倍のマルチクエリー計算能力を得たという説明です。
富士通は、PHOTONの小さいKVキャッシュを生かして同じGPUメモリ内で複数の結果を並列生成し、多数決やbest-of-Nで統合する方式も示しています。検証では九つのクエリーを統合して従来Transformerと同水準の性能を得たとしています。
したがって、数字を見る際は、単一問い合わせの待ち時間、同時処理量、単位メモリ当たりのトークン数、品質、モデル規模を分けます。高速という一語では、どの指標が改善したか分かりません。
論文の「最大千倍」との違い
2026年1月8日版の論文要旨は、デコード時のKVキャッシュ通信を減らし、単位メモリ当たりのスループットで最大10の3乗倍、つまり最大千倍と述べています。これは論文が定義するthroughput per unit memoryという実験指標です。
富士通の技術解説の最大475倍は、GPU当たりのマルチクエリー性能として説明されています。評価の切り口や伝え方が異なるため、二つの数字を混ぜて「PHOTONは常に千倍高速」と要約してはいけません。
企業が検討する際は、自社の同時利用数、入力長、出力長、品質目標、GPU、バッチ、待ち時間の要件で再評価します。論文値は技術の可能性を示す重要な結果ですが、製品環境のSLAではありません。
PHOTONとマルチクエリー統合
同じ質問から表現を少し変えた複数の問い合わせや候補を作り、結果を多数決または最良候補選択で統合する考え方です。複数回の推論は通常、計算費とメモリを増やします。PHOTONの効率を利用し、同じGPU予算で候補数を増やすことが提案されています。
これは複数の候補を出せば必ず正解するという意味ではありません。同じ誤りが全候補へ共通する場合、多数決でも直りません。候補の多様性、評価器の信頼性、問題ごとの正解判定方法が必要です。
業務利用を想定するなら、誤答の損失と候補生成費を含めて測ります。法務や医療のように単純な多数決が適さない分野では、根拠確認と専門家の承認を残します。
想定しやすい用途
長い文書を扱うサービス、多数ユーザーの同時利用、AIエージェントが複数の候補を生成するワークフロー、best-of-N、自己検証型の処理は、研究の狙いと関係します。GPUメモリが同時実行数を制限する環境では、KVキャッシュ削減の価値があります。
例えば、一つの問い合わせに対して複数の調査方針を作り、回答候補を評価する処理です。ただし、PHOTONがそのまま検索、ツール実行、権限管理を提供するわけではありません。アプリケーション側のオーケストレーションと安全設計は別に必要です。
オンプレミスや専用環境でGPU台数と消費電力を抑えたい組織にも研究価値があります。実際の導入判断には、モデル学習、既存モデルからの移行、推論基盤、保守、品質評価の総費用を含めます。
現時点で言えないこと
公開論文の評価規模は600Mから1.2Bパラメータです。現在の大規模商用モデルと同じ規模・学習データ・能力で、同じ倍率が得られると公開情報だけから断定できません。スケールを上げた際の品質、学習安定性、実装効率は追加検証が必要です。
また、PHOTONという一般向けチャット製品の料金、申し込み方法、API仕様が、この論文だけで示されたわけではありません。「PHOTON Chatの無料版」「富士通PHOTONの月額」といった検索語に対し、存在を確認できないプランを作って説明してはいけません。
研究発表、試作技術、商用サービス、顧客向け検証を区別します。将来の提供状況は富士通の公式発表で確認します。
Transformerをすぐ置き換えるのか
Transformerには成熟した学習・推論ソフトウェア、モデル資産、最適化、運用ノウハウがあります。新しいアーキテクチャが特定実験で効率を示しても、既存モデルをそのまま変換できるとは限りません。
比較には、事前学習に必要な計算、データ量、収束、下流タスク、長文品質、推論ライブラリ、ハードウェア対応、障害調査、監視を含めます。出力スループットだけで総所有コストは決まりません。
PHOTONの意義は、トークン単位の平らな履歴を毎回読む方式以外にも、高速な言語生成の設計空間があることを実験で示した点にあります。短期的な製品置換と、長期的なアーキテクチャ研究を分けて評価します。
企業が今できる準備
まず、自社AI基盤の負荷を、入力長、出力長、同時実行数、初回応答時間、生成速度、KVキャッシュ、GPUメモリ、品質へ分解して測ります。PHOTONの利点が関係するのは、とくに長文と多問い合わせでメモリ帯域が制約になる部分です。
次に、代表的な業務データで単一回答と複数候補統合を比較します。正解率だけでなく、根拠、候補間の多様性、評価時間、人の確認、エネルギー、費用を記録します。
最後に、富士通や論文著者から、コード、モデル、ライセンス、提供形態、対応ハードウェア、再現手順に関する新しい公式情報が出たかを確認します。公開されていない仕様を推測して調達条件へ書きません。
まとめ
PHOTONは、文脈を複数階層へ圧縮し、上位から局所的な細部を並列復元する言語モデルアーキテクチャです。Recursive Generationでは、生成中に伸びるグローバルKVキャッシュを最上位へ絞り、下からの再エンコードを省きます。
富士通発表の最大475倍はGPU当たりのマルチクエリー性能、論文の最大千倍は単位メモリ当たりのスループットという実験指標です。一般的なチャットが常にその倍率で速くなるという意味ではありません。実験値の詳しい読み方は、PHOTONの性能はどう読むべきかも参照してください。
よくある質問
PHOTONは富士通のチャットサービスですか
公開情報の中心は言語モデルの研究アーキテクチャです。一般向けチャット製品の料金や申込方法が論文で示されたわけではありません。
ChatGPTなどが必ず475倍速くなりますか
その意味ではありません。最大475倍は、特定規模と条件で測ったGPU当たりのマルチクエリー性能です。既存商用サービスへの適用結果ではありません。
最大千倍という説明も正しいですか
論文は単位メモリ当たりのスループットで最大10の3乗倍と報告しています。最大475倍とは指標の切り口が異なり、一般的な応答速度へそのまま置き換えられません。
PHOTONの利点が出やすい用途は何ですか
長い文脈、多数の同時問い合わせ、複数候補の並列生成など、KVキャッシュとメモリ帯域が制約になる用途が研究上の対象です。