近年の機械学習やクラウドコンピューティングの技術発展により、大量のデータが生成されています。 その膨大な計算量に対応するため、多くのコアがシングルプロセッサ上に統合されるようになってきましたが、メモリ帯域幅と密度はCPUコアの増加に対して飛躍的に向上しておらず、メモリとCPU性能の間にギャップが生じてきています。 それを解決する新たなメモリ向けインターフェイス技術としてCXL（Compute Express Link）の実装がサーバー向けCPUで始まっています。 CXL技術を用いたデバイスを利用する事で追加のメモリ領域や拡張デバイスをPCの外側に構築する事ができ、自由にメモリ容量の追加やデバイス振り分けが可能になります。

CXLでは物理層に高速なPCI-Expressバスを利用し、プロトコルによって低遅延で信頼性のあるメモリアクセスを実現しています。デバイスへのアクセス方法ごとに異なるプロトコルが用意されており、メモリの拡張はType3に分類されます。CXLで拡張されたメモリはメモリ階層図ではローカルメモリとディスクキャッシュの間を埋める位置となり、ディスクキャッシュよりも低遅延で、ローカルメモリよりも大きく拡張可能なメモリ領域をCPUが利用可能になります。

また、CXLではキャッシュコヒーレンシをサポート。マルチコアでのメモリアクセス時にCPUキャッシュとメモリ内のデータの整合性が取れているので、ローカルメモリへのアクセス同様に一貫したデータアクセスをCPUへ提供可能。NVMeへのキャッシュやRDMA（イーサネット）を用いたキャッシュに比べ、高速かつ安全なメモリアクセスを実現可能です。CXL2.0ではSwitchの機能も実装されるため、CXLメモリプールをより柔軟に分割して各ホストCPUへ割り当てる事が可能となります。

PhotowaveによるCXLメモリ拡張の性能比較のため、FlexGen（LLM推論をオフロード処理して負荷軽減するエンジン）を用いたOPT-66BのLLMモデル推論を、以下のハード仕様で実行しました。