開発・クラウドNEW
Microsoft、USB4ケーブルだけでWindows PCを連結する「RDMA over USB4」発表、3台でQwen3-235Bを実行

要約
MicrosoftはWindows PC同士をUSB4ケーブルで接続し、メモリとGPU計算能力を共有して大型のローカルAIモデルを動かす「RDMA over USB4」を発表した。開発者向けプレビューを準備中で、Windows Insider ProgramのExperimentalチャネルで近日公開予定。
何が起きたか
必要なのはUSB4ポート搭載のWindows PCとUSB4ケーブルのみで、従来のRDMAで要るネットワークアダプターは不要。ポート数は2台なら各1個、3台なら各2個と増える。
16KiBのデータのやり取りでは、Ethernet over USB4の194マイクロ秒に対し50マイクロ秒で、3.9倍高速。40GbpsでもUSB4ポートなら動き、80Gbpsのほうが長大コンテキストで有利という。
AMD Ryzen AI Max(Radeon 8060S、メモリ128GB)3台を40Gbpsで接続し、Qwen3-235B-A22Bの4ビット量子化版をデコード21.98トークン/秒、プリフィル117.98トークン/秒で実行できた。Intel Core Ultra Series 3搭載機の連結でもgpt-oss-120bを動かしている。
検証はAMD Ryzen AI MaxシリーズとIntel Core Ultra Series 3で行われた。プロバイダーとサンプルコードはGitHubの「microsoft/windows-usb4-rdma」と「microsoft/llama.cpp-nd-usb4」で公開されている。
なぜ重要か
専用ネットワーク機器なしで複数台のPCを束ね、1台に収まらない大型モデルをローカル実行できる道が開ける。
今後の見通し
Windows Insiderの Experimental チャネル向けプレビューが近日中に提供される予定。