ParaRNNとは何ですか？

ParaRNNは非線形リカレントニューラルネットワークを並列学習する手法で、大規模モデルの学習を劇的に高速化します。

ParaRNNはどれだけ速いですか？

Appleの報告によると、非線形RNNの逐次学習と比べて665倍の高速化を達成しています。

AppleはICLR 2026で5本の論文を発表しており、RNN、状態空間モデル、マルチモーダルモデル、3D再構成、タンパク質構造予測をカバーしています。

Appleは今週リオデジャネイロで開催されているICLR 2026カンファレンスで、機械学習分野の5本の研究論文を発表しました。中でも最も注目を集めているのがParaRNN——Transformer時代におけるリカレントニューラルネットワークの位置づけを再考する手法です。

リカレントニューラルネットワーク（RNN）は、並列学習ができないという理由で長年二番手に甘んじてきました。各タイムステップが前のステップに依存するためです。ParaRNNはこの問題を解決します——より表現力が高いものの並列化がさらに難しい非線形RNNにも対応しています。

Appleは逐次的アプローチと比べて665倍の高速化を報告しています。この数字は、RNNを数十億パラメータ規模に拡張できることを意味するため重要です。この規模になると、線形メモリ複雑性というRNNの従来の優位点を保ちながら、実用面でTransformerと競合できるようになります。

iPhoneのようなリソースが限られたデバイスでモデルを動かす必要があるAppleにとって、これは戦略的に重要です。線形メモリを持つRNNは、Transformerを悩ます二次的な増加なしに長いコンテキストを処理できます。

ParaRNNに加えて、Appleはさらに4本の論文を発表しました。ツール使用を組み込んだ状態空間モデルは、SSMアーキテクチャをツールと組み合わせてコンテキスト長への汎化を改善する方法を示しています——モデルが学習時より長いテキストを処理する必要があるタスクで重要です。

MANZANOは、異なるモダリティ用の独立したエンコーダなしに、単一のアーキテクチャでテキストと画像を処理する統合マルチモーダルモデルです。

3本目の論文は1枚の写真から1秒未満で3Dシーンを合成する手法を記述しており、ARアプリケーションや3Dコンテンツ生成に重要です。4本目はSimpleFoldで、AlphaFoldが使うような専門的なアーキテクチャなしにタンパク質構造を予測するモデルです。

最も権威あるML学会の一つで5本の論文が採択されたことは、Appleが既存モデルの製品化だけでなく基礎研究への継続的な投資を示しています。効率性へのフォーカス——並列化、線形メモリ、高速3D合成——は、Appleがモデルをクラウド専用ではなく消費者向けハードウェアで動かす必要性と一致しています。

Appleはこれらの研究成果の具体的な製品統合を発表していませんが、ParaRNNやツール使用対応SSMなどのアーキテクチャは、将来のApple Intelligenceシステムの有力候補です。