「NPU」とは

NPUとは？

最近のプロセッサーには、AI処理に特化した「NPU（エヌピーユー：Neural network Processing Unit：ニューラルプロセッシングユニット）」が搭載されることが増えています。このNPUは、その名前のとおり、ニューラルネットワーク、つまり、人間の脳の働きを模範して、データからパターンを学習するモデルを処理するための専用の処理装置となります。
パソコンにも搭載される、CPUや、GPUでも同様の処理を行うことができますが、様々な命令パターンの処理に対応するための汎用的な構造を取ることから、「電力あたりの処理効率」は専用の処理装置であるNPUの方が優れています。
NPUの「電力あたりの処理効率」の良さから、パソコンだけでなく、スマートフォンなど身の回りの端末にも搭載され、今後も増えていくであろう、AIに対応したアプリケーションのローカル実行の流行に対して、ますますその存在価値が高まっていくものとして注目されています。

CPU、GPU、NPUの違い

CPU、GPU、NPUの大まかな違いは下記のようになります。概念的なものであり実際の構造はメーカーなどにより異なります。

➀CPUは高性能で複雑な制御や様々な命令を実行することができる演算ユニットを少数備えて（4コアや8コアなどと表現される）順次処理を行う構造となっています。

➁CPUに対して、GPUはCPUよりもシンプルな演算ユニットを多数備えて（CUDAコア10240基や、ストリーミングプロセッサー6144基などと表現される）並列処理を得意とする構造となっています。最新のものでは汎用のものに加えて、レイトレーシングやAI処理に特化する演算ユニットを備えたものが主流になっています。

➂NPUはCPUやGPUよりもシンプルな演算ユニットを多数並列かつ多段に配置され、それぞれが相互に接続し、人間の脳神経細胞（ニューロン）を模した構造になっています。この特殊な構造により、AI処理を非常に効率よく処理できるようになっています。

CPU、GPU、NPUの概念図（実際の構造ではありません）

NPUの特徴

ここではNPUの主な特徴について紹介いたします。

AI処理の高速化

NPUは、AI処理を高速化するために設計されており、AI処理のスピードと効率を飛躍的に向上させることができます。
具体的な例として、リアルタイムでの画像認識、音声解析、自然言語処理などに効果を発揮する事が期待されています。

CPU負荷の軽減

負荷が大きいAI処理をNPUが担うため、CPUの負荷が低減されることによりCPU処理のアプリケーションなどの遅延を抑えられます。

低消費電力

NPUは、8ビット整数のINT8での演算などのAIの推論処理に特化した設計になっているため、CPUやGPUが処理するよりも消費電力を抑えることができます。これにより、スマートフォンなどのバッテリー駆動のデバイスにおいても、長時間の使用が可能となります。

オンデバイス環境

NPUが手元のデバイスに搭載されることにより、AI処理のためにインターネット経由でクラウドやサーバーにデータを送る必要が無くなるため、リアルタイム性が求められるような処理（例えば、オンライン会議などのカメラ映像のリアルタイムな背景合成や、目線補正など）が可能になります。
また、プライバシーデータや、機密情報を含むようなデータを扱う場合（例えば、プライバシーや機密情報を含む写真や映像、音声をAIで加工、合成、文字起こしするなど）にもデータを外部に出すことなくデバイス内で処理を行うことが出来ようになり、セキュリティやプライバシー保護の向上を見込むことができます。

各社のNPU搭載プロセッサー

Microsoftが発表したWindows PCの新しいカテゴリーであるCopilot+ PCは、ハードウェアの最小システム要件として、40TOPS以上の処理性能を持つNPUを搭載していることを挙げています。
TOPS（Tera Operations Per Second）とは、コンピュータの処理性能を表す単位の一つで、1秒間に何兆回演算が実行できるかを示すものです。
1TOPSは1秒間に1兆回の整数演算が実行できる処理性能を表します。従来のNPUを搭載しているPCは、主にAI PCと呼ばれています。

ここでは、NPUを開発している主要メーカーと、そのNPUを紹介いたします。

Intel：Intel AI Boostという名称で、インテル Core Ultra シリーズに搭載されています。ノートPC向けのCore Ultra プロセッサー（シリーズ 2）では、Copilot+要件を満たすNPUを搭載したプロセッサーも登場しています。

AMD：Ryzen AI シリーズの名称で複数のモバイルCPUに搭載されています。Ryzen AI 300 シリーズは、Copilot+要件を満たす上位モデルで、搭載PCも発表されました。また、Ryzen 7 8700G・Ryzen 5 8600Gはデスクトップ向けCPUですがNPUを搭載しており、AI PCを自作することも可能です。

Qualcomm：NPUはQualcomm Hexagonの名称で、スマートフォン向けCPUに搭載されていましたが、最新のHexagonがCopilot+ PCで採用され話題となりました。

Apple：Windows PCではありませんが、Apple社はApple Neural Engineと呼ぶNPUを、iPhone 8時代から搭載しています。

「Copilot+ PC」とは

NPUでAI処理の効率化

NPUは、各社の大規模言語モデルやAI技術への対応が進んでおり、今後さらに需要が高まっていくことが予想されます。現時点においてNPUを活用するAIアプリケーションは多くありませんが、将来的にはAIサービスが充実すると期待されています。AIアプリケーションを利用したい方は、NPUを搭載したデバイスを使用すると、より効率良く実行できるためおすすめです。