AIチップ

AIチップとは

AIチップとは、AIの演算処理を高速化するための半導体です。AIでの機械学習による画像認識や音声認識、ディープラーニングによる膨大な演算処理が行われます。

一般的にAIの演算処理には、膨大なデータの統計から、特徴の組み合わせパターンを作り出す『学習プロセス』と、識別や分類したいデータを、学習で生成したパターンの推論モデルに当てはめて結果を導く『推論プロセス』に分かれます。

それを処理するAIチップにも、それぞれのプロセスに応じた学習用と推論用の2種類が存在します。

画像処理やAI処理において、現在、高性能なGPU(画像処理装置)が必要となっており、学習用は、GPU(画像処理装置)でほぼ標準化されつつあります。

一方で、学習用と推論用とではスペックも異なり、推論用のAIチップはGPU以外にもFPGAやASICでも実現が可能です。

特にエッジ向けの推論用のAIチップは、IoTと共に現場でのAIを処理するデバイスに展開されるため、「演算処理のパフォーマンス」だけではなく、「小さい消費電力」、「広い動作保証温度」、「長い供給期間」といったデバイスへの組込み実装に向けた採用検討の軸が必要となっています。

産業向けに適したAIチップについて

産業用途で利用するAIチップも、その用途により選択の幅があります。

既存で既に開発済みのAIアプリケーションでの学習済みデータが存在し、そのデータとの完全なコンパチビリティを重要視する場合や、消費電力、耐熱温度、長期安定供給といった産業グレードでのハードウェア品質を重視する場合などです。

また開発した学習モデルをAIチップ用にデプロイメントするためにメーカーから提供されているSDKの使い勝手や、自社開発環境へ適合するかどうかも重要な要素です。

AI推論処理で必要となる、GPUやAIチップにおいても、ストレージとメモリー同様に、民生品を主力としている製品や、産業用途での利用を想定した製品が存在しています。特に画像AIやエッジAIでの推論処理は、データセンターやオフィスではなく、様々な現場への設置を想定するため、画像処理から派生したGPUではなく、産業グレードでAI推論に特化したAIチップが選択肢として現れてきました。

長期供給、低消費電力で高い推論処理能力を誇る
Hailo社の産業用AIチップ『Hailo-8™ AI Processor』

Hailoロゴ

Hailoは2017年に設立されたIsraelの企業で、エッジデバイス向けに最高性能のAIプロセッサを開発しているチップメーカーです。

同社が開発した「Hailo-8™ AIプロセッサ」は、AI処理に特化しているため、データプールとコンピューティングユニットが非常に小さなエリアに配置されており、外部のI/FやI/Oを使用することなく低遅延/低消費電力で処理を実現することが可能です。

また、開発SDKにおいてもHailoのデータフローコンパイラと、ONNXやTensorflowなど標準AIフレームワークのサポートにより、開発者は手早くニューラルネットワークモデルをポーティングできます

Hailo-8™ AIプロセッサの特徴

AIチップ
  • 高い電力効率でのAI処理

    Hailo-8™は、AI処理に特化したチップで、電力効率3TOPS/Wにおける最高クラスのAI処理性能により『1チップで26TOPS』の性能を誇ります。

    また、複数チップを並列搭載したモジュールを使用することでシステム全体のAI処理性能や機能を拡張します。

  • 高い耐環境性能

    Hailo-8™チップの動作環境は『-40℃~85℃』をサポート。

    耐環境性能の高いIPCと組み合わせる事でさまざまな現場でのAI実装を実現します。

  • 長期供給を予定

    Hailo-8™のチップ自体の供給期間は販売から最長10年(※)を予定。

    長期供給が必要なさまざまな産業用途へご利用頂けます。

    (※)Hailo-8™搭載モジュールをご利用の場合は、Hailo以外の半導体の影響により、Hailoチップ単体のライフサイクルとは異なる可能性がございます。

  • さまざまなプラットフォームに対応【New】

    Hailo-8™はLinux(Ubuntu)だけではなく、WindowsやDockerでの実行環境をサポートします。

HailoのSDKはダウンロードフリー

Hailo-8™のSDKはダウンロードフリーです。

Hailo-8™のSDKでは、業界標準フレームワークに対応したデプロイメントツールにより、業界標準フレームワークからHailoフォーマットへのモデル変換をサポート。チップの動作をビット単位で正確にエミュレートするエミュレータや、チップ性能の推定など、さまざまな解析とデバックに対応しています。

安価な実行環境(Hailo-8™評価開発キット)もご用意しておりますので、手軽に開発環境と実行環境を準備して評価を始めることができます。


Hailoでのコンパイル実装

Hailo-8™のSDKソフトウェアはフリーでご利用いただけます

Hailo-8™のSDKソフトウェアはダウンロードフリーです、Hailo社のホームページからダウンロード頂けます。
またデベロッパーページではAI開発における様々な情報がご参照頂けます。


Hailo-8™のSDKダウンロードページ
https://hailo.ai/developer-zone/sw-downloads/
※入力フォームへの記載が必要です。
※SDKをダウンロードするためには、HailoのThe Developer Zone Access Tracksのアクセスリクエストのレベルを"Full"でご申請ください。
※Hailo社でのユーザー登録にお時間が掛かるケースがございます。Hailo SDKダウンロードにつき、お急ぎのかたは弊社までご連絡を頂ければ個別に調整致します。右上の「お問合せ」よりご用命ください。

Hailo-8™のデベロッパーページ
https://hailo.ai/developer-zone/
開発に関する情報は本ページより入手が可能です。
人々

HailoのAIアプリケーションテンプレート
『TAPPAS(Template APPlications And Solutions)』

Hailoでは、アプリケーションの開発と展開を容易にするため、既にメーカー検証済みのアプリケーション開発テンプレート群 『TAPPAS(Template APPlications And Solutions) 』を公開しています。

TAPPASはアプリケーション開発用の使いやすいPythonベースのテンプレートを提供しており、スループットと電力効率が実証済です。この事前トレーニング済みアプリケーションと開発環境を利用することで、お客様の開発の時間と労力を削減し、市場投入までの時間を短縮することが出来ます。

AI CenterPose


TAPPASのすぐに使えるAIテンプレート

Hailo-8™で複数種類の学習モデルを適用

Hailo-8™ AIプロセッサを複数使用することで、データソースに対して複数の学習モデルを同時に適用したり、リニアにAI処理性能を向上させることが出来ます。

一般的に、ディープラーニングでは、様々なアルゴリズムが開発されており、画像、音声、時系列など『扱うデータソースの種類』や 『分類』 『深度推定』 『物体認識』 『顔の検出』 『姿勢の推定』など、そのデータソースで何を学習させたいかの用途に応じて、都度、最適なアルゴリズムを選択して適用します。

そのエッジ推論では、一つの画像ソースに対して一つの学習モデルが実行されますが、複数のHailo-8™ AIチップを搭載させることで、ソースに対して『複数のアルゴリズムを同時に適用することが可能』です。


AT-IPCFG004でのマルチAIアルゴリズム適用

アナログ・テックでは、Hailo-8™を複数搭載した産業用PCのベースモデルにより、1つの筐体で複数のアルゴリズムを実行するプラットフォームをご用意しています。


■Hailo-8™を搭載した産業用PCベースモデル
https://www.analogtech.co.jp/products/

Hailo社とアナログ・テックのパートナーシップについて

アナログ・テックは、Hailoのハードウェアパートナーです。

Hailo社との連携により、いち早く市場とお客様へAIを実装するための最新のテクノロジーをお届けします。

partner

Hailoのパートナー紹介
https://hailo.ai/our-partners/

ビデオプレゼンテーション

【動画1】Hailo-8™を搭載した画像AI・エッジAIの実装プラットフォーム

弊社の技術開発部より、Hailo-8™のデモンストレーションをご紹介します

Hailo-8™のTAPPASを利用し、さまざまなAI学習モデルをHailo-8™で実行しています。



【動画2】デュアルAIチップ搭載IPCによる、マルチアルゴリズムの適用

Hailo-8™を2基搭載したAT-IPCFG004を用いて、ソースに対して複数の学習モデルを適用して並列処理するプレゼンテーションです。

デモンストレーションでは、2基のHailo-8™を使い、『物体認識のyolo v5』と『姿勢推定のcenterpose』をビデオストリームに同時に適用しています。



Hailo-8™チップ搭載モジュール

Hailo-8™ M.2 AI Acceleration Module

Hailo-8™ M.2モジュールは、AIアプリケーション用のAIアクセラレータモジュールです。NGFF M.2フォームファクターM、B + M、およびA+Eキーと互換性があります。AIモジュールは、26テラオペレーション/秒(TOPS)のHailo-8™AIプロセッサーに基づいており、電力効率が高くなっています。M.2 AIアクセラレーターは、完全なPCIe Gen-3.0 2レーンインターフェイス(Mキーモジュールでは4レーン)を備えており、エッジデバイスに高いAIパフォーマンスを提供します。


Hailo-8™ M.2 AI Acceleration Module
https://hailo.ai/product-hailo/hailo-8-m2-module/
M.2 modules

Hailo-8™ Mini PCIe AI Acceleration Module

Hailo-8™MiniPCIeモジュールは、AIアプリケーション用のAIアクセラレータモジュールです。PCI Express Mini(mPCIe)フォームファクターと互換性があります。Mini PCIe AIアクセラレーターは、業界をリードする電力効率で、エッジデバイスに高いAIパフォーマンス(最大13テラオペレーション/秒(TOPS))を提供します。

Mini PCIe modules

Hailo-8™ Century Evaluation Platform

高性能なエッジでのビデオ分析システムの開発者をサポートするために、Hailo-8™ AIプロセッサをマルチチップ構成で利用可能な、開発、プロトタイピング、評価用に設計されたPCIeボードです。消費電力25Wで最大104TOPSのAIパフォーマンスを実現します。

Mini PCI hailo-8-multy-chip modules

Hailo-8™や、NVIDIA®Jetson™を搭載した
アナログ・テックのAI開発・実装ソリューション

Hailo-8™ AI Processorの実行環境を安価で手軽に入手『Hailo-8™ 評価開発キット』

Hailo-8™ AI ProcessorでAIアプリケーションの開発を行うための評価開発キット

Hailo-8™ AI Processorを使用したAIアプリケーションの開発を手軽にはじめるための開発環境をパッケージングしました。SDKをインストール可能な開発PCがご用意できるお客様はHailo-8™ AI Processorの実行環境のみの簡易キット。SDKをインストール可能な開発PCがご用意できないお客様は、SDKも動作可能な産業用PCにHailo-8™ AI Processorの実行環境を搭載した標準キットをご提供致します。


Hailo-8™ 評価開発キットのご紹介
https://www.analogtech.co.jp/products/hailo8mpcie/
Hailo-8評価開発キット

最新AIチップを搭載した耐環境エッジAIベースモデル『耐環境エッジAIコンピュータ』

耐振動、耐温度、防塵など。耐環境性能が要求される環境で、高性能な画像AIを展開するためのプラットフォーム

耐環境性能を高めた筐体に、AI推論に向けたAIチップやAIモジュールを搭載。データセンタークラスの低遅延で高速なAI処理をエッジデバイスで提供します。「Hailo-8™ AI Processor」や「NVIDIA® Jetson Xavier™ NX」など、用途に応じてさまざまなAIチップを搭載可能なIndustrial PCのベースモデル、そして、それらをクラウドやデータセンターへ接続するためのSIM搭載の産業用IoTルータや耐環境の産業用カメラもご用意しています。


耐環境AIエッジコンピュータ AT-IPCFGのご紹介
https://www.analogtech.co.jp/products-IPC-ATIPCFG/

IoTルータ amnimo IoTルータのご紹介
https://www.analogtech.co.jp/products/products-IoT-Router/
耐環境エッジAIコンピュータ

資料請求・お見積・導入に関するご相談等、お気軽にお問い合わせください。