<h2 id="外観検査に特化エッジaiを活用した迅速でセキュアな製造現場dxが可能に少ない正常データのみで学習全てのai動作がエッジデバイスで完結">外観検査に特化、エッジAIを活用した迅速でセキュアな製造現場DXが可能に
‐少ない正常データのみで学習、全てのAI動作がエッジデバイスで完結‐</h2>
<p>エッジAIのスタンダードを創るLeapMind株式会社（所在地：東京都渋谷区、代表取締役CEO：松田 総一、読み方：リープマインド、以下LeapMind）は2022年5月25日、超低消費電力AIアクセラレータIP「Efficiera®（エフィシエラ）」の技術を用いた新たなディープラーニングモデル「Efficiera 異常検知モデル」を開発し、6月から提供を開始することを発表しました。製造業向けの外観検査に特化し、人手不足が叫ばれる製造現場における迅速な省人化やセキュリティリスク低減に貢献します。</p>
<p><img src="/images/posts/news/7679/db9df7f6-ad%E3%82%A4%E3%83%A1%E3%83%BC%E3%82%B8.png" alt="「Efficiera 異常検知モデル」の活用活用イメージ" title="「Efficiera 異常検知モデル」の活用活用イメージ"></p>
<h2 id="異常検知モデルのポイント">「異常検知モデル」のポイント</h2>
<h3 id="正常データのみで学習が完了">•正常データのみで学習が完了</h3>
<p>学習時に外部委託することの多いアノテーション作業が不要になるため、顧客等との秘密保持契約締結が不要です。また、多量の不良品データの準備も不要な上、数秒で学習が完了するため現場への迅速なAI導入が可能です。</p>
<h3 id="学習と推論がともにfpga搭載のエッジデバイス上で完結">•学習と推論がともにFPGA搭載のエッジデバイス上で完結</h3>
<p>画像データの社外送信が不要なため、情報漏えいリスクの低減、煩雑な秘密保持契約が要らず、省力化につながります。
ネットワーク環境のない場所での利用も可能です。</p>
<h3 id="aiエンジニアがいなくても現場で再学習可能">•AIエンジニアがいなくても、現場で再学習可能</h3>
<p>ヒートマップで異常箇所を分かりやすく視覚化。AIの学習結果を保存して再読み込みが可能、簡単に現場でのやり直しが可能となり、IT人材の確保が困難な企業でも利用できます。</p>
<p>慢性的な人手不足により、製造業の現場では自動化へのニーズが高まっています。検品などの外観検査ではAI活用が注目されていますが、IT人材の不足や設備にかかるコストの高さが課題です。また、AIの学習に必要な不良品データの収集が困難なことに加えて、消費者ニーズの多様化から多品種少量生産への対応が求められており、検査対象の変更に伴うAIの再学習にAIエンジニアのサポートを必要とするケースも想定されます。こうした対応への労力も導入ハードルとなっています。</p>
<p>LeapMindはこれまでも、ディープラーニングを使ったデバイスを世に広め、人々の生活を便利にするため、様々なエッジデバイスへディープラーニング機能を組み込むことができるAIアクセラレータIP「Efficiera®」を開発してきました。この度開発した「Efficiera 異常検知モデル」は、独自の技術「極小量子化技術」等を活かし、現場での実用に即した、高セキュリティかつ運用しやすいAI外観検査を実現します。学習と推論がともにFPGA搭載小型エッジデバイス上で完結することに加え、学習が正常データのみで完了するという二つの特徴によって、様々な利点を持たせました。クラウドAIを利用する場合と比べて、検査対象の画像をデバイス外に出す必要がないため、社外送信時に懸念される情報漏えいのリスクを低減するほか、広帯域ネットワークやクラウドサービス利用料の削減にも貢献します。また、オンプレミスGPUサーバーを利用する場合と比べると、機材コストや設置スペースを理由とした拡張性への懸念も解決します。
さらに、学習は数十枚の正常データのみを使って数秒で完了し、多量の不良品データが不要です。正常データのみで学習できるため、アノテーション*¹ 作業が不要となり、また学習した不良しか検知できないというリスクを下げ、想定外の異常も検知することが可能です。再学習時の動作も簡便で、AIが異常と判定した箇所をヒートマップで視覚化するため、多品種少量生産ラインでもAIエンジニアのサポートを受けることなく現場で簡単に調整できます。学習結果は数MBのデータに保存して後から推論に利用できるため、誤った学習のやり直しも簡単です。IT人材の確保が困難な企業や、広帯域ネットワークを利用できない地方に製造拠点を持つ企業においてもスムーズなAI実用化を叶え、製造業のDXを後押しします。
*¹データに情報タグを付加すること。作業は社外に依頼するケースが多く、情報漏洩リスクとなり得る。</p>
<p><img src="/images/posts/news/7679/2ef74f6d-.png" alt="「Efficiera」異常検知モデルによる外観検査のイメージ" title="「Efficiera」異常検知モデルによる外観検査のイメージ">
図：「Efficiera」異常検知モデルによる外観検査のイメージ。不良品の異常箇所はヒートマップによる視覚化によって一目で分かる</p>
<p>LeapMindは今後も「次世代の情報端末を実現するためのキーテクノロジーを提供する」というビジョンのもと、エッジAIの実用化による、人々のより便利な暮らしの実現に貢献していきます。</p>
<h2 id="efficieraについて">「Efficiera®」について</h2>
<p>「Efficiera®」は、FPGAデバイス上もしくはASICデバイス上の回路として動作する、CNNの推論演算処理に特化した超低消費電力AIアクセラレータIPです。量子化ビット数を1～2ビットまで最小化する「極小量子化」技術によって、推論処理の大部分を占めるコンボリューションの電力効率と面積効率を最大化するため、最先端の半導体製造プロセスや特別なセルライブラリを使用する必要がありません。本製品を利用することで、家電製品などの民生機器、建設機械などの産業機器、監視カメラ、放送機器をはじめ、従来は技術的に困難であった電力とコスト、放熱に制約のある小型機械やロボットなど、様々なエッジデバイスへディープラーニング機能を組み込むことができます。ディープラーニングモデルは、「物体検知」と「ノイズ低減」に加え、今回発表した「異常検知」の3種類を提供しています。
製品公式サイトURL：<a href="https://leapmind.io/products/efficiera-ip/">https://leapmind.io/products/efficiera-ip/</a></p>
<h2 id="leapmind株式会社について">LeapMind株式会社について</h2>
<p>「機械学習を使った新たなデバイスを、あまねく世に広める」を企業理念に2012年創業しました。累計調達額は49.9億円に達しています。ディープラーニングをコンパクト化する極小量子化技術に強みを持ち、製造業を中心に150社を超える実績を保有しています。次世代の情報端末を実現するためのキーテクノロジーを提供するために、その実現に必要なソフトウェアとハードウェア両面の開発に取り組んでいます。</p>
<p>本社：〒150-0044 東京都渋谷区円山町28-1 渋谷道玄坂スカイビル 3F
代表者：代表取締役CEO 松田　総一
設立：2012年12月
URL：<a href="https://leapmind.io">https://leapmind.io</a></p>
<p>*プレスリリース記載の情報は発表日現在の情報です。</p>
<p>報道関係　お問い合わせ先
LeapMind株式会社
Efficiera事業部　広報担当
TEL：03-6696-6267
メール：<a href="mailto:pr@leapmind.io">pr@leapmind.io</a>　</p>

【プレスリリース】「Efficiera® 異常検知モデル」を開発

<h2 id="超低消費電力aiアクセラレータipefficieraを搭載した実証チップai-oneにて目標周波数での安定動作を確認">超低消費電力AIアクセラレータIP「Efficiera」を搭載した実証チップ「AI-One」にて目標周波数での安定動作を確認</h2>
<p>エッジAIのスタンダードを創るLeapMind株式会社（東京都渋谷区、代表取締役CEO：松田総一）は、国立研究開発法人新エネルギー・産業技術総合開発機構（NEDO)と、産業技術総合研究所（産総研）、国立大学法人東京大学（東京大学）が「AIチップ設計拠点（AI Chip Design Center: AIDC)」で共同で構築を進めている、AIアクセラレータ開発のための評価プラットフォームにおいて、AIアクセラレータ提供企業として協力しました。本評価プラットフォームの実証チップである「AI-One」には、LeapMindが独自開発した超低消費電力AIアクセラレータIP「Efficiera」が搭載されています。このAI-One評価ボードを使いLeapMindが行った評価結果を、本日2022年3月25日に行われた第33回AIDCフォーラムにおいて発表しました。</p>
<p>AIチップの開発には、半導体を設計するための高度な技術とともに、高額な回路設計ツールや検証装置などをそろえる必要があり、中小・ベンチャー企業などには、それが研究開発を進めていくうえで大きな障壁となります。
このような状況を踏まえ、NEDOが、AIチップ開発加速のためのイノベーション推進事業において、国立研究産総研、東京大学と共同で、 AIチップ設計拠点（AIDC）を配置、半導体設計に必要な共通基盤技術の開発や設計環境の整備を進めています。</p>
<p>LeapMindは、この事業の一環として、AIDCで進められている評価プラットフォーム構築のプロジェクトに協力し、当社独自のAIアクセラレータ「Efficiera」が搭載されたSoCを評価プラットフォームとして検証を進めた結果、目標の周波数での安定動作が確認でき、また実機によるシステムレベルでの評価を短期間に行うことが可能になりました。</p>
<p>LeapMindは、このプロジェクトから得た知見、評価結果を製品開発へ役立て、今後もエッジAIのさらなる普及に努め、ディープラーニングによる社会課題の解決を目指してまいります。</p>
<h2 id="実施事項">実施事項</h2>
<p>LeapMindのAI processorのIPをAI-One SoCに集積
　- RTLの提供及びSoCへの集積に必要な情報の提供
　- AIDC評価プラットフォームでの機能・性能検証の実施
AIDC評価プラットフォーム＋弊社の技術でIP/SoC/実機の検証を一気通貫に実施</p>
<h2 id="efficieraについて">Efficieraについて</h2>
<p>「Efficiera」とは、FPGAデバイス上もしくはASICデバイス上の回路として動作する、CNNの推論演算処理に特化した超低消費電力AIアクセラレータIPです。量子化ビット数を1~2ビットまで最小化する「極小量子化」技術によって、推論処理の大部分を占めるコンボリューションの電力効率と面積効率を最大化するため、最先端の半導体製造プロセスや特別なセルライブラリを使用する必要がありません。本製品を利用することで、家電製品などの民生機器、建設機械などの産業機器、監視カメラ、放送機器をはじめ、従来は技術的に困難であった電力とコスト、放熱に制約のある小型機械やロボットなど、様々なエッジデバイスへディープラーニング機能を組み込むことができます。製品公式サイトURL：<a href="https://leapmind.io/products/efficiera-ip/">https://leapmind.io/products/efficiera-ip/</a></p>
<h2 id="leapmind株式会社について">LeapMind株式会社について</h2>
<p>「機械学習を使った新たなデバイスを、あまねく世に広める」を企業理念に2012年創業しました。累計調達額は49.9億円に達しています。ディープラーニングをコンパクト化する極小量子化技術に強みを持ち、製造業を中心に150社を超える実績を保有しています。次世代の情報端末を実現するためのキーテクノロジーを提供するために、その実現に必要なソフトウェアとハードウェア両面の開発に取り組んでいます。</p>
<p>本社：〒150-0044 東京都渋谷区円山町28-1 渋谷道玄坂スカイビル 3F
代表者：代表取締役CEO 松田　総一
設立：2012年12月
URL：<a href="https://leapmind.io">https://leapmind.io</a></p>
<p>*【商標等注記】「Efficiera」は、LeapMind株式会社の登録商標または商標です。その他の登録商標・商標は、それぞれの所有者にその権利が帰属します。
*プレスリリース記載の情報は発表日現在の情報です。</p>
<p>報道関係　お問い合わせ先
LeapMind株式会社
Efficiera事業部　広報担当
TEL：03-6696-6267
メール：<a href="mailto:pr@leapmind.io">pr@leapmind.io</a>　</p>
<p>製品・サービスに関するお問い合わせ先
LeapMind株式会社
Efficiera事業部　Business Development Team
TEL：03-6696-6267
MAIL：<a href="mailto:business@leapmind.io">business@leapmind.io</a>　
製品公式サイトURL：<a href="https://leapmind.io/products/efficiera-ip/">https://leapmind.io/products/efficiera-ip/</a></p>

LeapMind、産官学共同AIチップ開発加速へ向けたプロジェクトへ協力

<h2 id="マクセルフロンティアの新しい画像認識ソリューションixam-vision-シリーズに採用2022年10月より発売開始予定">マクセルフロンティアの新しい画像認識ソリューション「iXAM Vision シリーズ」に採用、2022年10月より発売開始予定</h2>
<p>エッジ AI のスタンダードを創る LeapMind株式会社(所在地:東京都渋谷区、代表取締役 CEO:松田 総一、読み方:リー プマインド、以下 LeapMind)は、マクセル株式会社のグループ会社であるマクセルフロンティア株式会社(所在地:神奈川県横浜市、代表取締役 取締役社長:太田博之、以下マクセルフロンティア)と、LeapMindの超低消費電力AI推論アク セラレータ IP「Efficiera(読み方:エフィシエラ)」の商用ライセンスについての契約を締結したことを発表いたします。この Efficiera は、マクセルフロンティアが本日発表する画像認識ソリューションの新シリーズ「iXAM Vision シリーズ」(読み方: イグザム、以下iXAM)においてAI処理性能を強化する技術として採用されます。このiXAMは、2022年10月より発売される予定です。</p>
<p>今回の契約締結により、画像認識システムの開発に30年以上の実績を有するマクセルフロンティアと、電力や面積に制約のあるエッジデバイス上でのディープラーニング技術適用を支える LeapMindの「極小量子化技術」の融合が可能となり、マクセルフロンティアの画像認識システムへのAI活用をさらに推し進めるものとなります。</p>
<p>今回の契約では、「Efficiera」IPとともに、LeapMindが開発するEfficiera用ディープラーニングモデル「物体検知モデル」 と「異常検知モデル」も合わせて提供いたします。この省スペース、コンパクトを特徴とした「Efficiera」と、エッジデバイス上に搭載可能、かつ最適化や再学習が容易なEfficiera用ディープラーニングモデルによって、AI機能を付加したエッジデバイス開発を早期に実現することが可能になります。
LeapMindは、今後もエッジ AI のさらなる普及に努め、ディープラーニングによる社会課題の解決を目指してまいります。</p>
<h2 id="マクセルフロンティアixam-vision-シリーズについて">マクセルフロンティア「iXAM Vision シリーズ」について</h2>
<p>iXAMは、インテリジェント画像認識ユニット「iXAM Vision Engine」とインテリジェントカメラ「iXAM Vision Sensor」の2種類のユニット製品、そしてユニット製品で動作するAI画像検査アプリ開発ツール「iXAM Vision Meister(マイスター)」をラインアップし、2022年10月より発売が予定されています。
マクセルフロンティア社製品発表 URL:<a href="https://ssl4.eir-parts.net/doc/6810/ir_material21/177469/00.pdf">https://ssl4.eir-parts.net/doc/6810/ir_material21/177469/00.pdf</a></p>
<h2 id="efficieraについて">Efficieraについて</h2>
<p>「Efficiera」とは、FPGAデバイス上もしくは ASICデバイス上の回路として動作する、CNNの推論演算処理に特化した超低消費電力AIアクセラレータ IPです。量子化ビット数を1~2ビットまで最小化する「極小量子化」技術によって、推論処理の大部分を占めるコンボリューションの電力効率と面積効率を最大化するため、最先端の半導体製造プロセスや特別なセルライブラリを使用する必要がありません。本製品を利用することで、家電製品などの民生機器、建設機械などの産業機器、監視カメラ、放送機器をはじめ、従来は技術的に困難であった電力とコスト、放熱に制約のある小型機械やロボットなど、様々なエッジデバイスへディープラーニング機能を組み込むことができます。
製品公式サイト URL: <a href="https://leapmind.io/products/efficiera-ip/">https://leapmind.io/products/efficiera-ip/</a></p>
<h2 id="efficiera用ディープラーニングモデルについて">Efficiera用ディープラーニングモデルについて</h2>
<p>Efficiera ディープラーニングモデルとは、エッジデバイス上でご利用いただくことができる学習済みモデルです。物体検出、異常検知、AI画像処理、の学習モデルを開発、提供しております。</p>
<p>物体検出モデル:
画像から検知対象の位置情報を取得することができ、位置情報を処理する様々なロジックを組み合わせることで、広範囲のアプリケーションに応用ができます。</p>
<p>異常検知モデル:
エッジデバイス上でAIによる外観検査をリアルタイムに実現できるモデルです。検査対象の仕様が変わっても、エッジデバイスだけで簡単にAI学習を行うことが可能です。</p>
<p>AI 画像処理モデル:
エッジデバイス上でリアルタイムに動作しノイズの多い画像に対してノイズを低減し高画質化する、画質改善を特徴とするモデルです。</p>
<h2 id="マクセルフロンティア株式会社について">マクセルフロンティア株式会社について</h2>
<p>マクセルフロンティアは、産業機器向けシステムの受託開発、画像認識システム製品、プラスティック光学レンズ製品の開発から量産モノづくりまで一貫してご提供しています。マクセルグループ独自のアナログコア技術をベースにフロンティア精神を常に持ち続け、お客様と一体になった取り組みをおこない、モノづくりを通して皆さまの暮らしと社会に貢献し、持続可能な社会の実現をめざします。</p>
<p>本社:〒244-0005 神奈川県横浜市保土ヶ谷区神戸町134番地横浜ビジネスパークノーススクエアIII
代表者:代表取締役 取締役社長 太田博之
設立:2020年4月
URL:<a href="https://www.frontier.maxell.co.jp">https://www.frontier.maxell.co.jp</a></p>
<h2 id="leapmind-株式会社について">LeapMind 株式会社について</h2>
<p>「機械学習を使った新たなデバイスを、あまねく世に広める」を企業理念に2012年創業しました。累計調達額は 49.9億円に達しています。ディープラーニングをコンパクト化する極小量子化技術に強みを持ち、製造業を中心に 150社を超える実績を保有しています。次世代の情報端末を実現するためのキーテクノロジーを提供するために、その実現に必要なソフトウェアとハードウェア両面の開発に取り組んでいます。</p>
<p>本社:〒150-0044 東京都渋谷区円山町 28-1 渋谷道玄坂スカイビル 3F
代表者:代表取締役CEO松田 総一
設立:2012年12月
URL:<a href="https://leapmind.io">https://leapmind.io</a></p>
<p>*【商標等注記】「Efficiera」は、LeapMind株式会社の登録商標または商標です。その他の登録商標・商標は、それぞれの所有者にその権利が帰属します。
*プレスリリース記載の情報は発表日現在の情報です。</p>
<p>報道関係 お問い合わせ先
LeapMind株式会社 Efficiera事業部 広報担当
TEL:03-6696-6267
メール:<a href="mailto:pr@leapmind.io">pr@leapmind.io</a></p>
<p>製品・サービスに関するお問い合わせ先
LeapMind株式会社 Efficiera事業部
Business Development Team
TEL:03-6696-6267
MAIL:<a href="mailto:business@leapmind.io">business@leapmind.io</a>
製品公式サイト URL:<a href="https://leapmind.io/products/efficiera-ip/">https://leapmind.io/products/efficiera-ip/</a></p>

【プレスリリース】マクセルフロンティア株式会社と超低消費電力AIアクセラレータ IP「Efficiera」のライセンス契約を締結

<h2 id="aiノイズ低減によりエッジカメラでスマートフォンのような高画質化を実現">AIノイズ低減によりエッジカメラでスマートフォンのような高画質化を実現</h2>
<p>エッジAIのスタンダードを創るLeapMind株式会社（東京都渋谷区、代表取締役CEO：松田総一）は、エッジデバイス上でリアルタイム動作するAI画像処理モデルを発表しました。この画像処理モデルは同社の超低消費電力AIアクセラレータIP「Efficiera」(エフィシエラ）を使うことにより、エッジデバイス上でリアルタイムに動作しノイズの多い画像に対してノイズを低減し高画質化する、画質改善を特徴とするモデルです。従来より挙げられていた性能面と画質精度面の課題を解決し、高性能・高画質・軽量化を実現いたしました。</p>
<h2 id="課題">課題</h2>
<p>性能面：エッジデバイス上では計算コストの高いAIによる画像処理のリアルタイム動作は困難
画質精度：画像を入力し画像を出力するAI画像処理に対する極小量子化は、画質の劣化（色や解像感の再現など）がある</p>
<h2 id="解決方法及び成果">解決方法及び成果</h2>
<p>同社の極小量子化技術により軽量化が実現し、Efficiera v2の性能スケーラビリティと組み合わせることで、動画カメラでのリアルタイム動作も可能となりました。そして同社のPixel embedding*¹ 技術により高画質化を実現し、通常用いられる32bit浮動小数点でのモデルと遜色ない画質を実現しました。その結果、部品コストの高い高感度センサーや大型レンズがなくてもAIによる画質改善ができ、画質重視のカメラはスマートフォンのようなAIによる高画質化が可能となり、産業用カメラ（監視カメラ、検査用カメラ）などの低照度下や十分な露光時間を取れない動画カメラでも、高画質化により物体認識や検査の精度を向上することができます。</p>
<p>本モデルは2月より評価版として提供を開始いたします。入手ご希望の方は、<a href="mailto:business@leapmind.io">こちら</a>までお問い合わせください。</p>
<p>AI画像処理モデルの発表に際して、LeapMind取締役CTOの徳永拓之は、次のように述べています。「低ビット量子化モデルによるAI画像処理技術の製品化は我々が調べる限りでは世界初です。このモデルはハードウェアとソフトウェアの両面に注力しているLeapMindだからこそ実用化できた製品であり、極小量子化の新たな有用性を示すことができたと考えています。」</p>
<p>*¹ Pixel embedding
入力されたデータの中からいかに重要なデータを残して量子化するかとういう入力画像を複数チャネルの2ビットデータにエンコードする手法</p>
<h2 id="極小量子化12bitモデルで32bit浮動小数点モデルと遜色ない画質を実現">極小量子化(1,2bit)モデルで32bit浮動小数点モデルと遜色ない画質を実現</h2>
<p>入力画像 左: ISO51200, 1/800sec, F4.0で撮影、右: ISO102400, 1/320sec, F8.0で撮影
<img src="/images/posts/news/7528/ca32098b-input.png" alt="ノイズが発生している従来の画像" title="ノイズが発生している従来の画像"></p>
<p>出力画像 : 32bit浮動小数点モデル
<img src="/images/posts/news/7528/4804c6b3-fp32.png" alt="ノイズがやや低減された32bit浮動小数点モデルの画像" title="ノイズがやや低減された32bit浮動小数点モデルの画像"></p>
<p><strong>出力画像 : LeapMind 極小量子化モデル</strong>
<img src="/images/posts/news/7528/ec6fe060-efficieranr.png" alt="ノイズが低減されたLeapMind極小量子化モデルの画像" title="ノイズが低減されたLeapMind極小量子化モデルの画像"></p>
<h2 id="特長">特長</h2>
<ul>
<li>Raw入力・Raw出力の raw-to-rawノイズ低減モデル
　　- Raw-to-rawのため、既存の画像処理パイプラインへの影響が最小限</li>
<li>ディープラーニングベースのノイズ低減処理
　　- 組込みアプリケーション向けに最適化されたState-of-the-art NRアルゴリズム</li>
<li>再学習可能な学習済みモデルをご提供
　　- 学習済みのノイズに加え、センサー固有のノイズの再学習により、モデルを最適化</li>
<li>リアルタイム動作可能な軽量処理
　　- Efficiera v2の性能スケーラビリティにより、動画カメラでのリアルタイム動作にも対応</li>
</ul>
<p><img src="/images/posts/news/7528/b5a83b3a-nr_technical_image.png" alt="ディープラーニングベースのノイズ低減処理イメージ" title="ディープラーニングベースのノイズ低減処理イメージ"></p>
<h2 id="efficieraについて">Efficieraについて</h2>
<p>「Efficiera」とは、FPGAデバイス上もしくはASICデバイス上の回路として動作する、CNNの推論演算処理に特化した超低消費電力AIアクセラレータIPです。量子化ビット数を1~2ビットまで最小化する「極小量子化」技術によって、推論処理の大部分を占めるコンボリューションの電力効率と面積効率を最大化するため、最先端の半導体製造プロセスや特別なセルライブラリを使用する必要がありません。本製品を利用することで、家電製品などの民生機器、建設機械などの産業機器、監視カメラ、放送機器をはじめ、従来は技術的に困難であった電力とコスト、放熱に制約のある小型機械やロボットなど、様々なエッジデバイスへディープラーニング機能を組み込むことができます。
製品公式サイトURL：<a href="https://leapmind.io/products/efficiera-ip/">https://leapmind.io/products/efficiera-ip/</a></p>
<h2 id="leapmindについて">LeapMindについて</h2>
<p>2012年に創業したLeapMind（東京都渋谷区、代表取締役CEO：松田総一）は、「機械学習を使った新たなデバイスを、あまねく世に広める」を企業理念に、ディープラーニングをコンパクト化する極小量子化技術に強みを持ち、コンシューマエレクトロニクスや自動車産業など製造業中心に、150社を超える採用実績があります。また、次世代の情報端末を実現するためのキーテクノロジーを提供するために、その実現に必要なソフトウェアとハードウェア両面の開発に取り組んでいます。LeapMindの事業は高く評価されており、累計調達額は49.9億円に達しています（2021年5月現在）。詳細は<a href="https://leapmind.io/">こちら</a>をご参照ください。</p>
<p>本社：〒150-0044 東京都渋谷区円山町28-1 渋谷道玄坂スカイビル 3F
代表者：代表取締役CEO 松田 総一
設立：2012年12月
URL：<a href="https://leapmind.io">https://leapmind.io</a></p>
<p>*社名、ロゴ、文中の製品名はLeapMind株式会社の商標または登録商標です。
*プレスリリース記載の情報は発表日現在の情報です。</p>
<p>お問い合わせ先
LeapMind株式会社
Efficiera事業部　広報担当
TEL：03-6696-6267
メール：<a href="mailto:pr@leapmind.io">pr@leapmind.io</a></p>

【プレスリリース】エッジデバイス上で動作可能なAI画像処理モデルを発表

<p>バージョン1の導入実績と市場評価を踏まえ、より多くの実製品への適用に向けた製品完成度が向上</p>
<p>エッジAIのスタンダードを創るLeapMind株式会社（東京都渋谷区、代表取締役CEO：松田総一）は、同社が開発・ライセンス事業をしている超低消費電力AIアクセラレータIP「Efficiera」（エフィシエラ）のバージョン2（以下: v2）を発表しました。LeapMindは2021年9月にEfficiera v2ベータ版を公開し、今までSoCベンダーならびにエンドユーザの製品設計者など、多くの方々からベータ版の試用とフィードバックを受けてきました。Efficiera v2は、2021年12月から提供開始予定で、入手ご希望者は、<a href="business@leapmind.io">こちら</a>までお問い合わせください。</p>
<p>Efficiera v1の実績及び v2の発表に際して、LeapMind CEOの松田総一は、次のように述べています。「昨年、商用版として正式提供開始し、Efficieraを多くの企業様にご評価いただき、2021年9月末までに国内8社とライセンス契約を締結しました。当社が、企業理念として掲げている「機械学習を使った新たなデバイスを、あまねく世に広める」が、v1の提供を通して着実に進んでいる手応えを感じています。今後も更なる技術革新、製品ラインナップ拡充によるAI普及に努めて参りたいと思います」</p>
<p>Efficiera v2は、v1の導入実績と市場評価を踏まえて、最小構成の回路規模はそのままに、より広い性能レンジへの対応と、より多くの実製品への適用が可能となる応用範囲を拡大し、製品完成度が一層向上しました。</p>
<p><img src="/images/posts/news/7432/0be4b840-efficiera2%E3%82%B3%E3%83%B3%E3%82%BB%E3%83%97%E3%83%88%E5%9B%B3-660x371.png" alt="Efficiera v2のコンセプト図" title="Efficiera v2のコンセプト図">
Efficiera v2のコンセプト</p>
<p>LeapMind取締役CTOの徳永拓之は、次のように述べています。「昨年のv1のリリース以降、”世界最高電力効率のDNNアクセラレータの開発”を目指して、設計・検証手法、開発プロセスの強化を図り、ASICやASSPでの採用にも応えられるよう、この「Efficiera」v2の開発を進めてきました。また、極小量子化技術のメリットを最大限に活用して頂くために、ディープラーニング側での推論学習モデルの開発も進めてきています。この両輪を使いこなす術を提供できることが、私たちリープマインドの最大の強みです」</p>
<h2 id="efficiera-ｖ2の主な仕様特長">Efficiera ｖ2の主な仕様・特長</h2>
<h3 id="a最小構成の回路規模はそのままにより広い性能レンジをカバーし応用範囲を拡大">A.最小構成の回路規模はそのままに、より広い性能レンジをカバーし応用範囲を拡大</h3>
<h4 id="ハードウェア機能">ハードウェア機能</h4>
<ul>
<li>MACアレイの多重化 + マルチコア化による性能スケーラビリティ、最大48倍</li>
<li>v2はCovolution pipelineの中のMACアレイの数をv1（x1、x４選択可能）の3倍にできるようにし、さらにコア数を4コアまで選択できるようにすることで性能スケーラビリティを拡大</li>
<li>畳み込み・量子化に加えてSkip connectionとPixel Embeddingをハードウェア実行
1.Skip connectionはレイヤー数の多いCNN, convolutional neural networkでよく用いられる演算(v1ではCPU実行)
2.Pixel embeddingは入力データの量子化を行う手法</li>
<li>同一構成のEfficiera 1と同等の使用リソース
1.規模の限られたFPGAデバイスにAI機能を実装できるからこそ価値を生み出せるアプリケーションが存在するため
2.LeapMindでは実用的なディープラーニングモデルの実行時間を分析した上で、慎重に追加HW機能を選択</li>
</ul>
<h4 id="socへのインテグレーション">SoCへのインテグレーション</h4>
<ul>
<li>AMBA AXIインタフェース
外部とのインタフェースには引き続きAMBA AXIを採用、ブラックボックスとして見た場合のインタフェースは従来同様、既存の設計からの移行も容易</li>
<li>単一クロックドメイン</li>
</ul>
<h4 id="fpgaでのターゲット周波数">FPGAでのターゲット周波数</h4>
<ul>
<li>FPGAでの動作周波数も従来と同等、デバイスには依存するが150~250MHz程度が期待可能
1.256 GOP/s @125MHz (1コア)
2.～12 TOP/s @250MHz (2コア)</li>
<li>暗号化RTLとして提供</li>
</ul>
<h3 id="b-設計検証手法を改善し開発プロセスも見直すことでfpgaだけでなくasicasspにも適用できる品質を確保">B. 設計・検証手法を改善し、開発プロセスも見直すことで、FPGAだけでなくASIC/ASSPにも適用できる品質を確保</h3>
<h3 id="c-これまでleapmindだけが行なってきたefficiera向けのディープラーニングモデル開発をユーザが行えるようにするモデル開発環境ndkの提供を開始">C. これまでLeapMindだけが行なってきたEfficiera向けのディープラーニングモデル開発を、ユーザが行えるようにする、モデル開発環境（NDK)の提供を開始</h3>
<ul>
<li>Efficiera用極小量子化DLモデルの作成に必要なコード・情報のパッケージ</li>
<li>GPU用ディープラーニングモデルの開発者であれば、すぐに活用可能</li>
<li>DLフレームワークはPyTorchとTensorFlow 2をサポート</li>
<li>学習環境はGPU搭載Linuxサーバ</li>
<li>推論環境はEfficiera搭載デバイス</li>
<li>LeapMindからサポートを提供</li>
</ul>
<h2 id="パートナー各社様からのコメント-50音順">パートナー各社様からのコメント (50音順）</h2>
<p><img src="/images/posts/news/7432/aioinisseidowa-logo.png" alt="あいおいニッセイ同和損害保険株式会社ロゴ" title="あいおいニッセイ同和損害保険株式会社ロゴ">
<strong>あいおいニッセイ同和損害保険株式会社様</strong>
<a href="https://www.aioinissaydowa.co.jp/">https://www.aioinissaydowa.co.jp/</a>
あいおいニッセイ同和損害保険株式会社は、LeapMindによる「Efficiera v2」のリリースを心より歓迎いたします。当社はテレマティクス自動車保険のパイオニアとして極小量子化ディープラーニング技術゙を活用した商品・サービスの研究開発を進め、「CSV×DX」をキーワードに社会課題解決に資する商品・サービスを提供することで「安全・安心なモビリティ社会」へ貢献することを目指していきます。</p>
<p><img src="/images/posts/news/7432/eizo-logo.png" alt="EIZO株式会社ロゴ" title="EIZO株式会社ロゴ">
<strong>EIZO株式会社様</strong>
<a href="https://www.eizo.co.jp/">https://www.eizo.co.jp/</a>
EIZOは、LeapMindによる「Efficiera v2」のリリースを心より歓迎いたします。チャレンジは続きますが、私たちの技術パートナーシップを結実させ、今後とも当社製品・システムを通じて、社会やお客様が抱えるさまざまな課題解決に寄与できるよう、努めてまいります。</p>
<h2 id="efficieraについて">Efficieraについて</h2>
<p>「Efficiera」とは、FPGAデバイス上もしくはASICデバイス上の回路として動作する、CNNの推論演算処理に特化した超低消費電力AIアクセラレータIPです。量子化ビット数を1~2ビットまで最小化する「極小量子化」技術によって、推論処理の大部分を占めるコンボリューションの電力効率と面積効率を最大化するため、最先端の半導体製造プロセスや特別なセルライブラリを使用する必要がありません。本製品を利用することで、家電製品などの民生機器、建設機械などの産業機器、監視カメラ、放送機器をはじめ、従来は技術的に困難であった電力とコスト、放熱に制約のある小型機械やロボットなど、様々なエッジデバイスへディープラーニング機能を組み込むことができます。
製品公式サイトURL：<a href="https://leapmind.io/products/efficiera-ip/">https://leapmind.io/products/efficiera-ip/</a></p>
<h2 id="leapmindについて">LeapMindについて</h2>
<p>2012年に創業したLeapMind（東京都渋谷区、代表取締役CEO：松田総一）は、「機械学習を使った新たなデバイスを、あまねく世に広める」を企業理念に、ディープラーニングをコンパクト化する極小量子化技術に強みを持ち、コンシューマエレクトロニクスや自動車産業など製造業中心に、150社を超える採用実績があります。また、次世代の情報端末を実現するためのキーテクノロジーを提供するために、その実現に必要なソフトウェアとハードウェア両面の開発に取り組んでいます。LeapMindの事業は高く評価されており、累計調達額は49.9億円に達しています（2021年5月現在）。詳細は<a href="https://leapmind.io/">こちら</a>をご参照ください。</p>
<p>本社：〒150-0044 東京都渋谷区円山町28-1 渋谷道玄坂スカイビル 3F
代表者：代表取締役CEO 松田 総一
設立：2012年12月
URL：<a href="https://leapmind.io">https://leapmind.io</a></p>
<p>　社名、ロゴ、文中の製品名はLeapMind株式会社の商標または登録商標です。
　プレスリリース記載の情報は発表日現在の情報です。</p>
<p>お問い合わせ先
LeapMind株式会社
Efficiera事業部　広報担当
TEL：03-6696-6267
メール：<a href="mailto:pr@leapmind.io">pr@leapmind.io</a></p>

【プレスリリース】LeapMind、超低消費電力AIアクセラレータIP「Efficieraバージョン2」を発表

<p>「何か一つでも多くのことを持ち帰ってくれたら、それだけでインターンとしては大成功だと思います。」</p>
<h2 id="introduction">introduction</h2>
<p>はじめまして！
2021 年の夏の間、LeapMind の Summer Internship Program として Anomaly Detection チームに参加させていただいておりました、伊集です。</p>
<p>今年で学部二年生になって、そろそろ進学や就職について考え始める時期にさしかかったこともあり、思い切ってインターンに参加させていただきました。
何もかもが初めてのことだらけであり、正直なところ不安に思うことは多くありました。そんな中、チームや会社のみなさんはとても暖かく迎えていただけましたし、とても快適なインターン生活だったかと思います。</p>
<p>中でも、インターンが始まって一週間ほどが経過したときに、チームメンバーやサブメンターとして仕事をサポートしていただいた今村さんがかけてくださった言葉が冒頭のものでした。
このインターンを通して一番うれしかった一言でもありますので、この post では、私がこのインターンから持ち帰った思い出たちの一部を、会社やインターンの雰囲気とともにお伝えできたらなと思います。</p>
<h2 id="働き方や働いてみてのこと">働き方や働いてみてのこと</h2>
<p>私が作業をするときに感じる煩わしさの一つとして、各種サービスにおけるアカウントの管理などがあります。IDがあったり、メールアドレスでログインしたり、パスワードに記号が使えないサービスがあるかと思えば、逆にパスワードに記号がないとアカウントが作れないサービスもあったりなどです。</p>
<p>しかし、LeapMind でインターンを始めてから業務を終えるまでの間を振り返ってみると、Google アカウントでのログインが基本になっていることもあってそういった煩わしさが一切なく、非常に快適に過ごすことができたかと思います。</p>
<p>また、何かわからないことがあれば何でも自由に聞ける slack のチャンネルがあったりと、どうしても発生してしまう煩わしさや業務上のストレスが削ぎ落とされており、こうした工夫が快適な労働環境に繋がっていたのではないかなと思います。</p>
<p>COVID-19 の影響もあって、今回のインターンはフルリモートでの開催となりました。東北の片田舎からしか働けなかったことを残念に思う一方で、</p>
<p>コアタイムなし！！
フルフレックス！！
オンライン出社！！</p>
<p>という、時間に一切縛られない働き方ができたことで、精神的にはとても穏やかに働くことができたのかなと思います。</p>
<h2 id="coffee-break-ができた">Coffee Break ができた</h2>
<p>一方で、やはりオンラインでインターンをする大きなデメリットとして、社内の他のチームの方とコミュニケーションをする機会が一切ないというものがあります。入社して一週間が経過したタイミングのミーティングでもこの話題が上がり、今村さんが「せっかくインターン来たのにもったいないですね〜」と仰られていたことを覚えております。</p>
<p>そのことをきっかけとして、毎日 16:45 頃から、雑談をする時間として Coffee Break という誰でも参加できる場を設けられました。話が出た翌日には企画として立ち上がっていたこともあり、フットワークの軽さには感動しました。</p>
<p>時間の都合などもあり、来た方は一部の人に限られてはいたのですが、人事の方が他部署の方々を引っ張ってきてくれたりと、多くのチームの方とお話する機会になりました。</p>
<p>「他のところのインターンにも行ってみて、ここが本当に合っているのか、自分に合う場所はどういうところかをちゃんと模索した方が良い」などといった、どちらかと言うと会社としてはデメリットになり得るようなアドバイスなども個人的にしていただいたりと、業務には関わらない多くのことをこの場で学べたのではないかと思います。</p>
<p>僕が早く出勤して早く退勤した翌日の朝、先輩社員の方が残した「コーヒーブレイク誰もこん」「松田さん(※CEO)と二人きり気まずい」といったログをみて、朝から声を出して笑ったこともありました。その節はタイミングが悪くて出席できず、大変申し訳なかったです。</p>
<h2 id="ランチ会">ランチ会</h2>
<p>その他のコミュニケーションの場として、インターン中に 5 回ほどオンラインランチ会が設けられました。</p>
<p>それぞれの会ごとに異なるメンバーが集まっていましたが、本当に雑談をするだけの場という雰囲気で開催されていました。CRO の兼村さんと CTO の徳永さんが参加された会ですら、顕微鏡を使う歯医者さんの話が一番長く話されたのではないかと思います。</p>
<p>オンライン上でのコミュニケーションだと相手の為人がわかりにくい側面があり、実はユニークで面白い人がそっけなく見えたりと、短い期間で打ち解けるには難しい部分もあったかと思います。あとから振り返ってみると、インターンとして参加した私達に対して、こうした雑談の場を設けていただけたことは、そのとき考えていた以上に作業を円滑に進められるようになることに役立っていたのかなと思いました。</p>
<h2 id="全社ミーティングに参加したこと">全社ミーティングに参加したこと</h2>
<p>自己紹介も兼ねて、全社ミーティングに参加させていただく機会もありました。</p>
<p>開始時の挨拶として、山崎さん(※えらい人)が「本日、私の誕生日の、ちょうど1ヶ月後であるめでたい日に開催できることを嬉しく思います。」などと冗談を仰られていたので、(おっ、山崎さんとたまたま誕生日がちょうど半年違いだな)と思い、「私の誕生日のちょうど 5 ヶ月前の記念すべきこの日に自己紹介させていただけることを〜」なんて言おうと用意していたところ、そこから自己紹介までの間に松田さんがかなり真面目な話をされていて、全くそんなことを言い出せる雰囲気ではなく、「こんにちは、伊集と申します。え〜〜〜〜……福島県の大学二年生で……」といった普通の自己紹介に落ち着きました。
社会では、その場の空気を読んで用意した手札を躊躇せず捨てるスキルが求められることを学べました。捨てた手札の代わりに持ち帰りたいと思います。</p>
<p>後々他の方からお話を伺う限り、インターン生に対して経営状況などの内部情報を公開しない会社も多くあるようです。公開するか否かはいずれも一長一短ではあるかと思いますが、僕が参加した限りでは、会社の一員になれたようで嬉しかったですし、松田さんの話を聞いて、少しでも会社に貢献できるよう頑張りたいなというモチベーションにもなり、結果としては良い方向に作用していたのではないかと思います。</p>
<h2 id="最後に">最後に</h2>
<p>一ヶ月半の間 Anomaly Detection チームに所属して異常検知の課題に取り組んだこともそうですし、ここには書けなかったことも含め、たくさんの経験を頬袋をパンパンに膨らませて持ち帰ることができたかと思います。</p>
<p>一度も出社できなかったことだけが心残りですが、また近い将来、お世話になった方々に会える機会があれば、今度はこちらからお土産を渡せたら嬉しいです。</p>
<p>短い期間ではありましたが、大変お世話になりました！</p>

Pure Cultural Chipmunk’s Internship Participation – Hikari IJU

<p>エッジAIのスタンダードを創るLeapMind株式会社（東京都渋谷区、代表取締役CEO：松田総一）は、同社が開発・ライセンス事業をしている超低消費電力AIアクセラレータIP「Efficiera」（エフィシエラ）のバージョン2（以下: v2）の年内商用化発表に先立ち、ベータ版を公開したと発表しました。2020年10月に発表したEfficieraはその省電力、高性能、省面積、性能拡張性により、小型FPGAへの容易な実装が可能であるほか、量産ボードへの対応によるエンドユーザの最終製品の開発期間短縮に貢献するなど、高い評価を受けています。LeapMindはv2ベータ版の公開を通して、SoCベンダーならびにエンドユーザの製品設計者など、多くの方々によるベータ版の試用とフィードバックを期待しています。v2ベータ版入手のご希望者は、<a href="business@leapmind.io">こちら</a>までお問い合わせください。</p>
<h2 id="efficiera-ｖ2の主な仕様特長">Efficiera ｖ2の主な仕様・特長</h2>
<ul>
<li>ハードウェア性能の大幅な向上: 27TOPS/Wから100TOPS/Wの実現と、Skip connection、Convolution、Pixel Embeddingといった各機能の高速化。</li>
<li>FPGAをはじめASIC/ASSPを活用した柔軟なシステム開発が可能。</li>
<li>Efficiera IP上でのモデル開発を個別に行いたいとのユーザの希望にお応えするため、極小量子化モデル開発環境「Efficiera NDK（Network Development Kit）」を提供。</li>
</ul>
<p><img src="/images/posts/news/7394/e62f6eaf-concept-660x371.png" alt="Efficiera ｖ2の主な仕様イメージ" title="Efficiera ｖ2の主な仕様イメージ"></p>
<p>v2ベータ版公開について、LeapMind執行役員でEfficiera事業を統括する山崎勝利は、次のように述べています。「Effciera v2の開発が予定通り進み、ベータ版のリリースができることを心より嬉しく思います。Effciera v2はFPGAのみならずASIC/ASSPでのご採用も視野に入れ、また機械学習を利用したエッジでの画像/映像処理なども可能とするハードウェア性能を実現する製品です。市場では、多量のデータを必要とする複雑な推論処理は、ネットワーク負荷、電力効率、リアルタイム性など様々な条件、制約を踏まえ、クラウド上での処理かエッジ処理かの議論が行われています。当社のコア技術である極小量子化技術は、複雑かつ大容量のデータを使用した推論処理をエッジデバイス上で行うことを前提に開発を進めてきており、エッジ上での推論処理を迷わず選択できるようなデバイス開発を促進する一助となることを目指しています。Efficiera v2では、特に画像処理における処理能力が格段に向上しており、エッジデバイス上でAIによる高精細な画像処理が必要とされる場面において、その能力が発揮されていることを当社の開発部門で確認しています。Efficiera v2が、従来のエッジでの機械学習応用範囲を大きく拡大する起爆剤になることを期待しています」</p>
<h2 id="efficieraについて">Efficieraについて</h2>
<p>「Efficiera」とは、FPGAデバイス上もしくはASICデバイス上の回路として動作する、CNNの推論演算処理に特化した超低消費電力AIアクセラレータIPです。量子化ビット数を1~2ビットまで最小化する「極小量子化」技術によって、推論処理の大部分を占めるコンボリューションの電力効率と面積効率を最大化するため、最先端の半導体製造プロセスや特別なセルライブラリを使用する必要がありません。本製品を利用することで、家電製品などの民生機器、建設機械などの産業機器、監視カメラ、放送機器をはじめ、従来は技術的に困難であった電力とコスト、放熱に制約のある小型機械やロボットなど、様々なエッジデバイスへディープラーニング機能を組み込むことができます。
製品公式サイトURL：<a href="https://leapmind.io/products/efficiera-ip/">https://leapmind.io/products/efficiera-ip/</a></p>
<h2 id="leapmindについて">LeapMindについて</h2>
<p>2012年に創業したLeapMind（東京都渋谷区、代表取締役CEO：松田総一）は、「機械学習を使った新たなデバイスを、あまねく世に広める」を企業理念に、ディープラーニングをコンパクト化する極小量子化技術に強みを持ち、コンシューマエレクトロニクスや自動車産業など製造業中心に、150社を超える採用実績があります。また、次世代の情報端末を実現するためのキーテクノロジーを提供するために、その実現に必要なソフトウェアとハードウェア両面の開発に取り組んでいます。LeapMindの事業は高く評価されており、累計調達額は49.9億円に達しています（2021年5月現在）。詳細は<a href="https://leapmind.io/">こちら</a>をご参照ください。</p>
<p>本社：〒150-0044 東京都渋谷区円山町28-1 渋谷道玄坂スカイビル 3F
代表者：代表取締役CEO 松田 総一
設立：2012年12月
URL：<a href="https://leapmind.io">https://leapmind.io</a></p>
<p>＊社名、ロゴ、文中の製品名はLeapMind株式会社の商標または登録商標です。
＊プレスリリース記載の情報は発表日現在の情報です。</p>
<p>お問い合わせ先
LeapMind株式会社
Efficiera事業部　広報担当
TEL：03-6696-6267
メール：<a href="mailto:pr@leapmind.io">pr@leapmind.io</a></p>

超低消費電力AIアクセラレータIP「Efficieraバージョン2ベータ版」を公開

<p>Hello and welcome to my LeapMind Summer Intern summary post!</p>
<h2 id="about-myself">About Myself</h2>
<p>I'm a German-born, Spanish-raised computer scientist with a passion for Neural Networks and Natural Language Processing. I'm a master student at the University of Tokyo and got the opportunity to join LeapMind for a summer itern program. Feel free to follow me on <a href="https://github.com/mariomeissner">GitHub</a> or <a href="https://twitter.com/mario_meissner">Twitter</a>! I also have my own <a href="https://mariomeissner.github.io/">blog</a> where I (very) occasionally write some stuff.</p>
<p>Let's start by giving some background about the topic at hand before I show you the results I obtained!</p>
<h2 id="the-lottery-ticket-hypothesis">The Lottery Ticket Hypothesis</h2>
<p><img src="/images/posts/en/news/summer-internship-2021-mario-finding-lottery-tickets-via-gradient-descent/b7f71fe6--2021-09-24-17.50.45-660x350.png" alt="Image: The Story of the Lottery Ticket Hypothesis: Hidden Networks"></p>
<p>Model pruning is a method to reduce the number of active weights in a neural network, for the purpose of decreasing model size and induce stronger regularization. A recent research direction called <a href="https://arxiv.org/abs/1803.03635">The Lottery Ticket</a> Hypothesis talks about how it is possible to find subnetworks that perform equally well (or even better!) than their full-sized counterparts, while also converging faster. This idea has prompted a number of follow-up works on pruning and lottery tickets and their relationship with the nature of how neural networks learn.</p>
<h2 id="finding-supermasks">Finding Supermasks</h2>
<p>One of the most notorious findings that spawned from the concept of Lottery Tickets is the supermask. This mightly creature is capable of pruning a randomly initialized model in such a way that it achieves full-sized model performance, but without ever changing the weights. Let that sink in for a moment! You randomly initialize the weights of a model, and then apply a certain mask, which zeroes-out a large amount of the weights. Without any weight training, this model performs extremely well on the test set of a certain task.</p>
<p>So what is this black magic? How do we obtain these supermasks? The answer is: gradient descent! Instead of calculating the gradients with respect to the weights, we compute the gradient on the mask and take a step towards a mask that reduces the target loss. Although applying a mask sounds like a non-differentiable task, via some tricks this is a totally possible. The algorithm that trains these masks is called edge-popup. Refer to the <a href="https://arxiv.org/abs/1911.13299">paper</a> and <a href="https://github.com/allenai/hidden-networks">its code</a> for details!</p>
<h2 id="supermasks-for-binarized-models">Supermasks for Binarized Models</h2>
<p>The <a href="https://arxiv.org/abs/2103.09377">Multi-Prize Lottery Ticket Hypothesis</a> paper talks about how we can find very robust binarized models via the supermask method. Models with binarized weights and activations are notoriously difficult to train, and here at LeapMind we wished to investigate the potential of this method to help us improve our own models.</p>
<h2 id="what-i-discovered">What I Discovered</h2>
<p><img src="/images/posts/en/news/summer-internship-2021-mario-finding-lottery-tickets-via-gradient-descent/6b400e0a--2021-09-24-8.36.36-660x350.png" alt="Image: Reproducing their results"></p>
<p>Just like in the Multi-Prize Lottery paper, a fully binarized lottery model remains 10%~20% below in accuracy against a standard weight-trained float model, especially for larger datasets such as ImageNet. However, comparing a binarized lottery model against a weight-trained binarized model is a different story! Here we can see extremely competitive results depending on the model configuration and dataset.</p>
<p>However, an important realization can be made to further improve results. The idea of freezing the weights and performing only mask-optimization is interesting from a theoretical point of view and helps these research papers get published, but when it comes down to the practical benefit, there is no reason for us to restrain ourselves in such a way! Why not combining the power of supermasks with the old-fashioned but well-known weight-training?</p>
<p>It turns out that supermask training in combination with normal weight-training acts like a strong regularizer, helping to improve generalization and avoid learning spurious correlations. Overall, we obtain much better training curves when training an unfrozen model with supermask training.</p>
<p>Additionally, assuming the existence of a powerful sparse-multiplication library, we can speed-up inference time of these models due to the fact that the weights are masked and thus very sparse.</p>
<h2 id="conclusions">Conclusions</h2>
<p>This summer internship was extremely exciting and I learned a ton of things. First and foremost, I got to dive deep into the theoretical guts of model pruning, lottery tickets and edge-popup supermask training. An additional, and in my opinion even more valuable experience was to see firsthand how a large, cutting-edge deep learning repository is organized and maintained. I learned how to <a href="https://techblog.leapmind.io/blog/boost-your-ai-research-with-hydra-and-lightning-templates/">structure complex research experiments</a> aiming for clarity and reproducibility. This will be my biggest takeaway for sure!</p>

Summer Internship 2021 – Mario – Finding Lottery Tickets via Gradient Descent!

<p>こんにちは、Anomaly Detectionチームで1ヶ月半ほどサマーインターンに取り組んだ仲吉と申します。</p>
<h2 id="取り組んだ内容">取り組んだ内容</h2>
<p><img src="/images/posts/news/heuristic-approach-may-be-useful-in-anomaly-detection/6cfee00e--2021-09-16-10.07.44-e1631871043654-660x356.png" alt="What Did I during Internship?"></p>
<p>今回検討を行った異常検知の手法では、最初に特徴ベクトルから代表点を抽出しそれを利用して異常度を出します。</p>
<p>論文中の手法では貪欲法によって代表点を選択しますが、適当な目的関数を設定して焼き鈍し法を適用することで精度を向上させることを目標に取り組みました。</p>
<p>貪欲法でも高い精度が得られることと精度自体を目的関数にするのは難しいことから、この貪欲法がどのような目的関数を小さく、もしくは大きくしようとしているのかを考察し、その最適化を目標とする焼き鈍し法を行うというアプローチを取りました。</p>
<p><img src="/images/posts/news/heuristic-approach-may-be-useful-in-anomaly-detection/2c7a1e88--2021-09-16-10.10.05-e1631871057492-660x353.png" alt="Transition of Objective Function"></p>
<p>期間中は様々な目的関数を試しましたが、なかなか精度向上に繋がる目的関数は見つからず実際の問題に取り組む難しさを実感しました。</p>
<p>始まってからもしばらくは方針が立ちませんでしたが、予想を立てての実験や結果のビジュアライズに合わせてアドバイスを頂くことで最終的には僅かではありますが改善することができました。</p>
<h2 id="労働環境などについて">労働環境などについて</h2>
<p>労働時間は比較的自由が効き、ミーティングなどがなければ仮に寝坊などをしてしまってもなんとかなるため安心して労働することができました。</p>
<p>インターン中はチームのメンターの方にも気軽に質問することができる雰囲気でしたし、毎日マネージャーとの1on1があって取り組んでいる課題について質問したり方向性を修正していただいたりとやりやすかったです。</p>
<p>また、サマーインターンといえば美味しいランチを食べられるイメージがありましたがフルリモートということもあり無理だろうと考えていました。
ただ、ほとんど毎週のようにチームの方だったりCTOやCROの方、過去にインターンに参加した社員の方とオンラインでランチをしながら色々な話を聞く機会がありました。
途中からは夕方にコーヒーブレイクとして会社の色々な方が参加して雑談するイベントもあり面白かったです。</p>
<h2 id="最後に">最後に</h2>
<p>異常検知という分野に関する知識は何もなかった私でも、質問を駆使することで必要な部分は把握して課題に取り組むことができました。
短い期間ですが楽しいインターンでした、ありがとうございました！</p>

Heuristic Approach may be Useful in Anomaly Detection

<p>エッジAIのスタンダードを創るLeapMind株式会社（東京都渋谷区、代表取締役CEO：松田総一）は、極小量子化技術に関する特許を取得したと発表しました。今回取得した特許は、LeapMindが開発・提供している超低消費電力AIアクセラレータIPのEfficieraを支える基盤技術のひとつです。LeapMindは、極小量子化技術ならびにEfficieraに関する特許出願とその権利化を、国内はじめ諸外国で行っているほか、Efficieraのライセンス事業も展開しています。これらの知的財産業務は、当社の事業拡大における重要な枠組みとして位置づけており、継続的に取り組んでまいります。</p>
<p>特許番号　　 第6896306号
特許登録日　 令和3年6月11日
発明の名称　 ニューラルネットワーク回路、エッジデバイスおよびニューラルネットワーク演算方法
特許権者 LeapMind株式会社</p>
<h2 id="leapmindについて">LeapMindについて</h2>
<p>2012年に創業したLeapMind（東京都渋谷区、代表取締役CEO：松田総一）は、「機械学習を使った新たなデバイスを、あまねく世に広める」を企業理念に、ディープラーニングをコンパクト化する極小量子化技術に強みを持ち、コンシューマエレクトロニクスや自動車産業など製造業中心に、150社を超える採用実績があります。また、次世代の情報端末を実現するためのキーテクノロジーを提供するために、その実現に必要なソフトウェアとハードウェア両面の開発に取り組んでいます。LeapMindの事業は高く評価されており、累計調達額は49.9億円に達しています（2021年5月現在）。詳細は<a href="https://leapmind.io/">こちら</a>をご参照ください。</p>
<p>本社：〒150-0044 東京都渋谷区円山町28-1 渋谷道玄坂スカイビル 3F
代表者：代表取締役CEO 松田 総一
設立：2012年12月
URL：<a href="https://leapmind.io">https://leapmind.io</a></p>
<p>※ 社名、ロゴはLeapMind株式会社の登録商標です。</p>
<p>問い合わせ先
LeapMind株式会社
Marketing Communication Division　広報担当
TEL：03-6696-6267
メール：<a href="mailto:pr@leapmind.io">pr@leapmind.io</a></p>

News