機械学習サーバ システム

用途

機械学習システム向けソリューション

機械学習と推論システムの高速および電力接続ソリューション。

集合的で膨大な量のデータを生成している数十億もの 最先端IoT デバイスにより、私たちの世界はこれまでになく密接につながるようになります。 このデータから得られる知見によって、私たちの業務方法、情報交換方法、そして生活様式が変わります。このような新しい知見は、ニューラル ネットワークを介してデータが処理されてパターンの認識と情報の分類が行われることによって生まれます。ニューラル ネットワークが強化されることにより、モデルケースをもとに新しいデータの処理と分析を行うことができます。これは一般に推論として知られています。音声認識・物体検知・画像分類・コンテンツの個人化・推奨エンジンは推論システムが活用され、日常的に使用されるアプリケーションとなります。

推論サーバ

エンド ユーザはこれらのアプリケーションでリアルタイムの知見を求めているため、モバイル デバイスやエッジでの推論が推進されています。 FPGA、GPU、ASIC などのさまざまなハードウェア アクセラレータ タイプは、データの分類と特性化に使用されます。これらの各デバイスは処理能力と消費電力が異なります。作業負荷に応じてそれぞれに利点があります。一部のデバイスはトレーニングと推論の両方に利用されますし、それぞれに専用のデバイスもあります。 

  • 一般に、フィールド プログラマブル ゲート アレイ (FPGA) はネットワークと保存処理を高速化することにより、これらのタスクによる CPU の負担を軽減するために利用されています。
  • グラフィックス プロセッシング ユニット (GPU) は同時に発生するタスクを処理できるように設計されているため、CPU よりも効率的に大量のデータ セットを処理できます。
  • 特定用途向け集積回路 (ASIC) は、特定の作業負荷またはタスクを考慮して設計されたプロセッサで、電力効率の最適化を可能にします。

 

多くの場合、ハードウェア アクセラレータは他の演算デバイスやストレージ デバイスに接続されて大規模なファブリック内でクラスタ化され、さらに大きなネットワークに接続します。 ネットワーク接続には Ethernet や InfiniBand などのプロトコルを活用できます。これらは、通常、OSFP や QSFP-DD などの高速 I/O フォーム ファクタを使用します。PCIe は、ストレージ デバイス、ネットワーク インタフェース カード (NIC)、およびハードウェア アクセラレータを CPU に接続する場合に利用されています。TE の Sliver コネクタとケーブル製品群は、SFF-TA-1002 仕様に準拠し、これらのデバイスの接続と、第 5 世代および第 6 世代 PCIe の速度での動作を可能にします。

新たに登場した Compute Express Link (CXL) と Gen-Z は、キャッシュ コヒーレント メモリの実現により、メモリのボトルネックを解消することを目的として、急速に普及しているプロトコルです。これにより、新しいアーキテクチャが促進され、CDFP および Mini-SAS HD などの接続製品を使用する外部 PCIe ファブリックの需要が創出されます。

TE の STRADA Whisper 高速バックプレーン コネクタおよびケーブル システムは、112 Gbps の PAM-4 速度でのブラインド嵌合接続を提供することにより、システム モジュール性を実現します。

 

当社の LGA ソケットおよびハードウェアの幅広いラインナップには、バック プレート、ボルスタ プレート、クリップおよびキャリアがあります。