AWS Inferentiaの概要とメリットについて

AWS Inferentiaの概要

AWS Inferentiaは機械学習の推論を支援する専用チップです。低コストの従量課金モデルで利用することができ、初期費用がかからないためすぐに導入をすることができます。深層学習ワークロードを加速するために設計された物の中で、最初に設計されたカスタムシリコンです。

クラウドを使っているため、高性能の推論を提供してくれます。

AWS Inferentiaの利点

AWS Inferentiaには以下の利点があげられます。

• 高性能
• 柔軟性

高性能

最大 16 個の Inferentia チップを持つことにより、音声生成などをすることができます。

柔軟性

16ビットや32ビットなどのトレーニング済みモデルを取得しています。

AWS Inferentiaのまとめ

AWS Inferentiaは機械学習の推論をしてくれるシステムです。

参考資料

https://aws.amazon.com/jp/machine-learning/inferentia/

＞＞AWS導入無料相談はこちらから