AI・データサイエンス
Microsoft、深層学習向け最適化技術「DeepSpeed」を発表
Microsoftは2月13日（現地時間）、深層学習向け最適化技術「DeepSpeed」を発表した。
「DeepSpeed」は、深層学習において自然言語モデルのトレーニング効率化を向上させる技術。大規模分散型深層学習向け並列化オプティマイザZeRO（Zero Redundancy Optimizer）を搭載しており、データの並列化に要するリソースを節約できる。「DeepSpeed」を利用することによって、分散型のモデル学習を簡単かつ効果的に実行できるようになり、1000億件にのぼるパラメータモデルにも対応できるようになるとしている。
「DeepSpeed」は、GitHubから入手できる。
(川原 龍人/びぎねっと)
[関連リンク]
アナウンス
