微軟已經(jīng)為深度學(xué)習優(yōu)化庫 DeepSpeed 申請了商標保護。該商標于 2020 年 12 月 8 日提交，其中提到“為人工智能處理和深度學(xué)習提供臨時(shí)使用的在線(xiàn)不可下載的計算機軟件”，這表明微軟可能在考慮通過(guò)在線(xiàn)云服務(wù)提供 DeepSpeed。

　　該庫于今年 2 月發(fā)布，可以在適度的硬件上訓練大規模的人工智能模型。它只需要使用 800 塊 Nvidia V100 顯卡就可以創(chuàng )建具有萬(wàn)億參數的深度學(xué)習模型，是目前世界上最大的模型的 5 倍多。如果沒(méi)有 DeepSpeed，同樣的任務(wù)需要 4000 塊 Nvidia A100(性能比 V100 快 2.5 倍)，而且事件縮短了 100 多天。

　　在 GPT-3 顯示模型在神經(jīng)網(wǎng)和數據集越大的情況下繼續改進(jìn)后，這個(gè)工具特別有用。然而，這確實(shí)有可能將最新的創(chuàng )新推到資源較少的小型團隊的范圍之外，但 DeepSpeed 已經(jīng)允許這些團隊以最小的硬件與更大的服務(wù)競爭。轉移到云處理可能會(huì )使大型模型 AI 訓練更容易獲得。
　?。?a href="http://www.lp2018.com/wechat/">邯鄲小程序公司）

特斯拉獲邀在英格蘭東北...

騰訊華東最大自建數據中...