伊人伊狠亚洲综合影院-伊人宗合网-伊在人香蕉99久久-淫片视频-英国美女一级毛片视频

news center

當前位置 :
最快突破1億用戶的ChatGPT,也有“成長的煩惱”?

一個AI機器人有多會聊天?ChatGPT實力“聊”出了史上增長最快的消費級應用,上線短短兩個月,月活用戶突破1億,每天用約有1300萬獨立訪客與之對話。敲代碼、寫論文、編劇本……這位多才多藝的“全能網友”,引爆了新一輪的人工智能熱潮。

然而,當紅的ChatGPT也正經歷著“成長的煩惱”。從GPT到GPT-3,優化迭代主要源自模型的增大,訓練參數量從1.17億增加到1750億,模型訓練使用的數據量高達0.4萬億token,如此龐大的數據體量,對于分布式集群的運算效率提出了極高要求。事實上,不只是ChatGPT,整個AI產業的大規模商用都在經歷算力限制的陣痛。如何在整體資源有限的條件下,讓應用獲取更多的計算資源,提升機器學習效率,人工智能和算網融合領域的前沿課題——在網計算(In Network Computing)成為其中一種有效解決方案。

讓網絡設備參與計算

突破集群計算效率瓶頸

數據顯示,過去5年GPU算力增長近90倍,而網絡帶寬僅增長10倍。受網絡通信能力的限制,分布式集群的運算效率無法隨其規模線性增長,網絡通信能力日漸成為人工智能模型訓練成熟發展的瓶頸。傳統的計算集群,計算過程以計算節點為中心,網絡僅用于節點間的互聯。當各計算節點之間進行一對多或多對多的集合通信時,多次通信交互不僅會影響計算效率,也會增加網絡負載,出現通信時延過大、通信效率降低等問題。作為算網融合核心技術之一的“在網計算”技術,是通過在網絡中部署對報文進行解析的算力,將部分計算任務從主機側遷移至網絡側,由交換機、路由器、智能網卡、DPU等設備或部件完成計算加速的技術。通過網絡設備自身算力的共享,在不改變業務原有運行模式的前提下,在網計算將HPC和AI分布式計算的集合通信的操作卸載到網絡設備上,讓網絡設備參與計算,減少計算節點之間的消息交互,降低通信延遲,從而提高網絡帶寬利用效率,加速HPC和AI分布式計算效率。

加速布局在網計算

推動“網絡計算化”演進

作為數字化解決方案領導者,紫光股份旗下新華三集團以科技創新為引領,基于在網絡和計算領域深厚的技術積淀,主動擔起在網計算技術的產業化探索職責,快速在網絡設備端完成研發落地。全面支持在網計算的H3C P4可編程交換機支持Pytorch框架和DPDK UDP、RoCE通信方式,能夠將數據需求聚合統一操作,優化通信網絡擁堵,減少主機的數據處理量。據新華三集團內部實驗室測算,使用H3C P4可編程交換機加速數據并行訓練,模型訓練精度不受影響,計算節點間通信數據量平均減少30%,最多可以減少48%的訓練時間,可大幅提升分布式集群的整體訓練效率,創造更加出色的應用價值。


在網計算作為計算、網絡融合發展的關鍵技術,不僅有效解決了HPC和AI分布式計算的集合通信問題,為提升數據中心的集群規模帶來了新的方案和思路,同時也將進一步加速算網融合“網絡計算化”演進,推動網絡從連接算力到感知、承載、調配算力的角色升級,助力算網融合縱深發展。從AlphaGo擊敗圍棋世界冠軍,到ChatGPT火遍全球,人工智能時代正在加速到來。面向未來,在“云智原生”戰略指引下,新華三集團將以前瞻視野精耕科技,深入數字科技的實際應用場景,為人工智能與經濟社會的融合注入強大的創新動能,深度賦能百行百業的數字化轉型和智能化升級。





主站蜘蛛池模板: 全黄a免费一级毛片人人爱 全黄一级裸片视频在线观看 | 久久免费精品国产视频 | aaaaa毛片 | 美女久久久久久 | 黑人性视频做爰全过程视频 | 婷婷丁香色综合狠狠色 | 亚洲一区视频 | 99热视| 免费观看视频成人国产 | 高清国产一级精品毛片基地 | 午夜宅男宅女的免费网站 | 国产三级在线观看播放 | 国产小嫩模好紧 | 草草影视在线观看 | 午夜一区二区三区 | 日韩一区二区视频在线观看 | 欧美性猛交xxx免费看人妖 | 欧美亚洲免费久久久 | 日韩精品观看 | 麻豆果冻传媒一卡二卡 | 丁香六月婷婷综合 | 伊人亚洲综合网成人 | 免费黄色一级大片 | 欧美黄色软件 | 久久久最新精品 | 国产成人经典三级在线观看 | 免费中日高清无专码有限公司 | 久久精品a一国产成人免费网站 | 亚洲系列中文字幕一区二区 | 国产色片在线观看 | 久久精品视频一区二区三区 | 日高千晶在线观看 | 国产丝袜脚 | 亚洲第五色综合网啪啪 | 成人污视频 | 亚洲美女一区 | 欧美一级毛片免费看高清 | 婷婷丁香综合 | 一级大黄美女免费播放 | 麻豆网站在线免费观看 | 成人做爰毛片免费视频 |