Bezwen pouvwa masiv nan sistèm AI yo ap mete yon dokiman Pwen Enpòtan sou dirab nan ekosistèm semi-conducteurs la. Endistri a chip bezwen pou kapab pwodwi pi efikas ak pi ba-pouvwa semi-conducteurs. Men, demand pou ogmante vitès pwosesis yo ap monte ak itilizasyon toupatou nan modèl lang gwo ak ogmantasyon an jeneral nan kantite done ki bezwen trete. Gartner estime ke 50% nan òganizasyon yo pral adopte siveyans dirabilite ki pèmèt yo pa 2026 pou jere konsomasyon enèji ak mezi anprint kabòn pou anviwònman nwaj ibrid yo. Sa a se nesesè, bay 40% nan sant done yo gen anpil chans yo dwe pouvwa-kontrent pa 2027, dapre konpayi an.
Semiconductors ka ede ak dirab si yo fèt kòrèkteman. Sa a se vre menm pou chips AI/ML ki fèt pou pèfòmans maksimòm, depi yo ka fè kalkil pi vit lè l sèvi avèk algorithm pi piti. Sa rezilta nan yon rediksyon jeneral nan kantite enèji konsome. Sa a se kote akseleratè koutim antre nan jwèt. Yo ka bay amelyorasyon siyifikatif konpare ak processeurs jeneral, souvan travay an tandem.
AI a ap grandi anprint
Enfòmatik ap pase tout kote, e tout nan li bezwen yo dwe pi efikas. Vil entelijan, enfrastrikti entelijan, ak transpò entelijan pa posib san teknoloji entelijan, e de pli zan pli AI pèmèt sa. Kòm AI vin pi anrasinen, ekosistèm semi-conducteur a ap eseye minimize enpak li sou resous yo.
Sant done jodi a deja konsome gwo kantite pouvwa. Globalman, yo bezwen 460 terawatt-èdtan (TWh) elektrisite chak ane. Sa a ekivalan a tout kantite enèji ki pwodui pa Almay. Ozetazini, konsomasyon elektrisite sant done yo te 2.5% nan total US (~130 TWh) nan 2022, e ke yo espere triple a 7.5% (~390 TWh) pa 2030, dapre Boston Consulting Group. Sa se ekivalan elektrisite anviwon 40 milyon kay Ozetazini itilize, oswa prèske yon tyè nan kay total Ozetazini.
"AI gen potansyèl pou depase tout inovasyon transfòmasyon ki te kreye nan syèk ki sot pase a," te di Imran Yusuf, direktè ekosistèm pyès ki nan konpitè nan Arm's Infrastructure Group. "Men, demann pouvwa yo nan AI kalkile yo enpòtan, epi kòm konpayi yo prese bati kapasite AI yo, yo riske depase pwòp objektif dirabilite yo. Modèl AI nan lavni yo pral kontinye vin pi gwo ak pi entelijan, alimenté bezwen an pou plis kalkile, ki ogmante. demann pou pouvwa kòm yon pati nan yon sik vètye Senpleman mete, pa gen okenn elektrisite, pa gen okenn AI Sistèm enfòmatik AI."
Gen lòt ki dakò. "Li vin pi efikas nan konsepsyon an," te di Neil Hand, direktè maketing nan Siemens EDA. "Ou ka gade nan nenpòt algorithm. Gen lòd nan efikasite. Apwòch ki pi efikas nan yon pèspektiv pouvwa se kouri kòd la anvan tout koreksyon sou yon processeur bi jeneral epi kite li manivèl lwen - ak griye kèk gimov pi wo a CPU a paske li prale. vinn cho anpil."
Yon etajè sèvè ki baze sou GPU NVIDIA Grace Blackwell mande pou 120 kilowat. Men, yo tou 1,000 fwa plis kapasite pase jenerasyon anvan yo, ki egal a 500 fwa plis kalkil pou chak inite pouvwa, dapre Rich Goldman, direktè nan Ansys. "Si ou bati yon sant done nan CPU, epi ou vle fè yon anpil nan informatique, ou ka ranplase CPU yo ak dènye GPU yo epi pote pouvwa a desann pou menm kapasite informatique yo. Nou toujou pral gen gwo pwoblèm pouvwa, paske ak AI nou ap fè plis enfòmatik, men sa ap ede."
Men wè Grace Blackwell espesyalize ki kalite pyès ki nan konpitè pou AI kòm pwochen etap nan devlopman, men li ajoute ke anpil plis ka fè paske sa yo se toujou chip jeneral. Li te di ke li posib yo bati pi efikas AI chips ki vle di yo klasifye ak travay ak yon klasifikasyon laj.
"Sa a se sa nou wè NVIDIA fè, sa a se sa nou wè Google ak anpil nan founisè nwaj yo fè," Hand te note. "Gen nivo efikasite ke nou ka fè pou pèmèt chips sa yo pwodwi pi efikas, epi pou pèmèt tout bagay alantou dirab ki ale ansanm ak sa. Lè sa a, ou ka ale yon etap pi lwen ak nouvo teknoloji ki pran yon modèl AI ki byen antrene. ak konvèti li nan pyès ki nan konpitè sa a pral pi efikas ou ka, epi li pral sèvi ak yon fraksyon nan pouvwa a nan pwen sa a, kidonk Lè sa a, ou gen fè fas a defi a ke AI ap akselere ak chanje tèlman rapid. Konbyen ou ka fèmen nou wè sa ak dènye anons Intel ak Qualcomm sou CPU mobil yo, epi Apple ap fè sa pou yon koup de jenerasyon kèlkeswa rezo neral ou vle genyen sou chip la, epi gen jis pral kontinyèl sa a."
Steve Roddy, direktè maketing nan Quadric, te dakò. "Fòs ki mennen nan eksplozyon modèl AI/ML yo se yon gwo dimansyon. Onn AI jeneratif ap chanje fason moun ak kòporasyon yo travay; pètèt afekte plizyè milyon djòb atravè mond lan. Ekosistèm semi-conducteurs/EDA/IP pa ka rezonab koub koub la. pwogrè nan evolisyon nan modèl AI masiv ki ap pouse pa dè santèn de milya dola nan envestisman nan titan teknoloji chak ane Men, endistri yo semi-conducteurs ak IP ka ede montre wout la radikalman diminye anprint konsomasyon enèji nan kouri modèl GenAI sa yo nan jounen an. -itilizasyon enferans jodi a."
Pi gwo defi dirabilite pou enferans GenAI se konvèsyon mòd nan fòma kantite nonb antye ki pi ba konsomasyon pouvwa. "Ekip syans done k ap kreye modèl GenAI yo sanble pa bliye lefèt ke modèl referans yo pibliye nan fòma pwen k ap flote konsome 10 fwa enèji pou chak enferans konpare ak menm modèl la konvèti an fòma nonb antye relatif (konpare yon pwen k ap flote miltipliye-akimile kont yon 8. x 8 oswa 4 x 8 nonb antye relatif MAC)," Roddy te di. "Keseswa enferans rive nan sant done a oswa sou aparèy, ekonomi enèji yo - ak benefis ki kapab lakòz nan dirab - soti nan konvèsyon nan fòma nonb antye ki pi ba pouvwa yo sibstansyèl. Diferan sa a egziste jodi a paske syantis yo done yo kreye nouvo modèl GenAI yo se matematisyen, pa entegre. enjenyè."
Teknoloji avanse
Lè ekip konsepsyon an deside li lè pou ale nan pyès ki nan konpitè, menm si algoritm AI yo ap avanse tèlman vit, pral gen yon sèten kantite estabilite, men te di. "Se yon ti jan tankou lè nou te antre nan evolisyon TPU yo, NPU, XPU yo. Anjeneral, yo pa t 'trè solid pou yon ti tan paske blòk bilding debaz yo te chanje pi regilyèman. Men, nan dènye ane yo, fonksyonalite debaz sa yo. te estabilize pou kounye a ou ka fè kenkayri ki pi efikas nan enèji. Pwobableman ap toujou ap itilize plis pase sa nou di paske sant done yo se yon gwo konsomatè enèji, men kisa sa a se tout kesyon an nan yon pèspektiv pwodiktivite Men, anpil nan sa se jis si se yon chip AI konplèks oswa yon kalite aspè EDA yo se apeprè menm bagay la tou.
Yon lòt konsiderasyon se ki jan yo jenere ase pouvwa pou sant done a. Ki jan ou mete sant done sa yo nan kote ki pa gen ase pouvwa? "Ou pral wè sant done pi souvan nan kote ki gen yon sipli pouvwa, ak peyi ki gen yon sipli nan pouvwa yo pral vin sant done," Goldman te di. "Yo pral lokalize sant done a la, Lè sa a, pwodiksyon konesans ou jwenn nan pouvwa sa a."
Sa pral akonpaye pa nouvo ak nouvo sous pouvwa. "Nou te tande pale de mini izin nikleyè pou alimante sant done endividyèl yo, ak aplikasyon tankou mete yo sou tèt pi lwil oliv pou metàn ki kounye a ale nan lè a ak polisyon lè a, nou ka boule sa epi kreye pouvwa soti nan. sa yo pou dirije sant done yo," Goldman te di. "Nou dwe jwenn roman tankou sa yo nan lòd yo pouvwa sant done sa yo."
Pati ak pati nan diskisyon sou dirab AI a se efikasite sant done, kote gen yon konfli kontinyèl ant pouvwa ki nesesè pou deplase done yo ak nan ki distans done sa yo aktyèlman bezwen deplase. "Nou wè moun ki bati gwo processeur soti nan chiplets, e yon pati nan sa a se paske pandan ke yo konnen yo ta ka bati yon sistèm ekivalan soti nan de chips ki konekte sou yon otobis, men deplase done yo ant yo pral koute anpil. nan pouvwa," te eksplike Steven Woo, envanteur parèy ak distenge nan Rambus. "Plis ou mete bagay yo ansanm, mwens distans done yo gen pou vwayaje, mwens pouvwa ou depanse pou deplase done yo. Men, Lè sa a, pwoblèm nan se ke dansite pouvwa a ap monte. Ou dwe delivre plis pouvwa, epi ou gen pou Cool bagay la Se konsa, Tug nan lagè a se, ki jan pou mwen refwadi bagay sa a mwen ap ekonomize kèk pouvwa pa gen chips yo byen lwen youn ak lòt, men kounye a li gen pou bay plis pouvwa nan volim sa a? Nou dwe refwadi li se rale lagè ke achitèk nivo sistèm yo fè fas kounye a.
Nan nivo sant done, gen plis itilizasyon teknik refwadisman avanse nan serveurs. "Plis moun ap pale sou refwadisman likid, ki gen ladan plak frèt," Woo te di. "Google ap fè sa, epi NVIDIA ap pale de sa pou Grace Blackwell. Se teknoloji ke kèk nan supercomputers yo itilize jodi a, epi li pa yon etranje oswa yon nouvo teknoloji. Se jis yon kesyon de tan anvan nou wè li kòm. Pwobableman gen kèk sistèm ki refwadi lè a pou lavni previzib, men ou pral wè plis sistèm adopte kèk kalite likid ponpe ak yon sistèm refwadisman de-faz."
Nan fen ekstrèm apwòch sa a se refwadisman imèsyon. "Sa a ka pa yon solisyon solid sant done refwadisman sèvè nenpòt ki lè byento, men li ta ka si nou kouri soti nan pist sou likid yo tiyo," li te ajoute. "Yon fwa ou kapab jere chalè a ak yon likid, oswa yon bagay konsa, Lè sa a, ou ka limite ranje tanperati ke yon chip ale nan, ki vle di si li fè sik tèmik, li ka pa frape tanperati ekstrèm yo. Sa a bon. , paske Lè sa a, ou pa gen ekspansyon nan tèmik ak kontraksyon sou pi gwo ranje sa a, ak kèk nan lòt echèk ki gen rapò ak fyab jwenn fasilite yon ti jan."
Analiz gwo done jwe tou yon wòl nan dirab lè yo idantifye tandans nan konsepsyon chip ki baze sou itilizasyon sant done yo. Adam Cron, achitèk distenge nan Synopsys, di: "Gen yon tren pouvwa antye. "Enkyetid yo nan nivo mouri a. Lè sa a, ou gen tablo a li sou, etajè a li nan, fèm nan li nan, ak Lè sa a, li ale nan tout wout la tounen nan liy transmisyon yo. Ak sa ki manadjè sant done renmen wè se yon bèl menm kil pa twop bato a, paske si ou vle anpil isit la, Lè sa a, ou ka oblije desann la, oswa vis vèrsa."
Idealman, pouvwa ta dwe redwi toupatou. "Sant done yo ap itilize ant 1 ak 2% nan elektrisite nan mond lan, epi yo ap sou yon kou aksidan yo sèvi ak li tout," Cron te di.
Sede, lyen fabrikasyon
Gen yon lyen enteresan ant efò pou fè semi-conducteurs dirab ak sede ak fabrikasyon, men Siemens 'te note. "Chips sa yo ap vin pi gwo. Se poutèt sa, sede vin pi plis nan yon pwoblèm. Plis nou ka fè ak sede, se pi bon nou ka pou dirab, paske yon mouri mouri se yon fatra nan resous. Yon bon mouri se toujou yon pi bon bagay. . Ki sa nou ka fè nan ekosistèm EDA-semi-kondiktè a pou amelyore rannman, kèk nan yo sèvi ak AI pou jwenn pi bon pwodiksyon an pri dirab AI ak opòtinite dirab AI ak fason yo travay ansanm Anjeneral, li se yon net pozitif Men, ki jan ou pa konnen ke ou kapab, paske li difisil jwenn done yo anvan tout koreksyon di sa ki koute pou antrene modèl sa yo. Men, ki jan ou ka mezire apèsi yo, se pwobableman yon doktora pou eseye kalkile enpak sa a. ak teknoloji AI yo ka ogmante isit la. Se jis EDA k ap fè bagay EDA li yo."
Analiz tèmik ak aje pral jwe tou nan dirabilite sant done AI. Sa a se pa inik nan AI, nan kou. Li aplike pou tout bato yo," Men te di. "Ou ka kòmanse konprann ki tèmik yo nan nivo mouri a, nan nivo sub-mouri, pou w konprann enplikasyon yo. Koulye a, èske mwen ka mete yon pil 3D ansanm epi fè li serye? Èske mwen ka kouri bagay sa yo nan yon nivo pouvwa ase ke mwen pa akselere disparisyon yo? Kapasite sa yo pral pèmèt nou ale menm pi lwen. Epitou, kòm nou kòmanse elaji definisyon jimo dijital la epi kòmanse agrandi sa ki enkli nan sa a, ou ka kòmanse jwenn yo wè enpak yo nan nivo sistèm. Epi pandan ke yo pa espesifik pou AI ak dirab, se kote nou pral kòmanse wè gwo so nan efikasite paske konbyen lajan yo sou-enjenieri nan moman sa a? Konbyen gen twòp fatra anndan li? Yon fwa nou ka kòmanse gen yon konsepsyon ki pi konsistan nan nivo pwodwi ak nivo pwoblèm, gen benefis la tou. Pote l 'tounen nan AI espesyalman, pou li ale nan vre marasa dijital konplè milti-domèn, AI pral bezwen paske AI pral fè analiz la kwa-domèn pou ou ak ekstraksyon nan modèl ranplasan ak adaptasyon nan fidelite otomatik. Pral gen tout sa yo. Plis AI nou bezwen, plis AI nou itilize."
Konklizyon
Dirab se pa yon nouvo sijè, men li te toujou yon sijè pou kèk diskisyon nan lavni. Se pa sa ankò.
"Machann pyès ki nan konpitè ak lojisyèl yo te konprann pou plizyè ane ke kalkile echèl ak dirab ta ka sou yon kou kolizyon ak reyalite, men yo pa oblije si endistri a ogmante kapasite ekosistèm li yo," te di Arm's Yusuf. "Pran Arm Total Design, pou egzanp, ki se yon ekosistèm nan konpayi dirijan ki soti nan tout endistri a semi-conducteurs dedye a pèmèt solisyon efikas, koutim Silisyòm pou ka itilize AI/ML. Kòm sa yo, li bay patnè yo aksè preferansyèl nan Arm Neoverse Compute Subsystems. (CSS), zouti IP ak EDA pre-entegre, sèvis konsepsyon, sipò fondasyon, ak sipò lojisyèl komèsyal Li reprezante tou yon nouvo mantalite ki ankouraje kolaborasyon, fleksibilite, ak inovasyon, pandan y ap konprann ke laj la nan AI bezwen ko-egziste. ak objektif mondyal dirab."
Ki sa ki chanje se ke dirab te deplase soti nan "bèl genyen" nan "dwe genyen." Soti nan pèspektiv li kòm yon lidè endistri, Intel te kreye sèt Konsèy pou itilize AI san gwo pri anviwònman an. Anplis de sa, Intel kwè ke yo te fè entansyonèl ak fason AI aplike nan konsepsyon se kle pou reyalize objektif dirabilite. Avèk entansyonèl, moun ki egzekite inisyativ AI ka rekòlte benefis ki genyen nan chaj travay optimize (gade isit la pou plis), epi yon apwòch aktif nan konsepsyon pwojè ak jesyon IT enpòtan anpil pou maksimize enpak inisyativ AI ak minimize anprint kabòn (gade isit la pou plis enfòmasyon). ka itilize).
Fondamantalman, diminye enpak AI sou dirab pral desann nan teknoloji nan tèt li. Quadric a Roddy te di ekosistèm semi-conducteurs la ka ede pa "ogmante konsyantizasyon jeneral sou nesesite pou itilize fòma done ki pi ba-presizyon, osi byen ke bati plis zouti otomatik pou konble diferans ki genyen ant matematisyen ak enjenyè entegre."
