ജിം കെല്ലറുടെ നേതൃത്വത്തിലുള്ള ചിപ്പ് കമ്പനിയായ ടെൻസ്റ്റോറന്റ്, AI വർക്ക്‌ലോഡുകൾക്കായി അടുത്ത തലമുറ വോംഹോൾ പ്രോസസർ പുറത്തിറക്കി, ഇത് താങ്ങാവുന്ന വിലയിൽ മികച്ച പ്രകടനം വാഗ്ദാനം ചെയ്യുമെന്ന് പ്രതീക്ഷിക്കുന്നു.കമ്പനി നിലവിൽ ഒന്നോ രണ്ടോ വേംഹോൾ പ്രോസസ്സറുകൾ ഉൾക്കൊള്ളാൻ കഴിയുന്ന രണ്ട് അധിക പിസിഐഇ കാർഡുകളും സോഫ്റ്റ്‌വെയർ ഡെവലപ്പർമാർക്കായി ടിടി-ലൗഡ്‌ബോക്‌സ്, ടിടി-ക്വയറ്റ്‌ബോക്‌സ് വർക്ക്‌സ്റ്റേഷനുകളും വാഗ്ദാനം ചെയ്യുന്നു. ഇന്നത്തെ എല്ലാ പ്രഖ്യാപനങ്ങളും വാണിജ്യ ജോലിഭാരങ്ങൾക്കായി വേംഹോൾ ബോർഡുകൾ ഉപയോഗിക്കുന്നവരെയല്ല, മറിച്ച് ഡെവലപ്പർമാരെ ലക്ഷ്യം വച്ചുള്ളതാണ്.
"ഞങ്ങളുടെ കൂടുതൽ ഉൽപ്പന്നങ്ങൾ ഡെവലപ്പർമാരുടെ കൈകളിലേക്ക് എത്തിക്കുന്നത് എപ്പോഴും സന്തോഷകരമാണ്. ഞങ്ങളുടെ Wormhole™ കാർഡുകൾ ഉപയോഗിച്ചുള്ള റിലീസ് ഡെവലപ്‌മെന്റ് സിസ്റ്റങ്ങൾ ഡെവലപ്പർമാരെ മൾട്ടി-ചിപ്പ് AI സോഫ്റ്റ്‌വെയർ സ്കെയിൽ ചെയ്യാനും വികസിപ്പിക്കാനും സഹായിക്കും," ടെൻസ്റ്റോറന്റിന്റെ സിഇഒ ജിം കെല്ലർ പറഞ്ഞു.ഈ ലോഞ്ചിന് പുറമേ, ഞങ്ങളുടെ രണ്ടാം തലമുറ ഉൽപ്പന്നമായ ബ്ലാക്ക്‌ഹോളിന്റെ ടേപ്പ് ഔട്ട്, പവർ-അപ്പ് എന്നിവയിൽ ഞങ്ങൾ കൈവരിച്ച പുരോഗതി കാണുന്നതിൽ ഞങ്ങൾക്ക് ആവേശമുണ്ട്. ”
ഓരോ വോംഹോൾ പ്രോസസ്സറിലും 72 ടെൻസിക്സ് കോറുകളും (അതിൽ അഞ്ചെണ്ണം വിവിധ ഡാറ്റ ഫോർമാറ്റുകളിൽ RISC-V കോറുകളെ പിന്തുണയ്ക്കുന്നു) 108 MB SRAM ഉം അടങ്ങിയിരിക്കുന്നു, ഇത് 160W താപ ഡിസൈൻ പവറുള്ള 1 GHz-ൽ 262 FP8 TFLOPS നൽകുന്നു. സിംഗിൾ-ചിപ്പ് വോംഹോൾ n150 കാർഡിൽ 12 GB GDDR6 വീഡിയോ മെമ്മറി സജ്ജീകരിച്ചിരിക്കുന്നു കൂടാതെ 288 GB/s ബാൻഡ്‌വിഡ്ത്തും ഉണ്ട്.
വൈവിധ്യമാർന്ന വർക്ക്‌ലോഡുകൾ നിറവേറ്റുന്നതിനായി വോംഹോൾ പ്രോസസ്സറുകൾ വഴക്കമുള്ള സ്കേലബിളിറ്റി നൽകുന്നു. നാല് വോംഹോൾ n300 കാർഡുകളുള്ള ഒരു സ്റ്റാൻഡേർഡ് വർക്ക്‌സ്റ്റേഷൻ സജ്ജീകരണത്തിൽ, പ്രോസസ്സറുകളെ ഒരൊറ്റ യൂണിറ്റായി സംയോജിപ്പിക്കാൻ കഴിയും, അത് സോഫ്റ്റ്‌വെയറിൽ ഏകീകൃതവും വിശാലവുമായ ടെൻസിക്സ് കോർ നെറ്റ്‌വർക്കായി ദൃശ്യമാകുന്നു. ഈ കോൺഫിഗറേഷൻ ആക്സിലറേറ്ററിനെ ഒരേ വർക്ക്‌ലോഡ് കൈകാര്യം ചെയ്യാനോ, നാല് ഡെവലപ്പർമാർക്കിടയിൽ വിഭജിക്കാനോ അല്ലെങ്കിൽ എട്ട് വ്യത്യസ്ത AI മോഡലുകൾ വരെ ഒരേസമയം പ്രവർത്തിപ്പിക്കാനോ അനുവദിക്കുന്നു. വെർച്വലൈസേഷന്റെ ആവശ്യമില്ലാതെ തന്നെ പ്രാദേശികമായി പ്രവർത്തിക്കാൻ കഴിയും എന്നതാണ് ഈ സ്കേലബിളിറ്റിയുടെ ഒരു പ്രധാന സവിശേഷത. ഒരു ഡാറ്റ സെന്റർ പരിതസ്ഥിതിയിൽ, വോംഹോൾ പ്രോസസ്സറുകൾ മെഷീനിനുള്ളിൽ വിപുലീകരണത്തിനായി PCIe അല്ലെങ്കിൽ ബാഹ്യ വികാസത്തിനായി Ethernet ഉപയോഗിക്കും.
പ്രകടനത്തിന്റെ കാര്യത്തിൽ, ടെൻസ്റ്റോറന്റിന്റെ സിംഗിൾ-ചിപ്പ് വോംഹോൾ n150 കാർഡ് (72 ടെൻസിക്സ് കോറുകൾ, 1 GHz ഫ്രീക്വൻസി, 108 MB SRAM, 12 GB GDDR6, 288 GB/s ബാൻഡ്‌വിഡ്ത്ത്) 160W-ൽ 262 FP8 TFLOPS നേടി, അതേസമയം ഡ്യുവൽ-ചിപ്പ് വോംഹോൾ n300 ബോർഡ് (128 ടെൻസിക്സ് കോറുകൾ, 1 GHz ഫ്രീക്വൻസി, 192 MB SRAM, സംയോജിത 24 GB GDDR6, 576 GB/s ബാൻഡ്‌വിഡ്ത്ത്) 300W-ൽ 466 FP8 TFLOPS വരെ നൽകുന്നു.
466 FP8 TFLOPS-ന്റെ 300W എന്നതിന്റെ ഉദാഹരണം നോക്കാം. ഈ തെർമൽ ഡിസൈൻ പവറിൽ AI മാർക്കറ്റ് ലീഡർ Nvidia വാഗ്ദാനം ചെയ്യുന്നതുമായി നമുക്ക് ഇതിനെ താരതമ്യം ചെയ്യാം. Nvidia-യുടെ A100 FP8-നെ പിന്തുണയ്ക്കുന്നില്ല, പക്ഷേ INT8-നെ പിന്തുണയ്ക്കുന്നു, 624 TOPS (സ്പാഴ്‌സ് ആയിരിക്കുമ്പോൾ 1,248 TOPS) പീക്ക് പെർഫോമൻസോടെ. താരതമ്യപ്പെടുത്തുമ്പോൾ, Nvidia-യുടെ H100 FP8-നെ പിന്തുണയ്ക്കുകയും 300W-ൽ 1,670 TFLOPS-ന്റെ പീക്ക് പെർഫോമൻസിൽ എത്തുകയും ചെയ്യുന്നു (സ്പാഴ്‌സിൽ 3,341 TFLOPS), ഇത് Tenstorrent-ന്റെ Wormhole n300-ൽ നിന്ന് വളരെ വ്യത്യസ്തമാണ്.
എന്നിരുന്നാലും, ഒരു പ്രധാന പ്രശ്നമുണ്ട്. ടെൻസ്റ്റോറന്റിന്റെ വോംഹോൾ n150 $999 ന് വിൽക്കുമ്പോൾ, n300 $1,399 ന് വിൽക്കുന്നു. താരതമ്യപ്പെടുത്തുമ്പോൾ, ഒരു Nvidia H100 ഗ്രാഫിക്സ് കാർഡ് അളവ് അനുസരിച്ച് $30,000 ന് വിൽക്കുന്നു. തീർച്ചയായും, നാലോ എട്ടോ വോംഹോൾ പ്രോസസ്സറുകൾക്ക് ഒരു H300 ന്റെ പ്രകടനം നൽകാൻ കഴിയുമോ എന്ന് ഞങ്ങൾക്ക് അറിയില്ല, പക്ഷേ അവയുടെ TDP-കൾ യഥാക്രമം 600W ഉം 1200W ഉം ആണ്.
കാർഡുകൾക്ക് പുറമേ, ടെൻസ്റ്റോറന്റ് ഡെവലപ്പർമാർക്കായി മുൻകൂട്ടി നിർമ്മിച്ച വർക്ക്സ്റ്റേഷനുകൾ വാഗ്ദാനം ചെയ്യുന്നു, അതിൽ കൂടുതൽ താങ്ങാനാവുന്ന വിലയിൽ Xeon-അധിഷ്ഠിത TT-LoudBox-ൽ സജീവ കൂളിംഗുള്ള 4 n300 കാർഡുകളും, EPYC-അധിഷ്ഠിത Xiaolong-ഉള്ള നൂതന TT-QuietBox-ഉം ഉൾപ്പെടുന്നു. ലിക്വിഡ് കൂളിംഗ് ഫംഗ്ഷൻ.
പോസ്റ്റ് സമയം: ജൂലൈ-29-2024