GIGABYTE AI TOP ATOM (ATAGB10-9000)

GIGABYTE AI TOP ATOM (ATAGB10-9000) ကို ၂၀၂၅ ခုနှစ် အောက်တိုဘာလ ၁၅ ရက်နေ့တွင် စတင်မိတ်ဆက်ခဲ့ပြီး NVIDIA GB10 Grace Blackwell Superchip ကို 4 TB PCIe Gen5 NVMe SSD ဖြင့် စံပြုဖွဲ့စည်းပုံအဖြစ် ပေါင်းစပ်ထားသည်။ GB10 ဒက်စတော့အဆင့်တွင် ရှားပါးနေဆဲဖြစ်သော သိုလှောင်မှုအဆင့်တစ်ခုဖြစ်ပြီး ရလဒ်အနေဖြင့် အရှိန်မြင့်ဒေသတွင်းသိုလှောင်မှုနှင့် တည်ငြိမ်သော ထောက်လှမ်းမှုစွမ်းဆောင်ရည်ကို အထူးဦးစားပေးထားသည့် ကွန်ပပ်တစ် AI ဖွံ့ဖြိုးရေးစက်ရုံတစ်ခု ဖြစ်လာသည်။

GIGABYTE ၏ အင်ဂျင်နီယာချဉ်းကပ်မှုသည် အပူထိန်းချုပ်မှုဒီဇိုင်းတွင် စွမ်းဆောင်ရည်ကို ဦးစားပေးထားသည်- GPU ပါဝါကို အမြင့်ဆုံးအပူချိန်လျှော့ချရန်သက်သက်အတွက် ကန့်သတ်ခြင်းထက်၊ AI TOP ATOM သည် မြင့်မားသောတောင်းဆိုမှုရှိသည့် prefill-အလေးသောအဆင့်များအတွင်း ခဏတာမြင့်မားသောပါဝါပေါက်ကွဲမှုများကို ခွင့်ပြုထားပြီး တည်ငြိမ်သော၊ ရေရှည်လည်ပတ်နိုင်သည့် လုပ်ဆောင်မှုအဆင့်သို့ ရောက်ရှိစေသည်။ Samsung PM9E1 Gen5 ဒရိုက်နှင့် မူရင်း GPU Direct Storage (GDS) အထောက်အပံ့တို့နှင့် ပေါင်းစပ်ခြင်းဖြင့်၊ ဤသည်မှာ ATOM ကို သိုလှောင်မှုနှင့် GPU မှတ်ဉာဏ်ကြားရှိ မော်ဒယ်အလေးချိန်များနှင့် ဒေတာအစုကြီးများကို ရွှေ့လျားရသော ဝန်ဆောင်မှုများအတွက် အထူးသင့်လျော်စေသည်။

ဟာ့ဒ်ဝဲ သတ်မှတ်ချက်များ

AI TOP ATOM သည် 20-core Arm-အခြေပြု ပရိုဆက်ဆာ (10 × Cortex-X925 စွမ်းဆောင်ရည်အူတိုင်များ + 10 × Cortex-A725 ထိရောက်မှုအူတိုင်များ) မှ FP4 AI စွမ်းဆောင်ရည် 1 petaFLOP ကို ပေးစွမ်းပြီး၊ CPU နှင့် GPU ကြား ညီညွတ်စွာမျှဝေသော 273 GB/s ဘန်းဝစ်ဒစ်နှင့်အတူ 128 GB LPDDR5x ပေါင်းစပ်မှတ်ဉာဏ်ကို ဖြည့်စွက်ထားသည်။ သိုလှောင်မှုကို 4 TB PCIe Gen5 NVMe SSD—အထူးသဖြင့် ကွန်ပပ်တစ် 2242 M.2 ဖော်မက်ရှိ Samsung PM9E1၊ လက်ရှိတွင် ထိုအရွယ်အစားအတန်းအစားတွင် အမြန်ဆုံးဒရိုက်ဖြစ်သည်—ဖြင့် ကိုင်တွယ်ထားပြီး၊ GPU အား CPU မှတဆင့် လမ်းကြောင်းမလိုဘဲ မော်ဒယ်အလေးချိန်များနှင့် ဒေတာအစုများကို ဒစ်ခ်မှ တိုက်ရိုက်ဖတ်ရှုနိုင်စေသော မူရင်း GPU Direct Storage (GDS) အထောက်အပံ့ ပါဝင်သည်။

ချိတ်ဆက်နိုင်မှုနှင့် ကွန်ရက်ချိတ်ဆက်မှု

ပါဝင်သော NVIDIA ConnectX-7 Smart NIC သည် AI TOP ATOM ယူနစ်နှစ်ခုကို တိုက်ရိုက်အပြိုင်အဆိုင်-ချိတ်ဆက်ရန် နှစ်ထပ် 200 Gbps QSFP ပို့တ်များ ကို ပေးစွမ်းသည်။ အပိုချိတ်ဆက်နိုင်မှုများတွင် 10 GbE Ethernet (RJ-45), Wi-Fi 7 (2×2 MIMO) နှင့် Bluetooth 5.4 တို့ ပါဝင်သည်။ I/O တွင် 3 × USB 3.2 Gen 2×2 Type-C (20 Gbps), 1 × USB-C with Power Delivery နှင့် HDMI 2.1a တို့ ပါဝင်သည်။ Kensington Nano လုံခြုံရေးသော့ချောင်းအပေါက် နှင့် TPM 2.0 အထောက်အပံ့တို့သည် ပလက်ဖောင်း၏ ရုပ်ပိုင်းဆိုင်ရာနှင့် ဖါမ်ဝဲ-အဆင့် လုံခြုံရေးကို ပြည့်စုံစေသည်။

ဆော့ဖ်ဝဲနှင့် AI TOP Utility ပလက်ဖောင်း

ကြိုတင်တပ်ဆင်ထားသော NVIDIA DGX OS သည် ချက်ချင်းအသုံးပြုနိုင်သည့် NVIDIA AI ဆော့ဖ်ဝဲအစုအပုံ (CUDA, cuDNN, TensorRT, NIM microservices) နှင့်အတူ ပါလာသည်။ အပေါ်ယံတွင် အလွှာထပ်ထားသော GIGABYTE ၏ကိုယ်ပိုင် AI TOP Utility သည် သီးသန့်ဒေသတွင်း AI ဖွံ့ဖြိုးရေးပတ်ဝန်းကျင်ကို ပေးစွမ်းသည်- လမ်းညွှန်ထားသော မော်ဒယ်ဒေါင်းလုပ်များ၊ တစ်နှိပ်တည်း ထောက်လှမ်းမှု၊ Retrieval-Augmented Generation (RAG) ပိုက်လိုင်းများ၊ စက်သင်ယူမှု လေ့ကျင့်ရေးနမူနာပုံစံများ နှင့် LoRA မော်ဒယ်တပ်ဆင်ခြင်းဖြင့် စာသားမှ-ပုံရိပ်ထုတ်လုပ်ခြင်း။ ပါဝင်သော နူးညံ့စွာညှိခြင်း စံချိန်တိုင်းကိရိယာ၊ အတည်ပြုခြင်းနှင့် အစီရင်ခံတင်ပို့ကိရိယာများသည် ဒီဗယ်လ်ပါများအား utility မှ မထွက်ဘဲ မော်ဒယ်အရည်အသွေးကို အကဲဖြတ်ရန်နှင့် မှတ်တမ်းတင်ရန် ခွင့်ပြုထားသည်။

GIGABYTE သည် ပလက်ဖောင်းအတွက် တက်ကြွသော အပ်ဒိတ်အချိန်ဇယားကို ထိန်းသိမ်းထားသည်- ၂၀၂၆ ခုနှစ် ဇူလိုင်လ ထုတ်ဝေမှု (v4.2.1) တွင် စာသားမှ-ပုံရိပ်နှင့် နူးညံ့စွာညှိခြင်းမော်ဂျူးများကို မိတ်ဆက်ခဲ့သော ယခင်အပ်ဒိတ်များနောက်ပိုင်း၊ ကြာရှည်လည်ပတ်နေသော လေ့ကျင့်မှုနှင့် ထောက်လှမ်းမှုလုပ်ငန်းများကို ခြေရာခံရန် အချိန်နှင့်တစ်ပြေးညီ အသိပေးချက်စင်တာတစ်ခု ထည့်သွင်းခဲ့သည်။

သိုလှောင်မှုနှင့် GPU Direct Storage စွမ်းဆောင်ရည်

Storage Review မှ လုပ်ဆောင်ခဲ့သော လွတ်လပ်သော GPU Direct Storage စမ်းသပ်မှု သည် AI TOP ATOM ၏ 4 TB Samsung PM9E1 ကို GB10 အတန်းတွင် မှတ်တမ်းတင်ထားသော အပြောင်မြောက်ဆုံးစွမ်းဆောင်သူများထဲတွင် ထားရှိခဲ့ပြီး၊ သန့်ရှင်းသော စွမ်းဆောင်နိုင်မှုအဆင့်မြှင့်တင်ခြင်းနှင့် စောစီးစွာ ပြည့်သွားခြင်းတို့ ရှိသည်-

ဤသည်မှာ မော်ဒယ်တင်ခြင်း၊ စစ်ဆေးအမှတ်စီးဆင်းမှုနှင့် ဒေတာအစုထည့်သွင်းခြင်းတို့ကို ပိုမိုမြန်ဆန်စေသည်—ဒေသတွင်း AI ဖွံ့ဖြိုးရေးတွင် ကုန်ကြမ်းတွက်ချက်မှုထက် သိုလှောင်မှုတွင် ပိုမိုပိတ်ဆို့မှုဖြစ်စေသော ဝန်ဆောင်မှုများ။

အပူထိန်းဒီဇိုင်းနှင့် ပါဝါစီမံခန့်ခွဲမှု

အနိမ့်ဆုံးဖြစ်နိုင်သောအပူချိန်အတွက် သက်သက်အကောင်းဆုံးဖြစ်အောင် လုပ်ဆောင်ခြင်းထက်၊ GIGABYTE သည် AI TOP ATOM ၏ အပူချိန်ပြဒီဇိုင်း—နှစ်ထပ်သော Delta 3W ပန်ကာများ၊ အပူပိုက်များစွာနှင့် လှိုင်းပုံစံရှေ့လေဝင်ပေါက်များ—ကို အလေးသောဆုံး ဝန်ဆောင်မှုအဆင့်များအတွင်း မြင့်မားသော ပေါက်ကွဲပါဝါကို ထိန်းသိမ်းရန် ညှိထားသည်။ လွတ်လပ်သောစမ်းသပ်မှုများက အောက်ပါအတိုင်း မှတ်တမ်းတင်ခဲ့သည်-

• CPU အပူချိန်- Prefill-အလေးသောပေါက်ကွဲမှုများအတွင်း ၃၈.၇ °C တွင် ငြိမ်သက်နေပြီး ၉၀ °C တွင် အမြင့်ဆုံးရောက်ရှိသည်၊ ထို့နောက် ဝန်ဆောင်မှုများသည် ရေရှည်တည်တံ့သော Equal ISL/OSL သို့မဟုတ် Decode-အလေးသောအဆင့်များသို့ ရောက်ရှိသောအခါ ဆက်လက်တက်မလာဘဲ တည်ငြိမ်သွားသည်။
• GPU အပူချိန်နှင့် ပါဝါ- ၃၇ °C တွင် ငြိမ်သက်နေပြီး 75.54 W ၏ GPU ပါဝါဆွဲအား အမြင့်ဆုံးနှင့်အတူ ၈၁ °C တွင် အမြင့်ဆုံးရောက်ရှိသည်—အတန်းတွင် မှတ်တမ်းတင်ထားသော အမြင့်ဆုံးရေရှည်ပါဝါခွဲဝေမှုများထဲမှ တစ်ခုဖြစ်ပြီး၊ ATOM ၏ အားကောင်းသော Prefill-အလေးသော စွမ်းဆောင်နိုင်မှုကို တိုက်ရိုက်အထောက်အပံ့ပေးသည်။
• NVMe/NIC အပူချိန်များ- NVMe သည် ၅၉.၈ °C အောက်သို့မဟုတ် အောက်တွင် ရှိနေပြီး NIC သည် ၇၂ °C တွင် အမြင့်ဆုံးရောက်ရှိသည်၊ နှစ်ခုစလုံး ပုံမှန်လည်ပတ်မှုအတွင်းတွင် သက်တောင့်သက်သာရှိသည်။

လက်တွေ့တွင်၊ ဤသည်မှာ ATOM သည် အမြင့်ဆုံးစွမ်းဆောင်ရည်၏ တိုတောင်းသောပေါက်ကွဲမှုများဆီသို့ အပူနှင့် ပါဝါခေါင်မိုးကို ခွဲဝေပေးပြီး၊ ထို့နောက် ရေရှည်ထောက်လှမ်းမှုနှင့် နူးညံ့စွာညှိခြင်းစက်ရုံများအတွက် တည်ငြိမ်သော၊ နှေးကွေးမှုမရှိသော အခြေအနေသို့ ရောက်ရှိစေသည်။

တစ်ခုတည်းသောယူနစ် စွမ်းဆောင်ရည်အခြေခံ (vLLM)

Storage Review ၏ vLLM အွန်လိုင်းဝန်ဆောင်မှု စံချိန်တိုင်းများသည် ဝန်ဆောင်မှုပုံစံသုံးမျိုးကို ဖြတ်သန်းပြီး တစ်ခုတည်းသောယူနစ်၏ ထုတ်လုပ်မှုဖြစ်နိုင်စွမ်းကို သရုပ်ပြသည်-

စျေးနှုန်းနှင့် ဈေးကွက်အနေအထား

အစပြုစျေးနှုန်း- ၉,၆၅၅,၉၀၉ K။ ဤဖွဲ့စည်းပုံသည် AI TOP ATOM လိုင်းအတွင်း အမြန်ဆုံးသိုလှောင်မှုအဆင့်ဖြစ်သော 4 TB PCIe Gen5 SSD ကို စံအတိုင်း ပါဝင်စေပြီး၊ ၎င်းကို စျေးကြီးသောအဆင့်မြှင့်တင်မှုအဖြစ် သတ်မှတ်ခြင်းမဟုတ်ဘဲ၊ အပိုကုန်ကျစရိတ်မရှိဘဲ အပြည့်အစုံ AI TOP Utility ဆော့ဖ်ဝဲအစုကို ပါဝင်စေသည်။

ဂေဟစနစ်နှင့် အရွယ်အစားချဲ့ထွင်နိုင်မှု

AI TOP ATOM ယူနစ်နှစ်ခုသည် ၎င်းတို့၏ပါဝင်သော ConnectX-7 200 Gbps QSFP ပို့တ်များမှတဆင့် တိုက်ရိုက်ချိတ်ဆက်ပြီး၊ ဘီလီယံ ၄၀၀ ကျော် ပါရာမီတာများထက် ကျော်လွန်သော မော်ဒယ်များကို ဝန်ဆောင်နိုင်သည့် 256 GB ပေါင်းစပ်မှတ်ဉာဏ်ရေကန်တစ်ခုအဖြစ် ပေါင်းစည်းကာ၊ တူညီသော NVIDIA DGX OS ဆော့ဖ်ဝဲအစုသည် node နှစ်ခုစလုံးကို တစ်ခုတည်းသော ယုတ္တိရှိသော ထောက်လှမ်းမှုပစ်မှတ်အဖြစ် စီမံခန့်ခွဲသည်။