MSI EdgeXpert MS-C931

MSI သည် EdgeXpert MS-C931 ကို ၂၀၂၅ ခုနှစ် မေလ ၂၀ ရက်နေ့တွင် မိတ်ဆက်ခဲ့ပြီး NVIDIA GB10 Grace Blackwell Superchip ecosystem အတွင်း သေးငယ်သော AI ဖွံ့ဖြိုးရေးနှင့် inference စနစ်အဖြစ် တည်နေရာချထားကာ စွမ်းဆောင်ရည်တိုတောင်းသော benchmark အပိုင်းအစများထက် ရေရှည်တည်တံ့သော၊ မပြတ်တောက်သော လည်ပတ်မှုအတွက် အထူးတည်ဆောက်ထားသည်။

EdgeXpert MS-C931 ၏ အဓိကအင်ဂျင်နီယာဆိုင်ရာ ရွေးချယ်မှုမှာ အပူချိန် လုပ်ဆောင်နိုင်စွမ်း ပိုလွှာဖြစ်သည်- vapor-chamber နှင့် သုံးထပ်အပူပြွှန်ပါ အေးမြစေသည့်မော်ဂျူးကို သိပ်သည်းသော ကြေးနီအရွက်စုနှင့် ရှေ့မှနောက်သို့ ဦးတည်လေစီးကြောင်းလမ်းကြောင်းတို့ဖြင့် ပေါင်းစပ်ထားပြီး စူပါချစ်ပ်ကို နာရီပေါင်းများစွာ လေ့ကျင့်မှုနှင့် inference အစည်းအဝေးများအတွင်း ပြည့်ဝသော နာရီအမြန်နှုန်းဖြင့် လည်ပတ်စေရန် ဒီဇိုင်းထုတ်ထားကာ ဝန်ထုပ်ဝန်ပိုးအောက်တွင် နှေးကွေးစေခြင်းမှ ကာကွယ်ပေးသည်။ ၎င်းကို ပူးတွဲပါဝင်သော sovereign AI အုပ်ချုပ်ရေးအလွှာ Galene.AI ဖြင့် ပေါင်းစပ်ထားပြီး စည်းမျဉ်းစည်းကမ်းဖြင့် ထိန်းချုပ်ထားသောအဖွဲ့အစည်းများအား ပထမနေ့မှစ၍ on-premises တပ်ဆင်မှုအတွက် အဆင်သင့်အသုံးပြုနိုင်သော ညှိနှိုင်းစီမံခန့်ခွဲမှုနှင့် စစ်ဆေးမှုအလွှာကို ပေးစွမ်းသည်။

ဟာ့ဒ်ဝဲ အသေးစိတ်အချက်အလက်များ

ဗဟိုတွင် NVIDIA GB10 Grace Blackwell Superchip တည်ရှိပြီး သေးငယ်သော ကိုယ်ထည်အတွင်း FP4 AI စွမ်းဆောင်ရည် petaFLOP 1 ကို ပေးစွမ်းသည်။ Arm ပရိုဆက်ဆာ 20-ကိုသည် Cortex-X925 စွမ်းဆောင်ရည်ပိုင်း ကို ၁၀ ခု နှင့် Cortex-A725 စွမ်းအားထိရောက်မှုပိုင်း ကို ၁၀ ခုတို့ကို ပေါင်းစပ်ထားပြီး CPU နှင့် GPU အကြား ညီညွတ်စွာ မျှဝေသော 273 GB/s ဒေတာလွှဲပြောင်းနှုန်းကို ပေးစွမ်းသည့် 128 GB LPDDR5x ပေါင်းစပ်မှတ်ဉာဏ်ဖြင့် ဖွဲ့စည်းထားသည်။ သိုလှောင်မှုမှာ မိမိဘာသာ လျှို့ဝှက်သော့ခတ်သည့် PCIe Gen4 NVMe M.2 SSD ဖြစ်ပြီး 1 TB သို့မဟုတ် 4 TB စွမ်းဆောင်နိုင်မှုများဖြင့် ရရှိနိုင်ကာ ပြင်ပသိုလှောင်မှုအပေါ် မှီခိုခြင်းမရှိဘဲ မော်ဒယ်ကြီးများ၏ checkpoint များကို ဒေသခံသိုလှောင်ထားရန် ပံ့ပိုးပေးသည်။

ချိတ်ဆက်နိုင်မှုနှင့် ကွန်ရက်ချိတ်ဆက်မှု

EdgeXpert MS-C931 သည် တိုက်ရိုက် peer-to-peer ယူနစ်ချိတ်ဆက်မှုအတွက် QSFP ပို့ ၂ ခုပါသော NVIDIA ConnectX-7 Smart NIC ကို ပေါင်းစပ်ထားပြီး စံကွန်ရက်ပေါင်းစည်းမှုအတွက် 10 GbE Ethernet (RJ-45) ကိုလည်း ထည့်သွင်းထားသည်။ ကြိုးမဲ့ချိတ်ဆက်မှုတွင် Wi-Fi 7 နှင့် Bluetooth 5.4 တို့ ပါဝင်သည်။ USB 3.2 Type-C ပို့ ၄ ခုသည် တိုက်ရိုက် multi-monitor ထုတ်လုပ်မှုအတွက် DisplayPort alt-mode ကို ပံ့ပိုးပေးပြီး စနစ်အား inference server အဖြစ် ၎င်း၏တာဝန်နှင့်အတူ ဒေသခံဖွံ့ဖြိုးရေး workstation အဖြစ်လည်း အသုံးပြုနိုင်စေသည်။

အပူပိုင်းဆိုင်ရာ အင်ဂျင်နီယာပညာနှင့် ရေရှည်စွမ်းဆောင်ရည်

သေးငယ်သော AI စနစ်များသည် အတွင်းပိုင်းအပူချိန်များ မြင့်တက်လာပါက ကြာရှည်စွာ ဝန်ထုပ်ဝန်ပိုးအောက်တွင် နာရီအမြန်နှုန်းကို လျှော့ချလေ့ရှိသည် - ၎င်းအပြုအမူသည် ရှည်လျားသော လေ့ကျင့်မှုများ သို့မဟုတ် ရှည်ကြာသော inference ဝန်ဆောင်မှုများအတွင်း စွမ်းဆောင်နိုင်စွမ်းကို တိုက်ရိုက်လျှော့ချပေးသည်။ EdgeXpert MS-C931 ၏ အေးမြစေသည့်မော်ဂျူးကို ၎င်းကို ရှောင်ရှားရန် အထူးတည်ဆောက်ထားပြီး NVIDIA ၏ စံ GPU ဖိအားနည်းလမ်းကို အသုံးပြု၍ လွတ်လပ်သော ရေရှည်ဝန်ထုပ်ဝန်ပိုး စစ်ဆေးမှုတွင် အောက်ပါတည်ငြိမ်အခြေအနေ ကိန်းဂဏန်းများကို မှတ်တမ်းတင်ထားသည်။

ကိုယ်ထည် အပြင်ဘက်အပူချိန်များသည် လည်ပတ်နေစဉ် ယူနစ်ကို တိုက်ရိုက်ကိုင်တွယ်နိုင်ရန် လုံလောက်စွာ နိမ့်ကျနေပြီး SSD သည် ရေရှည်ဒေတာစုဖွဲ့မှုတွင်ပင် အပူကြောင့်ဖြစ်သော ဖတ်ရှု/ရေးသားမှု ယိုယွင်းမှုမှ လုံးဝကင်းဝေးသည်။ လက်တွေ့တွင် ၎င်းသည် နာရီပေါင်းများစွာ လုပ်ဆောင်သော fine-tuning အလုပ်များနှင့် ကြာရှည်စွာ လည်ပတ်နေသော inference ဝန်ဆောင်မှုများတစ်လျှောက် တည်ငြိမ်ပြီး မလျော့ပါးသော နာရီအမြန်နှုန်းများအဖြစ် ပြောင်းလဲပေးသည် - သေးငယ်သော AI စနစ်များ အချိန်ကြာလာသည်နှင့်အမျှ စွမ်းဆောင်ရည် ဆုံးရှုံးလေ့ရှိသော ဖြစ်ရပ်များဖြစ်သည်။

ဆော့ဖ်ဝဲ - Sovereign AI Governance

EdgeXpert MS-C931 ကို NVIDIA DGX OS ကြိုတင်ထည့်သွင်းထားပြီး ပြည့်စုံသော CUDA နှင့် AI framework စနစ်ကို အဆင်သင့်ပေးစွမ်းသည်။ ၎င်းအပြင် MSI သည် စည်းမျဉ်းစည်းကမ်းဖြင့် ထိန်းချုပ်ထားသော on-premises တပ်ဆင်မှုအတွက် တည်ဆောက်ထားသည့် sovereign AI အုပ်ချုပ်ရေးပလက်ဖောင်း Galene.AI ကို ပေါင်းစပ်ထားသည်- ၎င်းသည် Docker Compose-အခြေပြု ညှိနှိုင်းစီမံခန့်ခွဲမှု၊ ဝင်ရောက်အသုံးပြုမှုထိန်းချုပ်ခြင်းနှင့် စစ်ဆေးမှုအဆင်သင့် မှတ်တမ်းတင်ခြင်းတို့ကို ပေးစွမ်းသဖြင့် အဖွဲ့အစည်းအတွင်း မော်ဒယ်အသုံးပြုမှုသည် လုံးဝဒေသခံဖြစ်ပြီး ခြေရာခံနိုင်ကာ တိုက်ရိုက်စီမံခန့်ခွဲမှုအောက်တွင် ရှိနေစေရန် ပြုလုပ်ပေးသည် - မည်သည့် ပြင်ပကလပ်စ်ဝန်ဆောင်မှုကိုမျှ မှီခိုစရာမလိုပါ။

သိုလှောင်မှုနှင့် လုံခြုံရေး

1 TB နှင့် 4 TB NVMe ဖွဲ့စည်းမှုနှစ်ခုစလုံးသည် ပုံမှန်အားဖြင့် မိမိဘာသာ လျှို့ဝှက်သော့ခတ်ထားပြီး မော်ဒယ်အလေးချိန်များ၊ fine-tuning ဒေတာစုများနှင့် inference မှတ်တမ်းများကို ထပ်ဆောင်းဆော့ဖ်ဝဲ ဝန်ထုပ်မလိုဘဲ အနားယူနေစဉ် ကာကွယ်ပေးသည်။ TPM 2.0 နှင့် ပေါင်းစပ်ခြင်းဖြင့် EdgeXpert MS-C931 အား on-premises လုပ်ဆောင်မှုသည် နှစ်သက်မှုထက် လိုအပ်ချက်ဖြစ်သော ဥပဒေရေး၊ ငွေကြေးဆိုင်ရာနှင့် အခြားဒေတာထိလွယ်သော ပတ်ဝန်းကျင်များအတွက် သင့်လျော်သော လုံခြုံရေးအခြေခံကို ပေးစွမ်းသည်။

တစ်ခုတည်းသော ယူနစ်ထက် ပိုမိုချဲ့ထွင်ခြင်း

NVIDIA GB10 Superchip အပေါ် တည်ဆောက်ထားသော အခြားစနစ်အားလုံးကဲ့သို့ EdgeXpert MS-C931 သည် ၎င်း၏ ConnectX-7 ပို့များမှတစ်ဆင့် တိုက်ရိုက် ယူနစ် ၂ ခု ချိတ်ဆက်မှုကို ပံ့ပိုးပေးပြီး ယူနစ် ၂ ခုကို ပေါင်းစပ်ကာ ပါရာမီတာ ဘီလီယံ ၄၀၀ ကျော်မော်ဒယ်များကို ဝန်ဆောင်နိုင်သော ပေါင်းစပ်မှတ်ဉာဏ် 256 GB အဖြစ် ပြောင်းလဲပေးသည်။ ၎င်းသည် ဆော့ဖ်ဝဲ စနစ်သို့မဟုတ် အုပ်ချုပ်ရေးဖွဲ့စည်းပုံကို မပြောင်းလဲဘဲ ပိုကြီးသောမော်ဒယ်များအတွက် ထပ်လောင်း လုပ်ဆောင်နိုင်စွမ်း ပိုလွှာ လိုအပ်လာသော စားပွဲတင်တစ်ခုတည်းသော ယူနစ်ဖြင့် စတင်သော အဖွဲ့များအတွက် ရိုးရှင်းသော အဆင့်မြှင့်တင်မှုလမ်းကြောင်းကို ပေးစွမ်းသည်။