Mākslīgā intelekta darbiem datorā ir vajadzīga gan skaitļošanas jauda, gan pietiekami daudz atmiņas. Šoreiz klientam sakomplektējām AI darbstaciju, kur centrā ir divas PNY NVIDIA RTX PRO 5000 Blackwell videokartes ar 72 GB GDDR7 ECC atmiņu katrai, papildinot ar Intel Core Ultra 9 procesoru, darbstacijām paredzētu ASUS mātesplati un 4 TB Samsung SSD.
Šādu sistēmu pamatā ir iespēja strādāt ar mākslīgo intelektu lokāli. Ar atbilstoši konfigurētu programmatūru apstrādā dokumentus, darbina valodas modeļus un izstrādā AI risinājumus, nesūtot datus ārējiem AI pakalpojumiem. Tas sniedz lielāku kontroli pār darba vidi, izmantotajiem modeļiem un datu apriti. Piemēram, lokālais AI palīgs var palīdzēs atrast informāciju dokumentos, sagatavot tekstu uzmetumus vai apkopot materiālus. Savukārt izstrādātāji šādu darbstaciju var izmantot dažādu modeļu izmēģināšanai un savu lietotņu prototipu veidošanai. Šie ir iespējamie lietojuma scenāriji, kur konkrētās funkcijas nosaka izvēlētā programmatūra, pieejamie dati un tas, kā risinājums tiek integrēts uzņēmuma ikdienā.
Videoatmiņas apjoms šajā komplektācijā ir īpaši nozīmīgs. Atmiņa nepieciešama gan paša modeļa parametriem, gan aprēķinu laikā izmantotajiem datiem. Katrai RTX PRO 5000 kartei pieejamie 72 GB, kas dod plašākas iespējas darbam ar apjomīgiem modeļiem un sarežģītākiem uzdevumiem. Konkrētā modeļa piemērotību nosaka tā precizitāte, konteksta garums un izmantotā programmatūra.
Abām kartēm kopā ir 144 GB videoatmiņas. Lai viena modeļa darbināšanai izmantotu abu karšu atmiņu, programmatūrai jāatbalsta darba dalīšana starp vairākiem GPU. Kartes var izmantot arī atsevišķiem uzdevumiem, piemēram, vienā darbināt modeli, bet otrā veikt eksperimentus. Tas sniedz pielāgot pieejamos resursus konkrētajai darba plūsmai.
Izstrādes procesā šī elastība ir īpaši vērtīga, jo darbā ar AI bieži ietver atkārtotus mēģinājumus. Iespēja šos uzdevumus veikt savā darbstacijā palīdz organizēt darbus atbilstoši komandas grafikam un saglabāt vienuviet izmantotos materiālus, konfigurācijas un iegūtos rezultātus.
Procesora lomu pilda Intel Core Ultra 9 285 ar 24 kodoliem – astoņiem veiktspējas un 16 energoefektīvajiem kodoliem. Tas nodrošina resursus datu sagatavošanai, programmu darbībai un uzdevumiem, kas tiek veikti līdztekus GPU aprēķiniem. Sistēmā izmantojām Kingston DDR5 ECC operatīvo atmiņu. ECC palīdz konstatēt un labot noteiktas atmiņas kļūdas, kas ir būtiski ilgstošu aprēķinu darbā.
Operatīvajai atmiņai un videoatmiņai ir atšķirīgi uzdevumi. Sistēmas RAM izmanto operētājsistēma, programmas un datu sagatavošanas procesi, savukārt GPU atmiņā glabājas videokartes aprēķiniem nepieciešamā informācija. Tāpēc, plānojot AI darbstaciju, abu veidu atmiņas apjoms jāizvērtē saistībā ar konkrēto darba plūsmu un vienlaikus darāmajiem uzdevumiem.
Par sistēmas pamatu izvēlēta ASUS Pro WS W880-ACE SE mātesplate. Tā paredzēta divu videokaršu konfigurācijām sniedzot PCIe 5.0 savienojumus. Darba vides uzturēšanā noder iebūvētais BMC vadības kontrolieris un attālinātas pārvaldības iespējas – datoru iespējams uzraudzīt un pārvaldīt arī tad, ja administrators neatrodas tam blakus.
Modeļu, datu kopu un projektu glabāšanai uzstādīts Samsung 9100 PRO 4 TB M.2 SSD. Darbā ar mākslīgo intelektu, krātuvē jāietilpina gan darba faili, gan dažādas modeļu versijas un eksperimentu rezultāti. Ātra piekļuve šiem failiem ir svarīga modeļu ielādēšanā un datu sagatavošanā.
Aparatūras komplektācijai būtiska ir programmatūras izvēle, lai izmantotu pieejamos resursus, nepieciešami saderīgi draiveri, AI rīki un atbilstoši iestatījumi. Arī divu videokaršu noslodze ir atkarīga no izmantotās programmas. Praktiskajā darbā sistēmas atbilstību vislabāk rāda izmēģinājumi ar tiem pašiem modeļiem un datiem, kurus paredzēts izmantot ikdienā.
Komplekts papildināts ar GIGABYTE AORUS RTX 5060 Ti AI BOX – ārējo grafikas risinājumu ar GeForce RTX 5060 Ti un 16 GB videoatmiņas. Tas ir atsevišķā korpusā ievietots GPU ar Thunderbolt 5 un USB4 pieslēgvietām. Šāda ierīce dod papildu iespējas AI eksperimentiem vai citiem GPU paātrinātiem uzdevumiem.
Komponentes ievietotas melnā Fractal Design Epoch XL Solid korpusā. Procesoru dzesē be quiet! Pure Rock Pro 3, savukārt gaisa plūsmu papildina be quiet! Pure Wings 3 140 mm un 120 mm PWM ventilatori. Darbstacijai, kuras slodze var turpināties stundām, siltuma novadīšana ir būtiska komplektācijas daļa.
Datora barošanu nodrošina be quiet! Dark Power 14 1200 W barošanas bloks ar 80 PLUS Titanium sertifikāciju un ATX 3.1 standarta atbalstu. Šim datorkomplektam arī iekļauts PowerWalker VI 3000 CW FR nepārtrauktās barošanas avots ar 3000 VA / 2100 W nominālo jaudu. Elektroapgādes pārtraukuma gadījumā tas var dot laiku darba saglabāšanai un korektai sistēmas izslēgšanai; pieejamais laiks ir atkarīgs no faktiskās slodzes.
Šī komplektācija sniedz ieskatu par to, kā veidojas konkrētam darbam paredzēta AI darbstacija: GPU resursus papildina atmiņa, datu glabāšana, dzesēšana un pārvaldības iespējas. Ja arī tava uzņēmuma darbiem nepieciešams sava AI spēkstacija, sazinies ar Dateks – palīdzēsim piemeklēt komplektāciju nepieciešamajām programmām, modeļiem un darba apjomam.