Kui juttu tuleb tehisintellekti võimekusega arvutitest ehk „AI-arvutitest“, mõtlevad paljud juhid kohe esimese asjana tavalisele uuele sülearvutile, millel on klaviatuuril Copilot+ nupp ning mis aitab e-kirju kiiremini koostada. See on tõesti hea uus abimees igapäevases kontoritöös, kuid hetkel, mil ettevõte soovib panna tehisaru päriselt oma äriprotsesse automatiseerima, suuri andmemahte läbi töötama või tundlikke siseandmeid analüüsima, jääb tavalisest äriklassi tööjaamast siiski väheks.
Teise äärmusse pole ka põhjust kalduda: rentida kallist pilveteenust või ehitada välja spetsiaalse jahutusega serveriruum suurte tehisarumudelite jooksutamiseks.
Nüüd on aga tekkinud nende kahe variandi vahele ka kuldne kesktee: lauanurgale mahtuv kompaktne AI-superarvuti, mis põhineb NVIDIA Grace Blackwelli (GB10) arhitektuuril. Näiteks on taolised Lenovo ThinkStation PGX või samal platvormil põhinev tööjaam Dell Pro Max with GB10 (mille aluseks on NVIDIA etalonarhitektuur DGX Spark).
Miks üha enam ettevõtteid alates pankadest ja haiglatest kuni puidutööstuse ja tarkvaraarendajateni eelistab avaliku pilve asemel tuua tehisintellekti füüsiliselt oma kontorisse? Kõige parema vastuse saab siis, kui ise proovid ja me OIXIO-s olemegi neid arvuteid juba mõnes suuremas projektis rakendanud.
Mis peitub väikese korpuse sees?
Esmapilgul näeb GB10 platvormil põhinev masin välja nagu pisike ja vaikne lauaarvuti. See ei vaja spetsiaalset jahutusega serveriruumi ega tööstuslikku elektrivõrku – seade võib vabalt töötada kontorilaual nagu iga tavaline arvuti (ehkki kriitiliste 24/7 töövoogude puhul võib selle mõistagi paigutada ka turvalisse UPS-iga serverikappi, et keegi seda kogemata välja ei lülitaks).
Masina südameks on NVIDIA Grace Blackwelli kiip ja 128 GB ühismälu (unified memory). Ärikasutaja jaoks tähendab see lihtsustatult üht: arvuti suudab korraga mällu laadida ja kohapeal jooksutada mahukaid, mitmekümne kuni paarisaja miljardi parameetriga keele- ja analüüsimudeleid, milleks varem oli vaja ehitada kallis serveripark.
Pilvetasud ja kasvavad püsikulud: millal tasub oma AI-masin end ära?
Avalikud AI-pilveteenused (nagu OpenAI, Microsoft Copilot või Claude) tunduvad alguses lihtsad ja soodsad. Kui aga tehisintellekt rakendatakse tööle suurte andmemahtude peal ja tokeneid ostes, muutub kulupilt järsult.
Meedias on juba näha trendi, kus kangemate äriklassi AI-pakettide kuutasud küünivad ligi 95 euroni (100 dollarini) kasutaja kohta kuus. Lisaks liiguvad suured platvormid (sh Microsoft Copilot) üha enam kasutuspõhise hinnastamise suunas, kus iga päring ja läbitöötatud tekstisõne (token) maksab. Kui ettevõte analüüsib reaalajas pidevat andmevoogu või suuri dokumendibaase, kasvab igakuine pilvearve röögatult suureks. Lokaalse AI-arvuti puhul on põhikuluks seadme soetamine ja esmane seadistamine – edasised püsikulud on minimaalsed ning eelarve püsib kindlalt kontrolli all.
Vältida tasub ka teenusepakkuja lõksu (vendor lock-in): kui ehitad oma ettevõtte kriitilised töövood üles ühe kindla AI-pilveteenuse peale, tekib tugev sõltuvus. Kui teenusepakkuja tõstab hinda, muudab tingimusi või paneb mõne hädavajaliku mudeli lukku (nagu hiljuti Claude´is juhtuski), on sealt väga keeruline ja kulukas lahkuda. Oma masinas oled aga ise peremees.
Kuigi suured pilveserverid on võimsad, sõltub nende kiirus alati internetiühendusest, teenusepakkuja päringulimiitidest (rate limits) ja võimalikest teenusekatkestustest. Näiteks puidutööstuse tootmisliinil, kus tehisintellekt jälgiks kaamerapilti või juhiks automatiseeritud protsessi, ei pea ega tohigi tootmisliin olla ühendatud avalikku internetti. Kohalik seade sisevõrgus annab vastuse murdosa sekundiga ja töötab ka siis, kui välisühendus katkeb.
Andmed, mis ei tohi kunagi majast lahkuda
Paljude ettevõtete jaoks ei ole aga kaalukeeleks mitte ainult hind, vaid andmekaitse ja õigusaktid ning standardid (näiteks NIS2 direktiiv, GDPR ja ISO/IEC 27001).
Kui saadad andmed avalikku pilvepõhisesse AI-teenusesse või kolmanda osapoole API-sse, liiguvad need ettevõttest välja. Isegi karmide lepingute puhul jääb alati teatud risk, et midagi võib teenusepakkuja juures lekkida. Samuti on oht, et töötajad sisestavad igapäevatöös ettevõtte tundlikku infot oma isiklikule AI-kontole, mis pole nii hästi kaitstud ja mille andmeid võidakse kasutada avalike mudelite treenimiseks.
Kui soovid ikkagi 100% kindlust, et kriitilised äriandmed, olgu selleks pankade finantsandmed, kaitsetööstuse saladused, haiglate patsiendiandmed, ettevõtte võrgu arhitektuur või intsidendilogid, ei jõuaks mitte kunagi internetti, on lokaalne AI-arvuti ainus mõistlik alternatiiv. Kogu töötlus toimub turvaliselt enda sisevõrgus.
Praktiline kogemus: kuidas OIXIO pani GB10 masina turvalogisid ja kliendipöördumisi analüüsima
Et mitte jääda vaid teooria tasemele, panime OIXIO-s ise Lenovo GB10 masina proovile igapäevatöös kahes kriitilises valdkonnas.
1. Küberkaitse ja turvalogide reaalajas analüüs
Ettevõtte turvaseires (nt Microsoft Sentinel) koguneb igast liigutusest ja võrgusündmusest suur kogus logisid. Varem kulus spetsialistidel palju aega valehäirete (false positives) filtreerimisele ja anomaaliate käsitsi otsimisele.
Miks me ei saanud neid logisid pilve-AI-le saata? Sest turvalogid sisaldavad IP-aadresse, kasutajanimesid, sisevõrgu topoloogiat ja potentsiaalseid haavatavusi – see on info, mida ei tohi mitte mingil juhul majast välja saata. Teiseks oleks sellise hiiglasliku andmemahu pidev läbilaskmine tasulisest pilve-LLM-ist läinud ebamõistlikult kalliks.
Kuidas me selle lahendasime? Integreerisime Lenovo GB10 otse oma lokaalsesse logihaldusesse. Kuna toorlogide maht on tohutu, ehitasime mitmeastmelise ja optimeeritud mudelite ahela:
- Esimene, väike ja kiire mudel sorteerib toorlogid ja eraldab sealt ainult kasuliku info.
- Teine mudel analüüsib mustreid ja seoseid, mis võiksid reeglipõhisel süsteemil või inimesel kahe silma vahele jääda.
- Kolmas, otsustusmudel (decision model) hindab olukorra tõenäosusi ja annab konkreetsed suunised järgmisteks sammudeks.
Tulemuseks on süsteem, kus suur keelemudel ei pea raiskama ressurssi musta töö peale, vastused tulevad minutite asemel sekunditega ning kogu tundlik turvainfo püsib 100% maja sees.
2. IT-pöördumiste (ticketite) mustrite ja kliendirahulolu analüüs
Teise praktilise tööriista lõi meie teenuste tarnejuht. Lokaalne AI jälgib pidevalt sissetulevate IT-pöördumiste seisu ja sisu, otsides korduvaid mustreid. Kui sarnane tehniline mure hakkab tekkima mitmel kliendil, märkab AI mustrit kohe, võimaldades meil probleemi keskselt, kiiresti ja kvaliteetselt lahendada.
Lisaks analüüsib mudel pöördumiste tooni ja sisu põhjal seda, kui rahul klient tegelikult teenusega on. Kõik toimub taustal, ilma lisakuludeta ja kliendiandmeid pilve saatmata.
Arendajate unistus: rätsepatööna valminud mudelid
On oluline mõista, et GB10 ei ole tavaline kontoriarvuti, kuhu ühendad monitori taha ja hakkad kohe Claude’i kasutama. See on tavaliselt Linuxi-põhine masin, millel on juba tehase poolt peal NVIDIA rikkalik arendajate tarkvarapakett.
Kuigi esmane seadistamine nõuab süsteemiadministraatori või keskmise tarkvaraarendaja oskusi (käsurea tundmist), muutub edasine haldus väga mugavaks tänu graafilistele vabavaralistele tööriistadele nagu Open WebUI, Unsloth või Ollama.
Lokaalse masina suurim võlu on ka mänguruum ja kohandatavus (Fine-tuning ja RAG):
- Avatud lähtekoodiga mudelid: saad vabalt kasutada ja kombineerida mudeleid nagu Qwen, Llama, Gemma, Mistral, DeepSeek või spetsiifilisi väiksemaid küberturbe- ja otsustusmudeleid. Samuti saab platvormil soodsalt genereerida pilte ja videoid (nt NVIDIA DGX Sparki ja build.nvidia.com tööriistade abil).
- Väike ja täpne võidab suure ja kohmaka: meie enda testid näitasid, et kui hiiglaslikul mudelil võtab keerulise vastuse koostamine aega minuteid, siis konkreetse ülesande jaoks peenhäälestatud väiksem mudel teeb sama töö ära sekunditega. Näiteks puidutööstuse liinispetsiifika puhul ei ole vaja iga kord küsida nõu tervet maailma kirjandust tundvalt suurelt keelemudelilt – mõistlik on treenida väike mudel täpselt oma liini kontrollitud andmestiku peal. Sealjuures AI ise aitab arendajal seda treeningandmestikku (dataset) ja metoodikat luua!
- Mitu ülesannet ja kasutajat korraga: ei pea olema iga ülesande jaoks eraldi arvutit. Ressursihaldus võimaldab samal masinal teenindada korraga mitut kasutajat ja jooksutada taustal erinevaid väiksemaid mudeleid, samuti kombineerida lokaalset AI-d vajadusel pilveteenustega.
Kellele veel? Praktilisi näiteid eri valdkondadest
Lisaks IT-sektorile ja tarkvaraarendusele annab kohalik AI-tööjaam kohese konkurentsieelise mitmes valdkonnas:
- Meditsiin ja tervishoid: Delli demoesitlusel näidati lahendust, kus lokaalne AI analüüsis patsiendi röntgenipilti, tuvastas luumurru iseloomu ja andis arstile soovituse edasiseks raviks, ilma et tundlikud terviseandmed oleksid haigla sisevõrgust lahkunud.
- Tööstus ja tootmine: tehase videokaamerate pildi reaalajas analüüs, kus AI märkab kõrvalekaldeid, kvaliteedivigu või ohuolukordi liinil juba varakult.
- Finants, juriidika ja kontoritöö: lepingute analüüs, arvetega seotud rutiinsete tegevuste automatiseerimine ning turvalise, ettevõttesisese “ChatGPT” pakkumine töötajatele, et nad ei peaks tundlikku infot avalikesse keskkondadesse kopeerima.
Lenovo ThinkStation PGX ja Dell GB10 AI-tööjaamad: mida need suudavad?
Mõlemad seadmed on OIXIO-s olemas ja põhinevad NVIDIA tipptasemel Grace Blackwelli (GB10) arhitektuuril, olles loodud tooma superarvuti jõudluse otse arendajate ja ettevõtete lauale.
Olulisemad ühised tehnilised omadused on järgmised:
- Protsessor ja graafika: NVIDIA Grace Blackwell GB10 Superchip.
- Mälu: 128 GB ühendatud süsteemimälu (unified memory), mis võimaldab jooksutada suuri AI-mudeleid lokaalselt.
- Korpuse tüüp: kompaktne ja vaikne korpus, mis sobib nii kontorilauale kui ka serveriruumi.
- Skaleeritavus (ühendatavus): kuigi pisikese korpuse tõttu ei saa ühe masina sisse komponente juurde laduda, on süsteem loodud klasterdamiseks. Kiire optilise ühendusega saab omavahel ühendada (klasterdada) näiteks kuni neli seadet, kasvatades arvutusvõimsust ja mälu vastavalt ettevõtte kasvule. Huvitava faktina võib omavahel probleemideta ühendada isegi Lenovo ja Delli masinaid.
Võrdlus: Pilve-AI (API) vs. Lokaalne GB10 AI-tööjaam
| Võrdluskoht | Avalik pilve-AI (API / kuutasu) | Lokaalne AI-tööjaam (Lenovo / Dell GB10) |
|---|---|---|
| Andmete privaatsus | Andmed lahkuvad ettevõttestPäringud ja failid liiguvad kolmanda osapoole serverisse, mis tekitab lekke- ja vastavusriski. | Andmed jäävad majjaMudel töötab ettevõtte sisevõrgus ja tundlik info ei lahku sinu taristust. |
| Kulu suurte mahtude juures (nt ööpäevaringne logianalüüs) | Kõrge ja raskesti ennustatavIga päring ja iga lisanduv andmemaht kasvatab kuuarvet. | Madal ja prognoositavÜhekordne soetuskulu, edasi peamiselt elekter ja hooldus. Päringute arv kulu ei mõjuta. |
| Seadistamise paindlikkus | Teenusepakkuja reeglidSuletud mudelid ja pakkuja tingimused piiravad valikuid, kasvab sõltuvus ühest tarnijast. | Vabad käedVali ja kombineeri avatud mudeleid ning häälesta neid oma andmetel. |
| Sõltuvus välisvõrgust | TäielikTöö sõltub internetiühendusest, pilveteenuse tõrgetest ja päringulimiitidest. | PuudubTöötab sisevõrgus ka siis, kui avalikku internetiühendust pole. |
Kas AI-arvuti investeeringuks on õige aeg käes?
Tehisintellekt ei ole enam ammu vaid tekstirobot. See on üsna universaalne tööriist, mis aitab ettevõtetel säästa sadu töötunde ja avastada kriitilisi ärimustreid. Kui ettevõttes on andmeid, mida ei tohi pilve usaldada, või kui igakuised AI-litsentside ja API-päringute arved kasvavad juba üle pea, on aeg tuua tehisintellekti arvutusvõimsus oma majja. Tasub ka arvestada, et nõudlus selliste kompaktsete AI-superarvutite järele kasvab maailmas plahvatuslikult ning GB10 masinate hinnad liiguvad praegu pigem tõusujoones.
Kas soovid teada, kuidas lokaalne AI-arvuti sinu ettevõtte kasuks tööle panna? Sa ei pea muretsema, kui sinu majas puudub spetsiifiline Linuxi või mudelite seadistamise kogemus. OIXIO pakub nii Lenovo kui ka Delli GB10 platvormidele täielikku tuge: aitame valida õige seadme (või ühendada mitu masinat klastriks), paneme süsteemi sinu võrgus tööle ning aitame oma praktilise kogemuse põhjal seadistada ja treenida just sinu äri spetsiifikale vastavad mudelid.
Küsi lisainfot ja pakkumist!