GPU-laskenta
Grafiikkaprosessorit mahdollistavat suurten tekoälymallien tehokkaan rinnakkaislaskennan.
Yhdessä palvelimessa voi olla useita GPU:ita, ja suurissa ympäristöissä niitä on tuhansia.
AI-datakeskukset – tekoälyn infrastruktuuri
Missä tekoäly toimii? Tutustu datakeskuksiin, jotka mahdollistavat nykyaikaiset tekoälypalvelut, laskennan ja digitaalisen tulevaisuuden.
Mikä on tekoälydatakeskus?
Tekoälydatakeskus on laskentaympäristö, joka on suunniteltu tekoälymallien kouluttamiseen, käyttämiseen ja suurten tietomäärien käsittelyyn. Se yhdistää tehokkaan laskentaraudan, nopean verkkoyhteyden, tallennuksen, sähkönsyötön ja jäähdytyksen.
Aina kun käytät keskustelubottia, käännöspalvelua tai kuvantunnistusta, laskenta tapahtuu todennäköisesti jossakin tällaisessa datakeskuksessa. Se on tekoälyn fyysinen puoli: rakennuksia, laitteita, kaapeleita ja putkistoja.
Laskentateho
Tehokkaat GPU:t ja muut laskentapiirit tekevät tekoälyn vaatimat laskutoimitukset.
Data
Suuret tietomäärät, niiden tallennus ja nopea siirto laitteiden välillä.
Energia
Luotettava sähkönsyöttö ja energian käyttäminen mahdollisimman tehokkaasti.
Jäähdytys
Laitteiden tuottaman lämmön hallinta, jotta laskenta voi jatkua keskeytyksettä.
Näin tekoälydatakeskus toimii
Tekoälyn elinkaari etenee datasta valmiiseen palveluun. Neljä ensimmäistä vaihetta seuraavat toisiaan, ja viides pitää ne kaikki käynnissä.
- 1
Data
Tietoa kerätään, siivotaan ja tallennetaan niin, että laskentajärjestelmät pääsevät siihen nopeasti käsiksi.
- 2
Laskenta
GPU:t ja muut prosessorit käsittelevät dataa rinnakkain, usein sadoissa tai tuhansissa laitteissa yhtä aikaa.
- 3
Mallin koulutus
Tekoälymalli oppii datasta säätämällä sisäisiä parametrejaan kerta toisensa jälkeen, kunnes sen tulokset paranevat.
- 4
Mallin käyttö
Koulutettua mallia käytetään palveluissa, esimerkiksi keskusteluboteissa, käännöksissä ja kuvantunnistuksessa.
- 5
Jäähdytys ja energianhallinta
Kulkee kaikkien vaiheiden rinnalla: sähkönsyöttö, jäähdytys ja valvonta pitävät järjestelmän toiminnassa vuorokauden ympäri.
AI-datakeskuksen keskeiset teknologiat
Tekoälydatakeskus on kokonaisuus, jossa jokainen osa vaikuttaa toisiinsa. Tehokaskaan laskentapiiri ei hyödytä, jos data ei liiku, sähkö ei riitä tai lämpöä ei saada pois.
CPU
Prosessorit hoitavat yleistä laskentaa ja datakeskuksen hallintatehtäviä.
Ne ohjaavat kiihdyttimiä, valmistelevat dataa ja ajavat käyttöjärjestelmiä ja palveluita.
Tallennus
Nopea tallennusjärjestelmä käsittelee suuria data- ja mallimääriä.
Koulutusdataa ja mallien välitallennuksia luetaan ja kirjoitetaan jatkuvasti.
Verkkoyhteydet
Nopeat verkkoyhteydet yhdistävät palvelimet ja mahdollistavat tiedonsiirron.
Koulutuksessa palvelimet vaihtavat tietoa niin tiheästi, että verkon viive ja kaista vaikuttavat suoraan laskennan nopeuteen.
Jäähdytys
Ilma- ja nestejäähdytys auttavat hallitsemaan tehokkaiden laskentajärjestelmien lämpöä.
Mitä tiheämmin laitteet on sijoitettu, sitä tärkeämmäksi nestejäähdytys tyypillisesti muuttuu.
Sähkö ja varmistus
Luotettava sähkönsyöttö ja varajärjestelmät tukevat jatkuvaa toimintaa.
UPS-laitteet ja varavoimakoneet turvaavat toiminnan sähkökatkon aikana.
Miksi tekoäly tarvitsee tehokasta infrastruktuuria?
Tavallinen tietokone riittää monen tekoälysovelluksen käyttämiseen, mutta suurten mallien kouluttaminen ja palveleminen miljoonille käyttäjille on eri mittakaavan tehtävä.
Tekoälymallien koko kasvaa
Suurimmissa malleissa on valtava määrä parametreja. Ne eivät mahdu yhden laitteen muistiin, joten laskenta jaetaan monelle palvelimelle.
Koulutus vaatii paljon laskentaa
Mallin kouluttaminen tarkoittaa samojen laskuvaiheiden toistamista valtavalle datamäärälle. Tehokkainkin yksittäinen laite ei riitä tähän kohtuullisessa ajassa.
Palvelut käsittelevät suuria tietomääriä
Teksti, kuvat, ääni ja video pitää siirtää, tallentaa ja lukea nopeasti. Hidas tallennus tai verkko jättää kalliit laskentapiirit odottamaan.
Käyttäjät odottavat nopeita vastauksia
Kun malli on käytössä, sen täytyy vastata sekunneissa, vaikka pyyntöjä tulee samanaikaisesti paljon. Tämä edellyttää riittävää kapasiteettia ja lyhyitä viiveitä.
Kokonaisuuden pitää toimia yhdessä
Laskentateho, sähkö ja jäähdytys mitoitetaan toisiinsa nähden. Jos yksi osa on pullonkaula, koko datakeskuksen suorituskyky jää vajaaksi.
Suomi ja tekoälydatakeskukset
Suomi on noussut esiin datakeskusten sijaintipaikkana monesta syystä. Samat tekijät, jotka tekevät maasta kiinnostavan, tuovat mukanaan myös kysymyksiä sähköverkosta, maankäytöstä ja siitä, miten hyödyt jakautuvat.
Viileä ilmasto
Suomessa ulkoilma on suuren osan vuodesta niin viileää, että sitä voidaan hyödyntää jäähdytyksessä joko suoraan tai lämmönvaihtimien kautta. Tämä vapaajäähdytys voi vähentää koneellisen jäähdytyksen tarvetta, vaikka tehokkaat tekoälylaitteet tarvitsevat usein myös nestejäähdytystä.
Sähköjärjestelmä ja uusiutuva energia
Suomen sähköntuotannossa on merkittävä osuus vähäpäästöisiä lähteitä, kuten ydinvoimaa, vesivoimaa ja tuulivoimaa, ja tuulivoiman osuus on kasvanut viime vuosina nopeasti. Suomi on osa pohjoismaisia sähkömarkkinoita. Datakeskukselle olennaista on sähkön hinnan ja saatavuuden lisäksi verkkoliittymän kapasiteetti.
Energiankulutus
Suuri datakeskus voi olla alueensa suurimpia sähkönkäyttäjiä. Siksi uusien laitosten sijoittaminen vaikuttaa sähköverkon suunnitteluun ja edellyttää tiivistä yhteistyötä verkkoyhtiöiden kanssa jo hankkeen alkuvaiheessa.
Hukkalämmön hyödyntäminen
Kaukolämpö on Suomen kaupungeissa yleinen lämmitystapa. Datakeskuksen matalalämpöisen hukkalämmön lämpötilaa voidaan nostaa lämpöpumpuilla ja syöttää lämpö kaukolämpöverkkoon. Suomessa on jo toteutettu tällaisia ratkaisuja, ja niitä suunnitellaan lisää.
Kuituverkot ja yhteydet
Datakeskus tarvitsee nopeat ja varmennetut yhteydet sekä kotimaahan että ulkomaille, esimerkiksi Itämeren merikaapeleiden kautta. Yhteyksien varmuus ja vaihtoehtoiset reitit ovat nousseet tärkeiksi kysymyksiksi myös huoltovarmuuden näkökulmasta.
Merkitys digitalisaatiolle
Kun tekoälyä käytetään yhä enemmän julkisissa palveluissa, terveydenhuollossa, teollisuudessa ja tutkimuksessa, kysymys laskennan sijainnista liittyy myös tietosuojaan, huoltovarmuuteen ja kotimaiseen osaamiseen.
Datakeskus
Laitteista talteen otettu, matalalämpöinen hukkalämpö
Lämpöpumppu
Nostaa lämmön kaukolämpöverkolle sopivaksi
Kaukolämpöverkko
Siirtää lämmön putkistoa pitkin kaupunkiin
Rakennukset
Lämpö käytetään kotien ja kiinteistöjen lämmitykseen
Mahdollisuudet
- Investoinnit sekä rakentamisen ja ylläpidon työpaikat
- Hukkalämmön hyödyntäminen kaukolämmössä
- Osaamisen kasvu laskennassa, energiassa ja tietoverkoissa
- Laskentakapasiteetti lähellä suomalaisia käyttäjiä ja organisaatioita
Haasteet
- Sähköverkon ja verkkoliittymien riittävä kapasiteetti
- Maankäyttö, luvitus ja paikallinen hyväksyntä
- Pysyvien työpaikkojen määrä voi jäädä rakennusvaihetta pienemmäksi
- Hyödyt jakautuvat eri tavoin sen mukaan, missä ja miten laitos toteutetaan
Osio kuvaa yleisiä tekijöitä eikä sisällä tilastoja tai hankekohtaisia tietoja. Ajantasaisia lukuja sähköntuotannosta ja -kulutuksesta julkaisevat esimerkiksi Tilastokeskus ja kantaverkkoyhtiö Fingrid.
Kuinka datakeskusten energiankulutusta hallitaan?
Tekoälydatakeskukset kuluttavat paljon energiaa, eikä kulutusta voi suunnittelulla poistaa. Kokonaisvaikutuksiin voi kuitenkin vaikuttaa: miten tehokkaasti sähkö käytetään, mistä se tulee, miten laitteet jäähdytetään ja mitä syntyvälle lämmölle tehdään.
Energiatehokkuus
Tehokkaat laitteet, korkea käyttöaste ja infrastruktuurin pienet häviöt tarkoittavat, että suurempi osa sähköstä päätyy varsinaiseen laskentaan.
Jäähdytyksen optimointi
Vapaajäähdytys, nestejäähdytys, ilmavirtojen hallinta ja oikein valitut käyttölämpötilat vähentävät jäähdytykseen kuluvaa energiaa.
Uusiutuva energia
Sähkön alkuperä vaikuttaa päästöihin ratkaisevasti. Pelkkä alkuperätakuu ei aina kerro, millaista sähköä laitos käyttää tiettynä hetkenä.
Hukkalämmön hyödyntäminen
Kun lämpö otetaan talteen ja käytetään esimerkiksi kaukolämpönä, samalla energialla saadaan kaksi hyötyä: laskentaa ja lämpöä.
Mittari: PUE eli Power Usage Effectiveness
PUE saadaan jakamalla datakeskuksen koko energiankulutus IT-laitteiden kulutuksella. Arvo 1,0 tarkoittaisi, että kaikki energia kuluu laskentaan; mitä lähempänä arvo on yhtä, sitä vähemmän kuluu jäähdytykseen ja muuhun infrastruktuuriin. PUE ei kuitenkaan kerro sähkön alkuperästä, laitteiden tehokkuudesta eikä siitä, hyödynnetäänkö hukkalämpöä.
Datakeskusten ympäristövaikutukset riippuvat muun muassa energiantuotannosta, laitteistosta, käyttöasteesta, jäähdytysratkaisuista ja laitoksen sijainnista.
Usein kysytyt kysymykset
AI-datakeskus eli tekoälydatakeskus on datakeskus, jonka laitteisto, sähkönsyöttö, jäähdytys ja verkko on mitoitettu tekoälyn tarpeisiin. Siellä koulutetaan tekoälymalleja ja ajetaan niitä palveluissa, joita ihmiset ja organisaatiot käyttävät.
Käytännössä kyse on rakennuksesta tai sen osasta, jossa on paljon tehokkaita palvelimia, niitä yhdistävä nopea verkko sekä järjestelmät, jotka pitävät laitteet sähkössä ja sopivassa lämpötilassa ympäri vuorokauden.
Perinteinen datakeskus palvelee tyypillisesti monenlaisia tehtäviä, kuten verkkosivuja, sähköpostia, tietokantoja ja yritysten sovelluksia. Tekoälydatakeskuksessa painopiste on kiihdyttimissä, kuten GPU:issa, jotka tekevät valtavan määrän laskutoimituksia rinnakkain.
Tästä seuraa kaksi keskeistä eroa. Ensinnäkin yksittäinen laiteräkki voi kuluttaa selvästi enemmän sähköä ja tuottaa enemmän lämpöä kuin perinteisessä palvelinsalissa, mikä vaikuttaa sähkönsyöttöön ja jäähdytykseen. Toiseksi palvelinten välinen verkko on tärkeämmässä roolissa, koska suuria malleja koulutetaan usein monella palvelimella yhtä aikaa.
GPU (graphics processing unit) eli grafiikkaprosessori kehitettiin alun perin tietokonegrafiikan laskemiseen. Siinä on tuhansia pieniä laskentayksiköitä, jotka tekevät samankaltaisia laskutoimituksia samanaikaisesti.
Tekoälymallien laskenta koostuu pääosin juuri tällaisista toistuvista matriisilaskuista, joten GPU sopii siihen hyvin. GPU:iden lisäksi tekoälyssä käytetään myös muita siihen erikoistuneita kiihdytinpiirejä.
Suurten tekoälymallien koulutuksessa suuri joukko kiihdyttimiä voi laskea yhtäjaksoisesti viikkojen tai kuukausien ajan. Jokainen laskutoimitus kuluttaa sähköä, ja lähes kaikki laitteiden käyttämä sähkö muuttuu lopulta lämmöksi, joka täytyy poistaa jäähdytyksellä.
Myös valmiin mallin käyttö kuluttaa energiaa aina, kun palvelu vastaa käyttäjän kysymykseen tai käsittelee kuvan. Kokonaiskulutus riippuu muun muassa mallin koosta, laitteiston tehokkuudesta ja siitä, kuinka paljon palvelua käytetään.
Perinteisin tapa on ilmajäähdytys: viileää ilmaa johdetaan palvelinten etupuolelle ja lämmennyt ilma kerätään takaa pois. Kylmät ja kuumat käytävät erotetaan usein toisistaan, jotta ilmavirrat eivät sekoitu.
Tehokkaiden tekoälylaitteiden kanssa käytetään yhä useammin nestejäähdytystä. Siinä neste kulkee lähellä kuumimpia komponentteja tai laitteet upotetaan sähköä johtamattomaan nesteeseen. Viileässä ilmastossa ulkoilmaa voidaan hyödyntää niin sanotussa vapaajäähdytyksessä.
Kyllä. Datakeskuksen hukkalämpö on yleensä liian matalalämpöistä suoraan kaukolämpöverkkoon, joten sen lämpötilaa nostetaan tavallisesti lämpöpumpuilla. Sen jälkeen lämpö voidaan käyttää esimerkiksi rakennusten lämmitykseen.
Hyödyntäminen edellyttää, että lähellä on lämmölle käyttöä, kuten kaukolämpöverkko, ja että osapuolet sopivat investoinneista ja lämmön hinnoittelusta. Siksi hukkalämmön hyödyntäminen kannattaa ottaa huomioon jo datakeskuksen sijaintia valittaessa.
Usein mainittuja syitä ovat viileä ilmasto, joka helpottaa jäähdytystä, vakaa sähköjärjestelmä, vähäpäästöisen sähköntuotannon merkittävä osuus sekä kaupunkien laajat kaukolämpöverkot, jotka mahdollistavat hukkalämmön hyödyntämisen.
Myös vakaa toimintaympäristö ja tietoliikenneyhteydet vaikuttavat sijaintipäätöksiin. Toisaalta sähköverkon kapasiteetti, luvitus ja paikallinen hyväksyntä ovat asioita, jotka jokaisen hankkeen on ratkaistava erikseen.
Datakeskukset suunnitellaan yleensä monella turvallisuuden tasolla: kulunvalvonta ja fyysinen suojaus, tietoturva, sähkönsyötön varmistus esimerkiksi UPS-laitteilla ja varavoimakoneilla sekä paloturvallisuus.
Turvallisuus ei kuitenkaan ole automaattista, vaan se riippuu toteutuksesta, ylläpidosta ja valvonnasta. Käyttäjän kannalta olennaista on myös tietosuoja: missä maassa ja kenen hallinnassa dataa käsitellään.
Tekoälyn tulevaisuus tarvitsee infrastruktuurin
AI Datakeskus kokoaa yhteen tietoa tekoälyn laskennasta, datakeskusten teknologiasta ja Suomen digitaalisesta infrastruktuurista.
Sivuston sisältö on yleistajuista taustatietoa. Se ei ole sijoitus-, energia- tai teknistä neuvontaa, eikä se edusta mitään yritystä tai hanketta.
Takaisin alkuun