Olemme myös toteuttamassa edistynyttä infrastruktuuria keskeisillä aloilla Aethlumiksessa tiiviin yhteistyömme ansiosta maailman teknologian johtajien, kuten HPE:n, Dellin ja Huawei'n, kanssa. Tekoälyalan arkkitehtuuriteknologiaa on yksi, joka on muodostunut olennaiseksi osaksi nykyisten tekoälyjärjestelmien supervietokoneiden rakentamisessa: OAM (Open Accelerator Module) GPU-palvelin tämä ei ole vain toinen laitteisto, vaan selkäranka, jonka varaan aikamme vaativimpien tekoälytehtävien skaala, suorituskyky ja tehokkuus rakentuvat.
Standardointi ja tiheysohjaus.
Tekoälymallien, erityisesti suurten kielimallien (LLM) ja monimutkaisempien neuroverkkojen, valtava mittakaava on tehnyt vanhentuneeksi palvelinarkkitehtuurin, joka oli tarkoitettu yksinkertaisempien mallien käyttöön. Mallit vaativat ennennäkemättömän määrän rinnakkaista laskentatehoa, mikä edellyttää kymmeniä, joskus jopa satoja GPU:ita, jotka on yhdistetty yhtenäiseen järjestelmään. OAM on tärkeä avoin standardi, joka jakaa GPU-kiihdyttimen ja sen omistautuvan muotokielen. Tämä standardointi, jonka teollisuusliitot ovat edelläkävijöinä kehittäneet, mahdollistaa valmistajien kuten NVIDIA:n, AMD:n ja muiden kehittää korkean suorituskyvyn GPU:it, jotka sopivat standardoituun virtaviivaiseen runkoon. Asiakkaillemme rahoitus-, valmistus- ja energiasektoreilla tämä tarkoittaa, että he voivat luoda suuria, korkean suorituskyvyn laskentaryhmäkokonaisuuksia sitoutumatta yhden valmistajan ekosysteemiin, mikä antaa heille joustavuutta ja mahdollistaa investointien suojaamisen tulevaisuutta varten.
Ylitetään yhteyksien pullonkaula.
Pelkkä raaka laskentateho, joka ei pysty viestimään erittäin suurilla nopeuksilla GPUjen välillä, ei ole hyödyllistä. Jopa yksi palvelin muutamilla GPUilla ei riitä triljoonan parametrin mallin kouluttamiseen. OAM-arkkitehtuurin oikea nerous on siinä, että se yhdistetään äärimmäisen nopeisiin ja alhaisen viiveen kytkentärakenteisiin, kuten NVLinkiin ja NVSwitchiin (NVIDIA-ekosysteemissä) tai niiden analogeihin. OAM-palvelimet on erityisesti toteutettu tukemaan suoraa viestintää kaikkien moduulirivin GPUjen välillä ilman hitaampia perinteisiä PCIe-reittejä. Tämä luo valtavan yhden kiihdyttimen, jossa teratavun edestakaiseen simuloidun datan voidaan vaihtaa lähes reaaliajassa. Juuri tämä tekee useasta tietokoneesta, jotka toimisivat muuten erikseen, aidon monoliittisen tekoälysupertietokoneen. Se mahdollistaa projektien tehokkaan ja ajallisen toimituksen sellaisissa tilanteissa, joissa muuten niiden saavuttaminen ei olisi mahdollista.
Lämpö- ja virtasuunnittelu: skaala-insinööritiede
Suuri tehotiheys yhdessä rakissa aiheuttaa merkittäviä lämpö- ja virtahaittoja. OAM-palvelin ei ole vain GPU-kotelo: se on järjestelmäinsinöörityön mestariteos, joka keskittyy pitkän aikavälin suorituskykyyn. Näihin järjestelmiin on suunniteltu edistyneet ja yhteensovitellut jäähdytysjärjestelmät, yleensä chipille suoraan kohdistuva nestejäähdytys, joka on tehokas hajottamaan lämpöä aina kilowattien tehonkulutukseen asti. Tämä mahdollistaa GPUjen kyvyn ylläpitää lisätaajuutta pitkien aikojen ajan, mikä on välttämätöntä viikkoja kestävissä koulutusohjelmissa. Lisäksi integroitu virtasuunnittelu tarjoaa suurella mittakaavalla vakaita ja puhdasta virtaa. Tämä tarkoittaa luotettavuutta ja vähemmän katkoksia asiakkaillemme kriittisissä, pitkän keston tekoälykoulutuksissa tai laajamittaisissa päättelyoperaatioissa.
Tekoälyn skaalautuvuus.
OAM-muoto on viimein skaalautuvan tekoälyinfrastruktuurin yksikkö. Se mahdollistaa tietokeskusten kasaamisen laajentumismallin mukaisesti kiihtyvyydessä pikemminkin kuin kapasiteetin lisäämisellä. Yksittäisiä OAM-moduuleja yhdistämällä voidaan koota palkki, ja palkkeja yhdistämällä voidaan koota supertietokoneklusteri. Kokemuksemme järjestelmäintegroinnissa kumppaneidemme, kuten HPE:n ja Huawei:n, kanssa mahdollistaa tämän modulaarisuuden tarjoamisen, jolloin organisaatiot voivat kehittää tekoälykykyjään erittäin tehokkaassa vaiheittaisessa prosessissa ja omien tarpeidensa mukaan. Se tarjoaa suorituskyvyn ja luotettavuuden, joita herkkien teollisten ja rahoitusteknologisten tekoälysovellusten tarvitsevat, kuten generatiivinen tekoäly ja reaaliaikainen petostentorjunta, monimutkaiset digitaaliset kaksoset sekä ennakoiva huolto ja simuloinnit.
Yhteenvetona OAM GPU -palvelimet eivät ole pelkkä päivitys. Ne edustavat paradigman muutosta tietokeskusten suunnittelussa, ja ne on suunniteltu erityisesti ylitämään tekoälysupertietokoneiden tietyt pullonkaulat. Ne tarjoavat kolme perusasiaa: standardoidun tiheyden, läpimurtoisen yhteyden ja tehokkaan lämpöhallinnan, jotka muodostavat kestämättömän perustan, jolle tekoälyn tulevaisuus rakentuu. Käytämme liittoutumisia ja teknistä asiantuntemusta tämän alustan tarjoamiseksi ja ylläpitämiseksi Aethlumiksessa, jotta asiakkaamme rahoitus-, valmistus- ja energiasektoreilla voivat innovoida tehokkaasti ja luottavaisin mielin.