Etikett: processorarkitektur

  • Blackwell – så blev grafikprocessorn en motor för AI-eran

    Nvidias Blackwell-arkitektur driver både enorma AI-system och grafikkort i vanliga datorer. Bakom namnet finns en ny generation kretsar som räknar med lägre precision, flyttar data i extrem hastighet och i datacentret kopplar ihop två stora chip så att de fungerar som en enda grafikprocessor. Men vad innebär det egentligen – och varför är det viktigt?

    När vi hör ordet grafikprocessor tänker många fortfarande på datorspel. En GPU skapades ursprungligen för att räkna ut färg, ljus och geometri för miljontals bildpunkter samtidigt. Just förmågan att utföra väldigt många likartade beräkningar parallellt har dock gjort grafikprocessorn minst lika viktig för artificiell intelligens.

    En vanlig processor, CPU, kan liknas vid en grupp mycket skickliga problemlösare som snabbt växlar mellan olika arbetsuppgifter. En GPU påminner mer om en enorm fabrik där tusentals enklare arbetsstationer kan utföra samma typ av operation samtidigt. När ett neuralt nätverk tränas eller används handlar en stor del av arbetet om upprepade multiplikationer av stora matriser. Det är precis den typ av uppgift som en GPU är bra på.

    Blackwell är Nvidias arkitekturfamilj för den här nya verkligheten. Den presenterades 2024 som efterföljare till Hopper i datacenter och kom senare till persondatorer i bland annat GeForce RTX 50-serien, där den ersatte Ada Lovelace. Kretsarna delar grundidéer, men produkterna för datacenter och konsumentdatorer är inte samma chip. AI-systemen är byggda för enorma språkmodeller och stora serverhallar, medan GeForce-varianterna även måste hantera spel, bildskärmar och videokodning.

    Två jättelika chip som uppträder som ett

    Det finns en fysisk gräns för hur stor en krets kan tillverkas med litografimaskinerna i en halvledarfabrik. Ju större ett enskilt chip blir, desto större är dessutom risken att ett litet tillverkningsfel gör hela kretsen oanvändbar.

    I Blackwells datacentervariant har Nvidia därför placerat två mycket stora kiseldelar i samma kapsel. De är förenade med en intern länk som kan överföra 10 terabyte per sekund. För programmet ska de båda delarna i praktiken uppföra sig som en sammanhängande GPU med gemensamt minne och samordnad cache.

    Tillsammans innehåller lösningen 208 miljarder transistorer. Det är svårt att föreställa sig antalet, men varje transistor fungerar i princip som en mikroskopisk elektronisk strömbrytare. Genom att kombinera miljarder sådana strömbrytare kan kretsen utföra de beräkningar som krävs för exempelvis en språkmodell.

    Konstruktionen visar också hur chipindustrin förändras. Under lång tid kom stora prestandalyft främst från att transistorerna blev mindre. Blackwell tillverkas med en specialanpassad TSMC-process kallad 4NP, men bygger inte på något dramatiskt hopp till en helt ny tillverkningsteknik. I stället kommer en stor del av förbättringarna från arkitekturen, paketeringen och förmågan att få flera kretsdelar att samarbeta.

    Färre siffror kan ge fler beräkningar

    En av Blackwells viktigaste nyheter handlar inte om att räkna med större tal, utan om att ibland använda färre bitar för varje tal.

    Traditionella vetenskapliga beräkningar kan kräva hög numerisk precision. Ett AI-system behöver däremot inte alltid lagra varje vikt i ett neuralt nätverk med många decimaler. Om talen kan representeras med exempelvis fyra bitar i stället för åtta eller sexton tar de mindre plats i minnet och går snabbare att flytta och bearbeta.

    Det kan jämföras med att transportera avrundade mått i små paket i stället för mycket exakta mått i stora lådor. Lastbilen får plats med fler paket och fabriken kan arbeta snabbare. Nackdelen är att en del information försvinner vid avrundningen.

    Blackwells femte generation Tensor-kärnor är konstruerade för bland annat fyrabitarsformat som FP4 och olika så kallade microscaling-format. Tekniken delar in talen i små grupper och använder gemensamma skalningsvärden för att behålla så mycket noggrannhet som möjligt. Resultatet kan bli högre beräkningshastighet och möjlighet att köra större modeller i samma mängd minne.

    Det betyder däremot inte att alla AI-beräkningar utan vidare kan göras med fyra bitar. Hur mycket precision som kan tas bort utan att modellens svar försämras beror på modellen, arbetsuppgiften och programvaran. Därför kombineras ofta flera talformat under både träning och användning.

    Minnet är minst lika viktigt som själva räknandet

    En modern GPU kan utföra oerhört många operationer per sekund, men beräkningsenheterna gör ingen nytta om de står och väntar på data. Minnesbandbredden – hur snabbt information kan flyttas till och från kretsen – har därför blivit en av de viktigaste begränsningarna inom AI.

    Datacenterprodukterna använder HBM3E, ett högpresterande minne som placeras mycket nära grafikprocessorn och ger extremt bred dataöverföring. Konsument- och arbetsstationskorten använder i stället GDDR7, som är bättre anpassat för grafikkortens kostnad, konstruktion och användningsområden.

    I riktigt stora AI-system räcker inte heller en enda GPU. Då måste många processorer kommunicera med varandra. Nvidias lösning bygger bland annat på NVLink och NVSwitch, som gör det möjligt att behandla ett helt serverrack som en mycket stor beräkningsmaskin. Det är en viktig del av förklaringen till att dagens AI-kapplöpning handlar lika mycket om nätverk, minne, kylning och programvara som om själva chipet.

    Från AI-datacenter till datorspel

    På konsumentsidan används Blackwell i GeForce RTX 50-serien. Här arbetar vanliga CUDA-kärnor tillsammans med särskilda Tensor-kärnor för AI och RT-kärnor för strålspårning.

    Strålspårning försöker efterlikna hur ljusstrålar studsar genom en scen. Metoden kan skapa realistiska reflexer, skuggor och belysning, men kräver mycket beräkningskraft. Blackwell har fjärde generationens RT-kärnor och funktioner som är anpassade för mycket detaljrik geometri, exempelvis hårstrån och komplexa 3D-miljöer.

    AI används samtidigt för att rekonstruera en skarpare bild från en lägre upplösning och för att skapa extra bildrutor mellan dem som spelet faktiskt har renderat. I DLSS 4 används transformermodeller för delar av bildrekonstruktionen, och de kraftigaste Blackwell-korten kan generera flera mellanbilder.

    Det kan ge ett betydligt högre visat bildflöde, men en AI-genererad bildruta är inte samma sak som en fullständigt beräknad bildruta. Grundprestanda, svarstid och bildkvalitet är fortfarande viktiga när grafikkort jämförs. Tekniken kan ge imponerande resultat, men den trollar inte bort alla flaskhalsar.

    En liten RISC-V-processor håller ordning

    En mindre uppmärksammad detalj är att Blackwell innehåller en särskild styrprocessor baserad på den öppna instruktionsarkitekturen RISC-V. Nvidia kallar den AI Management Processor, AMP.

    Dess uppgift är inte att träna språkmodellen eller rita spelgrafiken. Den fungerar snarare som en arbetsledare som hjälper till att schemalägga uppgifter och fördela grafikprocessorns resurser. Genom att flytta mer av den administrationen från datorns CPU kan GPU i större utsträckning styra sitt eget arbete.

    Det är ett intressant exempel på hur moderna systemkretsar byggs: en kraftfull GPU är egentligen ett helt samhälle av olika specialiserade beräkningsenheter, minnen, länkar och små styrprocessorer.

    Snabbare betyder inte automatiskt energisnålare

    Nvidia framhåller stora förbättringar i prestanda och energieffektivitet för vissa AI-arbetslaster. Lägre precision kan minska både beräkningsarbete och minnestrafik, vilket i sin tur kan sänka energin som krävs för varje producerat svar från en AI-modell.

    Men effektivare chip innebär inte nödvändigtvis att den totala elförbrukningen minskar. När varje beräkning blir billigare byggs ofta större modeller och fler datacenter. De största Blackwell-systemen kräver avancerad strömförsörjning och vätskekylning, och den verkliga miljöpåverkan avgörs av hur mycket utrustningen används, hur elen produceras och hur länge hårdvaran får vara i drift.

    Prestandasiffror måste också läsas med försiktighet. En uppgift kan bli mångdubbelt snabbare om den kan använda FP4 och Nvidias optimerade programvara, medan ett annat program kanske bara förbättras marginellt. Det finns ingen enda siffra som beskriver hur snabbt en hel arkitektur är.

    Uppkallad efter en matematisk pionjär

    Arkitekturen har fått sitt namn efter den amerikanske matematikern och statistikern David Blackwell, som gjorde viktiga insatser inom sannolikhetsteori, statistik, spelteori och informationsteori. År 1965 blev han den första afroamerikanen som valdes in i USA vetenskapsakademi, National Academy of Sciences.

    Namnet är särskilt passande eftersom flera av de områden Blackwell arbetade med ligger nära de matematiska grunderna för dagens maskininlärning: hur man fattar beslut under osäkerhet, hur information kan beskrivas och hur sannolikheter kan användas för att dra slutsatser.

    Mer än bara ett snabbare grafikkort

    Blackwell visar vart processorutvecklingen är på väg. Framtidens prestanda kommer inte enbart från mindre transistorer eller högre klockfrekvens. Den kommer också från att dela upp stora konstruktioner, koppla samman dem med extremt snabba länkar, använda olika numeriska format och bygga särskilda enheter för avgränsade uppgifter.

    För datorspelaren märks utvecklingen som bättre strålspårning och mer AI-baserad bildgenerering. För forskaren eller AI-utvecklaren handlar den om att få plats med större modeller och utföra fler beräkningar per watt. För datacenteroperatören är Blackwell däremot inte bara ett chip, utan en del av ett helt system av processorer, minne, nätverk, kylning och programvara.

    Det är kanske den viktigaste lärdomen: den moderna grafikprocessorn är inte längre bara en komponent som ritar bilder. Den har blivit en av de centrala maskinerna bakom den pågående AI-revolutionen.

    Teknisk faktaruta

    • Arkitektur: Nvidia Blackwell
    • Presenterad: mars 2024 för datacenter; GeForce RTX 50-serien presenterades i januari 2025
    • Föregångare: Hopper i datacenter och Ada Lovelace för konsumentgrafik
    • Tillverkning: specialanpassade TSMC-processer, 4NP för datacenter och 4N för konsumentkretsar
    • Minne: HBM3E i datacenterprodukter och GDDR7 i konsumentprodukter
    • AI-beräkning: femte generationens Tensor-kärnor med stöd för bland annat FP4
    • Grafik: fjärde generationens RT-kärnor för strålspårning
    • Styrning: särskild AI Management Processor baserad på RISC-V

    Källor och vidare läsning

    Youtube innehålle om Blackwell

    Annons

    Strul med e-posten? Hjälp med TV? Problem med wifi?
    Digital Fixare

  • När RISC skulle ta över datorvärlden

    På 1980-talet rasade ett tekniskt kapplöpning i datorvärlden. Nya RISC-processorer lovade högre hastighet, enklare konstruktion och bättre framtidsmöjligheter än de etablerade CISC-processorerna bakom PC-revolutionen. Företag som Sun, IBM, HP, DEC och MIPS satsade stort på att forma nästa generations datorer – men till slut blev det inte bara den snabbaste tekniken som avgjorde striden, utan också programvara, kompatibilitet och marknadskraft.

    Under 1980-talet pågick ett av datorhistoriens mest intressanta teknikskiften. I ena ringhörnan stod de etablerade processorerna, framför allt Intels x86-familj, som redan drev den snabbt växande PC-marknaden. I den andra ringhörnan fanns en ny idé: RISC – processorer byggda på färre, enklare och snabbare instruktioner.

    Det här blev början på det som ibland kallas RISC-krigen. Men i praktiken handlade det mindre om ett krig och mer om ett kapplopp: kunde de nya, renodlade RISC-processorerna bli så mycket snabbare att kunderna var beredda att lämna den stora programvaruvärlden kring PC och x86?

    Idén bakom RISC

    RISC står för Reduced Instruction Set Computer. Grundtanken var enkel: i stället för att bygga processorer med många komplicerade instruktioner skulle man använda färre och enklare instruktioner som kunde köras mycket snabbt.

    Det var en reaktion mot äldre CISC-processorer, som exempelvis Motorolas 68000-serie och Intels x86. CISC stod för Complex Instruction Set Computer och byggde på tanken att processorn själv skulle kunna utföra mer avancerade instruktioner direkt i hårdvaran.

    RISC-förespråkarna menade att det var bättre att låta programvaran och kompilatorn göra mer av jobbet, medan processorn hölls enkel, snabb och effektiv. När halvledartekniken utvecklades och fler transistorer fick plats på samma chip blev det möjligt att bygga helt nya arkitekturer från grunden.

    HP, IBM och den första vågen

    Hewlett-Packard var tidigt ute. Företaget började utveckla sin nya processorarkitektur i början av 1980-talet. Resultatet blev High-Precision Architecture, senare mer känt som PA-RISC. HP såg inte bara detta som ännu en processor, utan som ett tillfälle att tänka om hela datorarkitekturen från grunden.

    IBM ville också vara med. Företaget tog fram IBM RT PC, en dator som kombinerade UNIX med en RISC-processor. Men projektet blev försenat, och när maskinen kom 1986 var den varken billigare eller snabbare än konkurrenterna. Den blev ingen större framgång, även om tekniken levde vidare i IBM:s UNIX-system AIX.

    Arbetsstationernas guldålder

    För att förstå RISC måste man förstå arbetsstationerna. Det här var inte vanliga hemdatorer eller kontors-PC. Arbetsstationer användes på universitet, forskningslabb, ingenjörsfirmor och inom tekniska branscher.

    De körde ofta UNIX, hade kraftfull grafik och kostade enorma summor. Priser på 100 000 till 250 000 dollar förekom. De användes till sådant som beräkningar, visualiseringar, teknisk design och avancerad grafik.

    Det var här RISC slog igenom först. Den som kunde leverera mer beräkningskraft per krona hade en chans att vinna stora kunder.

    Sun och SPARC

    Ett av de viktigaste företagen i utvecklingen var Sun Microsystems. Sun hade redan blivit känt för sina UNIX-arbetsstationer. Deras första maskiner använde Motorolas 68000-processor, men företagets tekniska ledning började tvivla på att CISC-processorer skulle kunna utvecklas snabbt nog.

    I stället tog Sun fram en egen RISC-arkitektur: SPARC. Namnet stod först för Sun’s Processor Architecture for RISC Computers, men ändrades senare till Scalable Processor Architecture.

    När Sun presenterade sina Sun-4-arbetsstationer med SPARC 1987 blev det tydligt att RISC inte längre bara var en akademisk idé. Sun hävdade att den nya maskinen var 2,5 gånger snabbare än föregångaren och kunde nå 10 miljoner instruktioner per sekund, alltså 10 MIPS.

    Det var imponerande, särskilt eftersom priset var långt lägre än för många äldre minidatorer. RISC började framstå som framtiden.

    Öppenhet – men på 1980-talets villkor

    Sun försökte också göra SPARC till en slags öppen standard. Andra företag kunde licensiera tekniken och bygga egna SPARC-processorer. Det var samma strategi som Sun tidigare hade använt med nätverksfilsystemet NFS, som blev mycket spritt.

    Företag som AT&T, Fujitsu, Cypress Semiconductor och LSI Logic anslöt sig. Men alla var inte bekväma med att licensiera teknik från Sun, som samtidigt var en aggressiv konkurrent. Därför växte flera alternativa RISC-läger fram.

    MIPS blir en stjärna

    Ett av de viktigaste alternativen var MIPS. Företaget MIPS Computer släppte sin första processor, R2000, 1986. Men det var efterföljaren R3000, lanserad 1988, som verkligen gjorde avtryck.

    R3000 kunde enligt MIPS nå omkring 20 MIPS med endast 115 000 transistorer. Som jämförelse låg Intel 386 långt efter i rå instruktionshastighet och behövde fler transistorer. Det gjorde MIPS attraktivt för arbetsstationer och tekniska system.

    Flera stora företag licensierade eller använde MIPS-tekniken, bland annat NEC, Sony och Siemens. Digital Equipment Corporation, DEC, valde också MIPS till sina nya UNIX-arbetsstationer.

    DEC och drömmen om en Sun-dödare

    DEC var en gång en av datorvärldens verkliga jättar, känd för sina PDP- och VAX-datorer. Men i slutet av 1980-talet började företagets traditionella minidatorer tappa mark. Arbetsstationer från Sun och andra aktörer tog över allt mer av marknaden.

    DEC behövde svara snabbt. Efter att ha testat MIPS-system lyckades ett team porta företagets UNIX-variant Ultrix på bara några veckor. Det visade att DEC inte behövde lägga flera år på att ta fram en helt egen lösning.

    Resultatet blev DECStation 3100, som internt kallades en ”Sun-Killer”. Maskinen blev tekniskt imponerande, men den stora utmaningen var programvaran. Utan ett starkt ekosystem av applikationer räckte inte snabb hårdvara hela vägen.

    IBM kommer tillbaka med RS/6000

    IBM:s första försök med RT PC hade misslyckats, men företaget gav inte upp. År 1990 lanserade IBM RISC System/6000, eller RS/6000.

    Den byggde på en ny och kraftfull idé: superskalär exekvering.

    En vanlig processor kan liknas vid ett löpande band där instruktioner behandlas steg för steg. Med pipelining kan flera instruktioner vara på olika steg samtidigt. Superskalär teknik går längre: processorn kan starta och köra flera instruktioner parallellt inom samma kärna.

    Man kan jämföra det med ett kafé. Om det bara finns en kaffemaskin måste varje beställning göras i tur och ordning. Men med flera maskiner, flera stationer och en skicklig barista kan flera drycker tillagas samtidigt. På samma sätt kan en superskalär processor skicka olika instruktioner till olika beräkningsenheter samtidigt.

    RS/6000 blev ett starkt tekniskt svar från IBM. Plötsligt skrattade ingen längre åt IBM:s RISC-satsning.

    DEC Alpha – superchippet som kom för sent

    DEC insåg till slut att VAX-arkitekturen inte hade framtiden för sig. Företaget började därför utveckla en helt ny processor: Alpha.

    Alpha presenterades 1992 och var en av de första riktigt uppmärksammade 64-bitarsarkitekturerna på marknaden. Den kördes i mycket hög klockfrekvens för sin tid och utlovade enorm prestanda.

    Men tekniken kom samtidigt som DEC hade stora ekonomiska problem. Företaget förlorade pengar, minidatormarknaden krympte och ledningen var pressad. Alpha var tekniskt imponerande, men den kunde inte ensam rädda DEC.

    Intel väljer en annan väg

    Samtidigt stod Intel inför ett strategiskt dilemma. RISC-processorerna blev allt snabbare, särskilt i arbetsstationer. Skulle Intel överge x86 och bygga något helt nytt?

    Svaret blev nej.

    Intel hade något som RISC-tillverkarna saknade: ett enormt programvaruekosystem. MS-DOS, Windows och mängder av applikationer var byggda för x86. Bakåtkompatibilitet var en enorm fördel.

    När Intel lanserade Pentium 1993 var den fortfarande en x86-processor, men den hade börjat låna idéer från RISC-världen. Pentium använde superskalär teknik för att kunna utföra mer än en instruktion åt gången.

    Med Pentium Pro 1995 gick Intel ännu längre. Processorn översatte komplexa x86-instruktioner till enklare interna mikroinstruktioner, så kallade micro-ops. På insidan började x86 alltså allt mer likna RISC, samtidigt som den fortfarande kunde köra gamla program.

    Det blev Intels stora kompromiss: behåll kompatibiliteten, men gör insidan modernare.

    När RISC förlorade sin enkelhet

    En av de ironiska vändningarna i historien är att RISC med tiden blev mer komplicerat. För att fortsätta öka prestandan började även RISC-processorer använda superskalär teknik, avancerad styrlogik och mer komplex instruktionshantering.

    Därmed försvann en del av den ursprungliga enkelheten. Om både RISC och CISC ändå blev komplicerade på insidan, började kunderna fråga sig något annat: vilken plattform har bäst programvara?

    Där hade x86 ett enormt övertag.

    Vinnaren blev inte den renaste tekniken

    I efterhand kan RISC-krigen ses som en kamp mellan teknisk elegans och ekosystem. RISC var ofta snabbare, renare och mer imponerande på pappret. Men x86 hade kompatibiliteten, PC-marknaden och pengarna.

    Intel behövde inte alltid vara snabbast. De behövde bara vara tillräckligt snabba för att kunderna inte skulle överge x86.

    Med Moores lag i ryggen, där antalet transistorer ökade kraftigt över tid, kunde Intel gradvis minska nackdelarna med bakåtkompatibilitet. Det som tidigare kostade mycket i transistorer blev med tiden en mindre del av hela processorn.

    Arvet efter RISC-krigen

    Många av 1980- och 1990-talens stora RISC-arkitekturer försvann eller hamnade i nischer. MIPS levde vidare i inbyggda system och spelkonsoler. PA-RISC och Alpha försvann så småningom från den breda marknaden. SPARC överlevde länge i servrar och arbetsstationer, men tappade också mark.

    IBM:s POWER-arkitektur däremot levde vidare och användes bland annat i superdatorer. Den låg också till grund för PowerPC, som utvecklades i samarbetet mellan Apple, IBM och Motorola.

    Och RISC-idén dog aldrig. Den återkom med enorm kraft i en annan värld: mobiltelefoner och strömsnåla enheter. Där blev ARM den stora vinnaren.

    Slutsats

    RISC-krigen visar att den bästa tekniken inte alltid vinner på egen hand. Prestanda är viktigt, men programvara, kompatibilitet, pris, marknad och timing kan vara ännu viktigare.

    RISC-processorerna förändrade datorvärlden genom att visa hur mycket snabbare och effektivare processorer kunde bli. Men Intel och x86 överlevde genom att anpassa sig. De tog till sig RISC-liknande idéer på insidan, utan att överge den gamla programvaruvärlden på utsidan.

    Det blev inte en enkel seger för CISC eller RISC. I stället smälte idéerna samman. Dagens processorer är ofta hybrider: de kan visa upp en gammal, kompatibel fasad mot programmen, men arbetar internt med moderna tekniker som en gång förknippades med RISC-revolutionen.

    Faktaruta: Skillnaden mellan RISC och CISC

    RISC och CISC är två olika filosofier för hur en processors instruktionsuppsättning är uppbyggd. Instruktionsuppsättningen är det ”språk” som processorn förstår direkt.

    Vad är CISC?

    CISC står för Complex Instruction Set Computer, alltså dator med komplex instruktionsuppsättning. Idén är att processorn ska kunna utföra ganska avancerade instruktioner direkt i hårdvaran. En enda instruktion kan till exempel göra flera moment som annars hade krävt flera enklare instruktioner.

    CISC blev vanligt under en tid då minne var dyrt och program gärna skulle ta så liten plats som möjligt. Genom att ha kraftfulla instruktioner kunde programmen ibland bli kortare. Klassiska exempel på CISC-arkitekturer är x86, som används i många PC-datorer.

    Vad är RISC?

    RISC står för Reduced Instruction Set Computer, alltså dator med reducerad instruktionsuppsättning. Här är tanken att processorn ska ha färre och enklare instruktioner, som ofta kan utföras mycket snabbt. I stället för en komplicerad instruktion används flera enkla instruktioner.

    RISC-idén växte fram när man såg att många komplicerade processorinstruktioner sällan användes av program. Genom att förenkla processorn kunde man ofta få högre prestanda, lägre energiförbrukning och enklare konstruktion. Exempel på RISC-arkitekturer är ARM, MIPS, PowerPC och RISC-V.

    Förenklad jämförelse

    Egenskap CISC RISC
    Instruktioner Många och ofta komplexa Färre och enklare
    Utförande En instruktion kan göra mycket Flera enkla instruktioner gör jobbet
    Historisk fördel Kompakta program när minne var dyrt Snabbare och enklare processordesign
    Exempel x86 ARM, MIPS, PowerPC, RISC-V

    Hur ser det ut i dag?

    Skillnaden mellan RISC och CISC är inte längre lika skarp som förr. Moderna x86-processorer kan internt bryta ned komplexa CISC-instruktioner till mindre, enklare mikroinstruktioner. Samtidigt har moderna RISC-processorer fått fler funktioner och mer avancerade instruktioner.

    En enkel tumregel är ändå att CISC historiskt satsade på kraftfulla instruktioner, medan RISC satsade på enkla instruktioner som kan köras snabbt och effektivt.

    Annons

    Strul med e-posten? Hjälp med TV? Problem med wifi?
    Digital Fixare