Grafički procesor (GPU)

Grafički procesor (Graphics Processing Unit, GPU) izvorno je dizajniran za renderiranje 3D grafike, ali se pokazao izvanredno prikladnim za treniranje neuronskih mreža. Razlog: dubinsko učenje svodi se na ogromne paralelne matrične operacije, a GPU ima tisuće manjih jezgri koje upravo to rade efikasno — za razliku od CPU-a s nekoliko snažnih sekvencijalnih jezgri.

Slojevi važnosti za AI:

• Tensor cores / Matrix cores — specijalizirane jedinice za FP16/FP8/INT8 matrično množenje (NVIDIA Volta+, AMD CDNA)
• HBM memorija — High Bandwidth Memory s puno većom propusnošću od standardnog GDDR-a; H100 ima 80 GB HBM3, B200 192 GB HBM3e
• Interconnect — NVLink i NVSwitch omogućavaju povezivanje 8-72 GPU-a u jedan logički sustav za treniranje
• CUDA ekosustav — softverski moat NVIDIA-e; alternative (ROCm, OneAPI, Triton) tek hvataju zalet

Današnja AI ekonomija duboko je vezana za GPU-ove. NVIDIA je 2024./2025. postala najvrednija tvrtka na svijetu zahvaljujući upravo H100/B200 isporukama. Cijena single-GPU klastera za frontier model treniranje mjeri se u stotinama milijuna dolara.

AI akceleratori poput TPU-a (Google) i Trainium (AWS) pokušavaju potresti monopol, posebno na inferenciji velikih jezičnih modela, ali za treniranje frontier modela GPU-ovi i dalje dominiraju u 2026.