60 개 뉴스
NVIDIA는 새로운 Vera Rubin 플랫폼이 하드웨어와 소프트웨어의 엔드투엔드 코디자인 덕분에 Blackwell 세대 GPU 수의 4분의 1만으로 최대 규모의 AI 모델을 훈련한다고 밝혔습니다. Nemotron 3 Ultra 모델은 SWE-bench Verified 벤치마크에서 71.7%를 기록했으며, Vera CPU는 x86 대안보다 약 30% 높은 처리량을 보였습니다.
AMD가 AIMs 2.2를 발표했습니다—Instinct GPU 가속기, EPYC CPU, Radeon GPU에 자동 구성을 제공하는 표준화된 Docker 추론 마이크로서비스로, Gemma-4 31B, Llama-3.1 8B, Qwen3 등의 모델을 지원합니다.
AMD ROCm 블로그는 엔지니어들이 에이전트 모드에서 Cursor IDE와 Claude Opus 4.7을 사용하여 AMD Instinct MI250의 배정밀도 HIP 커널을 최적화한 방법을 설명합니다. 4단계 약 45회 실험을 통해 28.3배 가속을 달성했습니다—런타임이 46.7초에서 1.65초로 감소하고, 비트 동일 결과에 허용 오차 1e-12.
AMD가 hipVS를 발표했습니다. hipRAFT 알고리즘을 기반으로 AMD Instinct GPU용으로 구축된 GPU 가속 벡터 검색 라이브러리입니다. 이 라이브러리는 NVIDIA cuVS 플랫폼과 API 수준에서 호환되며, 4가지 검색 알고리즘을 지원하고, 쿼리를 3~5개의 하위 쿼리로 분해하는 에이전트 RAG 시스템 데모도 제공합니다.
NVIDIA Blackwell GB300 NVL72는 DeepSeek V4 Pro 모델 기준 Hopper 대비 와트당 성능이 최대 25배에 달하며, 소프트웨어 최적화만으로 한 달 내에 최대 5배 개선을 달성했습니다.
AMD의 GPU 커널 자동화 최적화 에이전트 GEAK가 DeepSeek-V4 MLA 커널을 MI355 가속기용으로 PyTorch에서 Triton으로 마이그레이션했습니다. 결과는 프리필 최대 9.13배 가속, 디코딩 기하평균 4.94배 가속, SGLang 프레임워크에서 엔드투엔드 처리량 2.10배 향상을 보여줍니다.
AMD가 ROCm 스택의 SGLang Diffusion을 통해 Instinct GPU에서 이미지 생성·편집을 위한 확산 모델을 실행하는 가이드를 공개했습니다. 대형 언어 모델 분야에서 인기를 끈 추론 프레임워크 SGLang이 이미지 확산까지 지원을 확대하면서, AMD는 NVIDIA 에코시스템 외부에서 AI 추론 분야 입지를 강화하고 있습니다.
FlyDSL은 AMD의 GPU 커널 작성용 Python 도메인 특화 언어로, 새로운 ROCm 가이드에 따르면 수동으로 최적화된 HIP C++ 코드의 성능을 더 적은 코드로 달성할 수 있습니다. AMD는 기존 HIP 커널 이식을 위한 실용 가이드를 공개하며 FlyDSL을 NVIDIA CUDA 도구 체인에 대한 Python 우선 대안으로 포지셔닝하고 있습니다.
AMD ROCm 팀이 CDNA4 아키텍처에 대한 GPU occupancy 수동 계산 기술 가이드를 발표했습니다. 핵심 발견: MI355X의 행렬 바운드 커널은 불과 12% occupancy에서 최고 처리량을 달성합니다 — CUDA 생태계에서 온 실무자들에게 반직관적인 결과입니다.
Olympus 코어를 탑재한 NVIDIA Vera CPU는 Grace 프로세서 대비 IPC가 50% 높고 코어-투-코어 대역폭이 3.4TB/s입니다. Perplexity는 코딩 에이전트 워크플로우에서 1.5배 빠른 작업 완료를 기록했습니다.
AMD Quark 0.12가 Diffusers와 xDiT 프레임워크를 통해 Instinct MI350 GPU에서 이미지 생성을 위한 FLUX.1-dev 모델의 MXFP4 양자화를 가능하게 합니다. torch.compile을 사용하면 MXFP4 ASM이 BF16 eager 기준 대비 1.92배 속도 향상을 달성하며, CLIP 점수는 기준과 동일합니다.
AMD ROCm Primus Tuning Agent는 결정론적 시드 플래너와 LLM 기반 탐색 루프를 결합하여 AMD Instinct GPU에서의 LLM 훈련을 위한 최적 구성을 자동으로 발견합니다. Mixtral 8×22B에서 약 30분의 탐색으로 AMD 기준 대비 +27%의 처리량을 달성했습니다.
Multiverse Computing과 도시바 소속 산업 전문가들이 OECD.ai에서 양자 기술이 이미 AI를 변화시키는 부분과 낙관적 기대가 증거로 뒷받침되지 않는 부분을 분석합니다. 텐서 네트워크는 계산 수요를 10~100배 절감하며, 광범위한 양자 ML 적용은 향후 10년 내 현실화되기 어렵습니다.
AMD Research는 2026년 7월 3일 AI 코딩 에이전트가 실제 GPU 커널을 얼마나 잘 최적화하는지 측정하는 오픈 벤치마킹 프레임워크 AgentKernelArena를 공개했습니다. 4가지 카테고리의 214개 태스크 중, AMD 자체 에이전트 GEAKv3(Claude Opus 4.6)가 HIP 커널에서 9.04배 속도 향상으로 선두를 차지했으며, Claude Code(Opus 4.6)가 6.08배로 2위를 기록했습니다. 모든 실험은 ROCm 7.1.1 환경의 AMD Instinct MI300X에서 수행되었습니다.
AMD ROCm 팀은 2026년 7월 3일 AMD 하드웨어에서의 Eagle3 투기적 디코딩 프로덕션 적용 세부 사항을 공개했습니다. Eagle3 다중 레이어 접근법, vLLM 백엔드, AMD Quark FP8 양자화의 조합은 AMD Instinct MI355X에서 Kimi-K2.5에 대해 1.69배~2.00배, MiniMax-M2.5에 대해 1.38배~1.79배 높은 처리량을 달성하며 출력 품질 손실이 없습니다.
AMD는 rocDecode, DLPack, PyTorch, MIGraphX를 활용하여 최종 감지 결과가 확정될 때까지 비디오 프레임이 VRAM을 벗어나지 않도록 하는 GPU 레지던트 객체 감지 파이프라인을 공개했습니다.
NVIDIA가 Blackwell 아키텍처에서 계층화된 소프트웨어 최적화 — NVFP4 정밀도부터 투기적 디코딩까지 — 가 DeepSeek V4 모델의 처리량을 최대 20배 높이고 토큰 비용을 5배 낮추는 방법을 설명합니다.
AMD는 AITER 프레임워크(AI Tensor Engine for ROCm) 내 FlyDSL 시스템을 발표했습니다. AMD GPU의 LLM 디코딩 단계를 위한 특수 GEMM 커널을 자동 생성합니다. 결과: 256개 컴퓨트 유닛을 갖춘 Instinct MI355X에서 평균 1.64배 지연 시간 감소, M≤8 토큰의 가장 중요한 시나리오에서 1.79배 가속.
AMD Resource Manager에 자동 선점(pre-emption) 기능이 추가되었습니다. 시스템은 워크로드별 GPU 사용률을 모니터링하고, 설정 가능한 임계값(예: 10%) 이하의 작업을 지정된 유휴 타이머(예: 15분) 이후 중단합니다. 비활성 개발 환경이 점유한 GPU 자원을 공유 풀로 반환하는 두 가지 정책 — GPU 부하 시에만 선점하거나 항상 선점 — 을 제공합니다.
AMD는 Instinct MI355X 가속기에서 W_MXFP4_A_MXFP6 혼합 정밀도 양자화를 시연하여 vLLM 프레임워크를 활용한 프로덕션 추론 환경에서 FP8 수준에 가까운 정확도를 유지하면서 처리량을 최대 29% 향상시켰습니다.
NVIDIA와 AWS가 이전 G6 세대 대비 AI 추론 성능이 4.6배 향상된 RTX PRO 4500 Blackwell GPU를 탑재한 EC2 G7 인스턴스를 발표했습니다. cuVS 라이브러리는 Amazon OpenSearch Serverless의 기본값이 되어 벡터 인덱싱 속도가 10배 빨라졌습니다.
OpenAI와 Broadcom이 공동으로 LLM 추론에 최적화된 커스텀 ASIC 칩 Jalapeño를 발표했습니다. OpenAI가 자체 실리콘 영역에 진입하는 전략적 행보로, Google TPU, Apple Neural Engine, AWS Trainium과 어깨를 나란히 하며 NVIDIA GPU 의존도를 낮춥니다.
ATOM은 MI355X GPU용 AMD 오픈소스 추론 엔진으로, DeepSeek-V4에 두 가지 최적화를 제공합니다. PrefillDelayer는 랭크 조율 시 발생하는 손실을 제거하고, Two-Batch Overlap은 네트워크 연산 중첩으로 토큰 균형 조정을 가속화합니다.
AMD ROCm 팀이 8× Instinct MI325X에서 Kimi-K2.5 모델에 EAGLE3 추측 디코딩을 적용해 GSM8K 정확도 손실 없이 출력 처리량 33% 향상, 중앙값 토큰 간 지연 58% 감소를 달성했습니다.
JUPITER는 독일 Forschungszentrum Jülich에 위치한 유럽 최초의 엑사스케일 슈퍼컴퓨터입니다. NVIDIA Grace Hopper 슈퍼칩과 Quantum-X800 InfiniBand 네트워크로 구동되는 JUPITER는 860억 개의 뉴런을 매핑하고, 50 큐비트 시뮬레이션으로 양자 기록을 경신했으며, 기후 시뮬레이션에서 세계 기록을 달성했습니다.
Olympus 코어를 탑재한 NVIDIA Vera CPU가 로스앨러모스 국립연구소에 도입되어 기존 Crossroads x86 프로세서 대비 URSA 워크로드에서 7배, 열전달 몬테카를로 시뮬레이션에서 3배 향상된 성능을 제공합니다. 세 가지 신규 슈퍼컴퓨터 Mission·Vision·Veritas는 2027년 가동 예정입니다.
NVIDIA는 과학 분야 AI를 위한 세 가지 새로운 CUDA-X 소프트웨어 라이브러리를 발표했습니다. 천문학용 cuPhoton은 최대 14,900배 가속, Lila Sciences의 ALCHEMI는 재료 스크리닝 50배 가속, DAQIRI는 물리 감지기의 실시간 네트워킹을 가속합니다.
AMD는 ROCm 블로그에서 AMD Instinct GPU 상의 탐색 가능한 3D 세계 생성 프레임워크 Matrix3D 최적화를 소개했습니다. CUDA 전용 컴포넌트를 Triton 커널로 교체하고 gsplat 라이브러리를 활용한 3DGS를 적용한 결과, MI250 GPU에서 54%, MI300에서 50% 렌더링이 가속되었으며 렌더링 커널 자체는 CUDA 버전보다 36% 빠릅니다.
AMD는 스케일아웃 GPU 클러스터에서 GPT-4, Llama 3, DeepSeek-V2, Grok 4.0 등 4개의 대규모 언어 모델을 학습할 때 발생하는 RoCE 네트워크 트래픽 패턴에 대한 비교 분석을 발표했습니다. 이는 다수의 GPU 노드로 구성된 AI 인프라 구축을 위한 실무 지침입니다.
AMD가 Schola를 발표했습니다. Python 프레임워크와 gRPC를 통해 Gymnasium 호환 강화학습 훈련을 가능하게 하는 Unreal Engine용 오픈소스 플러그인입니다. 예시에서는 협동 로봇 팔 xArm6를 Unreal Engine 5.7에서 MuJoCo 물리 엔진, PPO 알고리즘, PyTorch를 AMD ROCm GPU 스택으로 훈련합니다. 튜토리얼은 팔 끝을 무작위 목표 위치로 이동시키는 도달 작업을 보여줍니다.
AMD는 MLPerf Training v6.0에서 Instinct MI355X가 LLM 벤치마크에서 동급 NVIDIA GPU와 약 5% 성능 차이를 보였음을 공개했습니다. MI355X는 작년 MI300X보다 3.5배, 이전 라운드보다 13~19% 빠릅니다. AMD는 최초로 MXFP4(FP4) 학습 레시피와 Primus 통합 프레임워크를 도입했으며, 512개 MI300X GPU, 64개 노드의 멀티노드 제출도 완료했습니다.
NVIDIA는 Blackwell 플랫폼이 MLPerf Training 6.0의 전체 7개 테스트에서 최고 성적을 달성했다고 발표했습니다. GB300 NVL72는 GB200 NVL72 대비 최대 1.6배 빠른 학습 속도를 제공하며, 최대 규모 제출에서는 8192개의 Blackwell GPU로 6710억 파라미터의 DeepSeek-V3 모델을 학습했습니다. CoreWeave는 8192개 GPU로 DeepSeek-V3 671B를 2.02분에 학습했고, Microsoft Azure는 Llama 3.1 405B를 7.07분에 완료했습니다.
AMD가 Instinct GPU를 위한 추론 엔진 ATOM을 발표했습니다. OpenAI 호환 API를 제공하며 KV 캐시, 스케줄링, 병렬성을 조율합니다. ATOM은 ROCm 스택 최상위에 위치하며 AITER 커널과 MoRI RDMA 통신을 활용해 TP, DP, EP 병렬성을 지원하고 DeepSeek V2~V4, Mixtral, Qwen3-MoE 등 MoE 모델에 최적화되어 있습니다. FP8, MXFP4, INT8, INT4 양자화와 EAGLE 제안자를 사용한 MTP 투기적 디코딩을 제공합니다.
UC 샌디에이고 대학 연구진이 Google의 지원을 받아 폐기된 Pixel 스마트폰 2,000대로 데이터센터를 구축하고 있습니다. 마더보드를 재활용하여 내재 탄소를 약 50% 절감하며, 25~50대 전화기로 구성된 클러스터가 이미 75개 병렬 컴퓨팅 강좌의 피크 부하를 처리하고 있습니다.
![편집 일러스트레이션: FLUX.2 [klein], ASUS ProArt 노트북에 사전 설치되어 출시](https://images.24-ai.news/black-forest-labs-flux-outpainting-600.webp)
Black Forest Labs가 ASUS, NVIDIA와의 파트너십을 통해 FLUX.2 [klein]을 ASUS ProArt 소비자용 노트북에 사전 설치하여 제공한다. FLUX 모델이 소비자용 하드웨어에 사전 설치되어 출시되는 첫 사례다. 40억 파라미터 모델은 클라우드 의존 없이 로컬에서 1초 미만에 이미지 생성과 편집을 가능하게 한다.
OpenAI는 미국 미시간주에 새로운 Stargate 데이터센터 건설을 발표했다. 이는 컴퓨팅 파워를 위한 Stargate 인프라 프로그램의 확장으로, OpenAI는 이를 이른바 Intelligence Age의 맥락 속에 위치시킨다. 이번 발표에는 용량과 투자에 대한 세부 정보가 제시되지 않아 공식 출처를 참고하도록 안내한다.
AMD는 Alibaba의 오픈소스 강화학습 프레임워크 ROLL이 이제 ROCm 소프트웨어와 함께 AMD Instinct GPU에서 코드 수정, 커스텀 패치, 비표준 빌드 없이 네이티브로 작동한다고 발표했다. 이번 협력에는 vLLM 호환성, Ray 수정 사항, 대규모 언어 모델의 분산 RL 학습 지원이 포함된다.
AMD는 ROCm 블로그에서 Instinct MI300X GPU 상의 추측 디코딩 구현을 소개했다. 더 작은 draft 모델이 토큰을 예측하고 더 큰 모델이 이를 검증하는 이 기법은, 기존 자기회귀 생성 대비 최대 4.3배 높은 처리량을 달성했다.
AMD ROCm 블로그에서 CDNA 4 아키텍처 기반 Instinct MI355X 가속기에 대한 FP8 GEMM(혼합 정밀도 행렬 곱셈) 커널의 새로운 4웨이브 인터리브 방식을 소개합니다. 이 최적화는 8웨이브 핑퐁 방식에서 웨이브당 512개 레지스터 전체 VGPR 예산을 갖는 4웨이브 방식으로 전환하며, XOR 기반 스위즐로 LDS 메모리 충돌을 제거하고 MFMA 명령어와 데이터 로딩의 정밀한 중첩으로 메모리 레이턴시를 숨깁니다.
MIT 라이선스의 오픈소스 LLM 추론 엔진 TokenSpeed(LightSeek Foundation)가 TP8 구성의 NVIDIA Blackwell B200 GPU 8개로 Qwen3.5-397B-A17B 모델에서 초당 580 토큰을 달성했습니다. 이 신기록은 프리픽스 캐싱과 CPU-GPU 실행 중첩을 사용하는 에이전틱 워크로드에서 달성되었으며, 1백만 토큰 컨텍스트에서도 성능 저하가 16% 미만입니다.
AMD ROCm 블로그가 UMA(통합 메모리 아키텍처)를 탑재한 Ryzen AI Max+ 395 프로세서에서의 LLM 추론 성능을 상세 분석한 글을 공개했습니다. 128GB LPDDR5X 메모리를 갖춘 이 시스템은 Qwen3.5 35B MoE 모델에서 GPU 전체 오프로딩으로 초당 42토큰을 달성하며, CPU와 GPU 메모리를 결합하면 최대 1,220억 매개변수 모델도 지원합니다.
AMD ROCm 팀이 MI355 GPU에서 Gluon 프로그래밍 모델로 고성능 GEMM 커널을 작성하는 튜토리얼을 공개했습니다. 최적화된 FP16 커널은 MFMA 효율 98.75%로 1.489 TFLOPS를 달성했으며, BF8（3.257 TFLOPS）과 MXFP4（5.255 TFLOPS）로의 확장은 현대 AI 워크로드에 대한 적합성을 입증합니다. 튜토리얼에는 L2 캐시 미스를 530만에서 410만으로 줄이는 워크그룹 리매핑과 swizzle 기법이 포함되어 있습니다.
AMD는 2026년 5월 20일 ROCm 7.13을 발표했습니다. 오픈소스 AI 컴퓨팅 스택의 새 버전으로 MI350P GPU 지원, MI300X 가속기당 최대 8개의 격리된 vGPU 가상화, 투명한 성능 분석을 위한 오픈소스 ROCprof Trace 디코더, 도메인별 SDK를 갖춘 모듈형 TheRock 패키징이 도입됩니다. Ubuntu 26.04 및 RHEL 9.6에서 검증됐으며 MI350X 및 MI355X의 VMware ESXi 9.1 지원도 포함됩니다.
BubbleFence는 AMD가 2026년 5월 15일 ROCm 블로그에서 발표한 새로운 AI 도구로, 의미적 누수 없이 비디오 스트림을 훈련/검증/테스트 세트로 의미적으로 분할하는 근본적인 ML 문제를 해결합니다. 기존의 메타데이터 기반 휴리스틱 대신, BubbleFence는 Vision Foundation 모델 임베딩(CLIP)과 LID 가중치를 사용한 적응형 버블을 사용하여 분할합니다. 자율 주행(Zenseact Open Dataset)과 Minecraft 게임플레이 시나리오에서 구성 변경 없이 시연되었습니다.
AMD ROCm Kimi-K2.5 MI325X용 양자화는 2026년 5월 14일에 공개된 새로운 추론 가속 청사진입니다. AMD Quark 양자화 툴킷을 사용하여 Kimi-K2.5 모델을 W4A8 및 W8A8 정밀도 형식으로 변환하고, FlyDSL 추론 서빙 레이어와 AITER 최적화 스택을 결합합니다. 이 접근 방식은 중국 프론티어 모델에 비 NVIDIA 추론 경로를 제공하며, MI325X를 오픈소스 LLM 서빙을 위한 H100/H200의 실행 가능한 대안으로 위치시키는 AMD의 전략을 보여줍니다.
AMD Instinct MI355X는 발표된 벤치마크에서 세 가지 ComfyUI 생성 워크플로——텍스트-투-비디오 Wan2.2(1.44×), 텍스트-투-이미지 FLUX.1-dev(1.42×), 3D Hunyuan3D v2.1(1.20×)——에서 NVIDIA B200을 초과하는 데이터센터 GPU입니다. ROCm 7.2.0의 AOTriton gfx950 커널, hipBLASLt GEMM 튜닝 등의 최적화 덕분입니다.
NVIDIA Fleet Intelligence는 대규모 NVIDIA 데이터센터 GPU 플리트를 실시간으로 모니터링하는 관리형 서비스로——전력, 온도, 성능, ECC 오류를 감시하고——NVIDIA Remote Attestation Service를 통한 GPU의 암호학적 진위 확인을 제공합니다. Vera Rubin, Blackwell, Hopper GPU 소유자에게 무료로 제공됩니다.
Red Hat AI 팀은 TurboQuant의 공격적인 KV-cache 양자화(3~4비트)를 FP8 표준과 체계적으로 비교했습니다. 결과에 따르면 FP8은 처리량과 정확도를 유지하는 반면 3bit-nc 변종은 AIME25 등 고난도 추론 벤치마크에서 약 20포인트의 정확도를 잃습니다.
NVIDIA Spectrum-X 다중 경로 신뢰 연결(MRC)은 단일 연결의 트래픽을 여러 네트워크 경로에 분산하는 RDMA 전송 프로토콜로, 오픈 컴퓨트 프로젝트(OCP)를 통해 개방 규격으로 공개되었습니다. MRC는 OpenAI, Microsoft Fairwater 데이터센터, Oracle Abilene 데이터센터에서 이미 운영 중이며 AMD, Broadcom, Intel, Microsoft와 공동 개발되었습니다.
AMD ROCm 팀이 전문가 병렬 통신 중 GPU 유휴 시간을 제거하는 개선된 MoE 아키텍처인 FarSkip-Collective를 발표했습니다. 결과: Llama-4 Scout의 TTFT 18% 감소, DeepSeek-V3 최대 1.34배 가속, Moonlight 사전 훈련 단계 11% 향상.