93 개 뉴스
메타가 이미지 분할용 SAM 3와 DINOv3 모델을 SYNAPS-I 프로젝트를 위해 공개했습니다. 이는 백악관의 과학 AI 이니셔티브인 Genesis Mission의 일환입니다. 미국 에너지부는 매년 수십 페타바이트의 데이터를 생성하며, 이전에는 한 달이 걸리던 분할 분석이 이제 300개의 NVIDIA A100 GPU와 5개 국립연구소 소속 연구원 60명을 통해 약 15분 만에 완료됩니다.
vLLM 팀은 NVIDIA H200, B200, AMD 가속기에서 매일 밤 17개의 모델-하드웨어 조합을 37개의 테스트 그룹, 266개의 작업, 58개의 러너 큐를 통해 테스트하는 내부 CI/QA 인프라를 공개했습니다. 2026년 6월에는 1,918개의 커밋이 병합되었으며, 릴리스는 2주마다 이루어집니다.
OpenWiki 0.2는 코드 저장소의 위키 문서를 자동 생성하는 오픈소스 CLI 도구로, OKF(Open Knowledge Format)—결정론적 구조로 에이전트가 코드 검색에 소비하는 토큰을 줄이는 Google Cloud의 제안 표준—지원을 도입합니다.
Sakana AI가 NVIDIA Nemotron 오픈 모델을 Fugu에 통합했습니다—하나의 LLM이 에이전트 풀 내 다른 모델들을 동적으로 호출하는 멀티 에이전트 시스템으로, 재귀적으로 자기 자신도 포함합니다.
PyTorch-Triton 3.7은 동적 플러그인 시스템과 Meta의 TLX 패키지를 도입합니다. H100에서 cuBLAS 대비 +3.7%를 초과하며, AMD MI350에서는 rocBLAS 대비 최대 +15%의 처리량 향상을 달성합니다.
CNCF 기술 감독 위원회가 HAMi(Heterogeneous AI accelerator Management interface)를 Incubating 프로젝트로 승인했습니다. HAMi는 Kubernetes 클러스터 내에서 물리적 GPU를 공유 가능한 논리 단위로 가상화하여 AI 워크로드의 리소스 단편화 문제를 해결합니다. 2024년 Sandbox에 합류한 이후 550개 이상의 조직과 2,687명의 GitHub 기여자를 확보했습니다.
LF AI & Data TAC 의장 Peter Staar는 현대 AI 시스템에서 모델이 더 이상 병목이 아니며, 병목은 컨텍스트 레이어에 있다고 주장합니다. 오픈 프로젝트 Docling과 DocLang이 이 문제를 해결하는 인프라를 제공합니다.
AMD가 LogsLop을 공개했습니다. 정규화와 클러스터링으로 거대한 로그 파일을 요약하는 오픈소스 Python CLI 도구입니다. 73개의 실제 로그 파일에서 줄 수를 11%, 바이트를 7.5%로 줄이고 Llama 3.3 70B와 함께 사용 시 토큰 78%를 절약합니다.
Solo.io의 린 선이 Kubernetes Pod가 AI 에이전트를 스케줄링하는 데 적절한 추상화인지 재검토합니다. 에이전트는 일시적으로——잠깐 활성화되고 쉬며, 전용 유휴 Pod는 리소스를 낭비합니다. Actor와 WorkerPool을 사용하는 새로운 「agent-substrate」 모델을 제안합니다.
Soofi S는 약 27조 토큰에서 사전 훈련된 30B MoE 하이브리드 Mamba-Transformer 모델로, 3B 활성 파라미터를 가지며 강화된 독일어 데이터를 포함합니다. 완전히 Deutsche Telekom의 클라우드 인프라에서 훈련되었으며, 모든 유럽 주권 대안을 능가하고 17개 오픈 모델 중 코드 벤치마크에서 1위를 차지합니다.
Meta 소속 PyTorch 팀이 정규화 연산을 GEMM 및 어텐션 커널에 직접 융합해 계산 비용을 제거하는 『무료 정규화』 기법을 발표했습니다. 코드는 커널 라이브러리를 통해 GitHub에 공개되어 있으며, Layer Norm·RMS Norm 연산이 빈번한 모델의 학습과 인퍼런스를 빠르게 하는 직접적인 효과가 있습니다.
Ollama는 오픈 AI 모델을 로컬에서 실행하는 플랫폼으로, Benchmark, Theory Ventures, Docker 창업자 Solomon Hykes 등 투자자들로부터 8800만 달러 투자 유치를 발표했습니다. 890만 명의 개발자와 포춘 500 기업의 85%가 이용하며, 클라우드 서비스의 월 토큰 처리량은 매달 두 배씩 증가하고 있습니다.
PyTorch 2.13이 526명의 기여자로부터 3,328개의 커밋과 함께 출시됩니다. 주요 신기능: nn.LinearCrossEntropyLoss로 LLM 학습 시 최대 4배 GPU 메모리 절감, Apple Silicon에서 FlexAttention 최대 12.3배 가속, 분산 학습을 현대화하는 새로운 torchcomms 백엔드.
CNCF TAG Infrastructure가 클라우드 네이티브 AI 환경의 데이터 스토리지 병목 현상을 매핑하고, 훈련, 추론, 에이전트 AI 단계의 요구 사항을 구분하며, Kubernetes AI/ML 배포를 위한 아키텍처 지침을 제시하는 백서를 발표했다.
IBM과 Red Hat이 Java 및 Python 생태계의 6,500개 이상 디지털 서명 검증 의존성 카탈로그를 갖춘 Lightwell Network를 일반 출시하고, 금융 서비스 부문의 패치 엠바고 조율을 위한 Lightwell Clearinghouse Premier를 선보였다. 이 플랫폼은 오픈소스 보안에 대한 50억 달러 투자 약정으로 뒷받침된다.
Tencent Hunyuan AI Infra 팀과 vLLM 팀이 공동으로 HPC_ATTN 어텐션 백엔드와 hpc MoE 백엔드를 업스트림했습니다. 이 백엔드들은 8×NVIDIA H20 구성에서 TTFT를 24%, TPOT를 17% 감소시키며, vLLM 코드 포크 없이 사용 가능합니다.
Moonshot AI의 Kimi K2.7 Code가 모델 피커 최초의 오픈 웨이트 모델로 GitHub Copilot에서 사용 가능합니다. Microsoft Azure에서 호스팅되며 Pro, Pro+, Max 플랜에서 사용량 기반 요금제로 제공되고, Business와 Enterprise로의 확대도 계획되어 있습니다.
LangChain이 코드 저장소를 위한 문서 위키를 자동으로 생성·업데이트하는 오픈소스 CLI 도구 OpenWiki를 출시했습니다. AGENTS.md나 CLAUDE.md 같은 인스트럭션 파일을 비대화시키지 않으면서 코드 에이전트에게 저장소에 대한 구조화된 컨텍스트를 제공하는 것이 목표입니다. DeepAgents 프레임워크 기반으로 여러 LLM 공급자를 지원합니다.
RadixArk이 Miles를 발표합니다 — SGLang, Megatron-LM, Ray, PyTorch를 Hopper 및 Blackwell GPU에서 대규모 언어 모델 포스트 트레이닝을 위한 단일 프로덕션 테스트 스택으로 통합하는 오픈소스 강화학습 프레임워크.
CNCF 샌드박스 프로젝트 Kepler가 완전히 재작성되었습니다: 새 아키텍처가 eBPF 접근법을 표준 /proc 및 /sys 경로 읽기로 대체하여 다킬로와트 측정 급증을 제거하고 프로세스 전력 귀속 격차를 밀리와트 수준으로 줄입니다.
LF AI & Data Foundation이 트랜스포머 아키텍처 및 LLM을 위한 네이티브 어텐션 연산자, 브라우저에서 모델 검사를 위한 WebAssembly 지원 및 SLSA Level 2 암호화 증명과 함께 ONNX v1.22.0을 발표했습니다. 27명의 기여자가 기여했으며 그 중 16명은 처음으로 참여합니다.
Palantir은 미국 정부 기관과 중요 인프라를 위한 Sovereign AI Operating System에 NVIDIA Nemotron 오픈 모델을 통합했습니다. 시스템은 인터넷 연결이 없는 완전히 격리된 네트워크인 에어갭 환경에서 작동하며, 국방, 에너지, 의료, 교육, 운송 분야를 다룹니다.
GitHub Desktop 3.6이 macOS와 Windows에서 출시되어 스태싱 없이 여러 브랜치에서 병렬 작업이 가능한 Git 워크트리 지원과 커밋 메시지 및 머지 충돌을 위한 더 깊은 Copilot 통합을 제공합니다.
TokenSpeed-Kernel은 코드 재작성 없이 NVIDIA와 AMD GPU에서 LLM 추론 속도를 최대 3.6배 높이는 오픈소스 3계층 커널 서브시스템으로, 이미 vLLM 추론 프레임워크에 통합되었습니다.
Allen Institute(AI2)는 OLMo 3와 OLMo Hybrid 아키텍처를 분석하여 하이브리드 모델이 의미론적·문맥 의존적 토큰을 더 잘 예측하는 반면, 순수 트랜스포머는 텍스트를 그대로 복사하는 작업에서 우위를 유지한다는 사실을 밝혔습니다.
OpenThoughts-Agent는 에이전트 언어 모델을 위한 오픈 데이터 큐레이션 파이프라인입니다. 100회 이상의 절제 실험을 통해 10만 개 예제를 구축하고 Qwen3-32B를 파인튜닝한 결과, 7개 에이전트 벤치마크에서 44.8%를 달성해 기존 오픈소스 모델을 모두 능가했습니다.
Claude Code v2.1.185는 2026년 6월 20일에 출시된 UX 패치로, API 스트림 중단 메시지를 변경하고 활성화 임계값을 10초에서 20초 무음으로 연장했습니다. 모델 또는 API 변경 사항은 없습니다.
Multi-LCB는 arXiv:2606.20517 논문에 기술된 LiveCodeBench 벤치마크 확장으로 ICLR 2026에 채택되었습니다. Python에서 12개 프로그래밍 언어로 확장하여 24개의 대형 언어 모델을 테스트한 결과 유의미한 Python 과적합과 언어별 데이터 오염이 발견되어 현재 모델의 다중 언어 코드 생성 한계가 드러났습니다.
Engineering Playbook은 UK AI Safety Institute가 2026년 6월 18일 발표한 오픈소스 문서로, 프런티어 AI 모델 평가를 위한 내부 인프라를 공개합니다. Playbook은 Evaluate, Isolate, Connect, Run, Scale의 5개 레이어로 구성되며, 200개 이상의 기성 평가와 240명의 기여자를 보유한 Inspect AI 도구를 기반으로 합니다.
Robin Rombach——Black Forest Labs（FLUX 모델 개발자）의 공동 창업자 겸 CEO——가 G7 지도자들에게 직접 호소했습니다. 개방적이고 책임감 있는 AI 개발이 전 세계적 규범이 되어야 한다는 것입니다. Rombach는 AI 파라미터의 공개 접근성이 혁신을 촉진하고 기술의 민주화를 이끈다고 주장합니다.
Allen Institute는 비디오와 『그릇을 돌려』 같은 자연어 지시로 물체의 3D 궤적을 예측하는 완전 오픈소스 모델 MolmoMotion을 공개했습니다. PointMotionBench에서 SOTA를 달성하여 평균 변위 0.109m로 이전 기록 0.134m를 경신했습니다. 로보틱스 pick-and-place 작업 성공률을 56%에서 76.3%로 20.3퍼센트포인트 향상시켰습니다. 3D 궤적과 동작 설명이 포함된 116만 개의 비디오로 구성된 MolmoMotion-1M 데이터셋으로 학습되었습니다.
vLLM이 Semantic Router Fusion을 선보였습니다. 여러 모델이 패널로 병렬 실행되고 심판 모델이 합의와 차이를 분석하여 단일 응답을 합성하는 기본 단위입니다. 로컬 vLLM과 프라이빗 엔드포인트뿐만 아니라 Gemini, Kimi, DeepSeek, Claude 같은 공개 제공자도 지원합니다. OpenRouter DRACO에서의 외부 검증에서 합쳐진 패널이 69%를 기록하여 최고 단일 모델의 65.3%를 앞섰으며, 완전한 OpenAI API 호환성을 갖추고 있습니다.
GitHub이 4000만 개 이상의 저장소에 걸쳐 8000만 개 이상의 분류 행을 포함한 다국어 저장소 데이터셋을 완전 개방형 CC0-1.0 라이선스로 공개했습니다. 각 저장소에 대해 README, 댓글이 가장 많은 issue, 댓글이 가장 많은 pull request 등 세 가지 텍스트 소스를 기록하며, fastText, gcld3, lingua-py 세 가지 도구로 언어를 감지합니다. 비영어 README 파일에서는 포르투갈어가 1위, issue 토론에서는 한국어가 가장 두드러집니다.
CNCF는 Oracle의 300만 달러 OCI 컴퓨트 크레딧 기부가 OpenTelemetry, containerd, Falco, Longhorn, Crossplane, Jaeger를 포함한 12개 이상의 프로젝트에서 Arm64 CI/CD 지원을 가능하게 한다고 밝힙니다. 수요는 월 5,000달러의 초기 지침을 빠르게 초과했습니다. 이 전환은 새로운 AWS 인스턴스의 50% 이상과 Azure 인스턴스의 33%가 현재 Arm64 아키텍처에서 실행된다는 데이터와 함께 이루어집니다.
AI2가 OLMES 표준을 단일 벤치마킹에서 완전한 개발 루프로 확장하는 개방형 평가 플랫폼 olmo-eval을 공개했습니다. 핵심 혁신은 체크포인트 간 개별 질문 수준의 쌍 비교이며, 데이터 노이즈와 실제 개선을 구별하기 위한 통계적 측정값이 내장되어 있습니다.
vLLM 팀이 MiniMax M3에 대한 완전한 Day-0 지원을 발표했습니다. 이 모델은 백만 토큰 컨텍스트, 네이티브 멀티모달리티, Mixture-of-Experts 아키텍처를 결합합니다. 핵심 혁신은 MiniMax Sparse Attention으로, 전체 KV 캐시를 메모리에 로드하지 않고도 긴 컨텍스트를 실용적으로 서빙할 수 있게 합니다.
Ollama가 Apple Silicon용 MLX 엔진을 업데이트하여 Metal 커널 융합 및 GPU 샘플링으로 토큰 생성 속도를 최대 20% 향상했습니다. 새로운 NVFP4 양자화 형식은 비양자화 BF16 대비 품질 손실을 절반으로 줄이며, 스냅샷 시스템은 분기 및 재시도 기능을 갖춘 에이전틱 워크플로우를 지원합니다.
Helion은 직접적인 CUDA 코드 없이 GPU 커널을 작성하기 위한 PyTorch 네이티브 DSL입니다. Qwen3 모델의 FP8 추론을 위해 아홉 가지 Helion 커널이 vLLM에 통합되었습니다. 비-GEMM 커널은 H100에서 최대 73% 속도 향상을 기록하며, 전체 처리량은 이전 솔루션 대비 약 5~9% 향상됩니다.
LF AI & Data Foundation이 IBM, Red Hat, NVIDIA를 창립 회원으로 DocLang Specification Working Group을 발족하여 AI 네이티브 문서를 위한 개방형 표준을 개발합니다. 이 형식은 의미론적 의미와 기하학적 레이아웃을 보존하고, 거버넌스 컨트롤을 내장하며, 현대 AI 토크나이저와 에이전트 워크플로우에 최적화됩니다.
vime는 Megatron 분산 훈련과 vLLM 추론을 단일 파이프라인으로 통합하는 언어 모델 사후 훈련을 위한 새로운 RL 프레임워크입니다. GB200 하드웨어에서 Qwen3-30B-A3B MoE 모델이 단계당 약 147초를 달성해 H200보다 1.72배 빠릅니다. R3 라우팅 리플레이가 로그 확률 차이를 0.019에서 0.013으로 줄입니다.
새로운 논문이 자원이 제한된 로봇 하드웨어에서 Vision-Language-Action 정책을 실행하는 C++ 추론 엔진 vla.cpp를 제시한다. 이 엔진은 벤치마크 LIBERO-Object에서 SOTA 수준에 도달하며 단 1.3 GiB 메모리로 BitVLA를 실행한다.
Ollama 0.30은 더 나은 성능과 GGUF 모델 호환성을 위한 llama.cpp 통합을 가져오며, NVIDIA GPU에서 최대 20% 빠른 처리량을 제공한다. AMD 및 Intel 기기에서 Vulkan으로 하드웨어 지원을 확장하고 tool-calling 지원을 추가한다. Apple 실리콘용 기존 MLX 엔진을 보완한다.
vLLM 팀이 Semantic Router의 v0.3 'Themis'를 출시했으며, 이는 모델 간 질의 라우팅을 위한 첫 프로덕션 준비 버전이다. Kubernetes 배포를 위한 정규 구성, 검사 가능한 결정 흐름, 재현 가능한 라우팅 동작을 가져온다.
Google Research는 2026년 6월 3일 GitHub에 Apache 2.0 라이선스로 글로벌 홍수 예측 서비스 Flood Hub를 구동하는 Python/PyTorch 프레임워크를 공개했다. 이 프레임워크는 오픈소스 데이터셋 Caravan 위에서 LSTM과 더 새로운 ME-LSTM 아키텍처를 사용하며, 업그레이드된 v2 모델은 계측된 유역에서 신뢰할 수 있는 예측 시계(視界)를 6일 연장한다.
vLLM Semantic Router에 각 메시지를 개별적으로 다루는 대신 장기 에이전트 대화를 이해하는 메커니즘인 Session-Aware Agentic Routing(SAAR)이 추가되었다. 2만 1,600회 테스트 턴에서 SAAR은 모델 전환을 79.29% 줄이고, 안전하지 않은 전환을 완전히 제거하며, 추정 비용을 78.71% 절감했다.
vLLM은 Intel의 AutoRound 양자화를 vLLM-Omni에 통합해 멀티모달 및 디퓨전 모델의 W4A16 압축을 가능하게 했다. 그 결과 체크포인트가 최대 62% 작아지며, 품질 저하는 미미하고 Intel XPU와 NVIDIA 그래픽 카드에서 생성 속도가 빨라진다.
vLLM 팀이 GB10 칩 기반의 NVIDIA DGX Spark 시스템에서 vLLM을 실행하기 위한 실용 가이드를 공개했다. 가이드는 통합 메모리의 동작, NVFP4 모델 Nemotron-3-Super 서빙, Docker 배포, Prometheus 메트릭, 그리고 새로운 엣지 하드웨어에서의 로컬 평가 결과를 다룬다.
xAI가 xai-sdk-python v1.15.0을 공개했다. 변경 사항은 세 가지로, ChatModel 클래스에 grok-build-0.1 모델 추가, 컨텍스트 압축(context compaction) 지원, 그리고 버전을 1.14.0에서 1.15.0으로 올린 것이다. 모든 변경은 별도의 풀 리퀘스트 세 건을 통해 들어왔다.
PithTrain은 코딩용 AI 에이전트에 최적화된 새로운 Mixture-of-Experts 모델 학습 시스템이다. 이 연구는 agent-task efficiency 지표와 이에 대응하는 ATE-Bench를 도입하며, 그 위에서 PithTrain은 비슷한 처리량을 유지하면서 에이전트 단계를 최대 62%, 활성 GPU 시간을 최대 64% 줄인다.
vLLM은 2026년 5월 28일 가중치 동기화(weight synchronization)를 위한 표준화된 API와 비동기 강화학습에 대한 개선된 지원을 도입했다. 각 RL 프레임워크가 훈련과 추론 사이의 가중치 전송을 임시방편으로 구현하던 파편화를 해결하고, 대규모 분산 배포의 안정성 문제를 개선한다.