11 개 뉴스 — 🟡 7 주목 , 🟢 4 흥미
ICML 2026에 채택된 논문이 네 가지 수준 — 지각, 상호작용, 추론, 내재화 — 에 걸친 환경 변화 하에서 도구 사용 LLM 에이전트를 체계적으로 테스트한다. 주요 발견: SFT와 RL 훈련 모두 약간의 분포 변화에도 심각한 성능 저하를 보이며, 통제된 벤치마크 정확도가 실제 강건성을 예측하지 못한다. PAFT(교란 증강 파인튜닝)가 완화 방법으로 제안된다.
SEA(Anytime-Valid Certificates를 갖춘 자기 진화 에이전트) 아키텍처는 에이전트가 공식 학습 이론적 보장을 유지하면서 자체 매개변수를 업데이트할 수 있게 한다. 5가지 검증 메커니즘과 감사 가능한 인증서가 각 자기 수정을 실시간으로 승인하거나 차단하며, SWE-bench Verified 테스트에서 강력한 기반 모델 대비 +4~+5 추가 인스턴스 해결 성과를 달성했다.
GitHub이 Copilot 에이전트의 세션 스트리밍 퍼블릭 프리뷰를 시작하며 엔터프라이즈 조직이 모든 Copilot 클라이언트에서 에이전트가 수행하는 프롬프트, 응답, 도구 호출을 직접 확인할 수 있게 됐다.
스탠퍼드 연구자들이 인간의 주석 없이 메모리 구성 및 사용 방법을 자동으로 학습하는 두 개의 최적화 루프를 가진 시스템 AutoMem을 개발했다. 기준선 대비 2~4배 성능 향상을 달성했다.
AWS SageMaker AI의 멀티턴 강화학습 가이드는 알고리즘 선택보다 보상 함수의 품질과 평가의 독립성을 우선시한다. 밀집 보상은 분산 붕괴를 방지하고, 보상 해킹은 에이전트가 실제 태스크를 해결하지 않고 지표만 최적화할 때 발생한다. SOP-Bench 벤치마크에서 올바르게 설정된 훈련이 태스크 성공률 13%, 필드 정확도 약 16% 향상을 달성했다.
GitHub이 같은 날 Copilot에 대한 두 가지 엔터프라이즈 업데이트를 발표했다. GitHub Actions의 CLI가 더 이상 개인 액세스 토큰을 필요로 하지 않으며, 비용 센터가 팀 간 상호 영향을 방지하는 자동 한도가 포함된 AI 크레딧 풀을 지원하게 됐다.
LangChain은 도구 파편화와 토큰맥싱 사고방식 때문에 코딩 에이전트가 통제 불능의 비용을 발생시킨다고 설명하며, LangSmith 플랫폼을 통한 4단계 접근법 — 가시성, 표준화, 최적화, 거버넌스 — 을 해결책으로 제시한다.
연구자들은 내부 모델 표현 수준에서 탈옥이 성공하는 이유를 발견하고 '유해성 및 거부 방향'을 명시적으로 결합하는 HARC 파인튜닝 방법을 개발했다. 이 방법은 테스트한 6가지 방법 중 강건성, 능력, 사용성의 균형에서 가장 강력한 결과를 보여준다.
Amazon Bedrock 파운데이션 모델은 표면적인 스팸 신호가 아닌 이메일 콘텐츠 행동 분석으로 AI 생성 피싱을 탐지한다. 5단계 파이프라인은 인증 확인, AI 분석, 0점에서 100점 척도의 다요소 위험 점수화를 결합한다. 5단계 피드백 루프로 구성된 지속적 학습 시스템이 경험을 통해 탐지 정확도를 향상시킨다.
