AI Today

구글의 전설적인 엔지니어이자 Google AI 수장이었던 Jeff Dean이 구글을 떠나 새로운 스타트업을 창업한다고 발표했다. Dean은 다른 구글 출신 AI 연구자들과 함께 AI를 활용해 과학적 발견 과정을 가속화하는 것을 목표로 하는 회사를 설립할 예정이다. 동시에 Google DeepMind의 CEO였던 Demis Hassabis는 Google DeepMind 의장 겸 Alphabet 최고과학책임자(Chief Scientist)로 역할을 전환하며, Isomorphic Labs(AI 기반 신약 개발 기업)는 계속 이끈다. Hassabis의 DeepMind CEO 후임으로는 Koray Kavukcuoglu가 내정됐다. 이번 개편은 Sundar Pichai CEO가 직접 발표했으며, 구글 AI 조직의 대대적인 리더십 재편을 의미한다.

Meta가 대형 소프트웨어 코드베이스를 위한 AI 코딩 에이전트 'Muse Code'를 공개했다. Meta는 Muse Code가 복잡한 소프트웨어 구조 내에서 복잡한 태스크를 처리할 수 있다고 강조했다. 이는 Meta의 AI 코딩 도구 라인업을 확장하는 조치로, GitHub Copilot, Cursor, Claude Code 등 기존 코딩 에이전트와 직접 경쟁하는 위치에 놓인다. 특히 대규모 엔터프라이즈 코드베이스에 특화된 설계를 내세우고 있다는 점에서, 실제 기업 환경에서의 활용 가능성에 관심이 집중되고 있다.

Cloudflare가 'Cloudflare OS'를 발표했다. 이는 AI 에이전트, 앱, 그리고 업무 처리를 위한 오픈 플랫폼으로, 에이전트가 실제로 동작하는 인프라 레이어를 제공하는 것이 핵심이다. 관련 오픈소스 프로젝트인 cloudflare/computer도 동시에 공개됐는데, 이는 에이전트에게 '컴퓨터 환경'을 부여하는 TypeScript 기반 도구로 하루 만에 GitHub 트렌딩 상위에 올랐다. Cloudflare는 기존 CDN·엣지 네트워크 인프라를 기반으로 AI 에이전트의 실행 환경을 표준화하는 방향을 제시하고 있다. 이는 AI 에이전트의 배포와 운영을 위한 플랫폼 경쟁이 인프라 레벨로 확장되고 있음을 보여준다.

Neon과 Castform 팀이 소형 오픈소스 모델을 활용해 OpenAI의 최신 프런티어 모델인 GPT-5.6 Sol을 검색(retrieval) 태스크에서 성능 면에서 능가하면서도 비용은 100배 저렴하게 달성했다고 밝혔다. 이 사례는 단순히 비용 절감에 그치지 않고, 특정 도메인에서 파인튜닝되거나 최적화된 소형 모델이 범용 거대 모델을 압도할 수 있음을 실증했다는 점에서 주목받았다. Hacker News에서도 141점을 기록하며 높은 관심을 끌었다. RAG 파이프라인 구축 시 무조건 최신 대형 모델을 사용하는 것이 최선이 아님을 시사하는 사례다.

AWS가 오픈소스 AI 에이전트 오케스트레이터인 'Kiro Crew'를 출시했다. Kiro Crew는 여러 AI 에이전트를 조율하고 협업시키는 오케스트레이션 레이어로, AWS의 AI 개발 도구 생태계를 확장하는 움직임으로 해석된다. 이 도구는 Codex, Claude Code 등 다양한 코딩 에이전트와의 연동을 지원하며, 장기 실행 에이전트 팀을 위한 루프 엔지니어링 접근법을 취하고 있다. AWS가 직접 에이전트 오케스트레이션 레이어를 오픈소스로 공개한 것은 멀티 에이전트 워크플로우를 위한 기업용 인프라 표준화를 노린 전략으로 보인다.

Moonshot AI의 Kimi k3 모델은 2.8조 파라미터를 보유하면서도 4GB VRAM의 소비자용 GPU에서 추론이 가능하다고 주장해 화제가 됐다. Towards AI의 분석 기사에 따르면, 실제 파이프라인을 직접 테스트해 그 작동 방식을 검증했다. 극단적인 양자화(quantization)와 모델 샤딩(sharding) 기법, MoE(Mixture of Experts) 아키텍처의 특성을 결합해 실제 활성화 파라미터 수를 대폭 줄이는 방식이 핵심으로 분석됐다. 소비자 하드웨어에서 수조 파라미터급 모델을 구동하는 것은 온-프레미스·프라이버시 중심 AI 배포의 새로운 가능성을 열어준다.

Shopify가 2026년 2분기 실적을 발표하면서, AI 기반 검색이 Shopify 스토어로 유입되는 트래픽과 주문을 전년 동기 대비 3배 증가시켰다고 밝혔다. 출판사들이 AI 검색으로 인해 기존 트래픽을 빼앗기는 것과 달리, 이커머스 분야에서는 AI 검색이 구글 검색을 대체하는 것이 아니라 새로운 수요를 창출하고 있다는 점이 주목된다. 이는 AI 검색의 영향이 산업별로 상이하게 나타날 수 있음을 시사하며, AI 검색 최적화(AI SEO) 전략의 중요성을 부각시킨다.

Rust 프로그래밍 언어 공식 팀이 rust-lang/rust 저장소에 대한 LLM(대형 언어 모델) 사용 정책을 공식 채택했다. Inside Rust 블로그를 통해 발표된 이 정책은 LLM을 활용한 코드 기여('vibe coding')에 대한 허용 범위와 기준을 명시한다. Lobsters에서 124점으로 활발한 토론을 불러일으켰으며, 오픈소스 커뮤니티에서 LLM 생성 코드 기여를 어떻게 다룰 것인가라는 광범위한 논의의 일환이다. 주요 오픈소스 프로젝트가 LLM 기여 정책을 공식화한 드문 사례로, 다른 프로젝트의 가이드라인 형성에도 영향을 미칠 것으로 보인다.

AI 에이전트 프레임워크의 표준으로 부상한 MCP(Model Context Protocol)에 엔터프라이즈급 보안을 적용하는 방법론이 소개됐다. 이 글은 OAuth 2.0 인증, RBAC(역할 기반 접근 제어), 도구별 접근 제어를 갖춘 MCP 게이트웨이 구축 방법을 상세히 다룬다. AI 에이전트가 기업 내부 시스템에 접근하는 사례가 늘어나면서, 보안과 권한 관리가 실제 배포의 핵심 과제로 부상하고 있다. 특히 멀티 에이전트 환경에서 각 에이전트의 도구 사용 범위를 세밀하게 통제하는 아키텍처 패턴을 제시한다.

OpenReview에 공개된 이 포지션 페이퍼는 'LLMs Can't Jump'라는 도발적인 제목으로 LLM이 텍스트 내 위치(position) 기반 추론에 본질적인 한계를 가진다는 주장을 담고 있다. Hacker News에서 222점을 기록하며 상당한 화제를 모았다. 현재 LLM들이 시퀀스 내 특정 위치를 기준으로 한 추론, 예를 들어 '텍스트의 N번째 항목' 또는 '특정 위치 이후의 내용' 등의 태스크에서 구조적 약점을 드러낸다는 점을 지적한다. 이는 LLM의 위치 인코딩 방식과 어텐션 메커니즘의 근본적인 제약에서 비롯된다는 분석이다.

자기 개선 LLM 에이전트의 메모리 보상 인플레이션 문제

Mohammad Asadolahi, Amir Amini, Samira Talebi

외부 메모리 기반으로 자기 개선하는 LLM 에이전트에서 'Echo Gap'이라는 새로운 실패 패턴을 발견한 연구다. 에이전트가 에피소드를 메모리에 저장할 때 LLM이 자체 평가한 점수(프록시 보상)를 함께 저장하는데, 오류가 있는 에피소드가 오히려 높은 보상을 받아 반복 재사용되는 악순환이 발생한다. 이 문제가 발생하는 이유는 LLM 자체 평가 오류와 검증자의 오류가 서로 상관관계를 가져 상쇄되지 않기 때문임을 수학적으로 증명했다. 자기 개선 에이전트의 신뢰성 있는 배포를 위해 반드시 해결해야 할 핵심 문제를 정식화했다.

CoT-Core: Chain-of-Thought 기반 코어셋 선택으로 LLM 평가 비용 획기적 절감

Qihua Pan, Zhenheng Tang, Peijie Dong

LLM을 지속적으로 개발할 때 발생하는 과도한 평가 비용을 줄이기 위한 훈련 불필요(training-free) 핵심 질문 선택 프레임워크를 제안한다. 기존 방법들이 텍스트의 표면적 유사성에 의존하는 반면, CoT-Core는 LLM에게 제로샷 Chain-of-Thought 추론 궤적을 생성하게 한 뒤 이를 잠재 공간에 투영해 논리적으로 동등한 문제들을 클러스터링한다. GSM8K, MMLU, MMLU-Pro, GPQA 실험에서 고신뢰도 점수 추정을 유지하면서 평가 비용을 대폭 절감함을 입증했다. LLM 개발 사이클을 가속화하려는 팀에게 실용적인 도구가 될 것으로 기대된다.

SIRIN: RAG·에이전트·메모리 기반 LLM 시스템의 문맥적 환각 탐지 통합 툴킷

Julia Belikova, Rauf Parchiev, Mikhail Filimonov

SIRIN은 RAG, 에이전트, 메모리 기반 LLM 시스템에서 발생하는 문맥적 환각(contextual hallucination)을 탐지하는 통합 툴킷이자 웹 UI다. 표현 프로빙, 불확실성 추정, 판사형 검증 등 세 가지 탐지 패러다임과 사전 생성 쿼리 답변 가능성 평가 기능을 하나의 인터페이스로 통합한다. 흰색 상자·검은 상자 설정 모두에서 응답 및 스팬 수준의 검사를 지원하며, 새 탐지기를 추가할 수 있는 경량 플러그인 설계를 채택했다. 코드가 공개되어 있어 실제 RAG 파이프라인에 즉시 적용할 수 있다.

소비자용 GPU에서 로컬 LLM 배포의 에너지 효율 벤치마크

Philipp M. Zähl, Anika Hennig

RTX 4060Ti 16GB 단일 소비자용 GPU에서 9개 오픈소스 LLM(1B~7B 파라미터)의 에너지 소비를 측정한 재현 가능한 벤치마크 연구다. Ollama 추론 엔진을 사용해 nvidia-smi로 GPU 전력 소비를 측정했으며, gemma3:1b와 llama3.2:1b가 각각 0.56, 0.65 J/토큰으로 가장 에너지 효율적이었다. 반면 7B Mistral 모델은 가장 효율적인 모델 대비 4.4배 더 많은 에너지를 소비했다. 모델 크기보다 아키텍처와 양자화 전략이 에너지 효율에 더 큰 영향을 미친다는 점이 핵심 발견이다.

JouleShare: 배치 LLM 서빙에서 요청별 에너지 사용량 공정 배분 프레임워크

Qi Luo, Kunlin Li, Ziwen Wang

GPU는 전력 사용량을 서버 전체 단위로만 측정하기 때문에 배치 처리 환경에서 개별 요청의 에너지 사용량을 정확히 파악하기 어려운 문제를 해결하는 연구다. JouleShare는 vLLM에서 요청 서브셋을 재현 실행하여 Shapley 값 기반의 공정한 에너지 배분 기준값을 산출하고, JCalib라는 경량 모델로 서빙 시점에 실시간 예측한다. 토큰 비례 배분 방식은 Shapley 공정 배분 대비 평균 0.44~0.46의 오차를 보임을 밝혔다. AI 인프라의 지속 가능성 보고와 비용 차지백에 필요한 정확한 에너지 회계 방법을 제시한다.

OncoTriad-QA: 방사선·병리·유전체 데이터를 통합한 범암종 의료 AI 벤치마크

Ahnaf Munir, Dannong Wang, Michael W. McDonald

암 진단 및 분석을 위해 방사선 영상, 전체 슬라이드 병리 이미지, 유전체 데이터를 통합하는 멀티모달 의료 AI 벤치마크 'OncoTriad-QA'를 소개한다. TCGA 데이터베이스의 9,281명 환자, 32개 암 코호트에 걸쳐 86,100개의 시맨틱 질문으로 구성되며, CT/MRI, 전슬라이드 영상, 체세포 돌연변이, RNA-seq, DNA 메틸화, 임상 메타데이터를 포괄한다. 단일 모달리티나 좁은 이미지-텍스트 태스크만 다루던 기존 의료 AI 벤치마크의 한계를 극복한 환자 수준의 통합 평가 체계를 제시한다는 점에서 의료 AI 연구의 중요한 기준점이 될 것이다.

OpenAI 프라이버시 필터 독립 평가: 42개 벤치마크로 분석한 개인정보 탐지 성능

Rohith Uppala

OpenAI의 15억 파라미터 양방향 PII 탐지 모델인 'Privacy Filter(OPF)'를 22개 언어, 5개 도메인에 걸친 42개 합성 벤치마크로 최초 독립 평가한 연구다. OPF는 구조화된 합성 PII에서 F1=0.855로 Presidio(0.431), XLM-RoBERTa(0.269)를 크게 앞섰지만, 서사 문장에 PII가 포함된 경우와 아랍어(F1=0.04), 키릴 문자(F1=0.03) 등 비라틴 문자에서는 성능이 급락했다. 이메일(0.78), 전화번호(0.76) 등 구조적으로 규칙적인 PII에는 강하지만, 이름(0.40), 주소(0.49) 등 문화적 변이가 큰 유형에는 약하다는 구체적인 한계를 규명했다.