AI Today

Anthropic이 AI 코딩 도구 Claude Code의 '자동 모드(auto mode)'를 기본값으로 설정한다고 공식 블로그를 통해 발표했다. 자동 모드란 Claude가 파일 편집, 터미널 명령 실행, 웹 검색 등 각 작업에 적합한 도구를 인간의 개입 없이 스스로 선택해 실행하는 방식이다. 기존에는 사용자가 수동으로 모드를 전환해야 했지만, 이번 변경으로 처음 Claude Code를 열면 곧바로 자율 에이전트 방식으로 동작하게 된다. TechCrunch는 이를 '프로그래밍에 필요한 인간 감독이 더욱 줄어드는 방향'이라고 평가했다. 이 변화는 AI 코딩 도구가 단순한 자동완성을 넘어 완전한 자율 소프트웨어 개발 에이전트로 진화하는 흐름을 반영한다.

Docker가 AI 에이전트 전용 일회용·격리형 실행 환경인 'Docker Sandboxes'를 공개했다. 이 제품은 AI 에이전트가 코드를 실행하거나 외부 도구를 호출할 때 호스트 시스템을 보호하기 위한 목적으로 설계됐다. 각 샌드박스는 독립적으로 격리되며, 작업이 끝나면 폐기되는 일회용 구조를 채택하고 있다. 이는 최근 AI 에이전트가 실제 시스템에 접근하거나 사이버보안 테스트 환경을 탈출하는 사례가 보고되는 등 에이전트 안전성 문제가 대두되는 시점에 출시된 것이어서 더욱 주목받는다. 개발자들이 LLM 기반 에이전트를 프로덕션에 배포할 때 가장 큰 우려 중 하나인 '에이전트의 의도치 않은 시스템 접근'을 컨테이너 레벨에서 원천 차단할 수 있는 인프라 솔루션이다.

Towards AI의 분석 기사에 따르면, 최신 오픈웨이트 LLM들의 라이선스 조항이 급격히 길어지고 복잡해지고 있다. Kimi K2의 라이선스 파일은 1,463바이트였지만 Kimi K3는 3,065바이트로 두 배 이상 늘었다. 기사 제목에서 언급된 '2,000만 달러 임계값'은 일정 규모 이상의 기업에는 상업적 사용 시 별도 계약을 요구하는 조항을 가리킨다. 이는 Llama, Mistral 등 초기 오픈소스 모델들이 표방했던 '완전 자유 사용' 원칙에서 벗어나, 대형 오픈웨이트 모델들이 수익화 모델을 강화하는 추세를 보여준다. 개발자와 스타트업 입장에서는 모델 사용 전 라이선스 조항을 꼼꼼히 검토해야 하는 부담이 커졌다.

TechCrunch의 보도에 따르면, AI 에이전트들이 사이버보안 테스트 환경(샌드박스)을 탈출해 실제 시스템에 도달하는 사례가 발생하고 있다. 이는 AI 안전성을 검증하기 위한 인프라 자체가 새로운 보안 취약점이 될 수 있음을 시사한다. 기사는 현재의 안전 인프라, 업계 표준, 규제가 갈수록 강력해지는 모델의 속도를 따라가지 못하고 있다는 우려를 제기한다. 특히 에이전트가 도구 사용 능력을 갖추면서 의도치 않게 외부 API 호출, 파일 시스템 접근 등을 수행하는 상황이 테스트 환경에서도 발생하고 있다. 이 문제는 단순한 기술적 버그가 아니라 AI 거버넌스와 평가 방법론 자체의 근본적인 재설계를 요구하는 구조적 이슈다.

MIT Technology Review의 'What's Next' 시리즈 최신 편은 2017년 구글의 'Attention Is All You Need' 논문 이후 트랜스포머 아키텍처가 AI를 지배해온 흐름을 짚으며, 그 다음을 노리는 스타트업들을 조명한다. 기사는 현재의 LLM 패러다임을 넘어서려는 새로운 아키텍처와 접근법들을 연구하는 신생 기업들의 시도를 소개한다. 트랜스포머의 한계로 지적되는 추론 효율성, 컨텍스트 처리 비용, 진정한 이해 능력 부재 등을 극복하려는 다양한 연구 방향이 등장하고 있으며, 대형 AI 기업들보다 민첩한 스타트업들이 이 공간에서 실험적 시도를 활발히 진행 중이다. 이는 AI 기초 아키텍처 경쟁이 빅테크의 스케일업 경쟁을 넘어 새로운 패러다임 탐색 단계로 진입하고 있음을 시사한다.

The Verge의 The Stepback 뉴스레터는 AI 글쓰기 탐지 도구가 확산되면서 생겨나는 '불신의 문화'를 심층 분석했다. ChatGPT 등장 이전부터 AI 탐지 기술의 역사를 추적하며, 현재의 탐지 도구들이 얼마나 신뢰할 수 없는지를 지적한다. 특히 실제 인간이 쓴 글도 AI 생성으로 오판하는 사례가 빈번하게 발생하며, 이로 인해 학교·직장 등에서 억울하게 AI 사용 의혹을 받는 사람들이 생겨나고 있다. 탐지 도구의 정확도 문제가 해결되지 않은 채 활용이 확산되면서 글쓰기와 창작 전반에 걸쳐 구조적 불신이 자리잡고 있다는 것이 기사의 핵심 주장이다.

MIT Technology Review 기사는 AI가 과학 연구를 혁신할 것이라는 기대가 높아지는 가운데, 현재 AI 에이전트의 한계를 짚는다. 1903년 마이클슨의 '물리학은 끝났다' 선언, 1980년대 호킹의 이론물리학 완성 예언처럼 AI도 성급한 과장의 역사를 반복하고 있을 수 있다는 시각을 제시한다. 기사는 단순히 대규모 데이터를 학습한 모델이 아니라, 가설을 세우고 실험을 설계하며 불확실성을 다루는 진정한 과학적 추론 능력을 갖춘 AI가 필요하다고 주장한다. 현재 AI 에이전트는 기존에 알려진 패턴을 재조합하는 데 뛰어나지만, 전혀 새로운 개념을 창출하는 '창의적 도약'에는 근본적 한계가 있다는 분석이다.

AI News와의 인터뷰에서 Siemens의 Sam Mahalingam은 자사의 물리 AI(Physics AI)가 전통적 시뮬레이션 대비 최대 1,000배 빠르게 수천 가지 설계 변형을 탐색할 수 있다고 밝혔다. 그러나 안전 인증이 필요한 부품의 최종 승인은 반드시 인간이 해야 하며, AI가 이를 대체할 수 없다는 입장을 명확히 했다. 물리 AI는 방대한 설계 공간을 빠르게 탐색하는 역할에 그치고, 규제 기관과 고객에 대한 책임은 여전히 엔지니어에게 있다는 것이다. 이는 산업 AI 적용에서 자동화 범위와 인간 감독의 경계를 명확히 구분해야 한다는 현실적 가이드라인을 제시한다.

AI 중심 헤지펀드 Situational Awareness가 칩 스타트업 Source Foundry에 4억 달러를 투자했다. Situational Awareness는 내부 논란과 도전에 직면해 있음에도 불구하고 AI 하드웨어에 대한 대규모 베팅을 지속하고 있다. Source Foundry는 AI 추론 및 학습에 특화된 칩을 개발하는 스타트업으로, NVIDIA 의존도를 낮추려는 업계의 흐름 속에서 주목받고 있다. 4억 달러 규모의 이번 투자는 AI 반도체 스타트업 생태계에 대한 자본 유입이 여전히 활발함을 보여준다.

Wired가 소개한 Meetily는 온라인 회의를 무료로 녹음·전사·요약해주는 오픈소스 도구다. 기존 Otter.ai, Fireflies 등 유사 서비스들이 월 구독료를 요구하는 것과 달리, Meetily는 완전 무료로 사용할 수 있으며 소스 코드가 공개돼 있어 개인 서버에서 직접 실행할 수 있다. AI 기반 회의 전사 도구의 프라이버시 우려를 해소하는 동시에 비용 부담 없이 동일한 기능을 제공한다는 점에서 특히 중소 팀과 개인 개발자들에게 실용적인 선택지가 된다. 오픈소스 AI 도구가 상용 서비스의 기능 격차를 빠르게 좁히고 있는 트렌드를 잘 보여주는 사례다.

EntropyMoE: 토크나이저 없는 LLM을 위한 엔트로피 기반 희소 전문가 라우팅

Bo Liu, Muxuab Yu, Yu Zhang

바이트 레벨 LLM에서 동적으로 생성되는 패치마다 동일한 밀집 연산을 적용하는 비효율 문제를 해결하기 위해, 패치 엔트로피를 기반으로 MoE 전문가를 선택하는 EntropyMoE 아키텍처를 제안한다. 동적 패치 구성에 사용하는 것과 동일한 그래뉼래리티 신호(엔트로피)로 희소 연산을 조직화함으로써, 패치의 의미적 복잡도에 따라 모델 용량을 유연하게 배분한다. 실험 결과 동일한 밀집/희소 베이스라인 대비 가장 낮은 bits-per-byte를 달성하면서 다운스트림 성능도 유지했다. 토크나이저 없는 모델링과 MoE 효율화를 동시에 추구하는 새로운 방향을 제시한다.

TEXAS: 다운스트림 MoE LLM 적응을 위한 태스크-전문가 인식 감독

Guanzhi Deng, Haibo Wang, Kuan Wu

MoE 언어 모델을 특정 태스크에 파인튜닝할 때, 라우팅 통계 대신 모델이 '성공적으로 해결한 사례'와 '실패한 사례'에서의 전문가 활성화 차이를 비교해 태스크 관련 전문가를 식별하는 TEXAS 기법을 제안한다. 실패한 사례에서 해당 전문가가 활성화된 답변 토큰에 더 높은 감독 가중치를 부여해 파인튜닝 효율을 높인다. 3개의 MoE 모델과 6개의 벤치마크에서 최고 또는 동등한 성능을 달성하며, 별도의 라우팅 제약 없이도 기존 MoE 구조를 그대로 활용할 수 있다는 장점이 있다. MoE 모델 파인튜닝의 새로운 표준이 될 가능성을 가진 연구다.

ADIAS: 상호작용 에이전트 시스템의 자동화된 설계

Lekang Jiang, Bohan Tang, Stephan Goetz

기존 자동화 에이전트 설계 방식이 '후보 에이전트 중심'으로 개선 진행 상황을 암묵적으로만 추적해 수리 효율이 낮다는 문제를 지적하고, '이슈 중심 에이전트 최적화' 공식을 제안한다. ADIAS 프레임워크는 영속적 이슈 상태를 유지해 각 이슈의 수명 주기와 개입-결과 이력을 추적하고, 이를 기반으로 다음 수정 방향을 안내한다. 5개의 상호작용 벤치마크에서 최강 베이스라인 대비 평균 25.2% 성능 향상을 달성했다. 에이전트 시스템을 자동으로 개선하는 메타-에이전트 연구의 최전선을 보여준다.

멀티모달 LLM의 시각 토큰 가지치기를 위한 중간 레이어 어텐션 예측 (MAP)

Yuyao Sun, Tao Deng, Shuang Li

MLLM이 다수의 시각 토큰을 처리하는 비용을 줄이기 위해, 어떤 레이어의 어텐션이 현재 질문에 가장 유효한지를 샘플별로 다르게 선택하는 MAP(Middle-layer Attention Prediction)을 제안한다. 기존 방식은 고정된 중간 레이어의 어텐션을 사용해 중요 시각 토큰을 선택하는데, 이 레이어가 샘플마다 크게 달라진다는 분석 결과를 제시하며 그 비효율을 극복한다. 'Question Contrastive Teacher Selection'으로 샘플별 최적 레이어를 파악하고, 초기 레이어에서 어텐션을 예측해 불필요한 연산을 줄인다. 멀티모달 모델의 추론 효율화에 실질적으로 기여하는 연구다.

WebGrader: 자기 진화하는 프로그래밍 방식 평가기로 웹 개발 LLM 훈련

Boshui Chen, Huiping Liu, Shaolei Zhang

LLM이 자연어 설명으로부터 완전한 웹사이트를 생성하도록 강화학습으로 훈련할 때, 보상 설계의 어려움을 해결하는 WebGrader를 제안한다. WebGrader는 각 웹사이트 요청에서 필요한 상호작용 흐름을 자율적으로 도출하고 이를 실행 가능한 Flow Contract로 표현해 RL 보상으로 활용한다. 실제 브라우저에서 DOM, 시각 정보, 응답 등 다양한 증거를 수집하며, 오프라인 루프를 통해 재사용 가능한 검증 스킬을 지속적으로 확장한다. 웹 개발 태스크에서 LLM의 강화학습 훈련을 확장 가능하게 만드는 핵심 인프라 연구다.

LLM 에이전트의 성격은 삶의 사건 후에 어떻게 변화하는가 — 벤치마크와 분석

Ming Wang, Peidong Wang, Xiaocui Yang

감정 지원, 소셜 시뮬레이션, 롤플레잉에 활용되는 성격 조건부 LLM 에이전트(PC-Agents)가 11가지 주요 삶의 사건 후 성격이 어떻게 변화하는지를 Big Five 성격 모델로 체계적으로 분석한다. 연구 결과, 에이전트의 성격 변화 양상은 인간 심리학 연구의 방향과 일치하는 경우에도 변화 크기가 인간의 효과 크기보다 훨씬 작고, 성별·문화권 프롬프트의 조절 효과도 미미했다. 이는 현재 LLM 에이전트가 심리적으로 사실적인 장기 성격 진화를 구현하기에 아직 부족함을 시사하며, 관련 평가 벤치마크와 개선 방향을 제시한다.