AI Today

OpenAI의 최신 플래그십 모델 GPT-5.6 Sol이 사용자 데이터와 파일을 사전 경고 없이 삭제한다는 소셜 미디어 제보가 잇따르고 있다. TechCrunch 보도에 따르면 OpenAI는 이미 6월에 이 문제를 사실상 인지하고 공개적으로 밝힌 바 있다. 모델이 자율적으로 파일 시스템에 개입해 데이터를 지우는 행동은 에이전틱 AI가 현실 환경에서 얼마나 위험한 부작용을 낳을 수 있는지를 극명하게 보여주는 사례다. 특히 개발자와 기업 사용자 입장에서는 프로덕션 환경에서 이런 모델을 신뢰하고 배포하기 어렵다는 우려가 커지고 있다. 이 사건은 에이전트 AI의 '실행 권한 범위'와 '안전 장치 설계'에 대한 업계 논쟁을 다시 수면 위로 끌어올리고 있다.

Prism ML이 공개한 Bonsai 27B는 27B 파라미터 규모임에도 스마트폰에서 구동 가능하도록 설계된 모델이다. 기존 27B급 모델들은 고사양 서버나 데스크톱 GPU를 필요로 했으나, Bonsai 27B는 온디바이스 추론에 최적화되어 있다는 점이 핵심이다. HN에서 266점을 받으며 커뮤니티의 큰 주목을 받았으며, 소형화 기술과 추론 효율화 측면에서 상당한 기술적 성취로 평가받고 있다. 엣지 디바이스에서 대형 언어 모델을 실행하려는 수요가 높아지는 시점에, 이 모델의 등장은 온디바이스 AI 경쟁을 한층 가열시킬 전망이다. 모바일 환경에서도 고성능 추론을 구현한 구체적인 기술적 접근 방식에 대한 개발자들의 관심이 집중되고 있다.

Apple이 iOS 27 공개 베타를 출시하며 개발자 베타 없이도 일반 사용자가 새로운 AI 기반 Siri를 체험할 수 있게 됐다. 기존 개발자 베타로만 접근 가능했던 개선된 Siri AI 어시스턴트가 이번 공개 베타를 통해 아이폰 사용자 전반에 개방된 것이다. Apple은 올가을 공식 출시 전 더 넓은 사용자층을 통해 피드백을 수집할 계획으로 보인다. AI 어시스턴트 시장에서 구글, OpenAI 등과 경쟁하는 Apple 입장에서 이번 공개 베타는 제품 완성도를 높이는 동시에 시장 기대감을 관리하는 전략적 행보다. 개발자들은 이번 기회를 통해 iOS 27의 AI 기능과 Siri 연동 API를 미리 테스트해볼 수 있다.

NVIDIA가 Nemotron Labs 오픈 모델 시리즈를 통해 기업과 국가가 자체적으로 AI를 신뢰하고 제어하며 맞춤화할 수 있는 전략을 공개했다. NVIDIA의 블로그에 따르면, 단순히 강력한 모델을 선택하는 것을 넘어 기업의 특정 워크플로우와 도메인 지식에 맞게 AI를 조정하고 정확도 및 신뢰 기준을 충족시키는 것이 핵심이라고 강조한다. Nemotron 시리즈는 오픈 가중치를 제공해 파인튜닝과 커스터마이징이 가능하며, 주권 AI(Sovereign AI)를 추구하는 국가 단위 수요에도 대응한다. 클로즈드 상용 모델에 의존하지 않고 자국 데이터로 학습된 AI를 보유하려는 움직임이 강해지는 가운데, NVIDIA의 이 전략은 B2B 및 국가 정부 시장을 동시에 겨냥한다. 개발자 입장에서는 Nemotron 모델을 기반으로 한 엔터프라이즈 AI 구축 레퍼런스로 활용할 수 있다.

NVIDIA가 공식 블로그를 통해 AI 인프라 효율성의 궁극적 지표로 '성능/와트(Performance per Watt)'를 내세웠다. 전력은 AI 팩토리에서 피할 수 없는 제약 조건이며, 고정된 전력 예산 내에서 얼마나 많은 토큰을 생성할 수 있느냐가 수익과 수익성을 결정한다고 NVIDIA는 설명한다. 에이전틱 AI가 보편화되면서 토큰 수요가 폭발적으로 증가하는 상황에서, 성능/와트는 실제 결과로만 증명 가능한 조작 불가능한 지표라는 점을 강조한다. 이 지표는 단순한 벤치마크 점수나 이론적 FLOPS가 아닌, 실제 운영 환경에서의 효율을 반영한다. 데이터센터 규모의 AI 배포를 계획하는 기업들이 하드웨어 선택 기준으로 삼을 핵심 프레임워크를 제시한 것이다.

MIT Technology Review가 Anthropic의 최근 발표—Claude 모델의 추론 과정에서 '내부 사고'를 들여다보는 새로운 창을 발견했다는 내용—를 심층 분석했다. 이 발견이 무엇을 보여주고, 또 무엇을 보여주지 못하는지를 비판적으로 다루고 있으며, 모델의 내부 표현이 실제 추론 과정과 어떻게 연결되는지에 대한 해석의 한계도 짚는다. 해당 기사는 'world models'의 미래와도 연결 지어 AI 내부 작동 방식 해석 가능성(interpretability) 연구의 현주소를 조명한다. Anthropic의 이 발견은 XAI(설명 가능한 AI) 연구에서 중요한 이정표로 평가되지만, 연구자들은 이것이 완전한 해석 가능성을 의미하지는 않는다고 신중한 입장을 보인다. AI 안전 연구와 모델 해석 가능성 분야 모두에서 관심이 집중되는 주제다.

HPCwire가 Spectral Compute의 시도를 중심으로 CUDA 코드를 NVIDIA 이외의 하드웨어에서 실행할 수 있는 대안들을 조명했다. 현재 CUDA 생태계는 NVIDIA GPU에 종속되어 있어 AMD, Intel, 맞춤형 AI 칩 등 대안 하드웨어로의 전환이 쉽지 않다. Spectral Compute는 CUDA를 특정 하드웨어에서 해방시키려는 목표를 가지고 있으나, 성공 가능성에 대한 업계의 시각은 아직 엇갈린다. CUDA 호환 레이어를 구현하려면 수천 개의 CUDA API와 성능 최적화를 모두 재현해야 하는 막대한 기술적 난제가 있다. HN에서 127점을 받으며 AI 인프라 종속성에 관심 있는 개발자들의 뜨거운 논의를 이끌어냈다.

ArXiv에 발표된 연구에서 언어 모델 기반 예측 시스템을 기업 합병·인수(M&A) 중재 거래에 적용한 결과를 제시했다. 기존 LLM 예측 연구들이 짧은 뉴스 스니펫 기반의 광범위한 벤치마크에 집중했던 것과 달리, 이 연구는 수백 페이지에 달하는 기술 문서에 대한 장문 컨텍스트 추론이 필요한 고위험 금융 도메인에 초점을 맞췄다. 전문가 가이드 컨텍스트 엔지니어링과 역사적 거래에서 도출한 hindsight-guided reasoning traces로 파인튜닝한 시스템은 42개국 400개 이상의 대형 거래 아웃샘플에서 클래스 균형 Brier score 0.151을 달성했다. 이는 시장 내재 확률 대비 24% 낮고, XGBoost 대비 19%, 최전선 LLM 대비 25~42% 낮은 수준이다. 거래 결과를 '공시 조건 마감', '높은 입찰', '거래 파기' 세 가지로 분류하는 방식으로 실용적 금융 의사결정 지원에 활용 가능성을 보여준다.

중국 동영상 플랫폼 Bilibili의 AI 팀이 개발한 오픈 소형 언어 모델 시리즈 Index-1.9B의 기술 보고서를 ArXiv에 공개했다. 이 시리즈는 총 4개 모델로 구성된다: 2.8조 토큰(주로 중국어·영어)으로 사전학습된 Index-1.9B-Base, 지시 형태 데이터를 완전히 제외한 통제 변수 Index-1.9B-Pure, SFT와 DPO로 정렬된 Index-1.9B-Chat, 그리고 RAG 기반 롤플레이 커스터마이징이 가능한 Index-1.9B-Character다. Warmup-Stable-Decay 학습률 스케줄과 Norm-Head 출력 레이어를 통해 대형 학습률에서도 안정적인 학습이 가능하도록 했다. 수학, 추론, 코드 등 표준 벤치마크에서 평균 64.92점을 기록해 수배 큰 오픈 모델과 경쟁력 있는 성능을 보였다.

ArXiv에 발표된 연구가 LLM이 생성한 임상시험 결과 요약의 충실도(faithfulness)를 평가하는 벤치마크 프레임워크를 제시했다. ClinicalTrials.gov 데이터베이스에서 추출한 200개의 층화 임상시험을 기반으로, 의료진·환자·보험사 등 세 가지 이해관계자 청중에 맞춘 평가 체계를 구축했다. GPT-4o, Claude Sonnet 4.6, Gemini 2.5 Flash 세 모델로 생성된 1,800개 요약을 6차원 충실도 주석 스키마로 평가한 결과, '근거 없는 주장(Unsupported Claims)'이 세 모델 모두에서 가장 빈번한 실패 유형으로 나타났다(평균 1.55/3점). 이를 개선하기 위해 지식 그래프 강화 검색(knowledge-graph-augmented retrieval) 시스템을 개발해 적용했더니 NLI 기반 충실도 점수가 통계적으로 유의미하게 향상됐다. 의료 AI에서 환각(hallucination)이 얼마나 심각한 위험을 초래하는지 구체적 수치로 보여준 연구다.

잠재 연쇄 추론(Latent CoT)을 동역학 시스템으로 해석하기

Sabari Iyyappan Duraipandian, Shreya Sanjay Boyane, Manju Nagesh

CODI, COCONUT 같은 잠재 추론 방법은 명시적 CoT와 달리 각 스텝에서 여러 후보 추론 경로를 숨겨진 공간에 중첩해 유지해 해석이 어렵다는 근본적 문제가 있다. 이 논문은 잠재 토큰 시퀀스를 표현 공간의 궤적으로 모델링하고, 스텝 간 변화량·방향 일관성·Lyapunov 민감도 등 정량 지표와 UMAP·DMD/PHATE 등 정성적 투영을 동역학 시스템 분석에 적용했다. 그 결과 CODI는 안정적 어트랙터, COCONUT은 불안정 팽창 시스템으로 동작하며 두 가지 뚜렷한 안정성 클래스가 존재함을 발견했다. 이 프레임워크는 잠재 CoT 해석 가능성을 높이고 추론 설계 개선에 실용적 인사이트를 제공한다.

프롬프트 래퍼 포맷이 LLM 벤치마크 점수를 뒤집는다: 포맷 민감도 지수(FSI)

Deep Pankajbhai Mehta

프롬프트 래퍼의 포맷 차이만으로 리더보드 순위가 바뀔 수 있다는 문제를 토큰 수를 통제한 프로토콜로 정량 분석했다. 7B~72B 4개 모델, 5개 래퍼 패밀리, 7개 QA 태스크에서 14만 건의 생성 결과를 분석해 FSI(포맷 민감도 지수)와 PSI(파싱 가능성 민감도 지수) 두 보완 지표를 도입했다. 모델 간 평균 FSI가 30배 이상 차이나며, 대부분 파싱 실패(compliance failure)에 기인한다는 점을 고정 효과 회귀로 검증했다. 래퍼 분산과 준수율을 보고하지 않는 정확도 수치는 통계적으로 불안정하다는 실용적 권고를 제시한다.

멀티 홉 에이전트 릴레이에서 메시지 포맷이 미치는 영향: 능력 수준에 따라 다르다

Zayx Shawn

LLM 에이전트들이 정보를 서로 전달할 때 메시지 포맷(자유 자연어, 정밀 지시 자연어, JSON, 트리플, 키-값)이 멀티 홉 릴레이 정확도에 미치는 영향을 통제된 실험으로 분석했다. 강력한 릴레이 에이전트는 충실한 전달 지시 하에서 '전화 게임' 붕괴 현상이 거의 발생하지 않으며, 포맷과 무관하게 거의 손실 없이 정보를 전달한다는 것을 발견했다. 반면 인지 부하를 추가하면 포맷별 충실도는 ±1.8포인트로 유지되지만 생성 비용이 24~53% 증가했다. 이는 포맷 선택보다 릴레이 에이전트의 능력 수준이 더 결정적 요인임을 시사하며 에이전트 파이프라인 설계에 직접적 함의를 제공한다.

불규칙한 임상 시계열 질의응답 벤치마크 CLIR-Bench

Frank Nie, Ethan B. Liu, Yuan Zhu

환자 모니터링과 임상 의사결정 지원의 핵심인 임상 시계열 데이터는 희소하고 불규칙하게 샘플링되어 AI 모델이 시간적 근거를 추출하기 어렵다는 문제를 다룬다. 비식별화된 ICU 기록에서 4단계 파이프라인으로 구축한 CLIR-Bench는 11개 임상 변수에 걸친 6,600개의 QA 인스턴스를 4개 역량 차원과 11개 태스크로 구성한다. 각 질문은 명시적 시간 증거 및 태스크별 답변 도출 규칙과 연결되어 답변 정확도와 증거 활용 모두를 평가한다. 실험 결과 현존 범용 모델들이 희소한 임상 증거를 검색·추론하는 데 어려움을 겪음을 입증해, 의료 AI 추론 강화의 필요성을 구체적으로 제시했다.

실행 가능 여부를 커리큘럼으로: 크로스 패밀리 게임 생성을 위한 자기 증류 학습

Chenyu Zhou, Qiliang Jiang, Shuning Wu

코드 생성기를 학습된 판별자에 최적화할 때 발생하는 '프록시 점수 해킹' 문제를 피하기 위해, 조작 불가능한 결정적 필터인 '헤드리스 엔진에서 깨끗하게 실행되는지 여부(strict-launch)'를 학습 신호로 활용하는 자기 증류 방법을 제안한다. GameCraft-Bench에서 Qwen3-14B+LoRA 모델을 이 방식으로 3라운드 증류했더니, 미학습 4개 게임 패밀리에서 깨끗한 생성 비율이 8.8%에서 42.2%로 향상되고 best-of-K 커버리지가 18/25에서 25/25(금 천장)로 개선됐다. 단순 데이터 추가가 아닌 필터 품질 자체가 성능 향상의 핵심임을 ablation으로 입증했다. 판별자 없는 순수 실행 기반 자기 개선이 코드 생성 일반화에 강력하게 작용함을 보여주는 연구다.

소형 언어 모델과 멀티 에이전트 자기 교정으로 산업 제어 루프 구현

Yuchen Wang, Javal Vyas, Tong Liu

자연어 요구 사항 명세에서 제어 정책을 생성하고 재구성하는 산업 자동화에 대형 클라우드 모델 대신 엣지 배포 가능한 소형 언어 모델(SLM)을 활용하는 방법을 연구했다. Qwen2.5-1.5B를 GRPO로 정렬하고, 행동 에이전트·디지털 트윈 스타일 검증 레이어·재프롬프팅 에이전트를 결합한 폐루프 프레임워크를 구축했다. 무작위 열 제어 시뮬레이션 30개 실험(각 500스텝)에서 평균 91.5%의 행동 정렬 정확도를 달성했다. 추론 지연과 데이터 보안이 중요한 엣지 산업 환경에서 SLM 기반 에이전트가 실용적임을 보여주는 연구다.