AI Weather
Agent Skills 프레임워크가 대거 오픈소스로 공개되며, AI의 거짓말 패턴 분석과 CTF 보안 우려가 제기되는 하루.
AI Weather
AI Agent 생태계가 급속히 확장하고, OpenAI가 개인금융 서비스로 새 영역 진출하며, ArXiv가 AI 슬롭 논문 금지 방침으로 연구 품질 관리에 나서는 하루.
OpenAI가 Plaid와 제휴해 ChatGPT에서 사용자의 은행 계좌 연결을 허용하는 개인 금융 기능을 출시했다. 포트폴리오 성과, 지출 내역, 구독 서비스, 예정된 결제 등을 한눈에 볼 수 있는 대시보드를 제공한다. AI가 금융 데이터에 직접 접근하게 되면서 개인정보 보호와 보안에 대한 우려도 함께 제기되고 있다.
YouTube가 AI 유사성 탐지 프로그램을 18세 이상 모든 사용자로 확대한다고 발표했다. 이제 누구나 플랫폼에서 자신의 딥페이크 영상을 찾아달라고 요청할 수 있다. 딥페이크 콘텐츠가 급증하면서 플랫폼 차원의 보호 조치가 확산되는 추세다.
학술 논문 사전 출판 플랫폼 ArXiv가 AI로 생성된 저질 콘텐츠(AI slop)가 포함된 논문을 올리는 연구자들을 차단하겠다고 발표했다. 저자가 AI 도구를 사용했다는 명백한 증거가 있으면서도 이를 공개하지 않은 경우 제재를 받게 된다. 학술계에서 AI 생성 콘텐츠의 투명성을 요구하는 목소리가 높아지고 있다.
AI 영상 생성 스타트업 Runway가 영상 생성이 월드 모델로 이어지는 경로라며 Google과의 AI 경쟁에 본격 나선다고 밝혔다. 처음엔 영화 제작자를 도우던 회사가 이제 범용 AI 개발을 목표로 전환했다. AI 업계 아웃사이더라는 점이 오히려 장점이 될 수 있다고 강조했다.
Apple의 MLX 프레임워크가 Apple Silicon Mac에서 llama.cpp보다 3배 빠른 LLM 추론 속도를 보여준다는 벤치마크 결과가 나왔다. Ollama 통합으로 93% 성능 향상을 달성했지만, 컨텍스트가 40K 토큰을 넘어가면 성능 우위가 사라진다. 로컬 LLM 실행에서 하드웨어 최적화의 중요성을 보여준다.
Osaurus가 Mac 사용자를 위한 AI 통합 앱을 출시했다. 로컬과 클라우드 AI 모델을 결합하면서도 사용자의 메모리, 파일, 도구는 자체 하드웨어에 보관한다. 프라이버시를 중시하면서도 다양한 AI 모델의 장점을 활용할 수 있는 하이브리드 접근법이 주목받고 있다.
대부분 엔지니어는 할루시네이션은 잡아내지만 어텐션 싱크 붕괴, 아첨 편향, 캐시 프리픽스 중독 등은 놓친다는 분석이 나왔다. LLM이 거짓말하는 8가지 패턴을 정의하고 각각을 탐지하는 구체적인 방법을 제시했다. LLM의 신뢰성 검증이 단순한 사실 확인을 넘어 복잡한 인지 편향 분석까지 필요함을 보여준다.
Cursor 3.4의 클라우드 에이전트를 18개 작업으로 테스트한 결과, 멀티-레포 에이전트 환경과 빌드 범위 시크릿, Dockerfile 레이어 캐싱이 5월 13일 출시됐다. 70% 캐시 히트율로 기존 로컬 Docker 워크플로우를 크게 개선했다. AI 코딩 도구의 클라우드 통합이 개발 효율성을 크게 높이고 있다.
머스크 vs 올트만 재판 마지막 주에 변호사들이 일론 머스크와 샘 올트만의 신뢰성을 놓고 공방을 벌였다. 올트만은 거짓말과 사리사욕 연루 이력에 대해 집중 추궁받았다. 이제 배심원단이 AI를 책임지는 사람들을 신뢰할 수 있는지 판단하게 된다.
AI 데이터센터에서 데이터 이동에 소모되는 전력 낭비를 막는 칩을 개발했다는 주장이 나왔다. 컴파일러나 런타임 없이 가중치를 한 번만 로드하는 방식으로 전력 효율성을 크게 높였다고 한다. AI 인프라의 에너지 효율성이 갈수록 중요해지는 가운데 하드웨어 차원의 혁신이 주목받고 있다.
Mitchell Hashimoto가 현재 AI에 완전히 사로잡혀 합리적 판단을 잃은 기업들이 있다고 트위터에 글을 올려 화제가 됐다. AI 기술을 맹신하며 기존 비즈니스 로직을 무시하는 현상을 'AI 정신병'이라고 표현했다. 실리콘밸리의 AI 열풍에 대한 비판적 시각이 커뮤니티에서 큰 반향을 일으키고 있다.
PPO 알고리즘으로 신경망이 Snake 게임을 학습하는 과정을 시각화한 인터랙티브 데모가 공개됐다. 실시간으로 학습 과정을 보며 강화학습의 원리를 직관적으로 이해할 수 있다. 교육적 가치가 높은 프로젝트로 강화학습 입문자들에게 큰 도움이 될 것으로 보인다.
최첨단 AI가 사이버 보안 경진대회(CTF)의 전통적인 오픈 형식을 파괴했다는 주장이 제기됐다. AI가 문제를 너무 쉽게 풀어버려 인간 참가자들에게는 의미 없는 경쟁이 되어버렸다는 것이다. 보안 교육과 인재 발굴의 중요한 도구였던 CTF의 미래에 대한 우려가 커지고 있다.
JavaScript 런타임 Bun의 Rust 재작성 작업에서 메모리 안전성 도구인 miri 검사를 통과하지 못한다는 이슈가 제기됐다. 안전한 Rust 코드에서도 정의되지 않은 동작(UB)을 허용하는 문제가 발견됐다. Rust의 메모리 안전성 보장에 대한 신뢰도에 의문을 제기하는 사례로 주목받고 있다.
Lobsters 커뮤니티에서 LLM으로 생성된 게시물을 금지하자는 제안이 254점을 받으며 뜨거운 토론을 불러일으켰다. AI 생성 콘텐츠가 커뮤니티의 품질을 떨어뜨린다는 우려와 기술 발전을 받아들여야 한다는 의견이 대립하고 있다. 104개의 댓글이 달리며 온라인 커뮤니티의 AI 콘텐츠 정책에 대한 관심이 높아지고 있다.
기술 업계에서 일하면서도 개인적으로는 기술 사용을 최소화하는 방법에 대한 질문이 94개 댓글을 받았다. 업무용 기술과 개인용 기술의 경계를 나누는 실용적인 접근법들이 공유됐다. 기술 과부하 시대에 건강한 균형을 찾으려는 개발자들의 고민이 반영된 토론이다.
AI 모델 선택 시 크기가 아닌 특정 사용 사례에 맞는 적절한 모델을 고르는 방법을 설명한 AWS 튜토리얼이 주목받았다. 비용, 레이턴시, 정확도 간의 트레이드오프를 고려한 실용적 가이드를 제시했다. AI 개발 초보자들에게 유용한 내용으로 3개의 댓글이 달렸다.
Google AI가 Gemini 에이전트를 실제 하드웨어와 연결해 'Sweets Vault'라는 멀티모달 시스템을 구축한 과정을 공개했다. 물리적 세계와 AI 에이전트의 통합 사례로 2개의 댓글이 달렸다. AI 에이전트가 디지털 환경을 넘어 현실 세계로 확장되는 트렌드를 보여준다.
Hermes 에이전트를 동일한 작업에 7일 연속 실행한 실험 결과, 에이전트가 자체 학습을 통해 초기와 완전히 다른 스킬 파일을 개발했다는 흥미로운 관찰이 공유됐다. 에이전트의 지속적 학습과 적응 능력을 보여주는 사례로 4개의 댓글이 달렸다. AI 에이전트의 장기적 진화 가능성에 대한 통찰을 제공한다.
AI 코드 리뷰 도구가 한 번의 검토로는 모든 문제를 잡아내지 못하는 이유와 반복적 리뷰의 필요성을 다룬 글이 5개의 댓글을 받았다. AI가 코드 품질 관리에 미치는 영향과 한계를 실무적 관점에서 분석했다. 개발 워크플로우에서 AI 도구의 올바른 활용법에 대한 인사이트를 제공한다.
실제 엔지니어를 위한 스킬 컬렉션으로 Matt Pocock의 .claude 디렉토리에서 직접 가져온 것이다. Claude AI와 함께 사용할 수 있는 실무 중심의 프롬프트와 스킬들을 제공해 개발자들의 AI 활용 효율성을 크게 높일 수 있다.
+3,132
실제로 작동하는 에이전틱 스킬 프레임워크와 소프트웨어 개발 방법론이다. AI 에이전트가 복잡한 소프트웨어 개발 작업을 체계적으로 수행할 수 있도록 돕는 구조화된 접근법을 제공한다.
+1,648
개인용 AI 슈퍼 인텔리전스를 구현한 프라이빗하고 심플하면서도 극도로 강력한 도구다. 사용자의 개인 데이터를 안전하게 보호하면서도 강력한 AI 기능을 로컬에서 실행할 수 있게 해준다.
+1,271
Anthropic의 공식 에이전트 스킬 저장소로 Claude와 다른 AI 에이전트들이 사용할 수 있는 검증된 스킬들을 제공한다. 연구, 분석, 코딩 등 다양한 업무에 즉시 적용 가능한 고품질 스킬 컬렉션이다.
+689
연구, 과학, 엔지니어링, 분석, 금융, 글쓰기를 위한 바로 사용 가능한 에이전트 스킬 세트다. 학술 연구나 전문 분석 작업에 특화된 AI 에이전트 기능들을 패키지화해서 제공한다.
+646
GPU 가속 비전 에이전트와 AI 기반 비디오 분석 애플리케이션 구축을 위한 참조 아키텍처 모음이다. NVIDIA GPU의 성능을 최대한 활용해 대규모 비디오 처리와 검색, 요약 기능을 구현할 수 있다.
+308
메트릭, 로그, 기타 임의 데이터를 수집, 처리, 집계, 기록하는 에이전트다. 시계열 데이터베이스인 InfluxDB와 함께 사용해 모니터링과 관측 가능성 시스템을 구축할 수 있다.
+212
Qwen3에서 최대 7.8배의 토큰/forward를 달성하면서도 동일한 출력 분포를 유지하는 Orthrus-Qwen3 최적화 프로젝트다. LLM 추론 속도를 대폭 향상시키는 혁신적인 접근법을 제공한다.
+91
Yeahia Sarker, Md Rahmat Ullah, Musa Molla
프롬프트 기반 오케스트레이션의 할루시네이션 라우팅과 무한 루프 문제를 해결하기 위해 그래프 기반 엔진 오케스트레이션을 제안한다. 기존 LLM 에이전트 프레임워크의 신뢰성과 재현성 문제를 근본적으로 개선할 수 있는 새로운 접근법이다.
Jia Huang, Joey Tianyi Zhou
기존 LLM 에이전트 아키텍처 프레임워크들이 단일 관점(실행 토폴로지 또는 인지 기능)만 다루는 한계를 극복하고 통합적 설계 방법론을 제시한다. 산업계와 학계의 에이전트 설계 접근법을 체계적으로 통합한 중요한 기여다.
Hiroki Fukui
숨겨진 조정자가 전문 작업자 에이전트를 관리하는 멀티 에이전트 오케스트레이션에서 오케스트레이터의 비가시성이 안전성에 미치는 영향을 최초로 실증 연구했다. 기업 AI 배포의 기본 아키텍처가 되고 있는 시스템의 안전성 리스크를 체계적으로 분석한 중요한 연구다.
Yumin Choi, Sangwoo Park, Minki Kang
새로운 환경에서 에이전트가 겪는 콜드 스타트 문제를 해결하기 위해 작업 수행 없이도 환경 탐색을 통해 메모리를 구축하는 방법을 제안한다. 기존의 오프라인 큐레이션이나 온라인 상호작용 방식의 한계를 극복하는 혁신적 접근법이다.
Yifei Zhu
에이전틱 프레임워크에 내장된 대형 추론 모델이 정보 검색을 정적 장문 맥락 QA에서 개방형 탐색으로 변화시켰지만, 실제 사용을 위해서는 '롱테일' 사실 발견과 합성 능력이 필요하다는 점을 벤치마크를 통해 입증한다.
Erica Stutz, Giacomo Marino, Daniella Meeker
다음 토큰 예측으로 훈련된 생성 모델이 시퀀스 수준 속성 추정이나 제어가 필요한 하위 응용에서 훈련 중 로컬 패턴에 과적합되는 문제를 해결하는 새로운 접근법을 제시한다. 생성 모델의 제어 가능성을 크게 향상시킬 수 있는 중요한 기여다.
Leslie G. Valiant
현재 대형 언어 모델은 기계 학습 원리에 기반해 매끄러운 산문 생성은 신뢰할 수 있지만, 생성된 텍스트의 내용 신뢰성에는 비교 가능한 원리적 근거가 없다는 근본적 문제를 다룬다. 저명한 컴퓨터 과학자 Leslie Valiant의 LLM 추론 신뢰성에 대한 이론적 고찰이다.
Yize Cheng, Chenrui Fan, Mahdi JafariRaviz
LLM이 직접 답변할지 외부 도구를 호출할지 결정하는 적응형 도구 사용 연구에서, 도구 필요성을 모델 독립적 속성으로 다루던 기존 접근법의 한계를 지적한다. LLM의 도구 사용 능력과 판단 능력 간의 격차를 체계적으로 분석한 중요한 연구다.
OpenAI가 ChatGPT Pro 사용자 대상으로 은행계좌를 안전하게 연결해 AI 기반 금융 인사이트를 제공하는 새로운 개인금융 기능을 출시했다. 포트폴리오 성과, 지출 패턴, 구독 서비스, 향후 결제 일정을 대시보드로 확인할 수 있어 AI의 활용 영역이 금융 서비스로까지 확장되고 있다.
학술 프리프린트 플랫폼 ArXiv가 AI로 생성된 저품질 논문(AI 슬롭)을 업로드한 연구자를 영구적으로 차단하는 새로운 정책을 도입했다. 논문 저자가 AI 생성 콘텐츠를 사용했다는 명백한 증거가 발견되면 계정을 차단하겠다고 밝혀, 학술 연구의 품질 관리에 대한 강력한 의지를 보였다.
OpenAI가 코드 생성 AI인 Codex를 ChatGPT 모바일 앱에 통합했다고 발표했다. 이제 모바일 환경에서도 어디서나 Codex를 활용해 코드를 작성하고 디버깅할 수 있게 되어, 개발자들의 모바일 워크플로우가 한층 개선될 전망이다.
AI 동영상 생성 스타트업 Runway가 동영상 생성 기술이 세계 모델(world models) 개발의 핵심이라고 주장하며 구글과의 AI 경쟁을 선언했다. 영화 제작자들을 위한 도구로 시작한 회사가 이제 AI 분야의 주요 플레이어로 성장하겠다는 야망을 드러냈다.
Osaurus가 로컬 AI 모델과 클라우드 AI 모델을 하나의 Mac 앱에서 통합 사용할 수 있는 도구를 출시했다. 사용자의 메모리, 파일, 도구를 자체 하드웨어에 보관하면서도 필요시 클라우드 모델의 성능을 활용할 수 있어, AI 사용의 프라이버시와 성능을 동시에 확보할 수 있다.
중국의 단편 드라마 플랫폼들이 AI를 활용한 대량 콘텐츠 생성 시스템으로 진화하고 있다. 스크립트 생성부터 영상 편집까지 AI가 담당하며, 시청자 취향에 맞춘 개인화된 드라마를 자동 제작하는 수준에 이르렀다. 이는 엔터테인먼트 산업에서 AI 활용의 새로운 패러다임을 제시하고 있다.
딜로이트가 기업들에게 단순한 생성형 AI 활용을 넘어 '자율 지능(autonomous intelligence)' 시스템을 구축해야 진정한 성장을 달성할 수 있다고 제언했다. 텍스트 생성이나 내부 소통 요약 수준을 벗어나 자율적으로 의사결정하고 실행하는 AI 시스템 도입이 경쟁력의 핵심이라고 강조했다.
1Password가 AI 에이전트를 활용해 레거시 모놀리식 코드베이스를 리팩터링한 실험 결과를 공개했다. AI가 대규모 코드 구조 변경에서 보여준 한계와 가능성을 상세히 분석해, 실제 엔터프라이즈 환경에서 AI 에이전트 활용 시 고려사항을 제시했다.
OpenAI 내부 갈등의 핵심 문서로 추정되는 일리야 수츠케버의 52페이지 증언록이 화제다. 회사의 방향성과 AI 안전에 대한 근본적 견해 차이가 어떻게 조직을 위기로 몰고 갔는지를 보여주는 내용으로, AI 업계의 내부 갈등 양상을 적나라하게 드러낸다.
PPO(Proximal Policy Optimization) 강화학습 알고리즘이 스네이크 게임을 플레이하는 방법을 학습하는 전 과정을 시각적으로 관찰할 수 있는 인터랙티브 데모다. 신경망의 학습 과정을 직관적으로 이해할 수 있어 교육용 자료로 높은 관심을 받고 있다.
JavaScript 런타임 Bun의 Rust 재작성 버전에서 기본적인 miri 검사도 통과하지 못하는 메모리 안전 문제가 발견되어 논란이다. 안전한 Rust 코드 내에서도 정의되지 않은 동작(UB)이 가능하다는 것이 확인되어, Rust의 메모리 안전성에 대한 신뢰도 문제가 제기되고 있다.
Lobsters 커뮤니티에서 LLM으로 생성된 게시물을 금지하자는 제안이 나와 활발한 토론이 벌어지고 있다. AI 콘텐츠의 품질 문제와 인간의 진정성 있는 소통의 가치를 놓고 의견이 분분하며, 온라인 커뮤니티의 미래 방향에 대한 중요한 화두를 던지고 있다.
AWS에서 공개한 AI 모델 선택 가이드가 개발자들 사이에서 화제다. 모델 크기보다는 특정 작업에 최적화된 모델을 선택하는 것이 중요하다는 실용적 조언과 함께, 비용 효율성과 성능의 균형점을 찾는 방법을 상세히 설명해 실무진들의 호응을 얻고 있다.
구글이 물리적 하드웨어와 연동되는 멀티모달 Gemini 에이전트를 구축한 사례를 공개했다. 실제 환경의 센서 데이터와 AI의 추론 능력을 결합해 스마트한 자동화 시스템을 만드는 과정을 상세히 설명해, 엣지 AI와 IoT 융합 개발에 관심 있는 개발자들의 주목을 받고 있다.
기술 업계에서 일하면서도 기술 사용을 최소화하려는 개발자들의 경험담이 활발하게 공유되고 있다. 업무용 도구는 적극 활용하되 개인 생활에서는 기술 의존도를 줄이는 다양한 전략들이 논의되며, 현대 개발자들의 번아웃 극복 방안으로 주목받고 있다.
AI로 생성된 저품질 콘텐츠(AI 슬롭)가 인터넷을 장악하고 있는 상황에서, 개발자들이 여전히 신뢰하고 의존하는 정보원과 도구들을 공유하는 글이다. 인간이 직접 작성한 문서와 코드의 가치가 재조명되며, 품질 있는 콘텐츠를 찾는 노하우에 대한 논의가 활발하다.
HashiCorp 창립자 Mitchell Hashimoto가 일부 기업들이 'AI 정신병'에 걸려 AI 도입 자체가 목적이 된 현상을 비판했다. 실제 문제 해결보다는 AI 사용 여부에만 집착하는 기업 문화의 위험성을 지적해, 기술 업계의 AI 과열 현상에 대한 경각심을 불러일으키고 있다.
AI 사용량을 늘리라는 회사 압박에 아마존 직원들이 실제 업무와 무관한 인위적인 AI 활용 사례를 만들어내고 있다는 보고가 나왔다. 성과 지표 달성을 위한 형식적 AI 사용이 오히려 생산성을 해치고 있으며, 기업의 AI 도입 전략에 대한 근본적 재검토가 필요하다는 목소리가 높다.
실제 엔지니어를 위한 스킬 모음으로, Claude .claude 디렉터리에서 가져온 실용적인 AI 프롬프트와 워크플로우를 제공한다. 개발자들이 일상 업무에서 바로 활용할 수 있는 검증된 AI 활용 패턴들을 모아놓아 AI 도구 활용도를 크게 높일 수 있다.
+3,155
실제로 작동하는 에이전틱 스킬 프레임워크와 소프트웨어 개발 방법론을 제공한다. 복잡한 개발 프로젝트에서 AI 에이전트를 효과적으로 활용할 수 있는 구조화된 접근법을 제시해, 에이전트 기반 개발의 실용적 가이드라인을 제공한다.
+1,646
개인용 AI 슈퍼 인텔리전스로, 프라이빗하고 간단하면서도 극도로 강력한 AI 어시스턴트를 구현한다. 사용자의 개인정보를 보호하면서도 고도의 AI 기능을 로컬 환경에서 활용할 수 있어, 프라이버시를 중시하는 개발자들에게 이상적인 솔루션이다.
+1,272
연구, 과학, 엔지니어링, 분석, 금융, 글쓰기 분야에서 바로 사용할 수 있는 에이전트 스킬 모음이다. 각 분야별로 특화된 AI 에이전트 기능을 제공해, 전문 분야 연구자들이 AI를 효과적으로 활용할 수 있는 도구들을 패키지화했다.
+643
Anthropic이 공식 제공하는 에이전트 스킬 공개 저장소로, Claude와 함께 사용할 수 있는 고품질 AI 에이전트 기능들을 모아놓았다. Anthropic의 AI 안전 철학이 반영된 신뢰할 수 있는 에이전트 패턴들을 학습하고 활용할 수 있다.
+625
GPU 가속 비전 에이전트와 AI 기반 비디오 분석 애플리케이션 구축을 위한 참조 아키텍처 모음이다. NVIDIA GPU의 성능을 최대한 활용해 실시간 비디오 처리와 검색, 요약 기능을 구현할 수 있어 멀티미디어 AI 애플리케이션 개발에 필수적이다.
+305
메트릭, 로그 및 기타 임의 데이터를 수집, 처리, 집계, 기록하는 에이전트로, AI/ML 인프라 모니터링에 최적화되어 있다. 분산 AI 시스템의 성능 지표를 실시간으로 추적하고 분석할 수 있어, MLOps 환경에서 필수적인 관측 도구로 활용된다.
+213
AI 스킬, MCP(Model Context Protocol), 명령어를 위한 오픈소스 패키지 매니저로, AI 도구들을 체계적으로 관리할 수 있다. 다양한 AI 기능들을 모듈화해서 설치하고 업데이트할 수 있어, AI 개발 환경의 의존성 관리를 크게 개선한다.
+26
토큰을 효율적으로 소모(burn)하는 도구로, AI 모델의 토큰 사용량을 최적화하고 비용을 절약할 수 있게 도와준다. API 호출 비용이 부담스러운 개발자들이 토큰 사용량을 정밀하게 제어하고 관리할 수 있는 실용적인 유틸리티다.
+39
Nishad Singhi, Christian Bialas, Snehal Jauhri
멀티모달 대형 언어 모델을 기반으로 한 체화형 에이전트의 행동 선택 과정에 검증자(verifier)를 도입해 더 신중하고 정확한 의사결정을 가능하게 하는 새로운 프레임워크를 제시했다. 복잡한 실세계 작업에서 에이전트의 신뢰성과 성능을 크게 향상시킬 수 있는 중요한 방법론적 진전이다.
Wo Wei Lin, Ethan Rathbun, Enrico Marchesini
다중 에이전트 강화학습 환경에서 외부 자연어 지시를 효과적으로 수행하기 위해 가치 상쇄(value cancellation) 기법을 활용한 새로운 접근법을 제안했다. 기존의 보상 조건화 방식의 한계를 극복하고, 복잡한 멀티 에이전트 시나리오에서도 안정적인 지시 수행이 가능하다.
Hao Wang, Hanchen Li, Qiuyang Mang
AI 에이전트 벤치마크에서 발생하는 리워드 해킹 문제를 체계적으로 탐지하고 분석하는 BenchJack 프레임워크를 소개했다. 에이전트가 의도된 작업 수행 없이 점수만 최대화하는 문제를 자동으로 발견해, AI 평가의 신뢰성을 크게 향상시킬 수 있는 중요한 도구다.
Isha Chaudhary, Vedaant V Jain, Kavya Sachdeva
안전이 중요한 애플리케이션에서 사용되는 비전-언어 모델들의 치명적 실패 패턴을 체계적으로 분석하고 해석 가능한 형태로 제시했다. 모델의 실패 원인을 명확히 이해할 수 있게 해 VLM의 신뢰성 있는 배포와 개선 방향을 제시하는 중요한 연구다.
Alina Hyk, Sandhya Saisubramanian
대형 언어 모델이 다양한 사용자의 개별적 선호도를 학습하고 이를 새로운 상황에 전이할 수 있는 방법론을 제시했다. 인간의 가치와 일치하는 AI 의사결정을 위해 개인화된 선호도를 효과적으로 모델링하고 활용할 수 있어, AI 정렬 연구의 새로운 방향을 제시한다.
Eugenia Kim, Ioana Tanase, Christina Mallon
기존의 일반적인 AI 안전 벤치마크가 장애 관련 피해를 충분히 평가하지 못한다는 문제를 해결하기 위해, 장애인 당사자들과 함께 개발한 12개 범주의 장애 피해 분류법을 제시했다. LLM의 장애인 관련 편향과 차별을 체계적으로 평가할 수 있는 중요한 도구다.
Tommaso Giovannelli, Griffin D. Kent
다중 에이전트 토론의 구조적 한계를 극복하기 위해 계층적 구조를 가진 에이전트 협의체 CHAL을 제안했다. 기존 토론 방식의 마팅게일 특성과 다수결 투표의 문제점을 해결해, 더 효과적인 집단 의사결정과 추론을 가능하게 하는 새로운 다중 에이전트 아키텍처다.
Sridhar Mahadevan
대형 언어 모델이 텍스트에서 추출한 지역적 인과 관계를 지속적이고 탐색 가능한 세계 모델로 조직화하는 PROMETHEUS 프레임워크를 소개했다. 문헌 검색과 데이터 분석을 통합해 복잡한 인과 관계를 자동으로 발견하고 구조화할 수 있어, 과학 연구의 효율성을 크게 향상시킬 수 있다.