AI 에이전트, 프롬프트 인젝션 방어 수단 비교 실험… 도구 수 줄이는 것이 더 효과적
Towards AITowards AI가 발표한 연구에 따르면, AI 에이전트의 프롬프트 인젝션 공격 방어 방법으로 '도구 수 줄이기'와 '인젝션 탐지기 사용' 두 가지를 실험 비교했다. 도구 수를 줄인 경우 에이전트가 정상 작업의 73%를 올바르게 수행한 반면, 탐지기를 사용한 경우에는 41%에 그쳤다. 두 방어 수단 모두 대부분의 공격을 차단했지만, 정상 기능 유지 측면에서 도구 수 제한이 훨씬 효율적인 것으로 나타났다. 이는 에이전트 설계 시 최소 권한 원칙(principle of least privilege)이 보안뿐 아니라 실용성 측면에서도 유리함을 실증한 결과다.
agentsafetyllm
AI 에이전트 대상 REST API vs 에이전트 특화 API vs MCP 서버 실전 비교
Towards AITowards AI의 실험 리뷰에서 AI 에이전트와의 연동을 위한 세 가지 API 방식—기존 REST API, 에이전트 특화(agent-ready) API, MCP(Model Context Protocol) 서버—을 실제 에이전트를 대상으로 직접 테스트해 비교했다. 각 방식의 응답 구조, 에이전트 친화성, 오류 처리 방식 등에서 유의미한 차이가 발견됐다. 특히 MCP 서버와 에이전트 특화 API는 에이전트가 맥락을 이해하고 다단계 작업을 수행하는 데 있어 일반 REST API보다 크게 유리한 것으로 나타났다. 에이전트를 외부 서비스와 연결하는 백엔드 개발자에게 실질적인 설계 기준을 제공하는 내용이다.
agentmlopsllm
NVIDIA 모델 최적화 라이브러리 'Model-Optimizer', 오늘 GitHub 트렌딩 상위권 진입
GitHub / NVIDIANVIDIA가 공개한 오픈소스 라이브러리 'Model-Optimizer'가 오늘 GitHub 트렌딩에서 357개의 신규 스타를 기록하며 주목받고 있다. 이 라이브러리는 양자화(quantization), 지식 증류(distillation), 가지치기(pruning), 신경망 구조 탐색(NAS), 추측적 디코딩(speculative decoding) 등 최신 모델 최적화 기법을 하나의 통합 인터페이스로 제공한다. 최적화된 모델은 TensorRT-LLM, TensorRT, vLLM 등 주요 추론 프레임워크로 바로 배포할 수 있도록 설계됐다. 추론 속도 최적화와 엣지 배포에 관심 있는 개발자들에게 즉시 활용 가능한 종합 툴킷이다.
quantizationinferencenvidia
무료 하드웨어로 파인튜닝부터 양자화까지: 실전 가능성 검증 실험
Towards AITowards AI에 게재된 실험 보고서에서 Google Colab 무료 티어 등 비용 없이 사용 가능한 GPU 환경에서 LLM 파인튜닝부터 양자화까지 전 과정을 실제로 수행하고 그 결과를 검증했다. 이 실험은 고가의 GPU 클러스터 없이도 의미 있는 모델 커스터마이징이 가능한지를 측정하는 데 초점을 맞췄다. 무료 하드웨어의 한계와 가능성을 구체적인 수치와 함께 제시하여, 리소스가 제한된 개발자나 연구자에게 실용적인 로드맵을 제공한다. 파인튜닝 기법과 양자화 적용 순서, 메모리 관리 전략 등 실무 팁도 포함됐다.
fine-tuningquantizationtraining
AI가 모든 숙제를 해결하자, 교수가 교육 방식을 바꾼 실제 경험담
Substack / Hacker News한 소프트웨어 엔지니어링 강사가 AI가 자신의 모든 과제를 완벽히 해결할 수 있게 되자 수업 방식을 전면 재설계한 과정을 상세히 공개했다. 기존의 코딩 과제 중심 평가 방식이 AI 시대에는 학습 효과를 측정하는 도구로서 의미를 잃었다는 판단 아래, 실시간 구두 발표, 코드 리뷰 토론, 과정 설명을 강조하는 방식으로 전환했다. 이 글은 Hacker News에서 200점 이상을 기록하며 교육자와 개발자 커뮤니티 모두에서 큰 공감을 얻었다. AI 시대의 교육 방식 변화에 대한 실질적이고 구체적인 사례로 많은 토론을 촉발시켰다.
llmcode-gen