EKS LLM 서빙 콜드스타트 428초에서 226초로 - 단계별 실측이 고른 레버 4개EKS LLM Serving Cold Start from 428s to 226s - Four Levers Chosen by Stage-by-Stage Measurement
31B급 LLM을 vLLM으로 서빙할 때 콜드스타트를 노드, 이미지, 가중치, 컴파일 4구간으로 분해하고 레버를 하나씩 쌓아 같은 g7e 환경에서 재실측했습니다. runai_streamer S3 직결, torch.compile 캐시의 hostPath 영속화와 S3 프리로드, sleep/wake로 콜드 428초에서 226초, 웜 재기동 314초에서 133초, 유휴 복귀 0.97초에 이른 근거와 성립 조건을 정리합니다.Serving a 31B LLM with vLLM on EKS, we split the cold start into node, image, weights, and compile segments and re-measured each lever in the same g7e environment. Direct-to-S3 loading with runai_streamer, torch.compile cache persistence on hostPath plus S3 preload, and sleep/wake take the cold start from 428s to 226s, warm restarts from 314s to 133s, and idle recovery to 0.97s - with the evidence and the conditions under which each lever holds.
Amazon ECS 실행 구조와 선택 기준 - 컴퓨트, 배포, 네트워크Amazon ECS Execution Structure and Selection Criteria - Compute, Deployment, and Networking
가장 중요한 변화부터: launch type은 이제 호환성 선언용이고 실제 실행은 capacity provider가 권고 경로입니다. ECS Managed Instances가 채우는 Fargate와 EC2 사이, Express Mode, 3종에서 6종이 된 배포 전략, 네트워크 모드와 IPv6-only 제약까지 2026-08 기준으로 전부 정리합니다.The biggest shift first: launch types are now compatibility declarations, and capacity providers are the recommended execution path. ECS Managed Instances filling the gap between Fargate and EC2, Express Mode, deployment strategies grown from 3 to 6, network modes, and IPv6-only constraints - all as of 2026-08.
Amazon EC2 Nitro V6 인스턴스의 TCP 연결 추적 유휴 타임아웃 변경 이해하고 대응하기Understanding and Responding to the TCP Connection Tracking Idle Timeout Change on Amazon EC2 Nitro V6 Instances
Nitro V6 인스턴스부터 보안 그룹 연결 추적의 TCP established 유휴 타임아웃 기본값이 432,000초(5일)에서 350초로 단축 - silent drop 메커니즘, 의도하지 않은 세대 이관 리스크, TCP keepalive 중심의 대응과 탐지/모니터링 가이드.Starting with Nitro V6 instances, the default TCP established idle timeout for security group connection tracking drops from 432,000 seconds (5 days) to 350 seconds - the silent drop mechanism, unintended generation migration risk, and a TCP keepalive-centered response and monitoring guide.
AWS Lambda의 4가지 실행 모델 - 구조와 선택 기준The Four AWS Lambda Execution Models - Structure and Selection Criteria
Lambda는 이제 단일 서비스가 아니라 실행 모델 4종(Functions, Managed Instances, Durable Functions, MicroVMs)의 묶음입니다. 실행 단위·지속 시간·격리·상태 유지가 어떻게 다른지, 기본 함수의 설정 축과 한도까지 공식 문서 기준으로 전부 정리합니다.Lambda is no longer a single service but a bundle of four compute primitives - Functions, Managed Instances, Durable Functions, and MicroVMs. How they differ in execution unit, duration, isolation, and state, plus every configuration axis and quota of classic functions, all grounded in the official docs.
Claude Code 토큰 절약 가이드Claude Code Token-Saving Guide
Claude Code의 토큰은 어디서 쓰이고 어떻게 줄일까요? /usage와 /context로 측정하는 법부터 컨텍스트 정리 3종, 모델·사고 깊이 선택, MCP 오버헤드, 캐시 경제학(읽기 0.1배), 구독·Console·Bedrock별 비용 관리까지 공식 문서 기준으로 정리했습니다.Where do Claude Code tokens go, and how do you cut them? From measuring with /usage and /context to the three context-clearing tools, model and effort choices, MCP overhead, cache economics (0.1x reads), and cost management across subscription, Console, and Bedrock - all grounded in the official docs.
App Mesh에서 VPC Lattice로 - EOL 5주 앞의 실측 마이그레이션From App Mesh to VPC Lattice - A Hands-On Migration 5 Weeks Before EOL
App Mesh EOL(2026-09-30)을 앞두고 EKS 1.33에서 Envoy 사이드카 메시를 VPC Lattice + SigV4로 전환한 전 단계 실측 기록입니다. 최대 함정인 Cloud Map TTL발 DNS stale(실패 구간 4.5~5분 → 36초), mTLS 대체 범위, 평문 TCP의 한계까지 다룹니다.A full hands-on migration from App Mesh (Envoy sidecars) to VPC Lattice + SigV4 on EKS 1.33, ahead of the 2026-09-30 EOL. Covers the biggest trap - Cloud Map TTL DNS staleness (4.5-5 min of failures cut to 36 s) - plus how far SigV4 replaces mTLS and where plain TCP hits the wall.
EKS 컨트롤 플레인 파라미터가 열렸다 - Advanced Control Plane Configuration 분석EKS Control Plane Parameters Are Now Open - An Analysis of Advanced Control Plane Configuration
EKS가 2026-08-12부터 관리형 컨트롤 플레인의 파라미터 4종(스케줄러 scoringStrategy, HPA syncPeriod, eventTtl, serviceNodePortRange)을 개방했습니다. 파라미터별 조정 가치와 함정, 운영 규칙을 공식 문서 기준으로 분석합니다.Starting 2026-08-12, EKS opens four managed control plane parameters - scheduler scoringStrategy, HPA syncPeriod, eventTtl, and serviceNodePortRange. When each is worth tuning, the traps, and the operational rules, analyzed from the official docs.
EC2에 애플리케이션 계층 상태 검사가 생겼다 - Application Status Checks 실측 검증EC2 Now Checks the Application Layer - Application Status Checks, Verified Hands-On
2026-08-10 출시된 EC2 Application Status Checks를 테스트 ASG에 장애를 주입해 실측했습니다. 감지부터 자동 교체까지 5분 10초, 완전 복구 약 8.5분 - 기능 소개, 테스트 방법, 문서와 다르거나 문서에 없는 지점 6건을 정리합니다.Hands-on verification of EC2 Application Status Checks (launched 2026-08-10) by injecting failures into a test ASG. Detection to automatic replacement in 5m 10s, full recovery in about 8.5 minutes - the feature, the test method, and 6 gaps between docs and measurement.
AWS Network Firewall 컨테이너 속성 기반 규칙 실측 검증AWS Network Firewall Container Attribute-Based Rules: Hands-On Verification
EKS와 ECS 두 트랙에 container association을 직접 만들어 허용/차단 12개 케이스와 IP set 전파 지연을 실측하고, 공식 문서가 답하지 않은 커스텀 속성 필터 지원 여부와 서비스 내부 동작 경로를 확인합니다.Hands-on verification of container attribute-based rules on both EKS and ECS - 12 allow/block cases, measured IP set propagation delays, and answers the docs don't give about custom attribute filters and the service's internal behavior.
tui-aws - 22개 뷰와 로컬 연결성 검사기를 갖춘 AWS 터미널 UItui-aws - An AWS Terminal UI with 22 Views and a Local Connectivity Checker
AWS 인프라 전체를 22개 뷰로 다루는 단일 바이너리 터미널 UI - SG+Route+NACL 5단계 로컬 연결성 검사, SSM/ECS Exec 세션 위임, EKS REST 직접 호출을 코드 기준으로 분석합니다.A single-binary terminal UI covering all of AWS infrastructure in 22 views - a code-level analysis of the 5-step local SG+Route+NACL connectivity check, SSM/ECS Exec session delegation, and direct EKS REST calls.
GPU Spot Lotto - 멀티 리전 GPU Spot 가격 모니터링과 워크로드 디스패치GPU Spot Lotto - Multi-Region GPU Spot Price Monitoring and Workload Dispatch
서울 컨트롤 플레인이 3개 US 리전의 GPU Spot 가격을 60초 주기로 감시하고 최저가 리전 EKS로 작업을 디스패치하는 시스템 - Hub-and-Spoke 스토리지, Strands 에이전트 인터페이스를 코드 기준으로 분석합니다.A system where a Seoul control plane watches GPU Spot prices across 3 US regions every 60 seconds and dispatches jobs to the cheapest region's EKS - a code-based analysis of the Hub-and-Spoke storage and the Strands agent interface.
project-init - Claude Code 하네스 엔지니어링 자동화 플러그인project-init - A Claude Code Harness Engineering Automation Plugin
CLAUDE.md, 훅, 스킬, 에이전트를 수동으로 구성하는 비용을 없애는 플러그인 - 9개 커맨드, 품질 점수 0-100, 4-layer 문서 자동 동기화, 시크릿 스캔 17개 패턴의 구조를 저장소 소스 기준으로 분석합니다.A plugin that removes the cost of manually configuring CLAUDE.md, hooks, skills, and agents - a source-level analysis of its 9 commands, 0-100 quality scoring, 4-layer documentation auto-sync, and 17-pattern secret scan.
ontology-for-retail - 리테일/CPG 지식그래프 PoC 아키텍처ontology-for-retail - Retail/CPG Knowledge Graph PoC Architecture
한국 리테일/CPG 도메인 온톨로지 위에서 Bedrock, AgentCore, Neptune, OpenSearch가 13개 시나리오를 구동하는 PoC - 하이브리드 검색과 rerank, 멀티턴 에이전트 메모리를 코드 기준으로 분석합니다.A PoC where Bedrock, AgentCore, Neptune, and OpenSearch drive 13 scenarios on top of a Korean retail/CPG domain ontology - analyzing hybrid search with rerank and multi-turn agent memory, grounded in the code.
ontology-for-mfg - 하이테크 제조 온톨로지 PoC 아키텍처ontology-for-mfg - High-Tech Manufacturing Ontology PoC Architecture
22클래스 제조 온톨로지(BOM 4계층, 표준/규제, 품질 사슬) 위에서 Bedrock 에이전트가 12개 시나리오를 구동하는 PoC - 도구 5종, 하이브리드 검색, 페르소나 프레이밍을 코드 기준으로 분석합니다.A PoC where a Bedrock agent drives 12 scenarios on top of a 22-class manufacturing ontology (4-level BOM, standards/regulations, quality chain) - analyzing the 5 tools, hybrid search, and persona framing straight from the code.
ontology-for-assembly - 국회 데이터 기반 뉴스룸 Agentic AI PoContology-for-assembly - A Newsroom Agentic AI PoC on National Assembly Data
국회 열린데이터광장 실데이터 위에 31클래스 온톨로지와 23개 시나리오를 구축한 언론사 Agentic AI PoC - Chatbot/Agent/Agentic AI 3단계 진화 비교와 광고 매칭 거버넌스를 코드 기준으로 분석합니다.A newsroom Agentic AI PoC that builds a 31-class ontology and 23 scenarios on real National Assembly Open Data Portal data - a code-level analysis of the Chatbot/Agent/Agentic AI three-stage evolution comparison and ad-matching governance.
Amazon Bedrock LLM Monitor - 37개 LLM 채널 상시 계측 플랫폼Amazon Bedrock LLM Monitor - An Always-On Measurement Platform for 37 LLM Channels
Bedrock, Anthropic CP on AWS, OpenAI Mantle에 걸친 37개 LLM 채널을 5분 주기로 상시 계측하는 플랫폼 - 패리티 스윕의 실행 증거 방식, 측정 지표 정의, 8개 CDK 스택 구조를 코드 기준으로 분석합니다.A platform that continuously measures 37 LLM channels across Bedrock, Anthropic CP on AWS, and OpenAI Mantle on a 5-minute cadence - a code-level analysis of the parity sweep's execution-evidence approach, the metric definitions, and the 8-stack CDK architecture.
harness-eval - 하네스 품질을 점수로 만드는 3단계 평가 플러그인harness-eval - A 3-Tier Evaluation Plugin That Turns Harness Quality into a Score
Claude Code 하네스 품질을 Quick/Standard/Full 3단계로 평가하는 플러그인 - 12차원 점수 체계, 5개 에이전트 병렬 리뷰, 이력 추적과 등급 배지의 동작 원리를 저장소 소스 기준으로 분석합니다.A plugin that evaluates Claude Code harness quality in three tiers (Quick/Standard/Full) - how its 12-dimension scoring model, 5-agent parallel review, history tracking, and grade badges work, analyzed from the repository source.
Claude Sonnet 5 한글 출력 무결성 조사 - 1,200런 통제 실험Claude Sonnet 5 Korean Output Integrity Investigation - A 1,200-Run Controlled Experiment
Claude Code에서 관찰된 한글 음절 손상의 근본 원인을 6개 데이터셋, 1,200여 런으로 추적한 조사 - 컨텍스트 점유율 가설 기각, 유니코드 이스케이프 오기 확정, 적대적 검증 패널 방법론을 다룹니다.An investigation tracing the root cause of Hangul syllable corruption observed in Claude Code across 6 datasets and roughly 1,200 runs - rejecting the context-fill hypothesis, confirming Unicode escape miscoding, and covering the adversarial verification panel methodology.
Gemma-4-31B vLLM 서빙 PoC 벤치마크Gemma-4-31B vLLM Serving PoC Benchmark
Gemma-4-31B를 EKS와 Karpenter 위 vLLM으로 서빙하며 처리량, 기동 시간, 한국어 수용률을 측정한 PoC. L40S 기준선 28조합부터 g7e 본판정(3.5~4.8배)까지 실측치를 정리합니다.A PoC serving Gemma-4-31B with vLLM on EKS and Karpenter, measuring throughput, startup time, and Korean acceptance rate. It walks through the measured numbers from the 28-combination L40S baseline to the g7e final verdict (3.5-4.8x).
ecs9s - AWS ECS 운영을 위한 키보드 중심 터미널 UIecs9s - A Keyboard-Driven Terminal UI for AWS ECS Operations
k9s에서 영감을 받은 ECS 터미널 UI - 21개 리소스 뷰, 드릴다운 내비게이션, ECS Exec 사전 검증, 실제 배선된 운영 액션을 코드 기준으로 분석합니다.An ECS terminal UI inspired by k9s - a code-level analysis of its 21 resource views, drill-down navigation, ECS Exec preflight validation, and the operational actions that are actually wired.
claude-code-dashboard - Claude Code 엔터프라이즈 분석 대시보드claude-code-dashboard - A Claude Code Enterprise Analytics Dashboard
조직 단위 Claude Code 도입의 engagement, 생산성, 비용, 감사를 측정하는 대시보드 - 데이터 파이프라인, 대표 메트릭 산식, AI 질의 레이어, 프라이버시 처리를 코드 기준으로 분석합니다.A dashboard that measures organization-wide Claude Code adoption across engagement, productivity, cost, and audit - a code-based analysis of the data pipeline, key metric formulas, the AI query layer, and privacy handling.
Claude Code Advisor 구성 비용 분석Claude Code Advisor Cost Analysis
Sonnet 5 + Opus 5 advisor vs Opus 5 고정 - 같은 과제를 실측한 토큰 비용 비교와 손익분기 분석. advisor 비용의 본체는 응답이 아니라 uncached input입니다.Sonnet 5 + Opus 5 advisor vs fixed Opus 5 - a measured token-cost comparison and break-even analysis of the same tasks. The bulk of advisor cost is uncached input, not the response.
MCP Tool Forge - MCP 도구를 코드로 변환하는 CLIMCP Tool Forge - A CLI That Converts MCP Tools into Code
MCP 서버 도구를 boto3, AWS CLI, OpenAPI, AgentCore Gateway, Skill 5가지 형식으로 변환하는 Python CLI - MCP 토큰 비용 문제와 해법.A Python CLI that converts MCP server tools into five formats - boto3, AWS CLI, OpenAPI, AgentCore Gateway, and Skill - covering the MCP token cost problem and its remedy.