AI, LLMs, and applied ML.
Ercan Ermis의 AI, LLM, 에이전트 및 응용 머신러닝에 관한 시니어 엔지니어 필드 노트.
All posts
모델로 가는 하나의 문, 2부. Terraform인가, Bicep인가, ARM인가
Bicep은 state file이 없고 Entra ID를 만들지 못한다. 2부는 게이트웨이의 IaC 레이어를 고르고, 프로덕션을 스스로 업그레이드하는 모델 버전 기본값을 끈다.
모델로 가는 하나의 문, 1부. 중앙 LLM 게이트웨이를 세워야 하는 이유
한 회사가 GenAI 앱 5개를 운영하면서 각각의 비용을 말하지 못한다. 1부는 시나리오와 Azure에서의 구축 대 구매, 이 시리즈가 만들 게이트웨이를 다룬다.
온콜 에이전트, 8부. 프로덕션: 옵저버빌리티, 평가, 그리고 거짓말하는 날
CloudWatch로 가는 OTEL 트레이스, S3로의 Bedrock 호출 로깅, 골든 인시던트 세트의 평가 하네스, 트리아지 에이전트가 확신에 차 거짓말한 날.
하이프 이후의 Kiro: AI IDE가 실제로 바꾼 것
Kiro GA 8개월 후, 스펙은 살아남았고 IDE는 대부분 살아남지 못했다. 실제로 바뀐 것은 코드 작성자가 아니라 검토가 일어나는 지점이다.
당신의 AI 파일럿이 구매 절차에서 죽은 이유
대부분의 AI 파일럿은 정확도가 아니라 보안 검토와 데이터 처리 계약에서 멈춘다. 이어질 12주를 아무도 일정에 넣지 않아서다.
추론 프로파일로 앱 단위 Bedrock 비용 추적하기
애플리케이션 추론 프로파일은 Bedrock 호출에 비용 배분 태그를 붙여 공용 청구서를 팀별 항목으로 나눈다. 어려운 부분은 태그 설계다.
온콜 에이전트, 7부. 사이징: 아무도 미리 하지 않는 토큰 계산
아무도 미리 하지 않는 사이징 계산. 인시던트당 토큰, 쿼터 상한, Provisioned Throughput의 손익분기점, 플랫폼의 월 청구서까지 짚는다.
EU AI Act, 8월 2일: 밀리지 않은 마감일
디지털 옴니버스는 고위험 마감일을 2027년과 2028년으로 미뤘다. 제50조 투명성 의무는 그대로 2026년 8월 2일 발효된다.
SageMaker vs Bedrock: 기술적 결정이 아니라 조직적 결정
SageMaker냐 Bedrock이냐는 결국 모델을 소유하는 팀이 조직에 있는지를 묻는 질문이다. 슬라이드가 아니라 실제 팀 구조에 맞춰 선택하라.
당신의 문서를 통한 프롬프트 인젝션: RAG의 공격 표면
지식 베이스는 신뢰할 수 없는 입력이다. 검색은 공격자가 작성한 텍스트를 모델에 그대로 전달하므로, 통제는 수집 시점의 스캔이 핵심이다.
Ercan의 다른 글
같은 저자, 다른 영역의 사이트 두 개.