概要
Ercan Ermis、シニアクラウドプラットフォームエンジニア。プロダクションシステムからのAI、LLM、エージェント、応用機械学習に関するフィールドノート。
Ercan Ermisです。オランダを拠点とするシニアクラウドプラットフォームエンジニアです。AI、LLM、エージェント、そしてそれらを本番環境に投入するために必要なエンジニアリング作業について書いています。
ここに至るまで
人生で最初のコンピュータは、Floppy AとFloppy Bという5.25インチのフロッピードライブを2基搭載したAmstradでした。1986年に父が事業のために買ったものです。本当の意味で恋に落ちたのは1998年、小学4年生のときでした。学校のコンピュータ室にあったWindows 95のマシンの1台に、先生がLinuxをインストールして「これはLinuxといって、フリーソフトウェアだよ」と言ったのです。そして黒い画面にPac-Manが現れた瞬間、私はもう抜け出せませんでした。
なぜこれは動くのか。実際にはどうやって動いているのか。他に何ができるのか。どうすれば違うやり方でやらせられるのか。30年以上経った今も、私はこの4つの問いを繰り返し、キーボードの前に座り続けています。コンピュータの前で過ごす時間は、今も昔も私が最も心地よく、最も穏やかでいられる場所です。このサイトのAIに関する仕事は、同じ好奇心が新しいプリミティブの上で続いているだけのことです。
このサイトの投稿は、スライドではなく実際のプロダクションシステムとサイドプロジェクトから来ています。OpenSearch Serverlessから移行してBedrock Knowledge Baseのコストを90%削減した話。re:Inventで発表されたエージェント指向プリミティブ。Kiroが開発ループにもたらす変化。S3 Vectorsの背後にあるパターン。各投稿は、実際に作業を行った時の様子を、数字と失敗モードと共に示しています。
このサイトの位置づけ
AIは速く動きます。ハイプ層はさらに速く動きます。私は、埋め込みが何かを既に知っていて、LLM呼び出しを本番環境にデプロイした経験があり、ローンチ基調講演には含まれなかったトレードオフ、コスト数値、失敗モードを知りたいエンジニアのために書いています。
バイアスは以下に向かっています:
- 合成ベンチマークではなく、実際のワークロードからの実数。
- コスト意識のあるパターン。トークン消費、ベクトルストレージ、推論レイテンシはすべて重要です。
- 正直な失敗モード分析。スケールで何が壊れるか。月曜日を生き残れないものは何か。
- AIに適用されるエンジニアリング衛生。同じレビュー、同じ可観測性、同じ爆発半径思考。
資格とコミュニティ
- 7年以上のAWS経験を持つシニアクラウドプラットフォームエンジニア。
- AWS Certified Solutions Architect, Associate。
- 2022年からAWS Community Builder。
- Claude Community NLのロッテルダムチャプターオーガナイザー。meetup.com/claude-rotterdamでロッテルダムのミートアップをフォローしてください。初回イベントは近日開催予定です。
- Izmir Yazilim Agi創設者(1,239名のメンバー、57回のイベント)。
姉妹サイト
厳選されたAIニュース、リンク、意見付き速報については**news.ercan.ai**をご覧ください。このサイト(ercan.ai)は長文形式のフィールドノート用で、news.ercan.aiは短文形式のフィードです。
その他の執筆
- クラウドおよびプラットフォームエンジニアリングのフィールドノート: ercan.cloud
- 個人ハブ、概要とお問い合わせ: ercanermis.com
コンサルティングとアドバイザリー
少数のAIおよび応用MLコンサルティング案件を引き受けています。この仕事が好きです。実際のプロダクション制約の中に身を置くことができ、そこから有用なパターンが生まれます。
チームとの協働方法:
- AI/MLプラットフォームアドバイザリー。 チームがプロトタイプ段階を超えて、LLMワークロードのためのコスト意識のある安全な基盤を必要としています。Bedrock、SageMaker、ベクトルストレージ、推論ルーティング、ガードレール。アーキテクチャとその周りの運用モデルの設計を支援します。
- プロジェクトベースの構築。 出荷が必要な特定のAI機能やパイプラインがあります。チームと共に構築し、所有権を移管し、来四半期に再発見することのないよう失敗モードを文書化します。
- AIワークロードのAWSコスト最適化。 Bedrock Knowledge Base、OpenSearch Serverless、プロビジョニング済みスループット。ほとんどのチームは価格モデルが直感的でないため60〜90%過払いしています。無駄を見つけ、スタックを再構築し、コストダッシュボードを引き渡します。
問題がAIより広い範囲に及ぶ場合のために、私がコンサルティングを行う領域の全体像も挙げておきます:AWS、クラウドアーキテクチャ、CI/CDパイプライン、Linux、GitHubおよびGitLabツーリング、TerraformとTerragrunt、KubernetesとEKS、可観測性、コスト最適化、移行、そしてそれら全体を支えるプラットフォームエンジニアリングの運用モデル。AIワークロードはこのスタックの上に乗っており、実際には2つではなく1つの案件として扱うことになります。
小規模で集中的な案件です。構築中のものがこのサイトのトピックと重なるなら、LinkedInでご連絡ください。何を出荷しようとしているのか、ボトルネックがどのようなものか教えてください。