مسئله را از معماری شروع کنیم
Recording rule یک PromQL expression را دوره‌ای ارزیابی و نتیجه را به‌عنوان time series تازه ذخیره می‌کند. این کار queryهای تکراری و aggregationهای پرهزینه را از زمان dashboard/alert به مرحلهٔ محاسبهٔ منظم منتقل می‌کند.
موضوع‌های زیرساختی زمانی قابل اتکا می‌شوند که مدل ذهنی قبل از command شکل بگیرد. componentها، state پایدار، state runtime، مرز اعتماد و dependency بیرونی را روی یک نقشهٔ ساده مشخص کنید. وقتی failure رخ می‌دهد، از ورودی به خروجی حرکت کنید و در هر مرز evidence جمع کنید؛ log، metric، API state و packet capture باید یک timeline مشترک بسازند.
روش عملی پیاده‌سازی
Rule را با naming convention روشن بسازید، labelهای لازم را حفظ کنید و evaluation interval را از نیاز freshness استخراج کنید. promtool test rules و unit test fixture را در CI نگه دارید.
برای Production همیشه baseline، canary و rollback داشته باشید. baseline شامل نسخه، config مؤثر، latency یا throughput اصلی و یک test end-to-end سالم است. بعد از تغییر، test مثبت و منفی را تکرار کنید و نتیجه را با همان baseline مقایسه کنید. اگر success criterion از قبل نوشته نشده باشد، هر نتیجه‌ای را می‌توان موفق تفسیر کرد.
ریسک‌ها و خطاهای رایج
Aggregation زودهنگام می‌تواند dimension لازم برای troubleshooting را حذف کند. label cardinality بالا نیز با recording rule تکثیر می‌شود. rule اشتباه اگر مبنای alert باشد خطای محاسباتی را به تصمیم عملیاتی تبدیل می‌کند.
امنیت عملیاتی یعنی کنترل قابل توضیح و قابل مشاهده. permission، token، secret، network path و audit trail را جدا بررسی کنید. exceptionها باید owner و expiry داشته باشند. اگر کنترل فقط روی کاغذ وجود دارد ولی اثر آن در runtime قابل اثبات نیست، در زمان incident به‌جای کمک به مانع تبدیل می‌شود.
آزمایشگاه پیشنهادی
یک query سنگین dashboard را baseline بگیرید، recording rule معادل بسازید و latency/query load را مقایسه کنید. سپس fixture تغییر یافته را با promtool تست کنید.
در Lab یک failure کنترل‌شده هم ایجاد کنید. هدف فقط اثبات happy path نیست؛ باید ببینید alert، log و recovery هنگام خرابی چه رفتاری دارند و آیا تیم می‌تواند بدون حدس علت را پیدا کند.
عیب‌یابی بر اساس Evidence
ابتدا مشخص کنید آخرین مرحله‌ای که رفتار صحیح دیده می‌شود کجاست. سپس فقط یک مرز جلو بروید. اگر request وارد component می‌شود اما state خروجی ساخته نمی‌شود، مسئله در همان component یا dependencyهای نزدیک آن است. تغییر هم‌زمان چند config دامنهٔ مسئله را بزرگ می‌کند.
امنیت و Least Privilege
دسترسی‌ها را براساس operation واقعی workload بدهید، نه براساس راحتی troubleshooting. credentialها را کوتاه‌عمر و قابل revoke نگه دارید، مسیرهای مدیریتی را از data plane جدا کنید و audit را طوری بسازید که بتوانید actor و زمان تغییر را بازسازی کنید.
Performance و ظرفیت
Average به‌تنهایی کافی نیست. p95/p99، saturation، queue depth، retry و resource pressure را ثبت کنید. workload واقعی ممکن است bottleneck متفاوتی از Lab کوچک نشان دهد؛ بنابراین rollout را مرحله‌ای کنید و ظرفیت را با margin طراحی کنید.
Production readiness
owner، blast radius، change window، success metric و rollback trigger را قبل از rollout بنویسید. dependency خارجی را عمداً unavailable کنید، restart واقعی و credential rotation را تست کنید و بعد از deploy چند روز دوباره metric و ticketها را مرور کنید.
Runbook و انتقال دانش
Runbook خوب فقط command نیست. سؤال، فرضیه، evidence مورد انتظار، نتیجه و دلیل تصمیم را ثبت کنید. نفر دیگری باید بتواند با همان ورودی آزمایش را تکرار کند، failure را بازتولید و recovery را انجام دهد. این معیار ساده کیفیت واقعی documentation را نشان می‌دهد.
نگهداری بلندمدت
نسخه، policy، certificate، endpoint و حجم workload تغییر می‌کنند. برای همین review دوره‌ای تعریف کنید: نسخهٔ پشتیبانی‌نشده، exception قدیمی، alert بی‌ارزش و drift را پیدا کنید. recovery را دوباره تمرین کنید و تاریخ review را در مستندات بنویسید.
تصمیم Production را با چه شواهدی بگیریم؟
قبل از اینکه نتیجهٔ Lab را به Production ببرید، یک change record کوتاه بسازید: مسئله‌ای که قرار است حل شود، وضعیت baseline، نسخه و config فعلی، dependencyهای درگیر، owner تغییر و دقیقاً چه metricی موفقیت را ثابت می‌کند. سپس یک canary انتخاب کنید که از نظر workload واقعی باشد اما blast radius محدودی داشته باشد. بعد از اعمال تغییر، فقط دنبال نبودن error نباشید؛ latency، throughput، queue، retry، saturation و تجربهٔ کاربر را با baseline مقایسه کنید. اگر feature امنیتی است، یک test منفی اجرا کنید تا مطمئن شوید مسیر غیرمجاز واقعاً بسته شده است. اگر feature availability است، dependency یا node را عمداً از دسترس خارج کنید و recovery واقعی را ببینید. تصمیم rollout باید براساس این evidence باشد، نه براساس اینکه dashboard سبز است یا command بدون خطا اجرا شده. هر rollout یک trigger صریح برای توقف و rollback داشته باشد. اگر نتیجه مبهم است، بهترین تصمیم معمولاً بزرگ‌تر نکردن دامنه و جمع‌کردن evidence بیشتر است.
ظرفیت، Failure Domain و Recovery
سیستم در حالت سالم فقط نیمی از داستان است. مشخص کنید failure domain واقعی چیست: process، node، rack، zone، storage backend، network path یا provider. اگر چند replica دارید ولی همه روی یک failure domain هستند، redundancy ظاهری دارید نه availability واقعی. برای capacity نیز فقط مصرف فعلی CPU و RAM را نبینید؛ رشد داده، burst، compaction، retry storm و recovery traffic می‌توانند در زمان incident چند برابر حالت عادی منابع بخواهند. RPO و RTO را به عدد تبدیل کنید و recovery را با stopwatch واقعی آزمایش کنید. اگر restore یا failover فقط در سند نوشته شده ولی هیچ‌وقت اجرا نشده، هنوز قابلیت اثبات‌شده‌ای نیست. بعد از هر incident یا تمرین recovery، runbook و thresholdها را بازبینی کنید تا درس واقعی وارد سیستم شود.
Operational Ownership و چرخهٔ تغییر
هر component باید owner مشخص داشته باشد. owner فقط کسی نیست که deploy می‌کند؛ باید بداند alert به چه معناست، چه log یا dashboardی evidence اصلی است، dependencyها کدام‌اند و چه زمانی escalation لازم است. تغییرهای config را در version control نگه دارید، peer review کنید و در صورت امکان validation را در CI قرار دهید. برای credential و certificate، expiry و rotation را قبل از حادثه تمرین کنید. برای سرویس‌های stateful، schema/data migration را از binary rollout جدا ببینید. همچنین بعد از تغییر، یک بازهٔ observation تعریف کنید؛ بعضی failureها فقط پس از restart دوم، rotation token، compaction، cron job یا load واقعی ظاهر می‌شوند. Production readiness یک checkbox لحظه‌ای نیست؛ چرخه‌ای از deploy، observe، learn و اصلاح است.
سناریوی Incident و Recovery
یک سناریوی خرابی واقعی برای همین موضوع طراحی کنید و قبل از وقوع حادثه آن را تمرین کنید. ابتدا شرایط شروع را ثبت کنید: چه سرویس‌هایی سالم‌اند، چه dependencyهایی در دسترس‌اند، چه metric و logی baseline محسوب می‌شود و کاربر چه رفتاری می‌بیند. سپس فقط یک failure ایجاد کنید؛ مثلاً node را از دسترس خارج کنید، credential را revoke کنید، backend را کند کنید یا config ناسازگار deploy کنید. زمان کشف، زمان تشخیص، زمان تصمیم و زمان بازیابی را جدا ثبت کنید. بعد بررسی کنید آیا alert واقعاً actionable بوده یا فقط noise تولید کرده است. آیا log کافی برای یافتن root cause داشتید؟ آیا rollback به state قبلی برگشت یا state/data جدید مانع شد؟ آیا نفر دیگری غیر از سازندهٔ سیستم توانست runbook را اجرا کند؟ در پایان post-incident کوتاهی بنویسید که شامل علت فنی، ضعف فرایند، اقدام اصلاحی و owner باشد. هدف تمرین پیدا کردن مقصر نیست؛ هدف این است که failure بعدی ارزان‌تر، قابل مشاهده‌تر و سریع‌تر قابل بازیابی باشد. همین تمرین ساده معمولاً شکاف‌هایی را نشان می‌دهد که در review معماری یا dashboard سالم دیده نمی‌شوند.
جمع‌بندی IROSG
در موضوع بهینه‌سازی query و طراحی metric مشتق‌شده با Prometheus recording rules هدف حفظ چند دستور نیست؛ هدف ساختن مدل ذهنی و evidence است. وقتی معماری را بفهمید و rollout قابل برگشت داشته باشید، ابزار یا نسخه می‌تواند عوض شود اما روش حل مسئله باقی می‌ماند. مرجع اصلی این مطلب مستندات Prometheus است.
چک‌لیست سریع
- مسئله را در یک جمله تعریف کن.
- معماری و مرز اعتماد را رسم کن.
- baseline را ذخیره کن.
- test مثبت و منفی بساز.
- canary اجرا کن.
- evidence را timestampدار نگه دار.
- rollback را تمرین کن.
- نتیجه را در runbook ثبت کن.
از یک نسبت خطا تا یک rule قابل اعتماد
فرض کنید قصد دارید نسبت پاسخ‌های ناموفق یک سرویس را ذخیره کنید. ابتدا نرخ خطا و نرخ کل را در یک بازه زمانی سازگار محاسبه کنید و سپس نسبت بگیرید. جمع کردن نسبت‌های هر instance معمولاً با نسبت مجموع خطاها به مجموع درخواست‌ها یکسان نیست. نمونه‌ای با دو instance بسازید که یکی هزار درخواست و دیگری ده درخواست دارد؛ این مثال کوچک نشان می‌دهد میانگین ساده درصدها چگونه وزن واقعی ترافیک را از بین می‌برد. برای تصمیم هشدار، معنای ریاضی شاخص از کوتاه شدن query مهم‌تر است.
وقتی داده از counter می‌آید، ترتیب rate و aggregation اهمیت دارد؛ تغییر یا بازنشانی یک counter باید پیش از ترکیب مناسب تشخیص داده شود. سپس تصمیم بگیرید کدام labelها برای مصرف‌کننده لازم‌اند. اگر label منطقه را حذف کنید، بعداً نمی‌توانید از سری تجمیع‌شده خرابی یک منطقه را استخراج کنید. در مقابل نگه داشتن شناسه درخواست یا کاربر می‌تواند تعداد سری‌ها را بسیار بزرگ کند. فهرست labelها را به عنوان بخشی از قرارداد metric مرور کنید.
غیبت داده با مقدار صفر فرق دارد
اگر target از دسترس خارج شود، ممکن است نتیجه expression غایب شود؛ این با مشاهده نرخ خطای صفر تفاوت دارد. آزمون rule باید حالت داده عادی، نبود نمونه، بازنشانی counter و مخرج صفر را پوشش دهد. یک dashboard که جای داده غایب عدد صفر می‌گذارد می‌تواند احساس سلامت کاذب ایجاد کند. تصمیم نمایش و تصمیم هشدار را صریح بنویسید و برای غیبت داده نیز مسیر پایش جدا داشته باشید.
در نام metric مشتق‌شده، سطح تجمیع و معنای مقدار را روشن کنید. تغییر فرمول زیر یک نام قدیمی باعث می‌شود تاریخچه قبل و بعد معنای یکسانی نداشته باشد. اگر تعریف به شکل اساسی عوض شد، نام جدید و دوره مهاجرت کوتاه امکان مقایسه را می‌دهد. مصرف‌کنندگان را پیدا کنید؛ فقط dashboard مهم نیست، ruleهای بعدی و هشدارها نیز ممکن است به خروجی وابسته باشند. حذف شتاب‌زده سری قدیمی می‌تواند زنجیره محاسبه را بی‌صدا قطع کند.
زمان ارزیابی بخشی از کیفیت داده است
rule بسیار پرهزینه ممکن است از فاصله ارزیابی تعیین‌شده عقب بماند. زمان اجرا و خطاهای گروه rule را کنار تأخیر دریافت داده زیر نظر بگیرید. کوچک کردن فاصله ارزیابی بدون کاهش هزینه expression الزاماً تازگی بیشتری ایجاد نمی‌کند. همچنین recording rule داده تاریخی گذشته را به شکل معمول خودکار بازسازی نمی‌کند؛ شروع ذخیره سری جدید با داشتن همان سری برای ماه قبل متفاوت است. این محدودیت را هنگام تغییر نمودارهای طولانی‌مدت برای کاربران توضیح دهید.
