مسئله را از معماری شروع کنیم
journald logهای structured را از kernel، service و application جمع می‌کند و metadataهایی مثل unit، PID و boot را کنار پیام نگه می‌دارد. rsyslog می‌تواند آن‌ها را forward، filter و در مقصد مرکزی ذخیره کند.
موضوع‌های زیرساختی زمانی قابل اتکا می‌شوند که مدل ذهنی قبل از command شکل بگیرد. componentها، state پایدار، state runtime، مرز اعتماد و dependency بیرونی را روی یک نقشهٔ ساده مشخص کنید. وقتی failure رخ می‌دهد، از ورودی به خروجی حرکت کنید و در هر مرز evidence جمع کنید؛ log، metric، API state و packet capture باید یک timeline مشترک بسازند.
روش عملی پیاده‌سازی
Clock synchronization، persistent journal، retention و forwarding را صریح تنظیم کنید. در incident از boot ID و unit برای کوچک‌کردن دامنه استفاده کنید و log rotation را طوری تنظیم کنید که evidence قبل از تحلیل حذف نشود.
برای Production همیشه baseline، canary و rollback داشته باشید. baseline شامل نسخه، config مؤثر، latency یا throughput اصلی و یک test end-to-end سالم است. بعد از تغییر، test مثبت و منفی را تکرار کنید و نتیجه را با همان baseline مقایسه کنید. اگر success criterion از قبل نوشته نشده باشد، هر نتیجه‌ای را می‌توان موفق تفسیر کرد.
ریسک‌ها و خطاهای رایج
grep کردن یک فایل بدون فهم source و timestamp می‌تواند timeline ناقص بسازد. ذخیرهٔ نامحدود journal disk را پر می‌کند و forwarding بدون TLS/queue مناسب ممکن است هنگام outage log از دست بدهد.
امنیت عملیاتی یعنی کنترل قابل توضیح و قابل مشاهده. permission، token، secret، network path و audit trail را جدا بررسی کنید. exceptionها باید owner و expiry داشته باشند. اگر کنترل فقط روی کاغذ وجود دارد ولی اثر آن در runtime قابل اثبات نیست، در زمان incident به‌جای کمک به مانع تبدیل می‌شود.
آزمایشگاه پیشنهادی
یک service آزمایشی چند log با severity متفاوت تولید کند، restart شود و یک خطای controlled بسازد. journalctl را با boot/unit/time filter اجرا و همان رویداد را در مقصد rsyslog مقایسه کنید.
در Lab یک failure کنترل‌شده هم ایجاد کنید. هدف فقط اثبات happy path نیست؛ باید ببینید alert، log و recovery هنگام خرابی چه رفتاری دارند و آیا تیم می‌تواند بدون حدس علت را پیدا کند.
عیب‌یابی بر اساس Evidence
ابتدا مشخص کنید آخرین مرحله‌ای که رفتار صحیح دیده می‌شود کجاست. سپس فقط یک مرز جلو بروید. اگر request وارد component می‌شود اما state خروجی ساخته نمی‌شود، مسئله در همان component یا dependencyهای نزدیک آن است. تغییر هم‌زمان چند config دامنهٔ مسئله را بزرگ می‌کند.
امنیت و Least Privilege
دسترسی‌ها را براساس operation واقعی workload بدهید، نه براساس راحتی troubleshooting. credentialها را کوتاه‌عمر و قابل revoke نگه دارید، مسیرهای مدیریتی را از data plane جدا کنید و audit را طوری بسازید که بتوانید actor و زمان تغییر را بازسازی کنید.
Performance و ظرفیت
Average به‌تنهایی کافی نیست. p95/p99، saturation، queue depth، retry و resource pressure را ثبت کنید. workload واقعی ممکن است bottleneck متفاوتی از Lab کوچک نشان دهد؛ بنابراین rollout را مرحله‌ای کنید و ظرفیت را با margin طراحی کنید.
Production readiness
owner، blast radius، change window، success metric و rollback trigger را قبل از rollout بنویسید. dependency خارجی را عمداً unavailable کنید، restart واقعی و credential rotation را تست کنید و بعد از deploy چند روز دوباره metric و ticketها را مرور کنید.
Runbook و انتقال دانش
Runbook خوب فقط command نیست. سؤال، فرضیه، evidence مورد انتظار، نتیجه و دلیل تصمیم را ثبت کنید. نفر دیگری باید بتواند با همان ورودی آزمایش را تکرار کند، failure را بازتولید و recovery را انجام دهد. این معیار ساده کیفیت واقعی documentation را نشان می‌دهد.
نگهداری بلندمدت
نسخه، policy، certificate، endpoint و حجم workload تغییر می‌کنند. برای همین review دوره‌ای تعریف کنید: نسخهٔ پشتیبانی‌نشده، exception قدیمی، alert بی‌ارزش و drift را پیدا کنید. recovery را دوباره تمرین کنید و تاریخ review را در مستندات بنویسید.
تصمیم Production را با چه شواهدی بگیریم؟
قبل از اینکه نتیجهٔ Lab را به Production ببرید، یک change record کوتاه بسازید: مسئله‌ای که قرار است حل شود، وضعیت baseline، نسخه و config فعلی، dependencyهای درگیر، owner تغییر و دقیقاً چه metricی موفقیت را ثابت می‌کند. سپس یک canary انتخاب کنید که از نظر workload واقعی باشد اما blast radius محدودی داشته باشد. بعد از اعمال تغییر، فقط دنبال نبودن error نباشید؛ latency، throughput، queue، retry، saturation و تجربهٔ کاربر را با baseline مقایسه کنید. اگر feature امنیتی است، یک test منفی اجرا کنید تا مطمئن شوید مسیر غیرمجاز واقعاً بسته شده است. اگر feature availability است، dependency یا node را عمداً از دسترس خارج کنید و recovery واقعی را ببینید. تصمیم rollout باید براساس این evidence باشد، نه براساس اینکه dashboard سبز است یا command بدون خطا اجرا شده. هر rollout یک trigger صریح برای توقف و rollback داشته باشد. اگر نتیجه مبهم است، بهترین تصمیم معمولاً بزرگ‌تر نکردن دامنه و جمع‌کردن evidence بیشتر است.
ظرفیت، Failure Domain و Recovery
سیستم در حالت سالم فقط نیمی از داستان است. مشخص کنید failure domain واقعی چیست: process، node، rack، zone، storage backend، network path یا provider. اگر چند replica دارید ولی همه روی یک failure domain هستند، redundancy ظاهری دارید نه availability واقعی. برای capacity نیز فقط مصرف فعلی CPU و RAM را نبینید؛ رشد داده، burst، compaction، retry storm و recovery traffic می‌توانند در زمان incident چند برابر حالت عادی منابع بخواهند. RPO و RTO را به عدد تبدیل کنید و recovery را با stopwatch واقعی آزمایش کنید. اگر restore یا failover فقط در سند نوشته شده ولی هیچ‌وقت اجرا نشده، هنوز قابلیت اثبات‌شده‌ای نیست. بعد از هر incident یا تمرین recovery، runbook و thresholdها را بازبینی کنید تا درس واقعی وارد سیستم شود.
Operational Ownership و چرخهٔ تغییر
هر component باید owner مشخص داشته باشد. owner فقط کسی نیست که deploy می‌کند؛ باید بداند alert به چه معناست، چه log یا dashboardی evidence اصلی است، dependencyها کدام‌اند و چه زمانی escalation لازم است. تغییرهای config را در version control نگه دارید، peer review کنید و در صورت امکان validation را در CI قرار دهید. برای credential و certificate، expiry و rotation را قبل از حادثه تمرین کنید. برای سرویس‌های stateful، schema/data migration را از binary rollout جدا ببینید. همچنین بعد از تغییر، یک بازهٔ observation تعریف کنید؛ بعضی failureها فقط پس از restart دوم، rotation token، compaction، cron job یا load واقعی ظاهر می‌شوند. Production readiness یک checkbox لحظه‌ای نیست؛ چرخه‌ای از deploy، observe، learn و اصلاح است.
سناریوی Incident و Recovery
یک سناریوی خرابی واقعی برای همین موضوع طراحی کنید و قبل از وقوع حادثه آن را تمرین کنید. ابتدا شرایط شروع را ثبت کنید: چه سرویس‌هایی سالم‌اند، چه dependencyهایی در دسترس‌اند، چه metric و logی baseline محسوب می‌شود و کاربر چه رفتاری می‌بیند. سپس فقط یک failure ایجاد کنید؛ مثلاً node را از دسترس خارج کنید، credential را revoke کنید، backend را کند کنید یا config ناسازگار deploy کنید. زمان کشف، زمان تشخیص، زمان تصمیم و زمان بازیابی را جدا ثبت کنید. بعد بررسی کنید آیا alert واقعاً actionable بوده یا فقط noise تولید کرده است. آیا log کافی برای یافتن root cause داشتید؟ آیا rollback به state قبلی برگشت یا state/data جدید مانع شد؟ آیا نفر دیگری غیر از سازندهٔ سیستم توانست runbook را اجرا کند؟ در پایان post-incident کوتاهی بنویسید که شامل علت فنی، ضعف فرایند، اقدام اصلاحی و owner باشد. هدف تمرین پیدا کردن مقصر نیست؛ هدف این است که failure بعدی ارزان‌تر، قابل مشاهده‌تر و سریع‌تر قابل بازیابی باشد. همین تمرین ساده معمولاً شکاف‌هایی را نشان می‌دهد که در review معماری یا dashboard سالم دیده نمی‌شوند.
جمع‌بندی IROSG
در موضوع جمع‌آوری و تحلیل logهای Linux با systemd-journald و rsyslog هدف حفظ چند دستور نیست؛ هدف ساختن مدل ذهنی و evidence است. وقتی معماری را بفهمید و rollout قابل برگشت داشته باشید، ابزار یا نسخه می‌تواند عوض شود اما روش حل مسئله باقی می‌ماند. مرجع اصلی این مطلب مستندات Red Hat است.
چک‌لیست سریع
- مسئله را در یک جمله تعریف کن.
- معماری و مرز اعتماد را رسم کن.
- baseline را ذخیره کن.
- test مثبت و منفی بساز.
- canary اجرا کن.
- evidence را timestampدار نگه دار.
- rollback را تمرین کن.
- نتیجه را در runbook ثبت کن.
ساخت خط زمانی با چند نوع ساعت
در بررسی یک رخداد، زمان ثبت در برنامه و زمان دریافت در سامانه مرکزی را جدا نگه دارید. ممکن است برنامه رویداد را به موقع تولید کرده باشد، اما صف ارسال یا قطع شبکه باعث دریافت دیرهنگام شود. اگر فقط زمان دریافت را مرتب کنید، ترتیب علت و معلول جابه‌جا می‌شود. اختلاف ساعت میزبان‌ها نیز می‌تواند همین اثر را ایجاد کند. در کنار زمان، شناسه میزبان، شناسه راه‌اندازی و شناسه درخواست را ذخیره کنید تا دو رویداد مشابه از دو اجرای متفاوت اشتباه گرفته نشوند.
برای یک آزمایش ساده، خدمت آزمایشی را راه‌اندازی کنید، چند پیام شماره‌دار تولید کنید و مسیر انتقال به مقصد مرکزی را موقتاً قطع کنید. پس از وصل شدن، بررسی کنید کدام پیام‌ها با تأخیر رسیده‌اند و کدام‌ها از دست رفته‌اند. نتیجه به صف‌بندی، محدودیت ظرفیت و روش انتقال وابسته است؛ فرض نکنید هر تنظیم پیش‌فرض تحویل پایدار فراهم می‌کند. این آزمون باید روی مسیر غیرحیاتی انجام شود و فضای دیسک صف نیز زیر نظر باشد. صف بدون سقف می‌تواند با اشغال دیسک، خود به علت اختلال خدمت تبدیل شود.
شواهد اصلی و نسخه قابل اشتراک
هنگام استخراج گزارش برای یک تیکت، نسخه اصلی را دست‌نخورده نگه دارید و نسخه جداگانه‌ای برای حذف رازها بسازید. حذف توکن، نشانی خصوصی یا داده شخصی نباید ترتیب زمان و شناسه‌های لازم برای همبستگی را از بین ببرد. بهتر است شناسه حساس در سراسر خروجی با جایگزین ثابت نمایش داده شود تا هنوز بتوان ارتباط رخدادها را دنبال کرد. برای نمونه، سه پیام مربوط به یک کاربر باید پس از ناشناس‌سازی نیز قابل پیوند باشند، بدون آنکه هویت واقعی در اختیار گیرنده نامرتبط قرار گیرد.
نبود یک پیام را با نبود رویداد برابر ندانید. محدودسازی نرخ، سطح ثبت نامناسب، پر بودن دیسک، حذف ناشی از نگهداری و شکست مسیر ارسال هرکدام می‌توانند جای خالی ایجاد کنند. ابتدا ببینید در همان بازه پیام‌های عادی دیگر دریافت شده‌اند یا خیر. سپس وضعیت ذخیره‌سازی و شمارنده‌های حذف یا صف را بررسی کنید. اگر سامانه مرکزی پیام‌های همسایه را دریافت کرده ولی پیام این میزبان غایب است، دامنه بررسی کوچک‌تر می‌شود. گزارش نهایی باید میان «رویداد رخ نداده» و «شاهدی از رویداد نداریم» تمایز صریح بگذارد؛ این تفاوت برای تصمیم عملیاتی و بررسی بعدی بسیار مهم است.
