رفتن به محتوا
IROSG.
EN
مقاله‌ها

OpenTelemetry Collector؛ Receiver، Processor و Exporter را چطور Pipeline کنیم؟

Collector مرز خوبی بین application و backend telemetry می‌سازد؛ اگر queue، batch و memory limit درست تنظیم شوند.

تصویر/دیاگرام رسمی مرتبط با OpenTelemetry Collector؛ Receiver، Processor و Exporter را چطور Pipeline کنیم؟

مسئله را از معماری شروع کنیم

Collector telemetry را از receiver می‌گیرد، در processor تغییر/فیلتر/Batch می‌کند و از exporter به backend می‌فرستد. Connectorها نیز می‌توانند pipelineها را به هم وصل کنند.

موضوع‌های زیرساختی زمانی قابل اتکا می‌شوند که مدل ذهنی قبل از command شکل بگیرد. componentها، state پایدار، state runtime، مرز اعتماد و dependency بیرونی را روی یک نقشهٔ ساده مشخص کنید. وقتی failure رخ می‌دهد، از ورودی به خروجی حرکت کنید و در هر مرز evidence جمع کنید؛ log، metric، API state و packet capture باید یک timeline مشترک بسازند.

روش عملی پیاده‌سازی

Collector را با batch و memory limiter شروع کنید، retry/queue exporter را متناسب با outage backend تنظیم کنید و config را version control کنید. endpointهای health و internal metrics را مانیتور کنید.

برای Production همیشه baseline، canary و rollback داشته باشید. baseline شامل نسخه، config مؤثر، latency یا throughput اصلی و یک test end-to-end سالم است. بعد از تغییر، test مثبت و منفی را تکرار کنید و نتیجه را با همان baseline مقایسه کنید. اگر success criterion از قبل نوشته نشده باشد، هر نتیجه‌ای را می‌توان موفق تفسیر کرد.

ریسک‌ها و خطاهای رایج

Collector بدون backpressure design می‌تواند هنگام outage backend memory مصرف کند یا telemetry را drop کند. processor اشتباه نیز ممکن است attribute لازم برای correlation را حذف کند.

امنیت عملیاتی یعنی کنترل قابل توضیح و قابل مشاهده. permission، token، secret، network path و audit trail را جدا بررسی کنید. exceptionها باید owner و expiry داشته باشند. اگر کنترل فقط روی کاغذ وجود دارد ولی اثر آن در runtime قابل اثبات نیست، در زمان incident به‌جای کمک به مانع تبدیل می‌شود.

آزمایشگاه پیشنهادی

OTLP telemetry آزمایشی بفرستید، backend را عمداً قطع کنید و queue/retry/drop را مشاهده کنید. سپس batch size و memory limit را تغییر و اثر را اندازه بگیرید.

در Lab یک failure کنترل‌شده هم ایجاد کنید. هدف فقط اثبات happy path نیست؛ باید ببینید alert، log و recovery هنگام خرابی چه رفتاری دارند و آیا تیم می‌تواند بدون حدس علت را پیدا کند.

عیب‌یابی بر اساس Evidence

ابتدا مشخص کنید آخرین مرحله‌ای که رفتار صحیح دیده می‌شود کجاست. سپس فقط یک مرز جلو بروید. اگر request وارد component می‌شود اما state خروجی ساخته نمی‌شود، مسئله در همان component یا dependencyهای نزدیک آن است. تغییر هم‌زمان چند config دامنهٔ مسئله را بزرگ می‌کند.

امنیت و Least Privilege

دسترسی‌ها را براساس operation واقعی workload بدهید، نه براساس راحتی troubleshooting. credentialها را کوتاه‌عمر و قابل revoke نگه دارید، مسیرهای مدیریتی را از data plane جدا کنید و audit را طوری بسازید که بتوانید actor و زمان تغییر را بازسازی کنید.

Performance و ظرفیت

Average به‌تنهایی کافی نیست. p95/p99، saturation، queue depth، retry و resource pressure را ثبت کنید. workload واقعی ممکن است bottleneck متفاوتی از Lab کوچک نشان دهد؛ بنابراین rollout را مرحله‌ای کنید و ظرفیت را با margin طراحی کنید.

Production readiness

owner، blast radius، change window، success metric و rollback trigger را قبل از rollout بنویسید. dependency خارجی را عمداً unavailable کنید، restart واقعی و credential rotation را تست کنید و بعد از deploy چند روز دوباره metric و ticketها را مرور کنید.

Runbook و انتقال دانش

Runbook خوب فقط command نیست. سؤال، فرضیه، evidence مورد انتظار، نتیجه و دلیل تصمیم را ثبت کنید. نفر دیگری باید بتواند با همان ورودی آزمایش را تکرار کند، failure را بازتولید و recovery را انجام دهد. این معیار ساده کیفیت واقعی documentation را نشان می‌دهد.

نگهداری بلندمدت

نسخه، policy، certificate، endpoint و حجم workload تغییر می‌کنند. برای همین review دوره‌ای تعریف کنید: نسخهٔ پشتیبانی‌نشده، exception قدیمی، alert بی‌ارزش و drift را پیدا کنید. recovery را دوباره تمرین کنید و تاریخ review را در مستندات بنویسید.

تصمیم Production را با چه شواهدی بگیریم؟

قبل از اینکه نتیجهٔ Lab را به Production ببرید، یک change record کوتاه بسازید: مسئله‌ای که قرار است حل شود، وضعیت baseline، نسخه و config فعلی، dependencyهای درگیر، owner تغییر و دقیقاً چه metricی موفقیت را ثابت می‌کند. سپس یک canary انتخاب کنید که از نظر workload واقعی باشد اما blast radius محدودی داشته باشد. بعد از اعمال تغییر، فقط دنبال نبودن error نباشید؛ latency، throughput، queue، retry، saturation و تجربهٔ کاربر را با baseline مقایسه کنید. اگر feature امنیتی است، یک test منفی اجرا کنید تا مطمئن شوید مسیر غیرمجاز واقعاً بسته شده است. اگر feature availability است، dependency یا node را عمداً از دسترس خارج کنید و recovery واقعی را ببینید. تصمیم rollout باید براساس این evidence باشد، نه براساس اینکه dashboard سبز است یا command بدون خطا اجرا شده. هر rollout یک trigger صریح برای توقف و rollback داشته باشد. اگر نتیجه مبهم است، بهترین تصمیم معمولاً بزرگ‌تر نکردن دامنه و جمع‌کردن evidence بیشتر است.

ظرفیت، Failure Domain و Recovery

سیستم در حالت سالم فقط نیمی از داستان است. مشخص کنید failure domain واقعی چیست: process، node، rack، zone، storage backend، network path یا provider. اگر چند replica دارید ولی همه روی یک failure domain هستند، redundancy ظاهری دارید نه availability واقعی. برای capacity نیز فقط مصرف فعلی CPU و RAM را نبینید؛ رشد داده، burst، compaction، retry storm و recovery traffic می‌توانند در زمان incident چند برابر حالت عادی منابع بخواهند. RPO و RTO را به عدد تبدیل کنید و recovery را با stopwatch واقعی آزمایش کنید. اگر restore یا failover فقط در سند نوشته شده ولی هیچ‌وقت اجرا نشده، هنوز قابلیت اثبات‌شده‌ای نیست. بعد از هر incident یا تمرین recovery، runbook و thresholdها را بازبینی کنید تا درس واقعی وارد سیستم شود.

Operational Ownership و چرخهٔ تغییر

هر component باید owner مشخص داشته باشد. owner فقط کسی نیست که deploy می‌کند؛ باید بداند alert به چه معناست، چه log یا dashboardی evidence اصلی است، dependencyها کدام‌اند و چه زمانی escalation لازم است. تغییرهای config را در version control نگه دارید، peer review کنید و در صورت امکان validation را در CI قرار دهید. برای credential و certificate، expiry و rotation را قبل از حادثه تمرین کنید. برای سرویس‌های stateful، schema/data migration را از binary rollout جدا ببینید. همچنین بعد از تغییر، یک بازهٔ observation تعریف کنید؛ بعضی failureها فقط پس از restart دوم، rotation token، compaction، cron job یا load واقعی ظاهر می‌شوند. Production readiness یک checkbox لحظه‌ای نیست؛ چرخه‌ای از deploy، observe، learn و اصلاح است.

سناریوی Incident و Recovery

یک سناریوی خرابی واقعی برای همین موضوع طراحی کنید و قبل از وقوع حادثه آن را تمرین کنید. ابتدا شرایط شروع را ثبت کنید: چه سرویس‌هایی سالم‌اند، چه dependencyهایی در دسترس‌اند، چه metric و logی baseline محسوب می‌شود و کاربر چه رفتاری می‌بیند. سپس فقط یک failure ایجاد کنید؛ مثلاً node را از دسترس خارج کنید، credential را revoke کنید، backend را کند کنید یا config ناسازگار deploy کنید. زمان کشف، زمان تشخیص، زمان تصمیم و زمان بازیابی را جدا ثبت کنید. بعد بررسی کنید آیا alert واقعاً actionable بوده یا فقط noise تولید کرده است. آیا log کافی برای یافتن root cause داشتید؟ آیا rollback به state قبلی برگشت یا state/data جدید مانع شد؟ آیا نفر دیگری غیر از سازندهٔ سیستم توانست runbook را اجرا کند؟ در پایان post-incident کوتاهی بنویسید که شامل علت فنی، ضعف فرایند، اقدام اصلاحی و owner باشد. هدف تمرین پیدا کردن مقصر نیست؛ هدف این است که failure بعدی ارزان‌تر، قابل مشاهده‌تر و سریع‌تر قابل بازیابی باشد. همین تمرین ساده معمولاً شکاف‌هایی را نشان می‌دهد که در review معماری یا dashboard سالم دیده نمی‌شوند.

جمع‌بندی IROSG

در موضوع معماری pipeline در OpenTelemetry Collector هدف حفظ چند دستور نیست؛ هدف ساختن مدل ذهنی و evidence است. وقتی معماری را بفهمید و rollout قابل برگشت داشته باشید، ابزار یا نسخه می‌تواند عوض شود اما روش حل مسئله باقی می‌ماند. مرجع اصلی این مطلب مستندات OpenTelemetry است.

چک‌لیست سریع

  • مسئله را در یک جمله تعریف کن.
  • معماری و مرز اعتماد را رسم کن.
  • baseline را ذخیره کن.
  • test مثبت و منفی بساز.
  • canary اجرا کن.
  • evidence را timestampدار نگه دار.
  • rollback را تمرین کن.
  • نتیجه را در runbook ثبت کن.

یک رویداد را در تمام مسیر دنبال کنید

برای آزمایش Collector، یک برنامه کوچک با شناسه سرویس مشخص و یک trace قابل تشخیص انتخاب کنید. بررسی را از ارسال برنامه آغاز کنید: آیا endpoint، پروتکل و گزینه رمزگذاری با receiver هماهنگ‌اند؟ سپس ببینید pipeline مربوط به traces همان receiver را به processorها و exporter مورد نظر وصل کرده است. تعریف یک مؤلفه در فایل پیکربندی بدون استفاده از آن در بخش سرویس، به معنی فعال بودن مسیر داده نیست. متریک داخلی Collector و یک خروجی تشخیصی محدود می‌توانند محل توقف را روشن کنند.

ترتیب processorها معنای عملی دارد. اگر داده حساس باید حذف شود، باید قبل از خروج از مرز اعتماد و قبل از ارسال به مقصد مربوط حذف شده باشد. اگر یک تبدیل به attribute خاصی وابسته است، processor حذف‌کننده نباید آن را زودتر از بین ببرد. برای بازبینی، یک نمونه رویداد ساختگی را پیش و پس از هر مرحله مقایسه کنید. صرف معتبر بودن YAML، ترتیب معنایی درست را تضمین نمی‌کند. نمونه شامل مقدار محرمانه واقعی نباشد؛ برای آزمون حذف می‌توان از رشته ساختگی قابل تشخیص استفاده کرد.

صف، فشار معکوس و از دست رفتن داده

وقتی مقصد کند یا قطع می‌شود، Collector نمی‌تواند برای همیشه با همان سرعت داده جدید را بدون هزینه نگه دارد. صف محدود، حافظه محدود و سیاست retry تعیین می‌کنند چه زمانی فشار به عقب منتقل می‌شود یا داده کنار گذاشته می‌شود. این رفتار را با قطع کوتاه یک مقصد آزمایشی ببینید. مدت قطع، نرخ دریافت، طول صف و تعداد داده‌های ناموفق را ثبت کنید. بازگشت اتصال باید با تخلیه صف و رسیدن داده‌ها تأیید شود، نه فقط سبز شدن وضعیت شبکه.

Batch کردن می‌تواند تعداد ارسال‌ها را کاهش دهد، اما تأخیر و حافظه مصرفی را هم تغییر می‌دهد. انتخاب اندازه batch بدون دانستن حجم یک رویداد و نرخ ورودی ممکن است باعث رشد حافظه شود. به همین دلیل ابتدا بار کوچک قابل پیش‌بینی ایجاد کنید و سپس حجم را مرحله‌ای افزایش دهید. اگر مقصد محدودیت اندازه درخواست دارد، رفتار batch باید با آن سازگار باشد. محدودیت حافظه و ظرفیت صف را به بودجه واقعی پردازش کانتینر مرتبط کنید، نه به عددهای یک نمونه عمومی.

انتخاب agent یا gateway

استقرار نزدیک برنامه برای جمع‌آوری محلی مزیت دارد، اما مدیریت تعداد زیادی نمونه و مصرف منابع هر گره را به همراه می‌آورد. gateway مرکزی می‌تواند اعمال سیاست و خروجی‌های مشترک را ساده کند، ولی خودش وابستگی شبکه و ظرفیت مشترک می‌شود. در بسیاری از طراحی‌ها ترکیب این دو نقش معنا دارد. مسیر را مشخص کنید تا داده دوباره دریافت یا به شکل حلقه‌ای میان Collectorها ارسال نشود. شناسه منبع و قرارداد attributeها باید در طول این مسیر ثابت و قابل توضیح بماند.

برای سامانه چندتیمی، دریافت تله‌متری را با اختیار نوشتن به همه مقصدها یکی نکنید. TLS، احراز هویت، محدودسازی ورودی و تفکیک اعتبارنامه exporterها را با توزیع انتخاب‌شده بررسی کنید. افزونه‌ها و مؤلفه‌های موجود در هر توزیع یکسان نیستند. هنگام ارتقا، فهرست اجزای مورد استفاده و پشتیبانی آن‌ها از نوع سیگنال را کنترل کنید تا pipeline معتبر قبلی با تغییر بسته از کار نیفتد.

TRACEABLE KNOWLEDGE

منابع و مطالعهٔ بیشتر

01
OpenTelemetry — مرجع رسمیhttps://opentelemetry.io/docs/collector/architecture/

آخرین بررسی تحریریه:

IROSG / EDITORIAL

خبرها و معرفی مشاهیر با نگارش مستقل و ذکر منبع تهیه شده‌اند. اعتبار و مجوز تصاویر در بخش منابع همین صفحه نگه‌داری می‌شود تا متن زیر عکس‌ها شلوغ نشود. داده‌های مرجع CVE با اعتباردهی به منابع اصلی ارائه می‌شوند.

سیاست تألیف و حقوق تصاویر ↗

ادامهٔ کشف.

مقاله‌ها ↗