25/100GbE мәселесі қайдан басталады

25/100GbE желісіндегі ақауларды диагностикалау көбінесе бірдей басталады: байланыс тұрақсыз, пакет жоғалту бар немесе жылдамдық күткендей ұстамайды. Модульді немесе кабельді «жәй ауыстырмас бұрын» симптомдарды тіркеп, негізгі деректерді жинау маңызды. Бұл сағаттарды үнемдейді және қажетсіз ауыстырылымдардан құтқарады.

Ең жиі кездесетін белгілер:

байланыс флап етеді (up/down) немесе қайта қосылғанда ұзақ тұрады
қателік санағыштары өседі, бірақ трафик сырттай "қалыпты" көрінуі мүмкін
жүктеме кезінде пакет жоғалту пайда болады
жылдамдық түсіп, қайта жіберулер көбейеді, қолданбалар кешігулерге шағымданады
мәселе кездейсоқ «жұмысқа келіп кетеді» (перекоммутациядан кейін жоғалады)

25/100G-та физикалық кішігірім ақаулар тез қате санының өсуіне әкеледі. Себебі қарапайым: сигналдың артық резерві аз және оптикаға талап жоғары. Коннектордағы шаң, кабельдің қатты иілуі, сәйкес емес талшық, нашар байланыс немесе жастаған модуль тұрақсыз қателерге (CRC/FEC) әкелуі мүмкін, бұл кейін желі мәселесі ретінде көрінеді.

Көбіне төрт нәрсе шатастырылады: ақаулы трансивер, нашар патчкорд, ластанған коннектор/адаптер және порт немесе конфигурациядағы мәселе. Мысалы, модуль өзінде дұрыс болуы мүмкін, бірақ сызыққа сәйкес келмейтін талшық орнатылған немесе портта сәйкес емес жылдамдық/FEC режимі таңдалған болуы мүмкін.

Кез келген әрекетке дейін минималды фактілерді жазыңыз (бес-алтауы жеткілікті):

коммутатор моделі және мәселе көрініп тұрған порт нөмірі
модуль түрі мен моделі (SFP28/QSFP28, SR/LR/CR, vendor)
сызық ұзындығы және орта түрі (DAC, MMF/SMF, коннектор түрі)
симптомдар қай жақтан байқалады (бір жағы немесе екі жағы)
мәселе қашан басталды және соңғы не ауыстырылған (патчкорд, крест, модуль, баптау)

Мысал: 100G байланыс көтерілсе де, жүктеме кезінде қателер өседі. Егер модульді бірден ауыстырсаңыз, ластанған коннекторды жай ғана қозғап, мәселені «шешіп» алуыңыз мүмкін. Сондықтан алдымен көрсеткіштерді тіркеп, содан кейін физиканы тексеру дұрыс.

CRC және FEC деген не, қарапайым тілмен

CRC (әдетте CRC errors немесе input errors деп көресіз) — кадрлар зақымдалғанын және тексеру сомасынан өтпегенін білдіреді. Ethernet-та бұл көбіне физикаға қарайды: оптика, мыс, коннекторлар, ластану, нашар патчкорд, иілу, сәйкес емес модуль немесе порт.

FEC (Forward Error Correction) — сызықтағы қателерді түзету механизмі. Байланыс сырттай қалыпты көрінсе де, фондық режимде кішкене қателерді түзетіп отырады. Сондықтан FEC санағыштары трафик тоқтаусыз жұмыс істесе де өсуі мүмкін. Бұл 25/100GbE-та арнайы тән, өйткені сигнал сапасына артық резерв аз.

CRC мен FEC-ті бірге қалай түсіну керек

Сандарды жалғыз қарау аз нәрсе береді. Маңыздысы — не өсіп жатыр және қаншалықты жылдам:

FEC өседі, ал CRC тұрақты: байланыс шекарада, түзету істеп жатыр. Көбіне сигнал деңгейінің әлсіздігі, ластанған коннектор немесе сәйкес емес талшық себеп болады.
CRC өседі (FEC те өседі): түзету жетіспейді, кадрлар бұзылып жатыр. Көбіне физикалық ақау немесе нашар стыковка.
CRC жүктеме немесе кабель қозғалғанда секіріп пайда болады: көп жағдайда нашар патчкорд немесе механикалық байланыс қателігі.
Санағыштар өсіп тұрмайды, бірақ шағымдар бар: физикадан жоғары стекке (тасымалдау, кезектердегі дроптар, MTU) қараңыз.

Неліктен динамика маңызды

25/100GbE диагностикасында «минутына неше қате» немесе «сағатта неше қате» деген жылдамдықты бақылау пайдалы. Бір рет 100 CRC көрдіңіз делік — бұл міндетті түрде ағымдағы мәселе емес; ол кеше болған оқиға болуы мүмкін.

Мысал: патчкордты ауыстырғаннан кейін FEC баяу өсуді жалғастырса, ал CRC тоқтаса — жағдай жақсарған, бірақ сигнал резерві әлі де аз деген сөз. Коннекторларды тазалау мен оптиканың түрін тексерген жөн.

Optical power: Tx және Rx мәндерін қалай оқу керек

Tx optical power — модуль сызыққа қанша жарық жіберіп жатыр. Rx optical power — модуль кері жағынан қанша жарықты нақты қабылдап жатыр. Диагностика үшін екеуі де маңызды: бір кінет дұрыс жіберіп жатса да, екінші жақта қабылдау нашар болуы мүмкін.

Оптикалық қуат әдетте dBm-да көрсетіледі. Бұл логарифмдік шкала: -2 dBm -8 dBm-тан күшті. Практикада dBm-да жұмыс істеу ыңғайлы — «жарықтың көбірек болу» дегеніміз нөлге жақындау.

Қалыпты диапазонды қайдан алу керек

«Норманы» есте сақтап жүрмеңіз. Қалыпты шектер оптика түріне (SR, LR, ER, DAC/AOC) және жылдамдыққа (25G, 100G) байланысты. Олар модуль паспортынан немесе DOM/DDM шығысындағы порогтардан (High/Low Alarm және High/Low Warn) алынады. Егер порогтар көрсетілмесе, нақты модульдің сипаттамасына қараңыз.

Екі бірдей сырттан көрінетін модульдің әртүрлі рұқсат етілген деңгейі болуы мүмкін — сондықтан нақты модульге сәйкес шектің болуы маңызды.

Көрсеткіштердегі ауытқулар нені білдіреді

Tx қалыпты, ал Rx қатты төмен — көбінесе сызықтағы мәселе: ластанған коннектор, қатты иілу, бөлініп кеткен талшық, зақымдалған патчкорд, нашар сварка немесе адаптерлар.
Rx секіріп тұрса — нашар механикалық байланыс: дұрыс тұтаспау, микротрещина, кабельге әсер ету.
Екі жағында да Tx және Rx шекаралықтай — желі бюджетінің сәйкессіздігі: трасса тым ұзын немесе модуль класы дұрыс таңдалмаған.

Практикалық мысал: 100G байланыста Tx тұрақты болса, ал бір жақта Rx 6-7 dB-қа төмен болса, коннекторды тазалау мен қайта жалғау арқылы Rx қалпына келген және CRC қателері жоғалған.

Қысқа қағида трансиверді ауыстырмас бұрын:

Екі жақтағы Rx-ті салыстырыңыз, айырмашылықты тексеріңіз.
Құрылғының ескерту/дабыл порогтарымен салыстырыңыз.
Rx секірулері болса, коннектор мен механиканы тексеріңіз.
Егер деңгейдер шекарада болса, оптика түрінің қашықтыққа сай екенін тексеріңіз.
Әр әрекетке дейін және кейін Tx/Rx жазып алыңыз.

Cisco-де қандай командалар мен көрсеткіштерді қарау керек

Бір интерфейспен бастап, қысқа күй суретін алыңыз. Маңыздысы — қателердің өсіп жатқанын түсіну. Егер санағыштар қозғалыссыз тұрса, мәселе бір реттік оқиға болуы мүмкін.

Жедел картинаны алу үшін негізгі командалар

Төмендегі жиынтық жеткілікті болады (IOS XE мен NX-OS-та командалар сәл өзгеше болуы мүмкін):

show interface <int>: жылдамдық/дуплекс, up/down, флаппинг, input/output errors, CRC, drops.
show interfaces <int> counters errors (немесе аналог): CRC, symbol errors, input errors-ті анық көрнекі ету үшін.
show interface <int> transceiver details: модуль түрі, сериялық нөмір, DOM датчиктері (температура, кернеу, ток, Tx/Rx power).
show logging (интерфейс бойынша сүзгілеу): link flap, модуль қателіктері туралы журнал жазбалары.
show controllers <int> (қол жетімді болса): төменгі деңгейдегі физикалық санағыштар, дау күмәнді жағдайларда пайдалы.

FEC бойынша — ол қосылған ба, және түзетулер/түзелмейтін оқиғалар бар ма екенін қараңыз. Егер uncorrectable FEC тез өссе, байланыс up тұрғанымен трафик жоғалтуы мүмкін.

Ауыстырулар алдында тіркеуге алу

"Оқиға болды" мен "әрі қарай жалғасып жатыр" дегенді ажырату үшін мәндерді екі рет алып қойыңыз: бірден және 3–5 минуттан кейін жүктемемен.

Өлшеу уақыты және интерфейс атауы (екі жақтан).
CRC/FCS және input/output errors: абсолюттік мән және өсім.
FEC corrected және uncorrectable: абсолюттік мән және өсім.
DOM: Tx/Rx power, температура, кернеу (траcсаға тән деңгеймен салыстырыңыз).
Журналдағы оқиғалар: қашан flap болған және журналда не жазылған.

Мысал: 100G байланыста бір жағында CRC өсіп, екінші жағында мүлде жоқ. Сол уақытта Rx power қателік байқалған жақта төмен, және uncorrectable FEC өсуде — бұл көбінесе физикалық проблема (коннектор, ластану, иілу, кабель), ал коммутатор кінәлі емес.

Қосымша ауыстыруларсыз диагностиканың қадамдық алгоритмі

25/100GbE-та қателер пайда болғанда ең көп уақытты хаотикалық модуль мен кабель ауыстыруы алады. Орынына қысқа циклдармен әрекет етіңіз: базаны тіркеңіз, екі жақты салыстырыңыз, содан кейін бір элементті ғана ауыстырыңыз.

Бастамас бұрын порттың бастапқы күйін жазыңыз: линк көтерілді ме, қандай жылдамдық, флаппинг бар ма, соңғы up/down қашан болған. Cisco-де show interface <int> және show interface <int> transceiver details бастапқы нүкте үшін қолайлы.

Екі жақты қарау міндетті. Бір жағынан Tx беріп тұрса, екінші жағынан оны Rx ретінде қабылдауы керек. Егер бір жақта Rx шекарада болса, ал екінші жақта бәрі қалыпты көрінсе — бұл трасса немесе патчкорд жақындаған жағында мәселе екенін көрсетеді.

Жұмыс алгоритмі, әдетте 10–20 минутта жауап береді:

Базаны тіркеңіз: жылдамдық, dуплекс, CRC, FEC (corrected/uncorrected), аптайм, Tx/Rx деңгейлері.
Екі жақты салыстырыңыз: қателер мен деңгейлер логикалық түрде сәйкесе ме.
Санағыштарды тазалап, 5–15 минут бақылаңыз: clear counters interface <int> және қайта өлшеу. Ескі және жаңа қателерді араластырмау маңызды.
Бір қадаммен ауыстырулар жасаңыз: алдымен патчкорд, кейін модуль, сосын порт (немесе байланыс жоғарғы слотқа ауыстыру).
Нәтижені растаңыз: оптика деңгейлері тұрақты, CRC өсімсіз, uncorrected FEC жоқ, линк флаптамайды.

Мысал: патчкордты ауыстырғаннан кейін Rx 2–3 dB-қа көтеріліп, CRC өсуі тоқтаған болса, модуль тұтас дұрыс болған. Ал Rx қалыпты, бірақ uncorrected FEC дереу пайда болса — модуль немесе порт күдік тудырады.

Интеграциялық жобаларда (және GSE.kz қолдауында) мұндай тәртіп қажетсіз ауыстыруларды азайтып, кепілдік үшін дәлелдер жинауға көмектеседі.

Ақаулы модульді нашар кабельден қалай ажыратуға болады

25/100GbE-та CRC/FEC өсіп, линк тұрақсыз болса, көбінесе себеп үш нәрсенің бірі: патчкорд/талшық, ластанған коннектор немесе трансивер. Сирек болса да — нақты порт болуы мүмкін. Диагностика мақсаты — мәселе қай элементпен бірге «кері жүретінін» анықтау.

Tx/Rx пен санағыштардың тәртібінен жылдам белгілер

Нашар патчкорд әдетте Rx-те көрінеді: қабылдау деңгейі төмен немесе секіріп тұрады, кабельге жеңіл жанасқанда қателер көбейеді. Қысқа патчты ауыстырғаннан кейін мәселе жоғалса — патч кінәлі.

Ластанған немесе зақымдалған коннекторлар қиынырақ. Қайта қосқаннан кейін Rx нашарлауы мүмкін және екі жақта да FEC/CRC өсімі байқалуы мүмкін. Коннекторды тазалап, қайта қосқанда көрсеткіш қалпына келсе — модуль жиі кінәлі емес.

Ақаулы модуль көбінесе DOM-да көрінеді: Tx тым төмен немесе себепсіз тұрақсыз, модуль қатты қызады, және қателік санағыштары жақсы кабель бар жерде де өседі. Негізгі белгі — модуль басқа портқа ауыстырғанда проблема да сол модульмен бірге көшеді.

Порт күдік тудырса — барлық бірдей модульдер мен патчтар сол портқа қойылғанда ғана қателер сақталады.

A/B тесті, нақты нәтиже беретін әдіс

Бір уақытта бір ғана элементті ауыстырып, әр қимылды жазып барыңыз:

«Эталон» алыңыз: жұмыс істейтіні белгілі модуль мен патч.
Тек патчтарды ауыстырыңыз, модульдерді қалдырыңыз. Мәселе орнынан қозғаса — патч немесе коннектор.
Патчтарды қайтадан қайтарып, модульдерді кесіп-қосыңыз. Мәселе модульге көшсе — модуль.
Егер ешқайсысы көшпесе, сызықты басқа портқа ауыстырып көріңіз. Қалтатта қалса — порт.
Әр қадамда тек линктің көтерілуін ғана емес, қателер динамикасын және Rx/Tx өзгерістерін бірдей уақыт аралығында салыстырыңыз.

Мысал: 100G-та CRC тек түнде өсіп, Rx шекарада және патчты қозғатқанда қателер көбейген. Модульдерді ауыстыру көмектеспеді, ал қысқа патчты алмастырғанда өсу тоқтады — классикалық механика проблемасы.

Оптика мен талшық: сәйкестігі және жиі кездесетін физикалық себептер

25/100GbE-та қателер көбіне коммутатордан емес, модуль мен трассаның сәйкессіздігінен немесе қарапайым физикадан туындайды. FEC өсіп, CRC пайда болса, оптика мен талшықты тексеру — ең арзан және бірінші кезекте жасалатын қадам.

SR/LR/ER — бұл жылдамдық туралы емес, орта мен қашықтық жайлы. SR көбіне MMF, 850 нм; LR — SMF, 1310 нм; ER — ұзақ қашықтықтар, жиі 1550 нм және қысқа желілерде қуаттың шамадан тыс болуына сезімтал болуы мүмкін. SR-ды SMF-ға немесе керісінше қондыру линктің көтерілмеуіне немесе тұрақсыз болуына әкелуі мүмкін: Rx өте төмен болады, FEC жұмысын бастайды, содан кейін линк флап болуы мүмкін.

Ерекше жағдай — полярлық. Tx/Rx ауысып кеткенде бір жақта Tx бар, ал Rx шамамен нөлге тең болады. Кейде патчкорд немесе адаптер өзінен-өзі кросс жасайды, бұл қысқа патчты ауыстырғанда «тұрақсыз» әсер береді.

100G-та MPO (параллельді оптика) қолданғанда кассеталар мен адаптерлермен байланысты мәселелер жиі кездеседі. Қате тип (Type A/B/C), қате кілт орнатылуы, не pinned/unpinned сәйкессіздігі — бұл жолақтардың кейбірі жарық алмауға алып келеді. Нәтижесінде байланыс көтеріліп, бірақ FEC тез өседі.

Жиі кездесетін физикалық себептер қарапайым: иілу радиусының бұзылуы, кернеу, коннектордағы шаң, ферулда сызаттар, нашар бекіту. Тіпті шкафтегі өткір иілу немесе діріл қателердің секіруіне себеп болуы мүмкін.

Модуль ауыстырмас бұрын мына нәрселерді тексеріңіз:

Модуль мен талшық түрі: SR-MMF, LR/ER-SMF, толқын ұзындығы мен қашықтықтың сәйкестігі.
Полярлық: Tx/Rx ауысып кеткен жоқ па, артық кросс жоқ па.
MPO үшін: кассета түрі, ориентация, pinned/unpinned және тордың тазалығы.
Трасса механикасы: иілу радиусы, керілу, басқарғыштардағы қатпарлар.
Коннектор тазалығы: тіпті жаңа патчкорд та сүртіліп тексерілсін.

Мысал: 100G-та линк көтерілсе де бір сағаттан кейін FEC өсіп, пакет жоғалту басталды. Себебі MPO-кассетасы Type A болған, ал линия Type B күткен. Сыртынан бәрі қалыпты көрінгенімен екі канал нашарлап, вибрация кезінде қателер көбейген.

Диагностикада жиі болатын қателіктер

Ең көп қате — FEC өскенде «линк бұзылды» деп бірден модульді ауыстыру. FEC тек сызықтың шудығын көрсетеді, қай жерде екенін айтпайды. 25/100GbE-та FEC-тің өсуі коннектордағы шаң, иілу, модульдің тұрақсыз қуат көзі, қызу немесе сәйкес емес оптикадан болуы мүмкін.

Екінші қателік — оптикалық қуаттарды модуль спецификациясын ескермей салыстыру. Бір трансивер -10 dBm-да қалыпты жұмыс істесе, басқа модуль үшін бұл шекарада болуы мүмкін. Сондықтан "жасық көршінің портына қарап шешім қабылдау" дұрыс емес.

Үшінші қателік — екі жақты бірден ауыстыру. Егер сіз екі модульді де бірден алмастырсаңыз, эксперимент бақылауын жоғалтасыз. Бір элементті ауыстырып, нәтижені тексеріңіз.

Тағы бір «жалған» қателер көзі — температура. Ciscoде трансивер температурасы мен кернеуін көресіз. Модуль қатты қызса және шкаф желдетілуі нашар болса, қателер тек жүктеме кезінде немесе ыстық уақытта болады.

Санағыштармен қателеспеу үшін қарапайым ереже:

Санағыштарды бір рет тазалаңыз және уақытты тіркеңіз
Белгіленген интервалда (10–15 минут) ұқсас жүктемемен бақылаңыз
CRC пен FEC өсімінің жылдамдығын салыстырыңыз, абсолюттік сандарды емес
Tx/Rx және температураны басында және соңында тіркеңіз
Бір қадамда тек бір өзгертуді жасаңыз

Мысал: CRC өссе, ал FEC аз — қатты физика (контакт, порт, кабель) күдік туады. FEC өссе, CRC жоққа тән — оптика, тазалау, иілу және температураны тексеріңіз.

Құрылғыны ауыстырмас бұрын жылдам чеклист

25/100GbE-та қателер өсіп, байланыс «плавает» болса, ең қымбат шешім — бәрін бірден ауыстыру. Бұл чеклист себептерді шектеп, бастапқы деректерді сақтауға көмектеседі.

Бастапқыда екі жақтан «снимок» жасаңыз: қателердің болуы ғана емес, олардың динамикасын да көріңіз. Cisco үшін әдетте келесі командалар жеткілікті:

show interface <int> counters errors
show interface <int> transceiver details
show interface <int>

Содан кейін біртіндеп әрекет етіңіз, бір элементті ауыстырыңыз:

Қазіргі CRC/FEC және Tx/Rx деңгейлерін екі құрылғыда жазып алыңыз, уақыт пен жүктемені тіркеңіз (мысалы, бэкап немесе репликация).
Физиканы тексеріңіз: модуль бекітілімінің дұрыстығы, порттағы отырғызу, кабель иілуі, керілу, коннектор тазалығы. Тіпті LC коннектормен шаң да Rx-те секіру береді.
Цепочканың әр элементін бір-бірден ауыстырыңыз: алдымен патчкорд (немесе DAC/AOC), одан кейін модуль, сосын порт. Модульді ауыстырғанда оны басқа портқа қойып салыстыру жасаңыз.
Әр өзгерістен кейін санағыштарды тазалап, 5–15 минут бақылаңыз. Санағыштарды тазаламай ескі қателермен жаңасын араластыру оңай.
Соңында өзіңізге тән жүктемемен тұрақтылықты тексеріп, қателер қайта пайда болмайтынын тексеріңіз.

Пайдалы ереже: патчкорд пен коннекторды ауыстырғаннан кейін Rx қалпына келсе — байланыс кінәлі. Модульді ауыстырғанда қателер модульмен бірге көшсе — трансивер ақаулы.

Қолданған мысал: 100G-та мәселені қалай таптық

100G байланыс екі Cisco коммутатор арасында бір шкафта болды. Қолданушылар сирек пакет жоғалтудан және қолданбалардың «тұрып қалуынан» шағымданды. Портта FEC corrected үнемі өсіп тұрғаны көрінді, әрі ара-тұра CRC шығып тұрды.

Алдымен екі жақтағы Tx/Rx деңгейлерін салыстырдық. Tx екі жақта да қалыпты және шамамен тең, ал B жағында Rx секіріп, кейде low alarm шегіне дейін құлап отырды. Бұл берудің тұрақты, ал қабылдаудың шекарада екенін көрсетті — әдетте трассадағы қосылыстар немесе патчкорд кінәлі.

Келесі қадам — перестановкалар:

Патчкордтарды ауыстырып көрдік.
Модульдерді алмастырдық және Rx пен қателер динамикасын қайтадан қарадық.
Жұмыс істейтін патчкорд қойып көрдік.

Нәтиже: патчкордты ауыстыру проблеманы модульге емес, кабельге әкетті. Жаңа патчкорд қойғаннан кейін Rx орнықты, corrected FEC баяулады немесе тоқтады, және CRC-тің шоқтары жоғалды.

Результатты тіркеу үшін бірнеше сағат жұмыс жүктемесімен бақылап, Rx тұрақты болғанын, CRC өспегенін және FEC corrected қарқынының төмендегенін тексердік. Мұндай тәсіл қымбат QSFP28-дерді «наугад» алмастырудан сақтайды.

Қорытынды және мәселенің қайтарылмауы үшін келесі қадамдар

Мәселені тапқаннан кейін оны бекіту маңызды. 25/100GbE-та мәселе көбіне қайтадан пайда болады, өйткені патчкорд немесе модуль басқа орынды қойылады, немесе ластанған коннектор қайта қосылады.

Қашан эскалация жасау керек

Егер патчкорд пен трансивер ауыстырғаннан кейін де қателер қалса, немесе симптомдар портпен бірге көшсе (яғни сол портқа қандай модуль қойса да қателер бар), эскалация қажет. Сондай-ақ трассаға қатысты күдік: Rx тұрақсыз, паралар/лейндер бойынша асимметрия болса немесе мәселе тек кабельдің белгілі бір бағытымен ғана пайда болса.

Қолдауды шақырмас бұрын мына деректерді жинаңыз:

Құрылғының нақты моделі, ПО нұсқасы, порт нөмірі, жылдамдық (25G/100G).
Трансивер моделі мен сериялық нөмірі, ал егер қолжетімді болса — қашықтағы жағындағысы.
DOM көрсеткіштері (Tx/Rx power, температура, кернеу) екеу жағынан да кез келген қателік уақытта.
Қате санағыштары (CRC, FEC corrected/uncorrected, symbol/align) бірдей интервалда, мысалы 10–15 минут жүктемемен.
Қандай өзгерістер жасалған: модуль, патчкорд, порт, орнатулардың алмастырылуы.

Қайталап пайда болуын азайту

Дисциплина көмектеседі: патчкордтарды стандартизациялау (тип, ұзындық, өндіруші), порттарға анық маркалау және оптиканы тазалау тәртібін енгізу. Ауыстыру жиі болатын орталарда патчкордтарды және модульдерді қорғаныс қаптарында сақтау пайдалы.

Егер кешенді тәсіл қажет болса (сызықты тексеру, SFP28/QSFP28 сәйкестігін анықтау, стендте сынақ және интеграция), бұл жұмыстарды GSE.kz арқылы жүйелі түрде және құжатталған түрде жүргізуге болады.