多个分支机构的局域网是通过租用当地运营商的10M光纤通道直接访问本地总部企业网，所有本地分支机构的网络汇聚到核心层交换，核心层交换机直接连到路由器。其他的核心层交换机负责各个网络业务的接入，这样网络结构比较简单明了，实际运行的状态也是比较稳定的。
前几天，网络突然出现大面积瘫痪故障，并导致企业业务无法正常运转。根据网络拓扑及出现的故障现象，可以迅速地定位到核心层交换机设备出现了问题。到了现场的后，发现的主控板出现了告警，设备复位，告警并没有消除，可以判断为主控板损坏，更换新的主控板，设备运行正常，所有的二层透传业务恢复，但是所有IP业务没有恢复。
故障排查分析
排查一、物理故障还是逻辑故障?
故障的根源是核心层交换机的主控板出现了问题，这样网络故障的性质为物理故障。难道新更换的主控板有问题？但是设备运行正常，又没有告警信息。如：show card ，show cpu等，从运行状态上看，硬件没有问题。难道更换设备后，数据丢失了吗？察看相关的数据，发现并没有丢失，但是IP业务还是不能够恢复？可是部分透传业务又没有问题。究竟那里出现了问题呢？
排查二、DNS服务出了问题?
经过检查，笔者发现，虽然业务不能使用，但所有的路由信息都是正常的，PING所有的网元信息也都是正常的。难道是DNS服务出了问题？所谓DNS，即域名服务器，它把域名转换为计算机能够识别的IP地址。如网站对应的IP是219.218.100.100。如果DNS服务器出错，则无法进行域名解释，自然也就不能上网了。有时候则是路由器的问题，无法与ISP的DNS服务连接，这时可把路由器关闭一会再开或是重新设置路由器即可。还有可能是网卡无法自动搜寻到DNS的服务器地址，可以尝试用指定的DNS服务器地址。进入“控制面板→网络和拨号连接”，双击“本地连接→属性→TCP/IP协议”，在弹出的对话框中选择“使用下面的DNS服务器地址”，然后填写相应的DNS服务器IP地址。经过核实后，DNS也没有问题。
排查三、是中ARP病毒还是有流量攻击?
故障发生前期，个别分支机构经常有人反映说上网时经常出现丢包现象，想到最近局域网中经常出现的ARP地址欺骗病毒，笔者就向所有相关的网络技术人员介绍了一下排查各自局域网，是否感染了ARP地址欺骗病毒，希望通过找到并解决感染ARP地址欺骗病毒的机器来解决IP业务不能恢复的问题，并没有查出结果。难道设备更换后，所有的路由表丢失了吗？把前几天的数据备份重新导入后，故障现象的依然存在。为了更快的恢复业务，咨询了设备厂家的技术支持，把所有的故障现象反馈给技术工程师，并查看了所有的告警及系统日志，并没有发现可疑的问题。最后得到的结果是：该设备运行正常，没有病毒的攻击、流量异常等现象。
故障解决
路是通的，说明该设备没有问题。网元是通的，DNS又没有问题，但是业务不能够恢复。在检查IP ARP信息时，发现所有的MAC地址与IP地址都在地址表。看见笔者使用的IP地址及MAC地址也在表中。但笔者的计算机并没有开！难道核心层交换机与路由器的端口出现了问题？尝试着，把端口关闭后，再重新启用。发现笔者使用IP地址后，没有MAC地址。所有的IP业务全部恢复。
故障总结
虽然故障已经被解决了，但让笔者感到疑惑不解的是：为什么重新启动端口，业务就能够正常。而出现的故障点不是在路由器上，而是在核心层交换机上。不重新启动端口，测试的现象的都是正常的。后来咨询了相关的技术人员，故障发生前，数据的流量很大，故障发生时，很多的数据包不能正常转发，端口就会出现假死现象，传输的数据流量很小。关闭后，把多余的数据遗弃掉，重新启动，传输正常的数据信息。
总结上面的故障排除过程发现，出现网络故障应该从正常网络中去检测上段部分网络运行情况，来判断网络上段网络是否正常，然后，再检查下段网络，使用PING命令测试，进行针对性排查。即使发生的故障点恢复，并不代表业务的恢复，思考问题不能局限于局部信息，应该从全局思考。并结合具体的网络工作环境，说不定发现故障就在疏忽那一瞬间，要认真观察对网络有影响因素，可以避免少走一些弯路。作为一名网络管理员，除了日常网络故障的处理外，还会不时碰到自己知识范围以外的东西，但只要引起足够的重视，总会找到解决问题的办法。
