1. 应急方案
紧急故障应急措施应以快速恢复客户使用为目标,第一时间将客户使用状态恢复到正常,避免或尽量减少因故障而导致的损失。
1.1. 应急组织机构
启动应急流程获批准后(包括口头批准),由项目经理负责组建应急处置组。应急处置组由多方人员组成,具体人员包括运维负责人、运维工程师、客户代表等。
应急处置组对发生的重大事故进行讨论分析并制定应急处理方案,应急处置组也可根据实际用人需求情况向其他部门申请调配足够人员加入。应急联系人为项目经理。
1.2. 应急管理制度
当运维人员收到问题报告并判断该问题属于重大事故时,则启动应急处理流程。重大事故包括以下几种情况:
- 大范围系统中断
- 区域性系统崩溃
- 关键业务中断
- 系统严重破坏
- 数据严重破坏
根据重大事故的紧急程度和状态不同,运维人员可采取以下方式启动应急流程,如下图所示(领导包括客户与监理):

- 对于病毒突发故障,当病毒大面积地感染终端,我方的现场运维人员将已感染的设备从局域网中断开,我方的运维客服人员将第一时间收集病毒信息,并向现场运维人员提供有针对性的应急方案;如果应急方案没有效果,要立即和杀毒软件厂方联络并汇报客户和监理,由三方协同提供有效的应对措施。
- 对于网络中断故障,我方的运维人员首先要判断中断原因,如果是局域网本地设备或线路造成的,依网络运行处理流程优先快速处理。
- 对于系统故障,我方的运维人员首先要启用备用系统,再判断故障类型:硬件损坏、操作系统故障、软件故障。第三方产品导致的故障向第三方厂商寻求技术支持并第一时间报告客户和监理;如果是我方自行开发的软件,立即向相关人员联系并排除故障并汇报客户和监理。
- 在故障排除之后,运维人员要填写故障记录,故障记录汇总到“系统运行故障记录表 ”,重大事故由故障处理人填写故障报告。
1.3. 风险识别评估
应急处理过程完成后,客户对应急处理结果进行评估和确认。
- 如果评估意见为达到要求(即问题得到解决并恢复服务),则应急流程结束。
- 如果评估意见为未达到要求,则讨论分析原因,根据分析结果可采取以下措施:
我方提出新的应急处理方案,进行应急处理。
1.4. 应急响预案
运维工程师根据应急处置组制定的应急处理方案具体实施应急处理活动,并将实施过程和结果记录。
应急处理实施过程中涉及需要协调配合的工作由运维负责人报客户和监理,说明需要获得的资源、需要协调配合的工作等,经客户和监理审批通过后由相关人员代表配合实施。
所有应急处理活动均应记录在。具体涉及到网络紧急故障处置,我们以恢复使用为第一目标。在确认设备故障情况下,将第一时间配合相关单位修复故障或相关单位采用备机后重新进行配置和部署;在链路故障情况下,积极配合链路运营商恢复链路;在大面积病毒爆发情况下,首先阻止网络病毒传播途径,阻止病毒源,并积极联系厂商获取最新病毒库进行病毒处置。
1.5. 应急演练
应急演练是检验、提高和评价应急能力的一个重要手段,通过接近真实的亲身体验的应急演练,可以提高各级领导者应对突发事件的分析研判、决策指挥和组织协调能力;可以帮助运维人员熟悉突发事件情景,提高应急熟练程度和实战技能,改善各应急组织机构、人员之间的交流沟通、协调合作,从而有助于提高运维团队应急反应能力。
具体应急演练场景见下:
- 当紧急故障发生时,运维工程师首先要进行故障分析,确定故障的范围和程度,确认为紧急故障的,在查找原因和解决问题的同时,要同步将故障解决情况通报给客户和监理、并且说明故障发生的状况。如需其他部门协助的,需要请求相关部门共同尽快解决故障。
- 对于病毒突发故障,当病毒大面积地感染终端,我方的现场运维人员将已感染的设备从局域网中断开,我方的运维客服人员将第一时间收集病毒信息,并向现场运维人员提供有针对性的应急方案;如果应急方案没有效果,要立即和杀毒软件厂方联络并汇报客户和监理,由三方协同提供有效的应对措施。
- 对于网络中断故障,我方的运维人员首先要判断中断原因,如果是局域网本地设备或线路造成的,依网络运行处理流程优先快速处理。
- 对于系统故障,我方的运维人员首先要启用备用系统,再判断故障类型:硬件损坏、操作系统故障、软件故障。第三方产品导致的故障向第三方厂商寻求技术支持并第一时间报告客户和监理;如果是我方自行开发的软件,立即向相关人员联系并排除故障并汇报客户和监理。
- 在故障排除之后,运维人员要填写故障记录,故障记录汇总到“系统运行故障记录表 ”,重大事故由故障处理人填写故障报告。
为保障全体运维人员熟练掌握各类突发故障处置流程,我方建立固定频次应急演练制度,分季度桌面推演、半年实战演练两类形式,演练、修订、审批全流程标准化管控。
- 每季度组织应急桌面推演
每自然季度末开展1次应急桌面推演,推演场景覆盖机房断电、光闸跨网传输中断、数据库连接异常、系统大面积卡顿、高危网络攻击5类高频故障。组织项目经理、5×8驻场工程师、7×24值守工程师、备用技术人员全员参与,模拟故障上报、分级、调度、降级处置全流程对话推演,全程记录推演过程中暴露的处置流程漏洞、人员配合短板、预案不完善内容,现场同步记录优化修改意见,形成推演记录文档归档。
- 每半年开展实战应急演练
每半年组织1次现场实战应急演练,选取机房硬件、跨网传输、数据库三类高风险场景开展真实模拟操作,例如模拟服务器硬盘损坏、网闸链路中断、数据库服务崩溃等,全程按照真实故障处置时效、操作标准执行,完整走完八阶应急全流程。演练过程全程拍照、记录操作日志,统计故障定位时长、恢复时长、降级方案落地效果,对比运维时效目标核查差距,形成实战演练完整报告。
- 演练后预案更新优化要求
所有桌面推演、实战演练结束后7个工作日内,完成应急预案修订优化工作:对照演练记录梳理流程卡点、资源缺口、处置步骤缺失内容,补充细化降级兜底方案、人员调度规则、备件使用流程;针对演练中发现的硬件备件不足、跨网临时传输流程不完善等问题,同步完善物资储备清单与处置细则。修订完成后的预案完整形成新版本,新旧版本同步归档留存,清晰标注修订条目、修订时间、修订依据。