在我们的日常生活和工作中，常会用到"标准化，规范化，系统化"这些词汇，我们在使用这些词汇时究竟有没有真正理解它们的含义？这些词都是动词，当我们在使用这些词汇时，是否知道究竟意味着要做什么？
 
 
 
 

  下面我尝试用最简单的方式来理解它们。
 
 
 
 
 
 
 
标准化 

  标准化的就是在符合某种思想体系目标和原则的前提下，产生一种方法论，以指导实践活动，并实现其价值或目标。
 
 
 在标准化之前，需先存在其所属思想体系。标准化不对其思想体系进行改造。
 

  产生方法论的过程见“
 哲学对象”一文中对方法论的阐述。
 
 
 
 
 

  标准化同时也有按即有标准执行的含义。
 
 
 
 
 
 
 规范化
 

  规范即符合标准。
 
 
 
 
 
 
 系统化
 

  系统化即产生一种思想体系。要研究的这种对象应包含以下四要素。
 
 
 1.它是什么。
 
 
 这种思想体系由哪些部分组成，它们的关系是怎样，具有怎样的性质和特征。
 
 
 2.它由什么组织。
 
 
 这种思想体系的组成结构，及其关系。
 
 
 3.它的目的是什么。即价值观。
 
 
 这种思想体系的价值和目标。
 
 
 同时应包括对这种价值观的形式化描述集合，即原则。
 
 
 原则用于指导形成方法论、判定行为或方法论是否符合价值。
 
 
 4.如何实现这种思想体系的目的。即方法论。
 
 
 方法论应符合价值观及其基础原则。方法论作为一种实践活动（劳动），应包括一套劳动对象，劳动者，劳动资料及生产方式。
 
 
 标准是方法论的一部分。
 
 
 
 

 
数据安全的精细化管理
 
精细化管理的意义
管理规范化
对象精细化
防护个性化

 
精细化管理的意义
 
数据安全是目前安全行业主要发展方向之一，传统以网络为中心的安全厂商近年来不断丰富自身产品线，相继增加数据安全领域产品，可以看出，数据安全行业是未来各大安全企业战略争夺点，总体而言，现今数据安全整体建设平均处于1.0阶段，业务与数据未进行深度融合，数据安全实现业务目标有限。
 精细化管理是一种理念，是组织业务发展的指导思想，是组织发展到一定阶段的必要建设。精细化管理可分为规范化、精细化、个性化三个层面。精细化管理多用于生产制造领域，而数据安全与精细化管理的融合将解决粗犷的数据安全防护粒度，加深安全与业务融合度，全面支撑数据安全实现业务发展目标。
 未来的数据安全2.0阶段便是以实现业务目标为导向，融合组织内部业务系统，通过精细化管理相关手段，实现管理的规范化、对象的精细化、防护的个性化，全面提升组织内部数据安全防护水平。
 
 数据安全治理应是数据安全精细化管理的一种表现方式，即数据安全治理的目标是实现数据安全的精细化管理。
 
管理规范化
 
管理规范化体系，是精细化管理实施过程中的必要条件，是管理水平的直观体现。管理规范化在数据安全建设、运维过程中起到重要的约束作用，所以完善、可收敛的数据安全管理体系非常重要。数据安全管理体系的建设需要从组织内部战略、合规等多个角度考虑，形成多等级的管理规范化文件。
 
第一级应为管理总纲。是组织安全战略，主要包含愿景、方针、基本原则、安全策略、违规处理等内容。
第二级为管理制度。以数据生命周期为基础的的各种安全管理规章制度要求。
第三级为操作流程和规范性文件。组织业务过程中的作业指导书或指南，以便管理内容可落地执行。
第三级为表单文件。由安全系统产生的报表、人工产生各种记录文件。
 
 数据安全管理体系并不是摒弃组织内部建设以网络为中心的安全管理规范，而是在此基础上融合数据安全管理要求，形成全面的管理规范。
 
对象精细化
 
数据安全的对象为组织内部各种数据，在对象精细化管理前，需要大量摸家底、理数据的工作，以便准确有效对属性（列）分类分级。
 目前业界可参考的分类分级较少（贵州政府数据分类标准，工业互联网企业网络安全分类分级指南），没有明确的分级方法论，目前组织对自身内部数据进行分级时可参考《数据安全管理办法》、《个人信息安全规范》、《中华人民共各国政府信息公开条例》等上层建筑文件，再结合组织内部数据特性，抽取分类分级原则，形成有效、准确、可收敛的分类分级方法论。
 
 一旦形成细粒度方法论，便可实现对数据属性的定级分类，达到数据精细化效果，为防护个性化做准备。
 数据分类分级是数据安全精细化管理的前提，是进行个性化安全保障的前提。
 
防护个性化
 
防护个性化是针对相同数据不同场景、不同数据相同场景下的个性化管控，既要满足灵活多变，又要满足针对防护，个性化防护需要梳理现有业务场景（元素包括：业务系统、数据等级、请求人员等），由业务场景转换成技术防护策略，再从技术防护策略填充至安全产品中，最终实现数据在采集、传输、存储、处理、交换（共享、应用）、销毁等数据生命周期下的个性化安全防护。防护个性化由于依托业务场景，所以业务场景发生改变时，对应的防护需要动态改变，防护个性化是一个持续且动态的过程。
 
数据安全精细化管理是结果，数据安全治理是手段，数据安全治理目的是实现数据安全的精细化管理，所以组织不应将手段（数据安全治理）设立成战略目标，而是应将结果（数据安全精细化管理）设立成战略目标。

   经济的发展对于交通运输和公路运营质量要求越来越高,交通量的增长，养护人员增长，设施使用频率的增加,高速发展的公路的设施会出现不同程度的损坏,及时发现并有效修复这些病害和提高公路养护系统效率是我们公路养护部门的主要职责和任务。智慧公路养护系统结合各养路站点数据录入及道路巡查通采集的现场巡查问题上传反馈至系统，将公路养护的各类实时状态、维修等情况展现出来，通过平台就能进行各类查询和检索并以图、文、表的形式清晰直观展示，为决策者提供强有力的数据分析及决策依据，实现养护管理精细化、数字化、网格化。
 
目录
 　　一、智慧公路养护管理系统方案介绍
 　　二、智慧公路养护管理系统方案优点
 　　三、智慧公路养护管理系统方案功能
 　　四、智慧公路养护管理系统APP开发
 　　五、智慧公路养护管理系统方案特点
 　　六、智慧公路养护管理系统管理架构
 　　七、智慧公路养护管理系统发展前景
 　　正文
 一、智慧公路养护管理系统方案介绍
 智慧公路养护管理系统充分利用物联网、云计算、卫星遥感、地理信息、MEMS传感器等新一代技术，结合具有自主知识产权的国际领先的人工智能交通气象预报算法和自主研发的气象、桥梁位移动态监测等物联网采集系统，综合运用交通科学、系统方法、人工智能、知识挖掘等理论与工具，以全面感知、深度融合、主动服务、科学决策为目标，进行数据的采集、分析、整理、存储、整合、应用等，使交通系统在道路、城市甚至更大的时空范围具备感知、互联、分析、预测、控制等能力，以充分保障交通安全、发挥交通基础设施效能、提升交通系统运行效率和管理水平，为通畅的公众出行和可持续的经济发展服务。以实现交通行业资源配置优化能力、公共决策能力、行业管理能力、公众服务能力的提升，推动交通行业更安全、更高效、更便捷、更经济、更环保、更舒适的运行和发展。
 
 二、智慧公路养护管理系统方案优点
 　　智慧公路养护管理系统将通过平台，智慧公路管理系统内部分布在各地的养护部、各管理局(处)养护科等部门，实现对养护过程的信息化管理，做到养护信息的信息共享、资源共享，同时利用它来指导养护人员的工作，指导他们采取正确的技术措施，提高养护工作质量，以延长公路的使用年限。
 　　1、公路养护管理系统的功能，应能满足个性化服务的需要，功能强大、操作方便、柔性扩展的需要，适应蓬勃发展的需要。
 　　2、通过公路养护系统平台，应能对路况信息进行统一管理，保证信息在各部门之间传递的快速性和数据传递的高度准确性。
 3、公路养护系统平台应具有系统运行的稳定性，信息使用的安全性，信息传输的可靠性和较高的信息吞吐量。
 
 三、智慧公路养护管理系统方案功能
 　　智慧公路养护管理系统，系统以道路和桥梁的日常巡查和养护为核心功能，采用先进的技术架构，结合GIS地图与智能手机APP等技术，通过对病害与养护流程的规范化管理，实现了高效的公路养护的精细化管理。
 　　1、基础信息
 　　七大公路属性信息管控，建立公路基础电子档案。公路基础信息管理主要实现对路线、路段、桥梁、涵洞、桥梁、涵洞、隧道、沿线设施、防护设施7大管控基础信息的在线信息管理，以养护站为基本单位，建立一路一档。
 　　2、巡查管理
 　　预防为主、防治结合、任务下达、巡查管理。信息管理、日常养护工作管理、养护工程信息管理和养护巡查人员的任务派遣、监控管理，定制巡查计划并将养护人员日常巡查状况进行记录。巡查管理实现对公路基础设施的巡查作业信息化、采用工作流引擎驱动养护作业，包括平台对巡查人员的任务派遣和移动端日常养护巡查病害上报，实现从巡查任务网上编制下发到任务执行发现病害上报、养护工程预算单编制到审核工单下发、养护完成、工单结束的常规处理流程，实现从道理病害发现到病害养护完成的闭环信息化管理。
 　　3、工程管理
 　　生产养护记录，统一管理、分级负责。对道路、桥梁病害信息进行处置，巡查人员发现病害上报系统后逐层审核并将审核处置意见下达基层养护站进行相应的生产养护工作，记录每日生产养护的的具体情况和人员考勤、机械使用、材料使用情况实时关联。选择管养单位和路线用工情况，杂工情况，生产日期，修复的是哪天巡查的病害，修复的路段，起始桩号，终点桩号，使用机械情况，使用材料的情况等，做到发现问题与解决问题的联动性。
 　　4、GIS地图
 　　地理信息系统、统一公路数据库。GIS地图分为平面地图、地形图和卫星地图，通过地图数据把人员监管、路况信息、桥梁信息、隧道信息等都统一到一张地图上，实现部门协同，信息共享打造公路智能养护一张图。
 　　5、数据评定
 　　专业评定、科学兴交、科学养路。系统严格按照公路技术状况评定标准JTG H20-2007和公路桥梁技术状况评定标准JTGT H21-2011严格执行一季度评定一次，评定方式可以以智能终端采集并上传病害数据进行实时评定，季度末可以自行展示，打印;还可以在季度末用人工录入的方式进行人为评定，评定结果可在GIS地图上进行检索查看。
 　　6、机械材料
 　　道班机械、人员台账管理，透明公开。对机械设备的装备购置、经营生产、使用维修、更新改造、处理报废等全过程管理，包括对机械使用记录，维修保养状况、油耗情况等进行全面的监督管理利用信息化的手段实现对设备的精细化管理。对材料根据施工单详细记录每项材料的出库，拒绝浪费。同时保证生产的计划性、平稳性。
 　　7、人员管理
 　　人员管理。建立员工档案记录了本单位所有员工的基础信息。员工考勤主要是记录本单位每位员工每天的出勤情况。通过GIS、GPS定位等技术，自动考核人员，实现由“人管人”、“走动式”、“行政性”管理向机制化、制度化、办法管人的转变。规定管理区域，设置管理范围，杜绝工作人员缺岗失位、工作散漫等现象。
 　　8、智慧公路养护管理移动端(APP和微信)
 智慧公路养护管理系统，外页作业数据采集，实现无纸化公办。智慧公路养护管理移动端是巡查人员外出巡查采集数据所使用的移动终端APP，是为了配合智慧公路养护系统的使用而开发的，方便各个养护部门上路检查，实现真正的无纸化办公。实现道路检查数据同网络数据库数据的同步更新，当路检人员检查到相应路段时，可进行实时的数据录入，系统将自动生成公路技术状况等级。对路况信息进行统一管理，保证信息在各部门之间传递的快速性和数据传递的高度准确性。
 
 四、智慧公路养护管理系统APP开发
 　　公路管理部门不仅要做好日常道路巡查和养护的工作，还要做好数据管理分析。传统的公路养护方式耗费资源较多，效率也跟不上节奏，常常是用很长的时间完成一个路段的监测养护。公路养护APP开发实现了公路数据的规范化管理，提高日常养护的工作效率，规范道路病害标准及养护流程，利用成熟的技术手段实现公路养护的精细化。
 　　1、智慧公路养护管理系统APP开发的好处
 　　智慧公路养护管理系统APP开发是一个集综合数据分析、GPS定位、图片图像处理技术于一体的平台，实现道路病害及时发现、处置，提高工作效率，提升服务水平，实现无纸化办公。公路养护APP开发有效提升了公路养护管理的整体效果，道路病害处理更为高效、快速，发现安全隐患能在24小时内得到处治，更好地保障了道路的安全运行，为道路养护管理工作构建了前期预防、中期防控和后期检查“三道防线”，为监察部门通过平台系统追溯核查问题提供了真实可靠的依据。
 　　2、智慧公路养护管理系统APP开发的功能
 　　1)道路巡查：公路基本有监控系统，通过监控巡查或者是部分人工巡查可实现养部门对所管辖的道路日常巡查和病害上报。
 　　2)养护管理：养护管理包括桥梁巡查、病害上报、工单下发、养护完成、工单审核、工单查询等，管理人员可在系统中完成，没有必要去查询其他档案。
 　　3)基础数据：道路、桥梁、绿化等公路基础设施数据管理，基础数据的管理依据交通部对公路设施的管理标准进行设计和实现。
 4)统计报表：在系统中可以直接制定统计报表，报表内容包括巡查覆盖率、病害发现率、养护完成率等，用表单或是图标方式展现，能为公路管理部门提供考核的数据支撑。
 
 五、智慧公路养护管理系统方案特点
 　　从技术手段上改进公路养护监管手段和养护基层单位的养护项目运营水平，对于提高养护质量管理水平起到积极的推动作用。
 　　通过对养护道班的财、物、人力资源、作业流程的智能化管理，提升道班的管理和生产水平，促进公路养护投入产出最优化。实现了地级、区(县)级、道班级等多级网络的统一的分布式数据库管理。
 　　通过系统地记录不同地域、季节、路面类型等情况下的实际养护效果，反映基层养护道班的实际养护水平，为监管养护质量，分析病害原因，评价养护投资效益提供了科学依据。
 　　智慧公路养护管理系统是一套建立在专业大数据平台和INTERNET平台上的生产管理软件，它提供了全面的信息管理功能，信息化管理覆盖整个养护工作项目，确保养护工作的科学性、准确性和公正性，对公路养护质量的提升起到积极的促进作用。
 　　公路养护管理系统采用了最新的网络通讯技术、分布式数据库技术、数据压缩技术、手机APP系统开发技术、具有技术先进、功能完善、运行效率高、简单易用等特点。
 通过平台定时汇总上报日常公路养护数据，确保养护站以及上级单位能够随时调用和查看养护数据及相关质量信息，进行各种数据汇总和统计，及时准确地了解养护质量情况，有效地提高了养护质量管理水平。
 
 六、智慧公路养护管理系统管理架构
 　　智慧公路养护管理系统以精细化管理、量化考核为核心，以管理制度为基础，结合养护工作情况，以养护任务为主线，为制定养护计划、开展养护巡查、反馈养护事件、 养护督查管理等公路养护地高效管理信息化支撑，助力“四好”农村公路管养。
 　　1、养护事件管理
 　　对班站人员巡路检查以及养护过程中发现的事件进行统一的记录、处置、跟踪及反馈。
 　　2、养护计划管理
 　　实现养护班养护计划的上报审核与市局、分局养护任务的下发下达。
 　　3、班站内业管理
 　　包括日常养护作业、桥梁检查、涵洞检查、隧道检查、学习记录和技术状况评定的填报等。
 　　4、分局检查管理
 　　实现分局对班站工作的检查、通报、跟踪与反馈。
 　　5、统计报表管理
 　　自动统计生成养护作业记录薄、桥梁检查记录簿、涵洞检查记录簿等各类报表。
 　　6、养护地图
 实现一张图查看养护班站、基础设施及安保工程等基础信息，以及机械车辆位置轨迹和养护事件。
 
 七、智慧公路养护管理系统发展前景
 智慧公路养护管理系统通过大数据处理实现对道路养护车辆、财务、人员、及作业流程等，实现公路养管工作数字化、标准化、智能化、效率化。将公路养护的各类实时状况、维修事故、灾害等情况通过3G/4G视频图片展现出来智慧公路养护系统平台能进行各类查询和检索并以图、文、表的形式清晰直观展示，为决策者提供强有力的数据分析及决策依据实现养护管理精细化、数字化、网格化;从而提高公路管理效率对路况信息进行统一管理，保证信息在各部门之间传递的快速性和数据传递的实时性准确性。随着高速公路的不断发展，社会对高速公路的要求随之增高，要求高速公路提供快速、安全、高效的道路运输条件，如继续采取传统的修补坑槽、裂缝等的方法，耗时长、效果差，影响道路安全畅通，其发展趋势必然是养护施工设备的一体化。
 

 
 
网易DBA团队同时运维众多不同类型的数据库环境，面临的问题是既要保障数据库运维的高效可靠一致，又要针对每一种数据库进行定制的精细化管理。针对这个问题我们给出的解决之道就是构建一个开放式的数据库运维平台OWL：一方面将通用的操作流程标准化、自动化；另一方面将个性化的配置与流程做成模版与插件脚本。根据这一基本指导思想，可以逐步在数据库管理上既实现了高效自动化的基础需求，又保障了灵活性个性化，最终达到精细化管理的目标。
 
 
本文由作者授权发布，未经许可请勿转载。
 
作者：潘威，网易杭州研究院资深DBA
 
众所周知，标准化和模版化是管理大规模数据库集群的不二法门，可以显著的提高数据库运维的效率与可靠性。但是事务都是具有两面性的：网易的产品众多，涉及的业务类型覆盖电商、社交媒体、云计算、智慧企业、邮箱、IM等多种类型，这些业务对数据库的使用场景不尽相同，进而也对数据库本身的性能、高可用、服务形态、运维管理有不同的要求。当一支数据库团队同时运维这么多不同类型的数据库环境，既要保障运维的高效可靠可持续，又要针对每一种数据库进行定制的精细化管理，这是网易DBA团队不得不解决的问题。
 
针对这个问题，我们给出的解决之道就是构建一个开放式的数据库运维平台-OWL2.0：一方面将通用的操作流程标准化、自动化；另一方面将个性化的配置做成模版，特化的流程做成插件，从而保障系统的可扩展性。根据这一基本指导思想，可以逐步在数据库管理上既实现了高效自动化的基础需求，又保障了灵活性，最终达到精细化管理的目标。
 
OWL平台是网易杭州研究院DBA团队开发的面向DBA与开发同学的数据库运维平台，覆盖了数据库运维管理与自助查询等各类功能，OWL平台经过几年时间的发展已经成为网易数据库使用和运维的重要组成。网易杭研DBA团队出品本系列技术文章，将基于OWL平台介绍我们在数据库运维与自动化智能化方面的相关经验，与读者交流。本篇文章主要是围绕数据库运维的几个经典场景，介绍OWL平台在精细化管理方面的实践。
 
 
 
本文专有名词：OWL--数据库运维平台；哨兵--监控系统；夸父--工单系统；DDB--分布式数据库；NOS--对象存储系统。
 
 
 
 
 
OWL2.0数据运维平台架构图
 
1. 主动式元数据管理
 
对于数据库管理来说，元数据是基石，它决定了整个管理体系的深度与广度，无论是监控、自动化部署、巡检以及备份等等都离不开一个可靠稳定的数据库元数据系统。构建元数据是数据库精细管理的第一步，它的目标是完整、准确与实时，主要涉及采集、数据组织、系统互通等工作。不同的业务场景或者组织架构对应的元数据管理实现方式其实不尽相同。
 
当组织架构比较统一或者运维工具完全统一，比如数据库服务的部署可以收敛到一个入口时，元数据的采集以及对应与业务的认领可以前推到数据库交付阶段，即数据库部署时就将元数据采集录入完整，当数据库有切换或者分布式数据节点变更时，也调用元数据变更接口实时同步这种变化。这种元数据采集方式称之为被动式采集，它的优点是可以做到准确实时，但是可扩展性差，当采集目标有变更时，需要同步修改其他的部署或者高可用模块。另外就是要求数据库新增与变更的入口统一，这在复杂的业务与组织架构实践中并不容易做到。
 
另外一种元数据采集方式是主动式采集，也是网易DBA团队采用的方式，这种方式的整体采集思路如下：
 
将数据库管理的目标抽象成几种类型（如MySQL、Redis、DDB 等）
根据类型在线上所有DBA管辖范围内的服务器上进行规则匹配采集，如进程关键字或者本地服务配置文件等
将新增或者变更的元数据清洗处理
处理后的元数据录入到元数据CMDB系统
 
 
 
这种采集方式可以做到完整和准确，对于DB的部署或者变更路径没有要求，只要服务器存在符合规则的实例就可以抓取到。而且可扩展性强，当采集目标有新增变更时，只要变更对应的采集规则即可。 缺点是只能做到准实时，如果管理的服务器与db规模较大，需要一套专门的数据抓取与采集通道框架才能最大程度的减少元数据同步的延迟。我们目前采取的是本地agent执行采集脚本定时推送Kafka消息队列，然后利用插件式的handler进程按数据库类型处理消息录入元数据CMDB，可以做到分钟级别的延迟、满足线上的运维需要。
 
元数据管理的另外一个要点就是一定要与其他的运维系统互联互通，才能发挥出巨大的威力。一个最明显的例子就是与监控系统的互通，当检查到DB元数据有新增或者变更后，自动的建立对应的数据库监控，绑定对应的DBA或者开发。这样一方面可以提高工作效率，减少人工添加监控的重复劳动，另一方面可以极大的提升数据库监控覆盖的完整性，避免遗漏监控造成的线上事故。对于运维产品众多、线上环境复杂、db变更频繁的DBA团队尤其有用。
 
2. 可定制的数据库交付
 
数据库交付是数据库精细化管理的重要一环，一方面需要保障交付的数据库符合规范、服务器配置与数据库配置达到上线标准，另一方面又需要根据不同的业务场景与数据库主从拓扑方式定制特化的交付方式。网易的产品众多且变化频繁，几乎每天都有新DB部署或者扩容变更的需求，因此需要打造一个可定制的数据库部署交付平台，即保障效率简化重复劳动又可以根据特定的交付需求输出交付品。
 
我们把数据库的交付抽象成几个阶段：
 
部署环境配置
数据库配置
环境预检查
部署实施
结果检查
 
 
 
其中可定制的主要是数据库配置与部署实施两个阶段，以MySQL部署为例，MySQL的数据库配置主要包括redo log size、buffer pool、并行复制、线程池等，这些配置需要根据业务场景的不同进行定制化的配置。我们将数据库配置抽象成一个个的模版，将共用的标准化配置参数固化，特化的参数做成可配置的变量。OWL的数据库交付部署平台提供了几种常见的数据库配置模版，可以适配高并发、响应时间敏感的业务类型或者适配高吞吐密集写入的业务类型。除了平台提供的默认数据库配置模版，也允许DBA定制个性化的数据库配置模版以适应特化的数据库部署场景。
 
 
另外一个可以定制的地方是数据库的部署实施阶段，数据库部署实例我们也同样没有固化到平台代码里，而是把部署逻辑抽象成了可编辑的脚本外置于平台之上，有权限的运维开发或者DBA都可以修改部署逻辑。这样做的好处一是提高了可扩展性，当需要新增部署db类型时只需要开发对应的部署脚本即可，二是当原有部署逻辑需要变更适配新的环境或者db类型时，可以方便的修改上线，无需做平台级别的开发与发布。
 
OWL部署平台本质上的工作只是基于celery异步框架的在指定服务器运行脚本，并且根据标准的输入输出结果处理数据渲染页面。在运行部署实施脚本前需要根据前期平台设置的目标服务器、部署目录等信息参数抽象成标准化的传参传递给部署脚本，脚本运行后可以根据运行结果输出获取部署执行状态与结果，并且反馈给终端用户。这两步规范做好，平台框架就可以高效快捷的实现MySQL、Redis部署、镜像库搭建等数据库交付工作。
 
3. 可靠的数据库备份
 
备份也是数据库管理必不可少的组成部分，无论何种场景下备份要实现的目标其实很简单：
 
覆盖完整
备份成功率高
但是实现这一目标并不简单，多业务复杂非一致性的数据库部署环境、频繁的数据库主从切换与扩容隔离等运维操作都增加了一个可靠的备份系统的难度。与前面介绍的数据库管理理念相同，备份也体现着统一化与个性化的矛盾与中和：一方面需要备份的数据库在网络环境、部署方式、容量大小、数据安全级别等方面都具有差异性；另一方面又需要一个统一的基于元数据的自动化备份平台来保障整体的覆盖率与成功率。
 
 
 
 
具体实现上，我们将备份方式与备份的目标存储介质做了统一与自动化，统一与自动化是为了提高覆盖率与成功率，有赖于一个完整的元数据系统CMDB，备份平台可以明确的获取镜像实例的地址，采用经过线上验证安全可靠的备份方式进行定期的备份。比如对于MySQL的备份，我们统一采用了xtrabackup流备份方式，而没有开放太多如mysqldump等其他备份方式。 在备份的目标存储介质方面我们也进行了统一，选择对象存储作为备份的存储介质。早期的备份系统很多是通过流备将备份存储到一个或多个存储机中或者类似NFS的目标存储介质中，这种方式虽然可以做到让备份存储设备与数据库服务器在同一个内网环境甚至是同一个机架下，获得较好的备份速度，但是需要进行人工或者半自动的选择存储备份的数据盘目录，无法屏蔽存储细节。由于数据库的空间是一直在增长变化的，数据库需要备份的实例也是在变化的，当备份实例达到一定规模后，人为的配置这种备份存储目录会变的不可维护，大大的降低了备份的成功率。而对象存储对于用户来说近似于一个可以无限使用的存储池，用户无需关注存储细节，只要指定对象名就可以存取数据，天然的适用数据库备份的场景。 数据库备份也有个性化的需求存在，比如对于备份实例IO限速的需求、备份保留份数的要求可能都不尽相同，在保障基本备份方式的统一的基础上，系统也预留了一系列的可配置参数，满足不同业务的定制需求。
 
可靠的数据库备份的基本原则就是对于可能频繁变动的因素，尽量采用统一的成熟自动化方案覆盖，如备份目标实例新增与变更、备份空间大小申请等都使用自动化的方案解决；对于变动不大，与业务特性关联的特化需求留给DBA可配置的入口做个性化设置，如备份保留天数等。
 
4. 插件式的数据库巡检
 
数据库巡检主要用于发现系统的潜在风险，规范线上配置，争取在故障触发条件来临之前就排除掉异常。一般的数据库巡检分为日常巡检与活动巡检：日常巡检主要是将DBA常年积累的巡检项目定期的在线上进行筛查，发现异常后形成报表提供给负责DBA进行处理，日常巡检主要用于发现新增或者变化的DB实例的潜在风险。活动巡检指的是当某项活动临近或者业务访问行为发生变化时，需要针对性的对某个集群的数据库进行一次巡检、评估数据库是否能够满足业务需求，活动巡检主要用于数据库的性能容量指标发生变化时的风险评估。
 
无论是日常巡检还是活动巡检，我们都面临两个问题：
 
一是巡检项频繁变更，事实上数据库的巡检项目很多都是DBA团队根据日常中遇到事故异常不断积累的，随着我们对数据库的认识不断加深，数据库巡检的项目甚至类别都会不断的调整。
 
二是不同业务不桶数据库的巡检风险指标并不相同，比如对于IO延迟敏感，连接并发大的业务，服务器raid卡缓存策略要求必须是writeback，但是对于延迟要求不高的业务，或者数据可靠性要求高的业务，raid卡缓存策略可以设置为writethrough。
 
 
 
 
为了解决这两个问题，我们开发了一套插件式的数据库巡检框架，允许自定义巡检采集插件与巡检规则。巡检的主要流程是：巡检数据采集->巡检数据存储->巡检数据处理->巡检数据展示，与元数据的采集方法类似，数据库巡检也定义了一套通用的数据采集格式标准，开发可以自定义采集器实现逻辑与采集数据指标，由巡检框架在指定的服务器上执行。当采集数据的逻辑或者采集环境发生变化时，只需要修改独立的巡检采集脚本即可。此外在巡检数据处理阶段，也支持自定义模版，根据不同的业务场景与数据库服务特性，制定特化的巡检指标，从而满足个性化的风险排查与容量评估需求。比如网易云音乐和Lofter，可以根据自己不同的业务特性，为自己的项目制定不同的数据库参数巡检标准。从而得到符合自己业务特性的数据库风险巡检报告。
 
除了在数据采集与数据处理上支持插件化的扩容功能，我们在数据存储与数据展示层又做了抽象与统一，也就是无论是何种类型的巡检数据，在数据存储与数据展示页面上，都可以使用现有的存储与展示资源，简化了持续变更需求场景下的代码开发量，提高了系统整体的可扩展性与易用性。通过以上不同阶段个性化与统一标准化的选择，最终目标是实现保障开发效率、维护效率的前提下，针对不同业务的巡检需求实现精细化的管理。
 
 
 
网易数据库运维与自动化智能化系列文章近期计划包括：
 
管理精细化
自动化生命周期管理
SQL管控
敬请期待。
 
 
 
作者简介
 
潘威，网易杭州研究院资深DBA，负责网易云计算数据库、对象存储NOS等项目的运维管理工作，具有多年的一线数据库运维经验与数据库管控平台开发经验，目前专注于运维平台构建、分布式数据库运维等领域。