唯一小编 发布时间:2020-06-24
2020年6月2日—6月15日,广东唯一网络科技有限公司(南兴股份全资子公司,以下简称“唯一网络”)参加了由CCSA SNAI推委会(TC610)SDN集成与互通测试组发起的“SD-WAN Ready”测试项目,并已顺利通过该项测试。唯一网络通过此次测试,标志着唯一网络SD-WAN产品的技术规范性和专业性得到了充分肯定。截止目前,已有中国联通、电信国际、移动国际、华为、思科、奇安信、香港电讯等多家企业通过“SD-WAN Ready”项目测试。 项目测试组专家组基于《SD-WAN整体解决方案基准测试》方案,对唯一网络SD-WAN整体解决方案进行了全面且严格的评测,验证了唯一网络SD-WAN 整体解决方案智能、高效和灵活的软件定义广域网能力,可满足各行业广域互联的典型场景和共性需求。测试内容包括:自动化部署、overlay 拓扑变更、应用识别、链路双活、链路质量检测、负载均衡、策略匹配、运维管理、安全策略、URL 过滤、隧道安全、隧道隔离、边缘设备可靠性、链路可靠性等功能。 唯一网络SD-WAN Ready 证书 在大数据的推动下,基于SD-WAN的智能广域网架构,在企业数字化转型的过程中优势明显,成为支持企业与云计算大数据深度融合的动脉,在物联网、5G、智慧园区等新兴业务的分支互联、业务上云等多元化部署场景中的作用日益凸显。 作为云服务综合云服务综合解决方案提供商,唯一网络运用自身资源储备和云计算、大数据、工业互联网等多个领域的技术优势,为客户提供高品质的综合云服务,不断创新产业形态,打造云-网-边-安全一体化的互联网综合生态平台。唯一网络聚焦SD-WAN市场,推出SD-WAN整体解决方案,从性能、成本、管理等多维度帮助企业客户的广域网建设,实现快速、低成本、简便构建企业网络,极大程度上满足应用即时性和实时性的要求,实现“一点接入,云网互联”。 唯一网络SD-WAN网络POP节点在全国分布范围广泛,覆盖华中、华南、华北、华东区域,全球开通90+可部署业务POP节点,拥有多节点备份,保证线路畅通无阻。目前与现有主流公有云互联所构建的网络资源池,向企业端、IDC端、云端、移动端等多端数据组网互通、高速上云、混合云组网等提供高稳定、高质量的网络连接服务,并且近40个核心节点设有属地化技术工程师,可提供一站式运维支撑服务。 唯一网络SD-WAN整体解决方案的主体功能丰富: 自主安全组网:实现全自动组建加密虚拟专用网的能力,管理员只需关心业务访问策略如何配置,由此降低运维人员的配置复杂度。 零配置快部署:安全网关支持自动向管控平台注册及从管控平台获取初始化网络配置和安全策略配置,实现分钟级上线。 广域出口整合:支持多路广域网出口的统一整合。当其中一个广域网出口出现故障时,可以切换到其他正常的广域网出口。 智能路径优选:通过管控平台监测整个企业广域网的端到端服务质量,多维度的智能选路,实现基于应用的路径优选和质量保证。 增强型安全隔离:为客户按需组建虚拟网络, 在中心节点到分支机构之间建立基于业务隔离的安全连接,可支持国际算法以及国密算法的加密数据传送。 全面支持虚拟化:支持企业自建虚拟化环境部署,支持混合云组网场景,可保证系统部署安装的便捷性和适应性,方便支持网络功能的弹性扩展。 未来,唯一网络会不遗余力的推动SD-WAN产业生态的全面发展,以支撑企业用户实现高效且精细化的业务管控与敏捷力的提升,助力企业降本增效,实现云时代的快速IT数字化转型。
唯一小编 发布时间:2020-04-28
4月28日,南城街道2020年推动经济高质量发展暨科技创新工作会议隆重召开,对2019年度推动产业发展工作表现突出的广东唯一网络科技有限公司(南兴股份全资子公司)、东莞市天安数码城有限公司等112家企业、单位给予奖励资助。南城街道党委副书记、办事处主任苏东等党政班子成员,以及倍增企业、高新技术企业、科技代表负责人等100余人出席了大会。 大会现场图 南城坚持以科技创新为引领,深入实施创新驱动发展战略,推动产业经济高质量发展,政府对企业的激励政策,不仅是对企业发展的肯定,更具有导向作用,将助力企业在新常态下开拓新局面。 作为南城区“倍增企业”的代表之一,唯一网络以创新驱动发展,已连续三年实现效益与规模的倍增,无论是产品、技术、服务还是创新能力等,都得到了各级政府部门的肯定,先后获得国家高新技术企业、广东省创新发展示范企业等荣誉认定,目前唯一网络及旗下子公司共拥有软件著作权达90多项,申请发明专利7项,并已通过信息系统安全等级保护备案证明、ISO9001质量管理体系认证、ISO27001信息安全管理体系认证、ITSS运维能力成熟度认证,两化融合管理体系认证,专业提供云数据中心、网络安全、云专线、公有云、混合云等服务。 其中“唯云公有云服务平台”和“唯一网络安全防护技术服务”产品被认定为2019年广东省高新技术产品,科技创新实力不断增强。 面对新常态下的挑战和机遇,提升企业核心竞争力,唯一网络将依托利好政策,整合创新资源,不断加大科研投入,用好奖励资金,培养专业技术人才队伍,构建科技创新体系,为更多企业赋能,为推动南城经济高质量发展尽一份力。
唯一小编 发布时间:2020-03-05
3月已至,全国各地的学生陆续开学了。不同于以往,为保障防疫工作顺利推进,响应停课不停学的号召,这次老师们化身“主播”,师生相聚“云端”,利用“互联网+”教育模式,开展线上教学。 据最新数据显示,2020年开学仅第一周,教育行业App中日均用户规模就达到了1.27亿人。无论是垂直领域机构、线上直播平台还是短视频平台,线上人数的访问量、用户量、使用量都在激增,对于底层云计算设施的需求呈现大幅增长。在这样的刚需背景下,要保障各大平台平稳运行,良好的教学效果得以呈现,云服务商的作用至关重要。 图片来源于网络 作为云服务综合解决方案提供商,为更好地助力“云课堂”的顺利进行,唯一网络勇担责任,充分发挥云服务商优势,迅速组建专业团队并配置资源投入到这场“信息化战役”,紧急启动了多项网络保障工作:为多家平台进行紧急扩容,为超大带宽需求提供保障。特为教育企业客户提供专享通道,技术运维团队7X24小时密切监测数据运行情况,并出台多项有效应对多种防范风险的预案措施,确保网络运行稳定,杜绝因高负载、高并发等出现的故障和宕机等情况。制定安全防御策略,加强网络安全防护,提供多元化的互联网服务,让企业客户把更多精力关注在核心业务需求上。 战“疫”尚未结束,决胜贵在坚持。唯一网络将依托资源、技术、产品、服务等优势,践行“客户第一”的理念,持续为各大平台企业提供基础支撑服务,全力保障客户业务平稳运行,贡献自己的“云力量”。 (如有业务咨询,欢迎直接拨打电话:谢小姐 18902615067(微信同号),更多详情请点击客服咨询)
唯一小编 发布时间:2020-02-25
为更好地帮助医护人员及市民应对疫情,坚决打赢疫情防控阻击战。2020年2月25日,唯一网络党支部向南城医院捐赠爱心防“疫”物资,捐赠仪式在南城社会工作和慈善事业促进中心举行。南城街道党委委员张小燕、南城街道社会事务局相关领导、唯一网络副总裁及党支部书记李玉何等出席了捐赠仪式。 捐赠仪式现场 本次捐赠仪式上,唯一网络党支部一次性定向捐赠南城医院10000个KN95颗粒物防护口罩,齐心协力,为疫情防控作出贡献。 唯一网络在积极做好企业自身防疫的同时,勇于承担社会责任,以实际行动回馈社会,践行着为社会贡献正能量的企业使命。唯一网络党支部在疫情当前积极行动,充分发挥了党支部的“红色引擎”作用,也为共同抗击疫情做出了党员、党支部先锋模范的表率,展示了凝心聚力、共同战“疫”的强大力量。
唯一小编 发布时间:2020-02-21
为贯彻落实国家科技创新制度,凝聚城市创新力量,树立先进创新典范,根据东莞市政府打造“创新东莞”的工作部署,东莞市高新技术产业协会组织开展“百优创新典型”评选活动。2月20日,2019年“百优创新典型”名单正式公布,唯一网络荣获“2019年百优创新服务”奖项,这是对唯一网络技术创新能力和完善服务体系的高度肯定。 作为云服务综合解决方案提供商,唯一网络凭借深厚的行业积累,专业提供云数据中心、网络安全、云专线、公有云、混合云等服务,并专注产品创新、服务创新、模式创新,为助力客户充分释放云上生产力而积极探索。同时,通过打造差异化的竞争优势,始终践行“客户第一”的服务理念,获得客户和社会各界的一致认可和好评。 唯一网络此次入选“百优创新典型”评选,将把荣誉激励转化成内生动力,充分发挥云计算的技术优势,持续探索创新业务模式,不断进行技术创新和服务升级,为更多企业赋能,助力创新发展,为推进城市创新建设贡献力量。
唯一小编 发布时间:2020-01-19
近日,唯一网络受邀出席中国电信广东分公司年度会议,并荣获“2019年度IDC优秀合作伙伴”称号。此次殊荣是广东电信对唯一网络高水准服务体系标准和专业运营能力的认可与肯定。截至目前,唯一网络已经连续5年蝉联“广东电信年度IDC优秀合作伙伴”殊荣。 颁奖合照——右一为唯一网络副总裁李玉何先生 作为云服务综合解决方案提供商,唯一网络围绕互联网基础设施领域,专业提供云数据中心、网络安全、云专线、公有云、混合云等服务。目前,唯一网络数据中心资源节点基本覆盖全国,可为客户提供单线、双线、三线、CN2、BGP等多种线路接入。全网接入带宽超过20T,网络防护能力超过8T,是目前行业内经营牌照相对齐全的企业之一。同时,唯一网络发展稳步提升,连续多年实现业绩倍增目标。 优质的产品和优质的渠道必定互惠共赢。长期以来,唯一网络与广东电信保持着稳定良好的合作关系。在大数据、云计算产业日新月异的当下,唯一网络与作为产业信息化转型重要“推手”的广东电信强强联合,在IDC资源、云平台建设等多个“互联网+”领域达成合作,聚焦客户需求,实现效益提升,为各行业创新发展提供新动力。 活动现场 回顾过去的一年,我们辛勤耕耘,获得合作伙伴的高度认可。未来,唯一网络将继续携手广东电信,深耕业务,持续加大研发投入,坚持不断创新,服务至上的理念,依托资源、技术、产品、服务等优势,持续打造差异化和有竞争力的产品与解决方案,创造价值,合作共赢。
唯一小编 发布时间:2020-01-19
2020年1月17日,联通(广东)产业互联网有限公司合作伙伴答谢会暨2020年战略及多云平台发布会,在广州正式起航,唯一网络受邀出席盛会,并获颁分量十足的“2019年度优秀合作伙伴”奖项,为未来双方的进一步合作奠定了坚实的基础。 颁奖合照-左五为唯一网络副总裁李玉何先生 此次大会,联通(广东)回顾了2019年所取得的骄人成绩,同时,也表示基于联通自身稳定的网络能力、行业领先的平台能力以及生态聚合能力,将和各位优秀的生态合作伙伴一起,在5G助力、云网融合、大数据和平台赋能等方面,携手共进,助力发展。 活动现场 唯一网络积极打造以云数据中心、网络安全、云专线、公有云、混合云为一体的互联网生态链,凭借领先的行业数字化解决方案以及积极创新实践,得到行业及客户的认可与信赖。联通(广东)是新型数字化服务的领军企业,具备通信开放平台、软硬件集成、全云化运营及大数据应用能力,实力强劲。双方合作前景广阔,此次奖项的获得,除了是肯定和激励,更是双方良好合作的证明。 未来,唯一网络将与联通(广东)共建产业平台,通过持续的技术迭代、模式创新与行业实践,丰富内生资源,积极探索推进5G、大数据、人工智能等新兴技术融合应用和创新发展,聚焦工业互联网、物联网等领域,促进数据流通、跨区域合作和数据互联,打造产业生态,为更多行业赋能赋智,实现5G时代的合作共赢。
唯一小编 发布时间:2019-12-12
12月12日,2019全国百万企业上云年会暨Cloud500云生态峰会在北京召开,来自工业和信息化部、地方工信厅、经信局主管领导,云计算专家、上云典型行业用户、优秀云服务商、新闻媒体等近千人出席大会,《2019中国云计算生态竞争力报告》、云原生图谱和2019Cloud 500(中国云计算500强)榜单在会上重磅发布。唯一网络凭借强劲实力入围榜单中的“云安全服务商”版块,并荣获“百万企业上云——地区优秀服务商”表彰。 据悉,2019 Cloud500榜单囊括了国内云生态中的各类企业,由极具实力的500家云计算公司组成,是国内云计算生态系统现状骨干力量的完整呈现。唯一网络此次成功入选榜单,和华为、阿里、百度安全、奇安信等优秀企业并列其中,表明在云计算领域得到了业界权威评选机构的高度认可及肯定。 实力认证 唯一网络入选优秀服务商奖项 企业上云,是企业顺应数字经济发展潮流,加快数字化、网络化、智能化转型,提高创新能力、业务实力和发展水平的重要路径,全国新增上云企业100万家,众多企业都期望能借助云计算,转型成为敏捷的数字化组织,并且随着5G的落地、人工智能等新生业务的崛起,云计算格局也正在筑建新赛道。 基于十余年的行业精耕和对市场的精准把握,唯一网络从云数据中心、网络安全、云专线、公有云、混合云等方面,为企业客户提供一站式专业云服务,专注技术创新,紧跟时代步伐,完善技术储备,加速发展大数据、边缘计算等领域。截止目前,唯一网络已为超过3000家的企业用户提供解决方案和服务,覆盖多个细分领域,协助企业数字化转型,持续推动“云”与各行各业的深度融合,为企业达到降本增效的目标。 亮点纷呈 唯一网络云生态峰会之行 此次大会亮点纷呈,创新性与丰富性兼具,现场开设了展区,汇集了华为、京东云、联通等国内知名云生态企业,包括基础架构提供商、软件提供商、服务运营商、服务部署商、应用开发商五大类。 唯一网络展区前,工作人员在现场和用户进行深层次的交流互动,详细介绍了企业的产品体系、竞争优势及发展规划等,展示并分享企业在各个领域打造的成功案例。 作为云服务综合解决方案提供商,唯一网络将继续践行“客户第一”的价值观,深耕云计算领域,专注产品创新、服务创新、模式创新,为用户提供一站式互联网云服务,赋能数字化转型,实现云端合力共赢。
唯一小编 发布时间:2019-11-15
11月14日,由公安部网络安全保卫局主办的全国互联网企业网络安全管理优秀团队及个人表彰大会在上饶举行。会议主要对2019年在国家重大网络安保管理工作和网安支持工作方面做出卓越成绩的互联网企业网络安全管理团队和个人进行表彰,并对2020年度互联网安全综合治理工作提出了要求。 唯一网络受邀出席并被公安部网络安全保卫局评为“2019年网络安全管理优秀团队”,获得此项荣誉,意味着唯一网络在网络安全领域得到了国家相关管理部门的高度认可与肯定。 据悉,此次表彰会议,一共有包括华为、阿里巴巴、京东、360、网易、斗鱼等100家知名互联网企业入选履职尽责优秀互联网企业安全管理团队。 此次会议指出,互联网企业和联网单位认真贯彻落实《网络安全法》等法律法规要求,夯实主体责任,加强安全管理,在防控网络安全风险、治理网上治安乱象等方面取得了积极成效,并提出要努力营建和谐健康、安全有序的互联网发展环境。 唯一网络专注网络安全产业链,目前全网防护能力超过8T,同时极为重视网络安全相关工作,建立了科学、有效、反应迅速的网络与信息安全事件应急工作机制,不断提高处置网络与信息安全事件的能力,严格落实IDC接入服务及备案管理,保障网络安全。 未来,唯一网络将以政策为指引,以云化平台为基础,让网络与信息安全融合,不断提升和完善网络信息安全等方面的管理,全力以赴配合网络安全相关管理部门的执法和监管工作,共同构建清朗的网络空间,成为客户信任、社会尊重的IDC、云服务及网络安全领军企业。
唯一小编 发布时间:2019-10-24
10月23日,在东莞市科学技术协会、东莞市塘厦镇人民政府的支持指导下,由东莞市塘厦镇人民政府创新驱动办公室和东莞市塘厦镇科学技术协会主办的“5G引领新一代智能创新发展论坛”在东莞市塘厦镇成功举办。塘厦镇副镇长赵宁发、镇经信局局长刘碧峰、镇创新办等领导出席本次论坛,本次活动还吸引了粤港澳大湾区发展规划知名权威专家、企事业、协会和各行业代表、新闻媒体代表以及东莞市民参加,现场气氛热烈。 副镇长赵宁发在开幕辞中表示,为贯彻重要讲话精神,提高全民科学素质,在以5G为引领的新一代数据技术变革下,塘厦镇不断加速5G技术的布局与落地应用,并牢牢抓住5G新时代科普发展的重要机遇期,举办“5G引领新一代智能创新发展论坛”,配合5G发展趋势,推动大数据、人工智能和实体经济深度融合,形成新动能,全面加快全镇科技创新步伐,打造“创新强镇”。并且借本次论坛活动与多方机构优势互补、深化合作,不断提升塘厦科技创新竞争力。 唯一网络副总裁易志强受邀担任主讲嘉宾,围绕5G时代下的网络安全趋势及应对策略等多个方面进行分享。他指出,5G时代下的网络安全是挑战和机遇并存,移动互联进入万物互联,都会带来新的网络安全隐患。同时,5G时代的网络安全产业迎来新一轮发展契机,网络信息安全市场规模呈持续扩大趋势。唯一网络将通过资源融合、数据融合、业务融合等展开应对,并推出了“伙伴赋能计划”和“中小企业保障计划”,以期解决未来网络安全问题之道”。 百舸争流,奋楫者先。唯一网络在政策支持、技术优势和市场需求驱动下,发力网络安全产业链,目前全网防护能力超过8T。唯一网络将以云化平台为基础,让网络与信息安全融合,并根据不同行业的客户对于网络安全的不同诉求,定制行业个性化方案,解决用户需求痛点,在网络安全方面发挥重要、积极的防御作用。 此次论坛,获得了与会嘉宾和现场观众的一致好评。面对5G发展的大风口,唯一网络将与产业链上各方共同探索新的技术和商业模式,发挥自身平台优势,构建合作共赢的产业生态,为网络安全产业建设贡献力量。
阿里云RDS分库分表扩容兑现平滑数据迁移 2020年,笔者负责的一个高德打车弹外订单系统进行了一次扩分库分表和数据库迁移。该订单系统全局部署在阿里云上,服务应用阿里云ECS部署,数据库采纳阿里云RDS,配置中心基于阿里云ACM自研,数据同步基于阿里云DTS自研以及自研分库分表组件、分布式ID组件等等。 此次进行扩分库分表的背景是,原4实例4库、各个库64张表一共256张表,部分单表已超千万量级,按目前每日单量量级,一年内单表会达到上亿条记载,单表数据量过大会带来数据库性能问题。 4实例(16C/64G/3TSSD),4库(各个实例一个库),每库64张表,共256张表。 经过RDS后台一键诊断功能,来计算表空间应用情形(这里拿测试情境数据库举例)。 数据库的瓶颈主要表现在:磁盘、CPU、内存、互联网、联结数,而联结数主要是受CPU和内存作用。CPU和内存可以经过动态升配来提高,可是SSD磁盘容量最大支持到6T(32C以下最大3T、32C及以上最大6T)。 可是现阶段兼顾成本,可先将实例扩容一倍,采纳8个实例(16C/64G/3TSSD),各个实例建4个库(database)、各个库128张表(这里实质上是一个成本取舍的流程,理论上应该采取”多库少表”的准则,单库128张表其实太多了,单库建议32或64张表为宜)。 接下来如果实例压力提高可进行实例配置改进(16C/128G、32C/128G、32C/256G等);将来如出现单实例升配无法解决,在考虑扩容实例,只需求将database迁移至新实例,迁移成本较小。 按单表最多1000w条数据评估,4096张表可支持日5000w单3年(10.1压测标准)、日2000w单5年的架构。(因业务表比较多,此处忽略掉单条数据大小的计算流程) 32个库,各个库128张表。将来可最大扩容到32个实例,无需rehash,只需求迁移数据。 阿里云RDS规格和价钱一览 因扩分库分表涉及到rehash流程(256表变4096表),而阿里云DTS只支持同构库数据迁移,所以我们基于DTS的binlog转kafka实力自研了数据同步中间件。 整体数据迁移工作包含:前期预备、数据同步环节(历史数据全量同步、增量数据实时同步、rehash)、数据校验环节(全量校验、实时校验、校验规章配置)、数据修复工具等。 在进行数据同步前,需求先整理一切表的惟一业务ID,只有确定了惟一业务ID才学兑现数据的同步操作。 需求重视的是: 一旦表中没有惟一索引,就会在数据同步流程中造成数据重复的危险,所以我们先将没有惟一索引的表依据业务场景增加惟一索引(有也许是联合惟一索引)。 在这里顺便提一下,阿里云DTS做同构数据迁移,应用的是数据库自增ID做为惟一ID应用的,这种情形如果做双向同步,会造成数据覆盖的问题。解决案例也有,之前我们的做法是,新旧实物采纳自增ID单双号解决,担保新旧实例的自增ID不会出现冲突就行。由于这次我们应用的自研双向同步组件,这个难题这里不细聊。 分表规章不同决定着rehash和数据校验的不同。需逐个表整理是用户ID纬度分表还是非用户ID纬度分表、是否只分库不分表、是否不分库不分表等等。 数据同步全局案例见下图,数据同步基于binlog,独立的中间服务做同步,对业务代码无侵入。 后续对每一个环节进行介绍。 单独一个服务,应用游标的方法从旧库分批select数据,通过rehash后批量插入(batchinsert)到新库,此处需求配置jdbc联结串参数rewriteBatchedStatements=true才学使批处理操作生效。 另外特殊需求重视的是,历史数据也会存在不断的更新,如果先开启历史数据全量同步,则刚同步达成的数据有也许不是最新的。所以这里的做法是,先开启增量数据单向同步(从旧库到新库),此时只是开启积压kafka消息并不会真正消费;然后在开始历史数据全量同步,当历史全量数据同步达成后,在开启消费kafka消息进行增量数据同步(提升全量同步效率变少积压也是核心的一环),这样来担保迁移数据流程中的数据一致。 增量数据同步考虑到灰度切流稳定性、容灾和可回滚实力,采纳实时双向同步案例,切流流程中一旦新库出现稳定性问题或者新库出现数据一致问题,可迅速回滚切回旧库,担保数据库的稳定和数据稳妥。 增量数据实时同步采纳基于阿里云DTS的数据订阅自研数据同步组件data-sync兑现,主要案例是DTS数据订阅实力会自动将被订阅的数据库binlog转为kafka,data-sync组件订阅kafka消息、将消息进行过滤、合并、分组、rehash、拆表、批量insert/update,最后再上交offset等一系列操作,最终达成数据同步工作。 整体流程中有几个问题需求重视: 问题1:怎样预防因异步消息无顺序而致使的数据一致问题? 第一kafka异步消息是存在顺序问题的,可是要知道的是binlog是顺序的,所以dts在对具体进行kafka消息投递时也是顺序的,此处要做的就是一个库担保只有一个顾客就能保障数据的顺序问题、不会出现数据状态覆盖,从而解决数据一致问题。 问题2:是否会有丢消息问题,假如顾客服务重启等情形下? 这里没有采纳自动上交offset,而是每次消费数据最终入库达成后,将offset异步存到一个mysql表中,如果顾客服务重启宕机等,重启后从mysql拿到最新的offset开始消费。这样惟一的一个问题也许会出现瞬间部分消息重复消费,可是由于上面介绍的binlog是顺序的,所以能担保数据的最终一致。 问题3:update转insert会不会丢字段? binlog是全字段发送,不会存在丢字段情形。 问题4:循环消息问题。 后面进行单独介绍。 前文有提到,由于是256表变4096表,所以数据每一条都需求通过一次rehash重新做分库分表的计算。 要说rehash,就必须先介绍下目前订单数据的分库分表策略,订单ID中冗余了用户ID的后四位,经过用户ID后四位做hash计算确定库号和表号。 数据同步流程中,从旧库到新库,需求拿到订单ID中的用户ID后四位模4096,确定数据在新库中的库表位置;从新库到旧库,则需求用用户ID后四位模256,确定数据在旧库中的库表位置。 想象一下,业务写一条数据到旧实例的一张表,于是诞生了一条binlog;data-sync中间件接到binlog后,将该记载写入到新实例,于是在新实例也诞生了一条binlog;此时data-sync中间件又接到了该binlog……不断循环,消息愈来愈多,数据顺序也被打乱。 怎样解决该问题呢?我们采纳数据染色案例,只要能够标识写入到数据库中的数据使data-sync中间件写入而非业务写入,当下次接收到该binlog数据的时候就不必进行再次消息流转。 所以data-sync中间件需求,各个数据库实例创建一个事务表,该事务表tb_transaction只有id、tablename、status、create_time、update_time几个字段,status默认为0。 再回到上面的问题,业务写一条数据到旧实例的一张表,于是诞生了一条binlog;data-sync中间件接到binlog后,如下操作: 此时data-sync中间件将上面这些语句打包全体上交到新实例,新实例更新数据后也会生产对应上面语句的binlog;当data-sync中间件再次接收到binlog时,只要推断碰到tb_transaction表status=1的数据开始,后面的数据都直接舍弃不要,直到碰到status=0时,再陆续接收数据,以此来担保data-sync中间件只会流转业务诞生的消息。 数据校验模块由数据校验服务data-check模块来兑现,主要是基于数据库层面的数据对照,逐条核对每一个数据字段是否一致,不一致的话会通过配置的校验规章来进行重试或者报警。 通过数据校验,一旦发觉数据不一致,则需求对数据进行修复操作。 数据修复有两种案例,一种是适用于大范围的数据不一致,采纳重置kafkaoffset的方法,重新消费数据消息,将有问题的数据进行覆盖。 全局灰度案例:SP+用户纬度来兑现,SP纬度:凭仗灰度情境切量来做,用户纬度:依靠用户ID后四位百分比切流。 灰度切量的流程肯定要配合停写(秒级),为什么要停写,由于数据同步存在肯定拖延(正常毫秒级),而一切业务操作肯定要保障都在一个实例上,否则在旧库中业务刚刚调整了一条数据,此时切换到新库如果数据还没有同步过来就是旧数据会有数据一致问题。所以流程应该是: 虽然在切流之前,在测试情境进过了大量的测试,可是测试情境毕竟和生产情境不相同,生产情境数据库一旦出问题就也许是灭顶之灾,虽然上面介绍了数据校验和数据修复步骤,可是把问题拦截在发生之前是做服务稳定性最重大的工作。 因此我们提出了ABC验证的概念,灰度情境ABC验证预备: 详细灰度案例和数据源切换步骤: 整体数据迁移流程还是比较复杂的,时光也不是非常充裕(流程中还穿插着十一全链路压测改变),在有限的时光内集大家之力重复探讨发掘也许存在的问题,然后论证解决案例,不放过任何一个也许出现问题的环节,还是那句话,把问题拦截在发生之前是做服务稳定性最重大的工作。 流程中的细节还是非常多的,从数据迁移的预备工作到数据同步测试,从灰度步骤确定到正式生产切换,尤其是融合业务和数据的特色,有非常多需求考虑的细节,文中没有一一列出。 最终通过近两个月的紧张工作,无业务代码侵入、零事故、平稳地达成了扩分库分表和数据迁移的工作。
唯一小编 2021-03-01 阿里云服务器
腾讯云Terraform初始化 改进terraform到v0.13后,初始化terraform也许会出现以下问题 因素是terraform自v0.13后就交给provider自己维持了。解决案例: 1.应用命令查看自己版本 示例得到 +provider.tencentcloudv1.53.0 2.粘贴以下代码至terraform配置中,version采纳自己的tencentcloudterraform版本
唯一小编 2021-03-01 腾讯云服务器
阿里云无服务器高弹性的架构 在网络相关的业务中,高弹性是往往被提及的一个架构设计目的,前两个我就碰到一个用户需求我们帮助设计一个高弹性的架构以承载他们周期性暴增的业务压力,用户90%以上的业务压力都集合在业务高峰期,因此在设计这个架构之初,我和用户就在纠结,到底是采纳更了解的“堆”服务器的想法呢,还是采取更具弹性的容器化的案例呢?其实作为一个技术人员,在问这个难题的时候就已经有确定的答案了,最终我们设计出了这样的一个架构: 容器平台选择阿里云的ACK(阿里云容器服务Kubernetes版)。其中ACK分成专有版和托管版,区分是专有版的管控节点需求用户自行预备,而托管版应用阿里云的资源进行资源管控,在托管版中又分成标准版和Pro版,其中Pro版有确定的SLA保障,生产系统建议选择Pro版。同时为了保障worker节点的内容安全,建议为充当worker节点的ECS配置云安全中心服务进行主机安全防护。 除了ACK,阿里云还提供无服务器架构的ASK,区分是ACK有ECS服务器充当worker节点,创建POD所需的资源经过ECS进行安排,而ASK没有worker节点,ASK直接在阿里云的分享资源池中经过ECI(弹性容器节点)来安排资源创建POD。 在这个项目中为了担保永远有肯定量的稳定资源供给,我们决定应用ACK再融合阿里云的ECI来兑现资源的弹性供给。ECI资源的申请和释放可经过ACK的ack-virtual-node插件出自动达成,动态增加的POD将自动运行在ECI之上。 考虑到业务高峰期和平常存在庞大的应用量落差,选择应用按流量的方法购入手互联网带宽资源,并经过购入手分享流量包将一切的互联网流量进行集合抵扣。这个项目所用到的互联网流量主要有如下三个: 鉴于ECI节点上服务的启动需求肯定的时光,而业务流量也许瞬间到达峰值,因此经过MQ来缓冲瞬时的业务压力,为运行在ECI弹性资源上的服务争取启动时光。 阿里云MQ服务依据访问协议的不同分成RocketMQ、AMQP、Kafka三个系列,对于海量的业务交易场景建议选择通过双十一检验的RocketMQ系列,在RocketMQ系列中又分成一般版和公司铂金版两个版本,公司铂金版采纳独享硬件资源,能够更充分的保障峰值吞吐实力,对于瞬时业务峰值高的业务,建议尽也许选择铂金版。 数据库采纳云原生数据库PolarDB,PolarDB可以从2个节点扩容到16个节点,单节点可改进至88核710G规格,集群采纳分布式分享存储架构,单个集群可存储100TB的数据,有赖于其采纳分布式分享存储的架构,PolarDB集群增加节点时无需进行大量的数据拷贝,因此可以在分钟级达成集群的横向扩容。 我觉得这个架构对于大部分“腰部”级其他网络行业用户都是适用的,因此共享出来,盼望对大家有所协助。
唯一小编 2021-03-01 阿里云服务器
云专线和普通专线区别 云专线和普通专线区别,首先我们说一下云专线在定义和应用方 面的区别。 普通物理专线,是端口带宽资源被用户独占的物理专线,此种类型的物理专线由用户单独使用该物理线路,专线用户可以创建多个虚拟接口。 云专线(Direct Connect)用于搭建用户本地数据中心与云上VPC之间高速、低时延、稳定安全的专属连接通道。 传统专线主要应用于用户的局域网互联或快速浏览互联网。用户可以根据需要选择64Kbps- 2Mbps不等的速率。通过互联专线实现数据、语音、图像等业余的安全传输:实现各公司、部门间的资源交换和共享;通过拥有固定、独享的IP地址,视需要建立自己的Mail-Server. Web- Server等服务器,并可通过Internet组建公司内部的VNP业务。 云专线是连接客户局域网与行业云的专线网络,全程独立通道,能够不经互联网连接云主机,同时能保证高网速,对于银行、金融机构等高保密性要求的客户具有重要意义。 下面,我们在分别从开通时间、费用、弹性伸缩、稳定性等维度对他们之间的区别进行说明: 对比一下可以发现 , VPN是开通便捷,费用上比云专线要低很多,但是在公网的质量保障上不如专线,时延高,安全性不如云专线强。相对来说云专线低时延、服务质量稳定,但是在费用上就较高一些。而且在开通时间上,因为受限于物理专线的部署、运营商的线路资源的情况,所以部署时间要比VPN长。在这个情况下,一个量级, VPN如果双方都有internet资源的话,基本上是即开即用,双方配置好,协商起来就可以通信。但是云专线一般是将数据中心和公有云VPC对接,这个时候受限于物理链路,要运营商去核查资源,要去做物理线路的对接。这些正常情况下,就运营商的承诺。有诺的时间一般都是至少需要20个工作日。云专线线上的配置开通,现在一般也是天级,在拿到这种线路配置信息,且物理专线对接完以后,在一天内就可以完成这个线路配置打通的。 唯一网络是中国市场专业的云托管服务商( Cloud MSP ),在数据中心和云计算领域有近十年的专业交付和管理经验,目前正服务于2000多家企业级客户并与全球多家超大规模公有云服务商建立了战略合作关系。在云计算驱动产业变革的今天,安畅以客户需求为驱动,积极投资于核心技术研发和团队组织的云原生技能,致力于成为IT新生态和产业互联网的新-代连接器。 为客户提供”云+大数据+AI”的咨询、集成和管理服务,以及数字化解决方案,帮助客户利用新技术进行业务创新,实现数字化变革。
唯一小编 2021-02-19 专线