7月19日-21日,中国国际金融展在北京国家会议中心举办。在金融科技创新成果发布会上,腾讯云副总裁胡利明发布了腾讯云服务器操作系统的创新成果——TencentOS Server V3。TencentOS Server V3具备安全可信、稳定高效等特性,并针对云和AI场景做了众多升级优化,极大提升了数据库性能,及CPU、GPU等资源的利用率。
胡利明在会上发表主题演讲,分享腾讯云在服务器操作系统的自主创新历程和实践经验,并详细介绍了TencentOS Server V3。他表示,操作系统是计算机中最重要的核心系统,腾讯云战略投入,实现操作系统的全面自主创新,并紧跟云和AI的发展,实现服务器资源的最大化利用,助力行业提质增效。
据了解,TencentOS Server是腾讯自主研发的企业级Linux服务器操作系统,自2010年诞生以来,已有14余年的技术积累,在Linux内核社区持续贡献。在实践方面,TencentOS Server V3全面兼容主流的国产芯片服务器,支持建设了鲲鹏、海光和飞腾三大主流CPU超大规模的服务器集群。目前TencentOS Server凭借近1000万套的部署规模成为国内部署量最大的Linux操作系统。
2024年5月,TencentOS Server 通过了中国信息安全测评中心的年内首批安全可靠测评,在2023年也通过了金融信创生态实验室基于金融业务场景的自主创新适配测评。
据介绍,此次发布的TencentOS Server V3具备四大亮点:
●数据库整体性能提升30%,内存节省超过15%
服务器OS作为承接底层硬件与上层应用的核心,能否更好地发挥软硬件性能和实现更好的使用体验,越来越成为企业关注的重点。近几年,TencentOS Server 在国产数据库场景做了大量实践,与鲲鹏和海光分别搭建了国产数据库实验室,为数据库搭建了一个高效的运行平台。
2023年,腾讯云TencentOS Server与TDSQL组合的自主创新方案,打破了交易型数据库性能记录,做到每分钟处理8.14亿次交易,标志着国产数据库技术取得新的突破。据测试, TencentOS Server能够使国产数据库的整体性能提升30%,运行内存节省超过15%。
●在离线混部+能耗控制方案,大幅提升资源利用率
针对企业的服务器CPU平均利用率低、服务器内存占用成本高和运营成本高等痛点,TencentOS Server基于FinOps理念,全面支持在离线混部能力,合理部署客户的高优和低优任务,将整个服务器的部署密度变得更高。微信采用TencentOS Server的离线混部方案后,运行成本降低了43%,业务响应能力也有了相应的提升。
同时,TencentOS Server也实现了完善的内存分级卸载能力,在不影响服务器性能的前提下,节约超过30%的物理内存占用,这一技术在内存型业务环境中能够大大的降低资源需求,降低成本,同时避免内存冲突,大幅提升系统稳定性。
在降低服务器电能损耗方面,TencentOS Server也推出了悟能组件,在不影响服务器性能表现的前提下,平均节省服务器电耗7%左右,此项方案在腾讯数据中心中得到广泛应用,每年节约碳排放约8万吨。
●集成大模型推理加速框架,GPU利用率提升2倍
AI的发展已经进入了大模型时代,众所周知做大模型很“贵”,如果能够提高现有资源的利用效率,便能大幅降低大模型的建设和运行成本。因此,TencentOS Server V3针对AI时代的典型场景需求进行了升级和优化。
据胡利明介绍,在金融行业中,有很多的传统推理业务,例如OCR、智能客服等,这些分类型的场景消耗了大量昂贵的GPU卡资源,GPU本身的利用率往往非常低。TencentOS Server提供qGPU组件,在云原生环境中将一张卡切分为多张卡,可极大提升卡的复用度。某头部金融机构利用腾讯云qGPU技术,成功节约了60%的NVIDIA集群卡的采购成本。
此外,TencentOS Server也提供了大模型推理加速框架组件,能够极大提高吞吐量,降低延迟,可以实现2倍效率提升,从而节省大量的GPU卡资源。此项技术在腾讯混元、微信输入法、腾讯代码助手等腾讯内部业务中都已得到大量的实践验证。
●CentOS原地替换,重启即生效,安全稳定
由于历史原因,国内金融企业生产环境中仍留存大量的CentOS部署,今年6月30号CentOS已全面停服,缺失的安全补丁更新和缺陷修复无法满足关键生产系统的需求。平滑、安全地替换当前的CentOS系统,并且不影响业务的连续性,极为迫切。
TencentOS Server为企业提供简单易用的CentOS原地替换工具,面向金融业务需求,专注替换过程中业务的可用性和安全性,实现低风险、低影响的CentOS到TencentOS Server的原地替换。腾讯云在替换工具中设计了多种保障机制,包括备份、预检、替换、回滚等,支持不同范围的软件包替换,兼容CentOS7和CentOS8,兼容x86和ARM架构,替换后后重启就能生效。通过这些保障机制,实现业务系统100%安全。另据腾讯云平台统计数据,TencentOS Server在一年内发生的故障率比CentOS低90%。
在云和AI时代加速来临的背景下,腾讯云将持续战略投入,对TencentOS Server不断优化和升级,为全行业打造极致稳定、安全高效、紧跟时代步伐的服务器操作系统。