哔哩哔哩业务平台网站服务(优化提升)专注于提供全方位的视频内容,以满足用户多元化的兴趣喜好。它围绕有文化追求的用户、高质量的内容、有才华的内容创作者以及他们之间的强大情感纽带,构建了年轻人的视频社区。通过不断优化网络架构、提升内容质量及用户体验,B站已成长为中国年轻一代的标志性品牌及领先的视频社区,持续引领着二次元文化的发展潮流。
以下是关于哔哩哔
哩业务平台网站服务(哔哩哔哩业务平台网站服务优化提升)的相关内容:
一、在线服务性能优化
1、项目背景:随着B站用户规模和使用时长的持续增长,其业务复杂度不断提升,对在线服务的处理效率和吞吐量提出了更高要求,以效果广告引擎为例,它需要对广告创意候选集进行预估打分,包括特征计算和模型计算两个环节,且数据量不断增加,模型类型升级也加大了算力资源消耗。
2、系统现状与问题:效果广告引擎包含检索引擎、效果广告检索服务、召回/粗排服务、推理服务等多个服务,其中在线推理服务的CPU资源占比高,存在数据重复计算、Redis服务端访问较多、数据传输成本高、字符串转化及数据校验操作多等问题,早期设计中效果广告检索服务将候选集中的广告创意拆分成多个推理请求并发送给多个推理服务节点,导致每个推理服务节点都要单独访问Redis获取用户数据。
3、优化策略:通过将访问Redis的操作上移至广告检索服务,再发送给推理服务的方式,减少对Redis服务的访问量,降低Redis服务端的算力开销和网络IO开销;同时升级服务调用之间的数据格式,将原本类似JSON的数据处理方式升级为基于Protobuf3的数据处理方式,并对齐推理请求中的字段类型与特征计算所需数据类型,减少字符串转化及数据校验操作,降低CPU算力开销。
4、推理服务优化:在推理服务中,对于单次推理请求,采用减少数据重复计算的方式降低CPU算力开销,并使用Perf性能分析工具进一步优化热点函数的算力开销。
二、网络架构优化
1、公网1.0结构问题:核心网络设备承担流量转发重任,易出现故障影响公网和内网服务;公网出口与运营商网络强耦合,缺乏主动隔离故障手段;公网出口以静态带宽为主,扩容周期长且流程繁琐;全球公网IPV4地址资源缺乏,部分机房申请困难,且各机房公网带宽利用率差异大;IDC出口带宽成本高且逐年增长。
2、公网2.0结构优化:网络区域化,按功能区划分界限;SLA差异化,满足不同业务需求;资源集中化,新建区域级公网POP节点统一接入;硬件差异化,根据不同网络需求配置硬件,具体表现为采用路由器设备构建外网骨干网2.0结构,单区域至少部署双POP节点接入不同带宽资源,对内统一接入各机房,提升公网带宽利用率和容灾能力;机房内部设置独立外网区域,组网去堆叠化,控制层面独立,加强公网安全能力建设,LB/NAT采用Two-Arm方式串联,保障服务高可用。
三、信息组织优化
1、信息构建理论分析:从网站信息构建的理论出发,结合弹幕文化和用户信息需求特征,分析B站在信息组织、标识、检索及用户自组织等方面的表现。
2、存在的问题:如信息分类不够清晰,部分视频内容标签不准确,信息检索结果相关性有待提高等。
3、优化方向:进一步细化内容分区,提高标签的准确性和规范性,优化检索算法,提升检索结果的精准度和相关性,以更好地满足用户查找信息的需求。
四、FAQs
Q1:哔哩哔哩效果广告引擎在线推理服务的优化主要是针对哪些方面?
A1:主要针对数据重复计算、Redis服务端访问较多、数据传输成本高以及CPU算力开销大等方面进行优化,通过调整数据处理流程和升级数据格式等方式,减少不必要的计算和数据传输,降低资源消耗,提高服务性能。
Q2:哔哩哔哩公网2.0结构相比公网1.0有哪些优势?
A2:公网2.0结构的优势主要体现在以下方面:网络区域化使各功能区域职责更清晰;SLA差异化能更好地满足不同业务需求;资源集中化提高了公网带宽利用率和容灾能力;硬件差异化配置可满足不同网络需求,整体提升了网络的稳定性、可靠性和经济性。