当前位置: 首页 > news >正文

济南网站设计价格安装2个wordpress

济南网站设计价格,安装2个wordpress,网站建设硬件计划,在哪里建设网站在一次内部Java服务审计中#xff0c;我们发现一些请求没有在Kubernetes#xff08;K8s#xff09;网络上正确地实现负载均衡。导致我们深入研究的问题是HTTP 5xx错误率的急剧上升#xff0c;由于CPU使用率非常高#xff0c;垃圾收集事件的数量很多以及超时#xff0c;但…在一次内部Java服务审计中我们发现一些请求没有在KubernetesK8s网络上正确地实现负载均衡。导致我们深入研究的问题是HTTP 5xx错误率的急剧上升由于CPU使用率非常高垃圾收集事件的数量很多以及超时但这仅发生在一些特定的Pod中。这种情况并不在所有情况下都可见因为它影响到多Pod服务源Pod和目标Pod的数量不同。在本博文中我将讨论我们采取的措施来负载均衡这组服务和Pod。 在我们的部署中请求在Pod之间是如何均衡的 两个源Pod向六个目标Pod发送请求。 可以清楚地看到请求分布在目标Pod之间存在不均衡。 但为什么会这样 K8s负载均衡器IPVS代理模式的默认负载均衡调度程序设置为轮询round robin。IPVS提供了更多的选项来均衡流量到Pod后端。在测试这些选项时我们发现当涉及到我们的服务时不管配置如何行为都相同这些服务之间使用内部路由进行通信。 到底发生了什么K8s中的IPVS根据连接来平衡流量这在大多数情况下都表现得相当不错。我们的服务使用OkHttp作为相互通信的HTTP客户端。我们的问题与这个HTTP客户端的行为方式有关。使用默认配置它会创建到服务器的连接如果您不想在代码中显式关闭连接因为这太昂贵那么它会保持并重新建立到先前合作伙伴的连接。这意味着客户端尝试保持与目标的连接并通过该特定连接发送请求。通常情况下它会创建1:1的连接这在K8s方面没有均衡。 该怎么办 如果您需要扩展或希望使您的服务得到适当的负载均衡您需要在客户端端更新配置。OkHttp提供了ConnectionPool功能。当使用ConnectionPool选项时连接将在有限的时间段内建立然后重复设置一个新的连接因此IPVS可以进行负载均衡因为它有大量的新连接应该根据IPVS调度程序路由到目标。基本上它的工作方式类似于机关枪而不是激光束。 我们在发布此更新后的效果如何 使用更新的HTTP客户端和默认IPVS调度程序在多Pod服务之间实现了负载均衡的连接 到底做了什么改变 我们进行了大量的测试使用各种配置来测量响应时间和性能开销以确保负载均衡。下面是主要的代码更改看起来没有明显的性能开销。 代码更改示例 有一个选项可以设置调度程序以便能够并行发送更多的请求。在我们的情况下这最终会建立一组最近关闭的连接然后继续只使用一个连接。此外我们试图防止过于频繁地打开新连接因为执行请求比打开新连接要少要求得多。 结果如何 网络和资源的使用现在比以前更加平衡 - 没有巨大或持续很长时间的峰值也没有出现只影响部署中某些Pod的“嘈杂邻居”效应。现在几乎所有的Pod都以几乎相同的方式被利用因此我们能够减少我们的部署中的Pod数量。我们知道这并不完美但对于我们的用例来说已经足够好因为它不会给服务或IPVS负载均衡器带来明显的性能开销。 现在的Pod上的请求负载均衡 结论 定期进行彻底的服务审计是有益的因为它可以揭示出未来对所有服务有益的优化点并在解决那些本应该立即运行的功能的奇怪症状时为您节省时间。此外花些时间查看文档测试讨论并了解在使用客户端库时关于连接设置和处理的默认设置的影响以确保它们将按照您的预期行事。
http://wiki.neutronadmin.com/news/270348/

相关文章:

  • 青岛网站建站公司杭州专业网站建设
  • 中国铁路建设投资公司网站熊学军室内设计学校全国排名
  • 榆中建设局网站茂名模板建站哪家好
  • 自己做培训需要网站吗现在做网站一般多少钱
  • 花桥网站制作中山网站推广
  • 算命 网站开发重庆工程建设招标网官方网站
  • 江西企业网站建设价格上海网站建设-中国互联
  • 淘宝客建设网站首页域名注册和网站建设
  • 网站备案的服务器wordpress yosat
  • 阿里云域名注册服务网站广告外链购买交易平台
  • 网站是如何优化的门户网站属于新媒体吗
  • 福州电子商务网站建设wordpress下雪插件
  • 百度如何创建网站做二手家具回收哪个网站好
  • 人人车网站建设wordpress font.googleapis
  • hdwiki做网站形容网站开发的词
  • 建设网站免费支持phpwordpress百度和分类
  • 浙江网站建设哪家权威烟台卓通网络科技有限公司
  • 韩顺平 开源网站网站模板整站
  • 北京网站设计制作关键词优化微信小程序开发推广海外网站怎么浏览
  • 十大品牌网站wordpress永久免费
  • 中山哪里做网站低代码开发平台公司
  • 资源网站哪个好网站建设的相关职位
  • 网站开发 问题 关键技术手机网站你们
  • 企业网站搜索推广烟台做网站优化
  • 江西省城乡建设培训中心网站郑州建设工程招标信息网
  • 云南网站设计外包基于lnmp做wordpress
  • 怎么弄自己的网站卖东西在哪里可以找到做网站的公司
  • 长沙营销网站建站公司wordpress 教程网
  • 中国外贸网站有哪些问题谷歌商店下载官方
  • 县城做网站东莞哪里有网站制作公司