网站 移动app开发,wordpress扫码付费可见,优化搜狐的培训,公司邮箱怎么在手机上登录简介#xff1a; 函数计算 FC 首创 GPU 实例、业内首发实例级别可观测和调试、率先提供端云联调和多环境部署能力、GB 级别镜像启动时间优化至秒级、VPC 网络建连优化至200ms#xff0c;Serverless 应用引擎 SAE 支持微服务框架无缝迁移、无需容器化改造、业内首创混合弹性策…简介 函数计算 FC 首创 GPU 实例、业内首发实例级别可观测和调试、率先提供端云联调和多环境部署能力、GB 级别镜像启动时间优化至秒级、VPC 网络建连优化至200msServerless 应用引擎 SAE 支持微服务框架无缝迁移、无需容器化改造、业内首创混合弹性策略这些创新和突破将 Serverless 领域的技术难题给解了彻底跨越了影响 Serverless 进一步落地企业核心生产场景的绊脚石。
“即使云计算已经兴起但是大家的工作仍然是围绕服务器不过这个不会持续太久云应用正在朝着无服务器的方向发展。”
这是 Ken Form 在2012年的一篇《Why The Future of Software and Apps is Serverless》文章中提出的关于未来云计算的观点。
Serverless First从云厂商主张到客户主见
Serverless 与身俱来的弹性能力和容错能力很好的契合了企业在线业务的弹性和稳定性的双重诉求成为企业云上架构演进的新方向。
时至今日随着越来越多的大中型企业将传统后端领域对扩容有灵活需求的执行单元剥离出来运行在 Serverless 架构上以及更注重研发和交付效率的创业团队将业务全部 Serverless 化Serverless First 的理念更加深入人心使得越来越多的云上工作负载运行在无服务器上。
数字上的变化代表了技术的市场成熟度。
根据 Datadog 今年的一份报告Datadog 上一半的 AWS 客户使用了 Lambda80% 的 AWS 容器客户使用了 Lambda而且这些用户每天调用函数的次数是两年前的 3.5 倍运行时长达900 小时/天。再看看国内的市场根据 CNCF 今年发布的《2020中国云原生调查报告》31% 的企业正在生产中使用 Serverless 技术41% 正在评估选型12% 计划在未来 12 个月内使用。
10 月 21 日云栖大会云原生峰会现场阿里云 Serverless 重磅发布了一系列技术突破集中解决了行业面临的难点和痛点。随之而来的是各大企业在 Serverless 上的大规模实践例如网易云音乐使用 Serverless 技术构建离线音视频处理平台、南瓜电影7天全面 Serverless 化并基于此建立了业务的监控、发布和弹性系统。
从 First 到 FasterFC 7大技术突破跨越影响 Serverless 发展的绊脚石
Serverless 的本质是通过屏蔽底层的计算资源来实现业务层开发的专注度和自由度。但越是往上抽象云厂商在底层的实现就越是复杂。函数计算将服务进一步拆分到函数的颗粒度这势必会给开发、运维、交付等带来新的挑战例如如何对函数进行端云联调、如何对函数进行可观测和调试、如何优化 GB 级别的镜像冷启动这些以往在服务的颗粒度时都不是问题的事情成了 Serverless 大规模落地企业核心生产业务的绊脚石。
阿里云函数计算团队自去年进入 Forrester 领导者象限后继续攻克业内的这些技术难题并在此次云栖大会重磅发布了 7 大技术创新和突破。 Serverless Devs 2.0业内首发 Desktop支持端云联调、多环境部署
开源近一年 Serverless 开发者平台 Serverless Devs 2.0 版本正式发布。相比 1.0 2.0 在性能、使用体验实现全方位提升业内首发桌面客户端 Serverless Desktop对桌面客户端进行了精细设计兼具美感和实用主义具备更强的企业级服务能力。
作为业内首个支持主流 Serverless 服务/框架的云原生全生命周期管理的平台Serverless Devs 致力于为开发者打造 Serverless 应用开发一站式服务Serverless Devs 2.0 提出多模式调试方案包括打通线上线下环境本地对接线上环境并进行调试的端云联调方案、本地直接进行开发态调试的本地调试方案、以及云端运维态调试的在线调试/远程调试方案等。新版本增加多环境部署部署能力Serverless Devs 2.0 已支持一键部署框架 30 余种包括 DjangoExpressKoaEggFlaskZblogWordpress 等。
业内首发实例级别可观测和调试
实例是函数资源最小的可被调度的原子单位类比容器的 Pod。Serverless 将异构基础资源高度抽象因此“黑盒问题”是 Serverless 大规模普及的核心落地之痛。业内同类产品均没有透出“实例”概念也从未在可观测功能中将 CPU、内存等指标透出但可观测就是开发者的眼睛没有可观测何谈高可用呢
函数计算重磅发布实例级别可观测能力对函数实例进行实时监控和性能数据采集并进行可视化展示为开发者提供函数实例端到端的监控排查路径。通过实例级别指标您可以查看 CPU 和内存使用情况、实例网络情况和实例内请求数等核心指标信息让“黑盒”不黑。同时函数计算将通过开放部分实例登录权限做到既能观测还能调试。
业内首发固定数量、定时、水位自动伸缩的实例预留策略
函数计算冷启动受到多个因素影响代码和镜像大小、启动容器、语言运行时初始化、进程初始化、执行逻辑等这依赖用户和云厂商的双向优化。云厂商会自动为每个函数分配最合适的实例数量并进行平台侧的冷启动优化。但对于某些在线业务时延非常敏感云厂商无法代替用户进行更深层的业务优化如对代码或依赖进行精简、编程语言的选择、进程的初始化、算法优化等。
业内同类产品普遍是采用预留固定实例数量的策略即让用户配置 N 个并发值除非手动调整否则在分配了 N 个实例后不会再伸或者缩。这种方案只解决了部分业务高峰期的冷启动延时但大大增加了运维成本和资源成本对红包大促等带有不定期峰谷的业务其实并不友好。
因此函数计算率先将部分实例资源的调度权限授予用户允许用户通过固定数量、定时伸缩、按水位伸缩、混合伸缩等多维度的实例预留策略来预留适量函数实例分别满足业务曲线相对平稳如 AI/ML 场景、峰谷时间段明确如游戏互娱、在线教育、新零售等场景、突发流量无法预估如电商大促、广告等场景、业务混杂如Web后台、数据处理等场景等不同场景的诉求从而降低冷启动对时延敏感型业务的影响真正实现弹性和性能兼顾的终极目标。
业内率先推出 GPU 实例
函数计算提供弹性实例和性能实例两种实例类型弹性实例规格从 128 MB 到 3 GB隔离粒度做到了整个云生态最细能真正实现普适场景下资源利用率 100%性能实例规格区间范围包含4 GB、8 GB、16 GB和32 GB。资源上限更高主要适用于计算密集型场景如音视频处理、AI建模和企业级Java应用等场景。
随着专用领域硬件加速的蓬勃发展各 GPU 厂商均推出了视频编解码专用 ASIC比如英伟达从 Kepler 架构集成视频编码专用电路、从 Fermi 架构集成视频解码专用电路。
函数计算正式推出了基于 Turning 架构的 GPU 实例使得 Serverless 开发者可以将视频编解码的 workload下沉到 GPU 硬件加速从而大大加快了视频生产、视频转码的效率。
最高可交付 2w 实例/分钟
所谓“无服务器”并不是说软件应用不需要服务器就可以运行了而是指用户无须关心软件应用运行时涉及的底层服务器的状态、资源比如 CPU、内存、磁盘及网络和数量。软件应用正常运行所需要的计算资源由云计算厂商动态提供但实际上用户还是会关心云厂商的资源交付能力以及应对突发流量场景下资源不足导致的访问波动。
函数计算依托于阿里云强大的云基础设施服务能力通过神龙裸金属资源池和 ECS 资源池双池互备在业务高峰期实现最大交付达 2w 实例/分钟这近一步提升了函数计算在客户核心业务上的交付能力。
VPC 网络建连优化从10s 优化至 200ms
当用户需要在函数中访问用户 VPC 中的资源例如 RDS/NAS 时需要打通 VPC 网络。业内 FaaS 产品普遍采用动态挂载 ENI 的方式来实现 VPC 打通即在 VPC 创建一个 ENI挂载到 VPC 中执行函数的机器上。该方案让用户能非常简单地联动后端云服务但 ENI 挂载的速度一般需要10秒以上在延时敏感业务场景下带来极大的性能开销。
函数计算通过将 VPC 网关服务化实现计算和网络解耦计算节点的伸缩不再受限于 ENI 挂载的能力。该方案由网关服务负责 ENI 的挂载、网关节点的高可用和自动伸缩而函数计算专注于计算节点的调度最终实现 VPC 网络建连时函数冷启动时间降至 200 ms。
GB 级别镜像启动从分钟级优化至秒级
函数计算在2020年8月率先发布了容器镜像的函数部署方式AWS Lambda 在2020年12月Re-Invent国内友商在2021年6月也相继宣布了 FaaS 支持容器的重磅功能。冷启动一直都是 FaaS 的痛点引入比代码压缩包大几十倍的容器镜像后加重了冷启动过程带来的时延。
函数计算创新性的发明了 Serverless Caching根据不同的存储服务特点构建数据驱动、智能高效的缓存体系实现软硬件协同优化将 Custom Container 体验进一步提升。到目前为止函数计算已经将镜像加速优化到了较高的水准。我们在函数计算的公开用例https://github.com/awesome-fc里面挑选了4个典型的镜像并将它们适配至国内外几个大型云厂商进行横向对比每间隔3小时调用上述镜像重复数次。
实验证明在 GB 级别镜像冷启动的场景下函数计算已经实现了分钟级到秒级的跨越。
从专用到通用从复杂到简单SAE 让 All on Serverless 成为可能
如果说 FaaS 大规模落地企业核心生产业务的难题需要通过技术攻坚来解决以 SAE 为代表 Serverless PaaS 则将更多的突破放在产品易用性和场景覆盖度上。 从专用到通用SAE 天然适合企业核心业务的大规模落地
不同于 FaaS 形态的 ServerlessSAE 以“应用为中心”提供了面向应用的 UI 和 API保持了服务器和经典 PaaS 形态下的使用体验即应用看得见、也摸得着避免了 FaaS 对应用的改造和可观测、可调式相对较弱的体验可以做到在线应用的零代码改造和平滑迁移。
SAE 打破了 Serverless 的落地实施边界使得 Serverless 不再是前端全栈、小程序的专宠后台微服务、SaaS服务、物联网应用等一样也可以构建在 Serverless 之上天然适合企业核心业务的大规模落地。此外SAE 支持 PHP 、Python 等多语言源码包的部署支持多运行时环境和自定义扩展真正让 Serverless 实现专用到通用。
从复杂到简单SAE 天然适合企业应用快速容器化
传统的 PaaS 被诟以使用复杂、迁移难、扩展麻烦SAE 底层将虚拟化技术改造成容器技术充分利用了容器的隔离技术来提升启动时间和资源利用率实现应用等快速容器化而在应用管理层则保留了原有的 Spring Cloud/Dubbo 等微服务应用的管理范式不必动用庞大而复杂的 K8s 来管理应用。
此外底层计算资源池化后其天然的 Serverless 属性使得用户不必再单独购买和持续保有服务器而是按 CPU 和内存资源量来配置所需的计算资源再加上经过多年双11考验的高级微服务治理能力让容器 Serverless PaaS 得以合三为一使得技术先进性、资源利用率优化、高效的开发运维体验可以融合在一起。因此让新技术落地更加简单、平稳。
可以说SAE 几乎全覆盖了应用上云的所有场景既是应用上云的最佳选择也是 All on Serverless 的典范。
4大变化Serverless 加速企业现代应用架构革新
单是技术的领先性并无法推动行业的发展Serverless 给企业客户和开发者带来的切身变化这两者组成了市场成熟度的双轮驱动技术在自我演进客户在落地反哺这是任何一项新技术得以持续发展的正确姿势。
变化一服务器 vs 代码
创业公司的全栈工程师“我的工作不再是围绕冰冷枯燥的服务器告别了服务器的处理时间比我写代码的时间还长的窘境可以让我把更多的时间放在业务上并且用最熟悉的代码来保障应用的稳定运行。”
一个主攻前端方向的全栈工程师的日常可能是这样的掌握至少一门前端语言例如 Node.js 或者 Puppeteer会写一些 API 接口再修改一些后端的 bug还要花费大量的精力在服务器的运维上公司的业务量越大花在运维上的时间越多。
函数计算降低 Node.js 等前端语言的服务器维护门槛只要会写 JS 代码就可以维护 Node 服务而无需学习 DevOps 相关知识。
变化二计算集群 vs 计算资源池
算法领域的 Java 工程师“我不再担心算法的增多和复杂度的增高导致的服务器规格多、采购烦杂、运维难而是通过无限的资源池、快速的冷启动以及预留实例来提升弹性能力和自由度。” 网易云音乐已经落地了60的音视频算法100的业务场景用到了1000台不同规格的云主机和物理机。虽然通过了很多方式去简化了内部业务场景、算法等的对接但越来越多夹杂存量、增量处理的算法不同流量的业务场景规模以及不同业务场景可能会复用同一类算法的导致在业务上的时间越来越少。
网易云音乐基于函数计算升级离线音视频处理平台应用于听歌、K歌、识曲等业务场景实现 10 倍速的业务落地并大幅降低了稀疏算法的计算成本和运维成本。
变化三负载 vs 调度
游戏主程“我不再担心 SLB 的轮询机制导致无法感知 Pod 的实际负载由此引起的负载不均函数计算的调度系统会合理安排每个请求来保证战斗校验场景下的高 CPU 消耗和高弹性处理请求。”
战斗校验是莉莉丝众多战斗类游戏的必备业务场景用来验证玩家客户端上传的战斗是否有作弊的情况。战斗校验一般需要逐帧计算CPU 消耗会非常高通常 1 队 v 1 队的战斗需要 n 毫秒而 5 队 v 5 队的战斗则需要相应 5n 毫秒对弹性要求很高。此外容器架构下挂载的 SLB会因为轮询机制导致无法感知 Pod 的实际负载由此引起的负载不均产生死循环和稳定性风险。
函数计算的调度系统帮助莉莉丝合理安排每个请求对于死循环问题也贴心的提供了超时杀进程机制。函数计算将调度系统的复杂性下沉到了基础设施厂商深度优化后的冷启动时延大幅下降从调度、到获取计算资源、再到服务启动基本在 1 秒左右。
变化四脚本 vs 自动化
互娱行业运维工程师我不再担心传统服务器模式下发版慢和易出错、环境一致性难保证、权限分配繁琐和回滚麻烦的问题SAE 的全套服务治理能力提升开发运维效率 70%而弹性资源池则将业务端的扩容时间缩短 70%。 一场热映南瓜电影日注册用户突破 80w导致流量入口 API 网关撑不住紧接着后端的所有服务都面临了极大的稳定性挑战随后开始紧急扩容买 ECS上传脚本到服务器运行脚本扩容数据库整个过程耗时 4 小时。然而因为这样的热映带来的自然爆点并不少见这加速了南瓜电影的技术升级思考。
南瓜电影借助 Serverless 应用引擎 SAE 7天内全面 Severless 化零门槛拥抱 K8s轻松应对热映电影的突发流量相比传统服务器运维模式开发运维效率提升 70%成本下降 40%扩容效率提升 10 倍以上。
先行一步志在千里
2009 年伯克利就当时兴起的云计算提出 6 点预测包括服务的按需付费成为可能、物理硬件的利用率将大大提高等在过去的 12 年间这些都已成为事实。2019 年伯克利再次预测 Serverless 计算将会成为云时代默认的计算范式并取代 Serverful 传统云计算模式。
参照云计算这 12 年的发展历程Serverless 正处于验证伯克利预测的第 3 年刚过四分之一。这 3 年间从云的未来的美好畅想到云厂商倡导的 Serverless First 和大规模投入再到企业用户充分利用 Serverless 的优势来优化现有架构并客观的面对影响 Serverless 大规模落地企业核心业务的绊脚石再到今天通过技术创新和突破来化解行业共同的痛点。这不仅需要先行一步的勇气和魄力更需要志在千里的使命和责任。 原文链接 本文为阿里云原创内容未经允许不得转载。
