logo搜索

信也科技9¾模型管理平台:以AI技术助力行业集成创新

时间:2021-01-18 18:45:21 作者:本站整理 来源:网络

  短视频,自媒体,达人种草一站服务

近日,信也科技(NYSE:FINV)推出的9¾模型管理平台在信也科技开放日上首次亮相。9¾平台能够提供一站式人工智能模型服务,它以AI技术服务集团业务全链路,助力金融科技行业集成创新。

据了解,9¾平台的名称灵感来源于哈利·波特系列中的9¾站台,该站台可以通往魔法学院开启奇妙世界,而信也科技的9¾平台,则是通过人工智能技术支持集团科技业务,并为合作伙伴赋能。

为众人所熟知的是,人工智能发展数载,它潜移默化地影响着人们的生活,在越来越多的领域发挥着举足轻重的作用。无论是行业巨头还是新兴企业,均在人工智能领域发力,力图将此技术推广到更多的应用场景。

模型管理 平台:我从哪里来?

AI模型训练平台,基于核心模块和应用场景的不同,又可以称为深度学习平台、机器学习平台、人工智能平台。用户在AI平台能够使用不同的机器学习框架进行大规模的训练,对数据集与模型进行管理和迭代,同时通过API与本地部署等方式接入到具体业务场景中使用。

简单地说,AI平台=AI FAAS+(PAAS)+(IAAS)。业界不乏优秀的机器学习平台,如微软的Azure、亚马逊的AWS Machine Learning、阿里的PAI平台、百度的Paddle以及腾讯的TI平台。一般的平台产品基于基础的机器学习和深度学习计算框架进行二次开发,提供一站式的生态化服务,为用户提供从模型训练、模型评估、模型在线预测的全流程开发和部署支持,以期降低算法专家在工程化时的使用门槛。

模型管理 平台 我的解决方案

AI平台在搭建与落地的过程中,均会遇到机器学习门槛高、落地慢、实施周期长等问题。结合日常工作流程中遇到的问题,9¾平台提供了一系列的解决方案,以解决模型落地上的一系列难题。具体问题如下:

1、模型环境构建难,从模型到服务转化慢。2、多个模型共用一套环境,但模型需要独立更新,对环境的维护需格外谨慎,变更风险巨大。3、模型服务交付周期长,工程环节耗时长,人力投入大。4、模型服务回退慢,模型发布后,如发现有问题尝试退回到上一个版本需要数分钟,乃至数小时。5、模型服务扩容慢,面对突发流量时,响应延迟。

针对以上难题,9¾平台可提供详尽的解决方案,具体体现在以下五方面:

1、模型环境标准化描述,提供一套简单、统一、覆盖广的规范来定义模型环境,加快流程。2、将统一标准描述下的模型环境镜像化,支持模型容器化运行,提供模型环境隔离和模型运营隔离。3、工程环节代码采用自动生成技术,实现人力零投入,降低边际成本。4、模型发布环节采用蓝绿发布与金丝雀发布,提供操作简单的快速版本切换与流量切分。5、利用使用率、饱和度指标配合弹性伸缩算法,提供秒级的扩容,快速响应突发流量。

模型管理 平台:我的架构设计

根据企业不同的规模、资源及业务场景,AI平台往往有不一样的定位。例如AI和数据可同为一个中台、AI平台可视为业务中台的一部分、AI平台整合进技术中台或后台等。规模较小、资源有限的企业通常会选择使用第三方AI平台对业务进行服务,而非自建AI平台。但信也科技已有数据中台,因此信也科技的AI平台更多承担的是作为业务前台的模型算法供给角色,在数据中台的支持下,起到承载业务,对接数据与技术底层的作用。

9¾平台的架构设计

时下主流的AI平台有两种产品形态:一种是趋向AutoML,主要为非算法专家提供的可视化训练平台,通过拖拽、拉取等方式完成模型设计和训练中的组件排布,完成模型构建,例如Azure;另一种是为专业人士提供的模型设计和训练工具,将模型训练和管理通过工程化平台进行集成管理。也有集成两种方式的AI平台,例如阿里的PAI,为各种层次的人工智能工作者与爱好者提供不同专业程度的工具。

信也科技对AI平台的定位是能够快速解决问题、提高能效。因此,信也科技优先选择为算法和模型运维工程师提供针对模型生命周期管理的解决方案。

9¾平台加速了模型生成和服务化,可提供一整套从模型管理、模型训练到模型部署、模型监控的全生命周期解决方案。它不仅可帮助算法专家解决训练环境与训练过程中的保存管理问题,还可帮助解决在模型部署和上线时的各种问题,并提供线上部署模型的监控服务。

目前9¾模型管理平台已部署各类模型数百个,实现模型日服务量超过1000万;可在秒级内获取合适资源;能自动使用CPU、GPU资源,实现自动扩容,性能提升60%;模型上线仅需1分钟,大大节约了部署时间。

9¾平台的 模型训练与线上服务

此外,9¾平台为模型训练提供了多套WorkSpace(工作区)容器。一个WorkSpace中包含多种模型开发时的工具,包括Jupyter、一些常用的IDE与一个终端界面。一个模型从准备到训练结束,产出代码均可在工作区内直接完成,在工作区内可安装各种依赖、尝试各种方法,甚至提交代码至Git,直至算法专家获得满意的模型。

针对模型的部署,信也科技独创了“流水线”的概念,模型的发布流水线只需4个步骤,一般发布一个模型不超过5分钟。

针对无需在实时场景下执行、或无法在实时调用场景下执行的耗时较久的模型,9¾提供了发布为Job任务的部署方式,用户可通过Job任务执行回溯任务或更新训练数据,整个过程非常游刃有余。

模型的代码和内部逻辑将作为一个黑盒,被打包为一个docker镜像,因此模型无论以何种方式发布,发布在何种环境内,都是绝对安全可靠的。通过管理模块与实际的服务模块,用户能够完成AI项目的管理和API、Job、镜像APP等上层应用的产出,整个过程无需任何运维人员、工程人员的干预,算法专家即可独立操作完成。

9¾平台的 模型管理模块

模型管理 平台: 未来,我去往何方?

信也科技于12月17日成功举办首届科技开放日,并于当日首次揭秘了自身的科技全景图,用图谱的形式直观展示了大数据、人工智能、智能决策产品等硬核科研成果。目前9¾平台可支持信也科技所有科技业务,覆盖多个业务场景,同时支持多家外部合作伙伴。未来,信也科技的人工智能平台将在增强模型评估功能、在线预测平台化、支持分布式训练等方面持续深入探索。

信也科技全景图

9¾平台的成功发布将进一步促进人工智能技术的研发落地,加强科研成果的转化与输出。信也科技也将通过不断的科技创新,深度参与科技赋能,与合作伙伴共谋发展,助力金融科技行业创新,使人工智能成为企业发展的重要推动力,让科技更好地服务人类社会。

阅读全文

相关推荐

上一篇: 百度数据众包,一门AI新基建的“基建”生意

下一篇: 2020全球流量大会:环信一站式通讯云+客服云解锁出海新姿势

相关文章

插电混动还是纯电动车好?哪个更适合您?
有很多朋友在新能源插电混动和纯电动车之间难以抉择,到底插电混动还是纯电动车好?其实选择适合您自己的才是最重要的,本文主要为大家介绍这两者之间哪个更适合你。
插电混动还是纯电动车好?哪个更适合您?2021-04-200
十万左右的电动车型价格及图片推荐
许多小伙伴们很想买一款十万块左右的纯电动车,但是由于对这些车型不太了解,也不知道十万左右的电动车哪个品牌好,太阳能电动汽车网经过综合数据分析,在这里为大家推荐几款十万左右的电动车型,希望总有一款适合你。
十万左右的电动车型价格及图片推荐2021-04-200
续航里程排名前5款纯电动汽车推荐
电动汽车跑得远,我们才没有里程焦虑,随着纯电动汽车技术的快速发展,续航里程一次又一次得到了突破!2020年行业都称之为600公里元年,虽然称之为600公里元年,但是有些车企已经推出了超过700公里,甚至超过800公里的电动车型,再过不了多长时间续航里程超过1000公里将不再是梦。
续航里程排名前5款纯电动汽车推荐2021-04-200
最新国产纯电动汽车续航里程超过500公里排行榜
作为一名消费者,我们在买纯电动汽车的时候,续航里程和价格成为了大家首先考虑的条件之一,目前大家都比较关注的续航里程范围在500-900公里居多,再一个就是国产品牌的电动车型。
最新国产纯电动汽车续航里程超过500公里排行榜2021-04-200
纯电车空间竟然能这么大?大蚂蚁实力诠释何为“超宽适座舱
上市半年以来,奇瑞新能源打造的新世代纯电SUV大蚂蚁获得了无数新老车主的青睐,其中许多人对于它最深刻的感受之一,就是“新能源车竟然可以那么大!”
纯电车空间竟然能这么大?大蚂蚁实力诠释何为“超宽适座舱2021-04-200
家用新能源汽车哪个牌子好质量更好?
购买一款家用新能源汽车,购买前当然先要来了解新能源汽车哪个牌子好,那个牌子的新能源汽车质量更好,在我们的预算范围内,且颜值符合我们的需求,就会优先把他放入到自己的购物车里,然后逐一对比挑选排除,剩下的就是自己决定购入的一款爱车了。
家用新能源汽车哪个牌子好质量更好?2021-04-200
返回顶部