优刻得:9月19日接受机构调研,承风金萍、玺营资产等多家机构参与

探索达人探索达人 2023-09-30 7.44 W 阅读

具体内容如下:

问:目前已到货的订单,在训练侧和推理侧各占多少?

答:之前下单到货的以00为主,目前主要用于训练,随着中央网信办陆续批准上线,我们看到推理的需求在快速增加,目前已经陆续下单推理卡。


问:公司在AIGC的发展中有什么优势?

答:公司是中立、安全的云厂商,拥有超过10年的公有云技术沉淀并积累了全面的系统工程能力,具备从数据中心、计算平台,到管理平台、网络服务、应用服务、生态接口等一站式产品和解决方案。

优刻得:9月19日接受机构调研,承风金萍、玺营资产等多家机构参与

当前国内做通用和垂直大模型的企业已有140余家,北京、上海、浙江、深圳、广州,还有江苏,都属于整个大模型的重要关键点,团队构成可细分划分为六大方阵,分别是互联网巨头(百度、阿里、腾讯、华为等)、上市公司(昆仑万维、科大讯飞)、I团队(商汤、云从等)、科学家创业、互联网高管创业、终端设备公司(拥有大量用户群的手机厂商、汽车厂商)。这些企业呈现出资金密度、人才密度、数据密度、算力密度的特点,也构成了大模型的四大核心要素。 大模型的生命周期包括前期的数据清洗、预训练、有监督微调、奖励建模、强化学习,以及后续的部署运营六个阶段,而在对应的阶段过程中往往会面临着多样性及高质量的合规数据如何获取,计算、存储、网络能否满足训练需求,模型的稳定性和安全性又如何保障等一系列难题。 综上,公司的优势主要体现在以下几个方面 1、公司可提供高性价比的算力服务。优刻得乌兰察布数据中心电力充分、电价低廉、可自然制冷且距离北京更近,具备高可靠性、高性价比等优势,可有效满足大模型的训练要求。相较上海、北京等同等质量的数据中心,成本下降较多;采用双路不间断电源供电,更加安全可靠;模块化的设计布局,支持机房模块、基础设施配置的深度灵活定制。

公司基于自建数据中心所打造的IGC解决方案可充分满足大模型企业对于底层算力基础设施的需求,同时公司可为客户提供后续的维护服务。自建数据中心内提供专为GPU集群建设的高电机柜,并上线了多款GPU算力资源,推出了“训练专区+推理专区+存储专区+管理专区”的分区建设方案,企业可根据实际的训练、推理、数据处理等应用场景进行灵活可扩展的算力选择。基于完善的基础架构方案和安全保障,帮助大模型企业快速搭建算力平台,并通过对接上层的资源调度系统,提高模型训练和推理效率,让客户专注于模型迭代与业务创新。 2、公司拥有高性能的存储能力。模型训练中存储性能会直接影响大模型的训练时间。大模型计算的工作负载大多是读密集型的,公司从大量列表元数据操作、高吞吐读需求、大量顺序写入这三个方面针对基于US3对象存储的文件系统进行升级改造,提升元数据性能、读缓存和写吞吐的能力。经测试,优化后的读性能有70%左右的性能提升,达到5GBps;写吞吐10%左右的吞吐提升,达到2.2GBps,可充分满足大模型客户在单点挂载时吞吐的性能需求,大幅提升训练效率。后续,公司会在和kernel交互的方式上进一步优化并发来提升写吞吐的能力。此外,公司研发中的GPU Direct Storage,将会有更高的存储性能。 3、公司拥有较强的网络能力。大模型训练依赖于大规模分布式并行集群,还面临着网络层面的挑战。一方面是因为模型本身非常大,需要拆分到多个GPU上来运行;另一方面,模型参数量越大就越需要更多的计算量,千张GPU甚至几千张GPU并行训练是大模型成功的基础。大模型训练RDM网络设计要满足“大规模、高带宽”的要求,目前公司支持IB和RoCE两种高性能网络方案,可充分满足大规模算力集群之间的高速网络互联,实现多节点间的无损通信。 模型的训练不仅需要高性能的显卡,对供应商的存储、网络、安全能力也有很高的要求,公司在以上方面有着多年的技术积累,能够更全面的满足IGC客户的需求。

问:公司的算力情况可否介绍一下?

答:(一)目前管理的算力规模约为3000多P;

(二)已经下单但还没到货的新增算力规模约为1000多P,接下来还会根据客户的需求进行增加; 公司自建的两大数据中心都在稳步建设中,为算力的部署提供有力支撑。

问:AIGC发展过程中,训练和推理业务哪部分业务量居多?

答:很多企业都比较关注的是训练阶段,但事实是推理部分的量会逐步增加。假设算力部分需要1万张GPU卡,那推理部分则需要4万-5万张,推理部分的业务量会越来越多。某大模型正式上线的时候,一天将近有几千万的问题,所以这里对推理要求会越来越高。所以如何能够解决快速长期的扩展是核心问题。


问:目前国内的场景应用情况可否介绍下?

答:目前国内的场景应用,按照对大模型输出内容准确性的容忍度来分类,游戏NPC、社交陪伴、电商内容、游戏/设计的画图、智能体、翻译和客服支持、文字和编程辅助、教育、法律、医疗这10大行业场景有较为广泛的落地。同时,大模型发展还将持续面临数据安全、政府对于合规性的要求、国际关系对于中国I发展的限制等挑战。


问:推理和训练的云主机资源收费模式是什么样的?

答:训练端是整机8卡模式,主要用一批00或者H800做训练集群,耗电量较大,一个机柜可以放置1-2台;推理端可以用V100等相对性能要求没这么高的GPU卡,一台机器8张卡,客户可以根据业务需求使用一张卡或者几千张卡。


优刻得(688158)主营业务:提供计算、网络、存储等企业必须的基础云计算服务,为客户提供包括公有云、私有云、混合云在内的云计算产品,以及大数据、人工智能服务。

优刻得2023中报显示,公司主营收入7.39亿元,同比下降29.31%;归母净利润-1.88亿元,同比上升27.59%;扣非净利润-1.95亿元,同比上升32.18%;其中2023年第二季度,公司单季度主营收入3.72亿元,同比下降28.21%;单季度归母净利润-9344.82万元,同比上升21.11%;单季度扣非净利润-9393.96万元,同比上升29.68%;负债率29.0%,投资收益520.8万元,财务费用-1692.58万元,毛利率9.66%。

该股最近90天内共有3家机构给出评级,增持评级3家。

以下是详细的盈利预测信息:

融资融券数据显示该股近3个月融资净流出3898.22万,融资余额减少;融券净流入183.59万,融券余额增加。

以上内容由证券之星根据公开信息整理,由算法生成,与本站立场无关。证券之星力求但不保证该信息(包括但不限于文字、视频、音频、数据及图表)全部或者部分内容的的准确性、完整性、有效性、及时性等,如存在问题请联系我们。本文为数据整理,不对您构成任何投资建议,投资有风险,请谨慎决策。

The End
上一篇 下一篇

相关阅读