System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种基于大模型的数据分析与展示系统技术方案_技高网

一种基于大模型的数据分析与展示系统技术方案

技术编号:44515879 阅读:10 留言:0更新日期:2025-03-07 13:10
本发明专利技术公开了一种基于大模型的数据分析与展示系统,包括数据采集模块,用于根据当前业务阶段与业务数据库进行匹配,得到匹配结果,并根据匹配结果启动数据埋点进行数据采集,得到初始数据;数据处理模块,用于在边缘服务器上部署若干边缘计算节点,利用边缘计算节点对初始数据进行多线程预处理;数据分析模块,用于将预处理后的初始数据传入当前业务阶段的分析模型,得到分析结果;结果展示模块,用于将预处理后的初始数据以及分析结果进行分类统计,得到若干数据报表并展示在监控中心。本发明专利技术涉及电商数据分析技术领域,解决了现有电商数据分析系统中数据处理效率低、数据分析的精准度和广度不足的技术问题。

【技术实现步骤摘要】

本专利技术属于电商数据分析领域,涉及数据埋点与深度学习技术,具体是一种基于大模型的数据分析与展示系统


技术介绍

1、电商数据分析系统有助于企业进行业务运营优化,实时监控销售数据,依据用户行为数据优化平台页面布局,提升用户体验;能够助力精准营销决策,细分用户群体,制定个性化营销策略,合理分配营销资源;还可以洞察市场趋势,监测市场动态,把握行业整体数据趋势,提前布局业务。目前,电商数据分析系统的数据来源广泛,涵盖企业内部各类数据及外部社交媒体、物流、市场调研等数据,技术应用也趋于多样化,大数据、机器学习和深度学习技术等均有涉及,且企业的分析需求日益复杂,期望从多维度深入挖掘数据价值。

2、然而,在数据处理与数据分析方面,电商数据分析系统仍存在诸多不足之处。在数据处理上,数据整合面临巨大挑战,不同数据源格式差异大,数据质量问题频发,时效性难以保证,同时计算资源利用也不合理,传统方式难以应对大规模数据处理需求。在数据分析方面,模型存在局限性,通用性差且对复杂数据关系理解不足,预测准确性不高,难以准确把握数据间的因果关系,限制了企业决策的精准性和前瞻性。


技术实现思路

1、本专利技术旨在至少解决现有技术中存在的技术问题之一;为此,本专利技术提出了一种基于大模型的数据分析与展示系统,用于解决现有电商数据分析系统中数据处理效率低、数据分析的精准度和广度不足的技术问题。

2、为实现上述目的,本专利技术提供了一种基于大模型的数据分析与展示系统,包括:

3、数据采集模块:用于根据当前业务阶段与业务数据库进行匹配,得到匹配结果,并根据匹配结果启动数据埋点进行数据采集,得到若干初始数据;其中,匹配结果表示当前业务阶段和数据采集比例,数据采集比例表示采集的数据项数量占各数据类别包含的数据项的比例;

4、数据处理模块:用于在若干边缘服务器上部署若干边缘计算节点,利用若干边缘计算节点对若干初始数据进行多线程预处理,得到预处理后的若干初始数据;

5、数据分析模块:用于将预处理后的若干初始数据传输至监控中心,根据当前业务阶段调用对应阶段的分析模型,将预处理后的若干初始数据传入对应阶段的分析模型,得到分析结果;其中,所述对应阶段的分析模型是基于预训练的通用模型经微调后得到,且预训练的通用模型基于深度学习构建;

6、结果展示模块:用于将预处理后的若干初始数据以及分析结果进行分类统计,得到若干数据报表并展示在监控中心。

7、基于上述技术模块,实现了一套高效、智能且全面的电商数据分析与决策支持体系。其中,数据采集模块根据当前业务阶段来采集初始数据,确保精准获取与当前业务阶段相关且合适数量的数据项,避免了数据采集的盲目性,使得采集到的数据能更好地反映各阶段业务特点和需求;通过数据处理模块,利用边缘计算节点以及多线程处理技术进行分布式数据预处理,提高了数据处理的效率;通过数据分析模块,利用大模型技术挖掘数据中的复杂关系,对不同业务阶段的数据进行精准分析;通过结果展示模块将数据与分析结果进行分类统计与展示,方便系统管理人员快速进行决策制定。

8、进一步地,所述业务数据库的构建方式包括:

9、a1,根据数据类别得到可采集的若干数据项,并对若干数据项进行重要程度排序,得到数据项列表;其中,数据类别包括错误数据、性能数据以及行为数据;

10、a2,将电商业务的生命周期划分为若干业务阶段,并根据业务阶段设置各数据类别的数据采集比例,得到若干数据采集比例;

11、a3,利用数据库技术,将若干业务阶段和对应的若干数据采集比例储存在数据库中,得到业务数据库。

12、通过将电商业务生命周期划分为若干业务阶段,并根据各阶段特点设置不同的数据采集比例,能够确保在每个特定阶段采集到与之紧密相关的数据,有助于提高数据分析的效率和准确性。

13、进一步地,所述根据数据类别得到可采集的若干数据项,包括:

14、错误数据的数据项包括:错误类型、错误时间、错误位置、错误频率、错误恢复时间;

15、性能数据的数据项包括:首页加载时间、产品详情页加载时间、购物车页面加载时间、支付页加载时间、页面渲染时间、服务器响应峰值时间、api调用时间、cpu使用率、内存使用率、网络宽带使用率;

16、行为数据的数据项包括:链接粘贴来源、浏览时间、点击频率、搜索记录、购物车产品数量、下单时间、支付时间、评论率、分享率、登录次数、在线时长、商品收藏频率、商品停留时间、重复购买周期。

17、收集涵盖了错误数据、性能数据和行为数据三大类别的丰富大数据,全面采集各类数据能够从多个维度完整呈现电商业务的运行状况,为深入分析用户体验、系统稳定性以及业务转化等提供了充足的数据基础,有助于发现隐藏在不同数据之间的关联关系和潜在问题。

18、进一步地,所述根据匹配结果启动数据埋点进行数据采集,包括:

19、b1,从服务器端接收系统当前业务阶段,得到当前业务阶段;

20、b2,连接业务数据库,根据当前业务阶段匹配业务数据库中的对应字段,得到当前业务阶段的若干数据采集比例;

21、b3,根据数据项列表构建埋点表,得到包含埋点id、事件名称、触发条件、采集数据字段以及数据类别的埋点表;

22、b4,根据数据采集比例启动埋点表中对应的数据采集操作,得到若干初始数据。

23、根据数据项列表构建埋点表,使得数据采集过程更加规范和标准化,不仅方便工作人员清晰了解每个埋点的具体作用和采集内容,也便于后续对采集数据的管理、分析以及问题排查。

24、进一步地,所述利用若干边缘计算节点对若干初始数据进行多线程预处理,包括:

25、c1,根据若干数据类别的数量设置若干边缘服务器和若干id,并根据边缘服务器核数部署若干边缘计算节点;

26、c2,根据若干边缘服务器中的若干边缘计算节点与匹配结果将若干id与若干数据类别进行动态关联;

27、c3,根据若干id将若干初始数据分流传输至对应边缘服务器,并为对应的边缘计算节点配置消息队列服务,得到若干消息队列;

28、c4,在消息队列启动多线程机制,对若干初始数据进行多线程预处理;其中,预处理包括数据清洗、数据转换、数据编码。

29、根据数据类别的数量设置若干边缘服务器,确保每个边缘服务器都能合理承担一部分数据处理任务,充分发挥各边缘服务器的计算能力,避免资源闲置或过度使用的情况,提高了整个系统计算资源的利用率。同时,多线程处理方式可以让多个数据处理任务同时进行,大大缩短了数据预处理的时间,提高了数据预处理的整体效率。

30、进一步地,所述根据若干边缘服务器中的若干边缘计算节点与匹配结果将若干id与若干数据类别进行动态关联,包括:

31、c3-1,将匹配结果中数据采集比例与对应数据类别的数据项数量进行乘积并向下取整,得到若干数据类别的数据项数量;

<本文档来自技高网...

【技术保护点】

1.一种基于大模型的数据分析与展示系统,其特征在于,包括:

2.根据权利要求1所述的一种基于大模型的数据分析与展示系统,其特征在于,所述业务数据库的构建方式包括:

3.根据权利要求2所述的一种基于大模型的数据分析与展示系统,其特征在于,所述根据数据类别得到可采集的若干数据项,包括:

4.根据权利要求1所述的一种基于大模型的数据分析与展示系统,其特征在于,所述根据匹配结果启动数据埋点进行数据采集,包括:

5.根据权利要求1所述的一种基于大模型的数据分析与展示系统,其特征在于,所述利用若干边缘计算节点对若干初始数据进行多线程预处理,包括:

6.根据权利要求5所述的一种基于大模型的数据分析与展示系统,其特征在于,所述根据若干边缘服务器中的若干边缘计算节点与匹配结果将若干ID与若干数据类别进行动态关联,包括:

7.根据权利要求1所述的一种基于大模型的数据分析与展示系统,其特征在于,所述预训练的通用模型基于深度学习构建,包括:

8.根据权利要求1所述的一种基于大模型的数据分析与展示系统,其特征在于,所述对应阶段的分析模型是基于预训练的通用模型经微调后得到,包括:

...

【技术特征摘要】

1.一种基于大模型的数据分析与展示系统,其特征在于,包括:

2.根据权利要求1所述的一种基于大模型的数据分析与展示系统,其特征在于,所述业务数据库的构建方式包括:

3.根据权利要求2所述的一种基于大模型的数据分析与展示系统,其特征在于,所述根据数据类别得到可采集的若干数据项,包括:

4.根据权利要求1所述的一种基于大模型的数据分析与展示系统,其特征在于,所述根据匹配结果启动数据埋点进行数据采集,包括:

5.根据权利要求1所述的一种基于大模型的数据分析与展示系统,其特征在于,...

【专利技术属性】
技术研发人员:朱国正马冰马升徐寒
申请(专利权)人:合肥马道信息科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1