System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 基于提示式生成预训练变换网络的交通流预测方法及装置制造方法及图纸_技高网

基于提示式生成预训练变换网络的交通流预测方法及装置制造方法及图纸

技术编号:41918914 阅读:10 留言:0更新日期:2024-07-05 14:19
本发明专利技术公开了一种基于提示式生成预训练变换网络的交通流预测方法及装置,其中涉及的一种基于提示式生成预训练变换网络的交通流预测方法,包括:S1.获取交通流历史时间序列,并对获取的交通流历史时间序列进行切片处理,得到切片后的交通流历史时间序列;S2.基于生成式预训练架构构建生成式预训练模型;S3.基于切片后的交通流历史时间序列设计输入提示模板和输出提示模板,并将设计好的输入提示模板和输出提示模板输入至生成式预训练模型中进行训练,输出交通流预测模型;S4.将待预测的交通流信息输入至交通流预测模型进行处理,交通流预测模型输出未来时刻的交通流预测值。

【技术实现步骤摘要】

本专利技术涉及智能交通,尤其涉及基于提示式生成预训练变换网络的交通流预测方法及装置


技术介绍

1、随着城市化进程的加快和机动车保有量的增加,城市交通拥堵问题日益突出,给人们的生活和城市管理带来了巨大挑战。为缓解交通拥堵,交通流预测技术应运而生。准确预测未来一段时间内道路交通流量的变化情况,可以帮助交通管理部门提前采取有效的交通疏导和管控措施,从而达到缓解拥堵、提高通行效率的目的。

2、传统的交通流预测模型如autoregressive integrated moving average(arima)和kalman filter等,主要基于历史交通流数据进行建模和预测。这类模型结构简单,计算效率较高,但预测精度有限。随着智能交通系统的发展,大量多源异构交通数据被收集和应用到交通流预测中。一些研究者尝试利用卷积神经网络(cnn)捕获交通数据的空间依赖性,利用循环神经网络(rnn)捕获时间依赖性,从而构建端到端的深度学习交通流预测模型。但这类深度模型难以有效建模非欧几里得空间结构数据和复杂周期性交通数据。

3、近年来,图卷积网络(graph convolutional network,gcn)被广泛应用于交通流预测领域。gcn通过将道路网络抽象为图结构数据,能够同时捕获道路网络拓扑结构和交通流时空演化规律。但gcn模型经常遇到过度平滑的问题,这限制了它们捕获全局空间模式的能力。此外,现有的交通流预测模型大多是针对特定场景和数据集训练得到的,泛化能力不足,难以适应动态变化的交通环境。

4、大语言模型(large language model,llm)以其强大的知识迁移和泛化能力而备受关注。最新的研究表明,llm可以通过自监督学习从海量文本数据中学习到丰富的语义知识,具有优异的少样本学习和跨领域迁移能力。将llm引入交通流预测,有望克服现有深度模型的局限性,实现模型的快速适应和精准预测。

5、综上所述,虽然现有的交通流预测方法取得了一定的研究进展,但在建模复杂时空依赖关系、提高模型泛化能力等方面仍存在不足。因此,亟需一种融合先进人工智能技术的新型交通流预测方法。


技术实现思路

1、本专利技术的目的是针对现有技术的缺陷,提供了基于提示式生成预训练变换网络的交通流预测方法及装置,利用大语言模型的强大语义理解和知识迁移能力,构建一个通用的、精准的交通流预测模型。该模型能够自适应地建模复杂的交通流时空演化规律,快速适应不同的交通场景,为智慧交通管理和出行服务提供关键技术支撑,具有重要的理论意义和实用价值。

2、为了实现以上目的,本专利技术采用以下技术方案:

3、一种基于提示式生成预训练变换网络的交通流预测方法,包括:

4、s1.获取交通流历史时间序列,并对获取的交通流历史时间序列进行切片处理,得到切片后的交通流历史时间序列;

5、s2.基于生成式预训练架构构建生成式预训练模型;

6、s3.基于切片后的交通流历史时间序列设计输入提示模板和输出提示模板,并将设计好的输入提示模板和输出提示模板输入至生成式预训练模型中进行训练,输出交通流预测模型;

7、s4.将待预测的交通流信息输入至交通流预测模型进行处理,交通流预测模型输出未来时刻的交通流预测值。

8、进一步的,所述步骤s1对获取的交通流历史时间序列进行切片处理具体为:

9、对获取的交通流历史时间序列按照时、日、周三种不同时间长度进行切片,得到当前时刻前n个时间序列数据、当前时刻昨日前n个时间序列数据以及当前时刻上周同日前n个时间序列数据。

10、进一步的,所述步骤s3具体为:

11、s31.预先设计输入提示模板;其中输入提示模板包括通过自然语言描述的任务目标、输入的数据格式、时空条件信息;

12、s32.对切片后的交通流历史时间序列进行符号化表示;

13、s33.将通过符号化表示的交通流历史时间序列与预先设计的输入提示模板进行拼接,得到完整的输入序列;

14、s34.预先设计与任务目标输出的数据格式相匹配的输出提示模板;

15、s35.将完整的输入序列和输出的提示模板输入至生成式预训练模型中进行训练,得到交通流预测模型。

16、进一步的,所述步骤s32中进行符号化表示具体为:

17、将交通流历史时间序列对应的连续交通流量值离散化为字典中的符号序列,再将符号序列转换为嵌入向量表示,得到通过符号化表示的交通流历史时间序列。

18、进一步的,所述步骤s3中将设计好的输入提示模板和输出提示模板输入至生成式预训练模型中进行训练中还包括:

19、冻结生成式预训练模型中的部分参数,并对生成式预训练模型中的提示嵌入层和输出层的参数进行更新。

20、进一步的,所述步骤s4之前还包括:采用自回归解码器进行多步预测,生成未来一段时间内的交通流量序列。

21、进一步的,所述采用自回归解码器进行多步预测之前好包括:将前一时刻的交通流预测值作为当前时刻自回归解码器的输入。

22、相应的,还提供一种基于提示式生成预训练变换网络的交通流预测装置,用于执行一种基于提示式生成预训练变换网络的交通流预测方法,交通流预测装置包括处理器,所述处理器内设置有:

23、获取模块,用于获取交通流历史时间序列,并对获取的交通流历史时间序列进行切片处理,得到切片后的交通流历史时间序列;

24、构建模块,用于基于生成式预训练架构构建生成式预训练模型;

25、训练模块,用于基于切片后的交通流历史时间序列设计输入提示模板和输出提示模板,并将设计好的输入提示模板和输出提示模板输入至生成式预训练模型中进行训练,输出交通流预测模型;

26、预测模块,用于将待预测的交通流信息输入至交通流预测模型进行处理,交通流预测模型输出未来时刻的交通流预测值。

27、进一步的,所述处理器上连接有用于存储数据或指令的存储器。

28、进一步的,所述处理器上连接有用于与外部设备数据传输的传输设备。

29、与现有技术相比,本专利技术包括时间序列分解、生成式预训练和提示式微调学习,共同构成了本专利技术的核心框架。通过引入大语言模型的思想,并针对交通流预测任务的特点进行针对性改进,本专利技术能够建模复杂的交通流时空演化规律,提高预测的精准性和鲁棒性。

本文档来自技高网...

【技术保护点】

1.一种基于提示式生成预训练变换网络的交通流预测方法,其特征在于,包括:

2.根据权利要求1所述的一种基于提示式生成预训练变换网络的交通流预测方法,其特征在于,所述步骤S1对获取的交通流历史时间序列进行切片处理具体为:

3.根据权利要求2所述的一种基于提示式生成预训练变换网络的交通流预测方法,其特征在于,所述步骤S3具体为:

4.根据权利要求3所述的一种基于提示式生成预训练变换网络的交通流预测方法,其特征在于,所述步骤S32中进行符号化表示具体为:

5.根据权利要求4所述的一种基于提示式生成预训练变换网络的交通流预测方法,其特征在于,所述步骤S3中将设计好的输入提示模板和输出提示模板输入至生成式预训练模型中进行训练中还包括:

6.根据权利要求1所述的一种基于提示式生成预训练变换网络的交通流预测方法,其特征在于,所述步骤S4之前还包括:采用自回归解码器进行多步预测,生成未来一段时间内的交通流量序列。

7.根据权利要求6所述的一种基于提示式生成预训练变换网络的交通流预测方法,其特征在于,所述采用自回归解码器进行多步预测之前好包括:将前一时刻的交通流预测值作为当前时刻自回归解码器的输入。

8.一种基于提示式生成预训练变换网络的交通流预测装置,用于执行权利要求1-7任意一项所述的一种基于提示式生成预训练变换网络的交通流预测方法,交通流预测装置包括处理器,其特征在于,所述处理器内设置有:

9.根据权利要求8所述的一种基于提示式生成预训练变换网络的交通流预测装置,其特征在于,所述处理器上连接有用于存储数据或指令的存储器。

10.根据权利要求9所述的一种基于提示式生成预训练变换网络的交通流预测装置,其特征在于,所述处理器上连接有用于与外部设备数据传输的传输设备。

...

【技术特征摘要】

1.一种基于提示式生成预训练变换网络的交通流预测方法,其特征在于,包括:

2.根据权利要求1所述的一种基于提示式生成预训练变换网络的交通流预测方法,其特征在于,所述步骤s1对获取的交通流历史时间序列进行切片处理具体为:

3.根据权利要求2所述的一种基于提示式生成预训练变换网络的交通流预测方法,其特征在于,所述步骤s3具体为:

4.根据权利要求3所述的一种基于提示式生成预训练变换网络的交通流预测方法,其特征在于,所述步骤s32中进行符号化表示具体为:

5.根据权利要求4所述的一种基于提示式生成预训练变换网络的交通流预测方法,其特征在于,所述步骤s3中将设计好的输入提示模板和输出提示模板输入至生成式预训练模型中进行训练中还包括:

6.根据权利要求1所述的一种基于提示式生成预训练变换网络的交通流预测方法,其特征在于,所述步骤s...

【专利技术属性】
技术研发人员:张雷陈莉莉姚骏骅章伊婷
申请(专利权)人:杭州弘云信息咨询有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1