飞行轨迹的有效和高效的表示学习

\author{

刘硕

^{1, 2}

，文斌

{L i}^{2, 3}

，姚迪

^{2 *}

，景平

{B i}^{2 *}

^{1}

中国科学院大学高等交叉科学学院

^{2}

中国科学院计算技术研究所

^{3}

中国科学院大学

\{liushuo22s，liwenbin20z，yaodi，bjp}@ict.ac.cn

}

抽象

飞行轨迹数据在交通管理社区中起着至关重要的作用，特别是对于轨迹预测、飞行识别和异常检测等下游任务。现有的工作经常利用手工制作的特征和单独设计模型来完成不同的任务，这严重依赖领域专业知识并且难以扩展。我们认为不同的飞行分析任务共享轨迹的相同有用特征。共同学习飞行的统一表示然而，飞行轨迹再现学习（TRL）面临两个主要挑战，即不平衡的行为密度和3D空间连续性，使最近的通用TRL失效 methods.In 本文提出了Flight2VEc，一种飞行特异性表征学习方法来应对这些挑战，具体来说，使用行为自适应修补机制来激发学习到的表征支付更多此外，我们引入了一种运动趋势学习技术，该技术指导模型不仅记住精确的位置，而且记住运动趋势以产生更好的反应。广泛的实验结果表明，Flight2VEC 显著提高了飞行轨迹预测、飞行识别和异常检测等下游任务的性能。

介绍

随着航空运输的不断发展，航班倾向于广播其当前位置，以便安全有效地进行空中交通管制（Zhang et al.2023）.收集的飞行轨迹是空中交通管理最重要的数据源之一，越来越受到学术界和工业界的关注。近年来的研究表明，深度表示学习已成为主导技术，并在各种飞行轨迹中取得了显著的性能。相关任务，如轨迹预测（Liu 和 Hansen 2018;Wu et al.2022;Zhang et al.2023;Guo et al.2024）、飞行监测（Zhang et al.2016;Fernández et al.2019）和异常检测（Olive 和 Basora 2020;Memarzadeh，Matthews 和 Templin 2022;Memarzadeh、Matthews 和 Weckler 2023）.然而，这些工作要么利用手工制作的特征，要么为一项指定的任务设计表示模型。

图 1：Flight2VEC 的动机

共同学习飞行轨迹的统一表示可能有利于提高各种任务的性能，从而激励这项工作。

在车辆和人类移动轨迹上已经对学习不同任务的统一轨迹表示进行了充分研究（Yao et al.2017;Li et al.2018;Chen et al.2021;江 et al.2023）.深度序列模型，如递归神经网络（Yao et al.2017;Li et al.2018）和变压器（Chen et al.2021;Yao et al.2022;江 et al. 2023）用于编码时空关联并将原始轨迹转换为通用表示向量。由于两个挑战，即不平衡的行为密度和 3D 空间连续性，解决方案往往很难表示飞行轨迹。

飞行轨迹的特点是点密度高但行为稀疏，formation.As 如图 1（a）所示，飞机通常以固定姿态沿直线飞行。代表性活动，如转弯、保持模式和起飞/着陆阶段，只占相对较小的部分，例如

5 %

现有的 TRL 方法通常平等地对待每个点，而不考虑行为的密度，导致无关紧要的表示。

飞行在三维空间中移动，与地面 trajectories.As 相比，表现出更复杂的空间模式如图 1（b）所示，

战斗的运动遵循三维空间中的空间接近性，即飞行的运动趋势受到向前方向的约束，然而，以前的工作利用 MSE 损失来重建位置坐标，这并不能有效地捕捉空间的连续性和依赖性。此外，MSE 损失对异常值很敏感，这显着影响了表征学习过程。

本文提出了一种通用的飞行轨迹再现学习方法Flight2VEC，该方法鼓励学习到的表征更加关注行为部分并记住飞行的运动趋势，具体地说，设计了一种新的基于行为的修补机制，根据行为密度对轨迹进行自动采样，减少模型输入的序列长度。生成的补丁分别提供给解码器专用的 Transformer 以获得 3D 空间连续性 representations.To 模型，我们提出了一种运动趋势学习技术，将每条记录的运动方向预测为 26 类分类任务，随着 MSE 损失，Flight2Vec 不仅可以提取空间坐标的信息，还可以捕获运动趋势 flights.In 总结，本文的主要贡献总结如下：

-我们提出了一个有效且高效的飞行轨迹表征学习框架 Flight2VEc。据我们所知，这是第一个专门针对飞行轨迹特征设计通用表征学习框架的工作。

- 我们引入了一种行为自适应修补机制，以实现有效的轨迹表示学习，同时保留行为密度信息。此外，我们提出了一种运动趋势学习技术，该技术可以显式地对空间连续性飞行轨迹进行建模，而无需额外的功能。

- 广泛的实验表明，Flight2Vec 显著提高了各种下游任务的性能，例如异常检测、轨迹预测和飞行监控。

现有的飞行轨迹数据分析搜索总是需要人工的特征工程和专门的模型来完成每项任务，严重依赖领域专业知识且难以扩展。（Guo et al.2022a，2024）提出了一种基于二进制编码（BE）的特征表示方法进行轨迹预测，利用 Conv1D 和 Trans- former 模块来捕获轨迹点的时空特征。用于轨迹识别的 10 个相关系数特征，如油温（OilT）和油压。（Qin et al.2022）引入了无监督特征工程方法，将输入数据映射到潜在特征空间以进行异常检测，这些方法的局限性在于它们需要专业知识和复杂的特征工程来提取有用的信息，也有一些基于学习的方法，但它们

他们要么不加选择地对整个轨迹进行建模（Guo et al. 2024），要么只关注起飞和着陆阶段等特定部分（Fernández et al.2019;Memarzadeh， Matthews， and Templin 2022），无法自适应地识别和建模 trajectory.In 结论的信息部分，尽管现有方法在特定任务中取得了成功，但它们依赖于复杂的特征工程突出了统一方法的必要性。

轨迹表示学习（TRL）因其在增强各种下游任务方面的有效性而在数据工程界受到了极大的关注。现有方法大致可分为两类：基于道路网络的方法和基于网格的方法。基于道路网络的方法（Fu and Lee 2020;Chen et al.2021;江 et al.2023;Qian et al.2024）将轨迹映射到道路网络的节点，并学习节点的表示以生成- 然而，飞行轨迹可以在三维空间中移动，而不受道路网络的限制，这使得基于道路网络的方法适用。基于网格的方法（Yao et al.2018,2019;Li et al.2018;Yang et al.2021;Jing et al.2022）将地理空间划分为单元网格，并将轨迹映射到这些网格上以学习表示。这将使许多网格上的轨迹数据过于稀疏，从而使模型无法有效地学习轨迹表示。总体而言，目前没有专门针对飞行轨迹表示学习的工作，现有的 TRL 方法不适用于飞行轨迹。

基于补丁 Transformer.In 近年来，基于补丁的时间序列分析方法已成为主流，与逐点处理方法相比，这些模型不仅提高了效率，而且表现出了显着的性能改进，揭示了通过补丁增强局部语义建模的重要性.例如，PatchTST（Nie et al.2022）将每个时间序列分割成补丁，并采用多层感知器（MLP）将补丁嵌入馈送到该方法还利用基于掩码的无监督预训练来学习可以推广到各种下游任务的表示，继 PatchTST 之后，一系列基于补丁的时间序列 Transformer 模型在各种下游任务中不断树立新的标杆，如预测（Wang et al.2024;Chen et al.2024）、分类（Li、Li 和 Yan 2024）和异常检测（Yang et al.2023）。值得注意的是，HDMixer（Huang et al.2024）揭示了补丁的重要性然而，这些方法并不能解决行为密度不平衡的问题，即无法有效捕捉飞行轨迹中稀疏但关键的行为。

图 2：Flight2Vec Preliminary 概述

在本节中，我们首先定义问题，然后分别描述所提出的方法 Flight2VEC。

问题定义给定一个飞行轨迹，

T = {x_{1}, x_{2}, \dots, x_{n}}

用表示，其中每个

x_{i}

轨迹代表一个记录在时间戳的点

i

，轨迹再现学习（TRL）的目标是生成一个通用的低维表示，

v \in R^{D}

可用于各种下游任务。

在本研究中，每个轨迹点

x_{i}

都由与飞机状态相关的六个关键属性来描述：

x_{t} = [l o n_{i}, l a t_{i}, a l t_{i}, V_{l o n_{i}}, V_{l a t_{i}}, V_{a l t_{i}}],

其中

l o n_{i}, l a t_{i}

，和

a l t_{i}

分别表示飞机的经度、纬度和高度，属性

V_{{lon}_{i}}

、

V_{l a t_{i}}

和

V_{a l t_{i}}

分别表示纵向、纬度和高度维度中的速度分量。

飞行 2Vec.As 概述如图 2 所示，Flight2VEC 由两个关键组件组成，即行为自适应修补 Transformer 和模型优化 - mization.In 第一个组件，我们将飞行轨迹根据行为的密度分割成一系列补丁，对于非行为片段，我们对原始记录进行下采样，并将长片段压缩成大小相等的补丁，生成的补丁被馈送到补丁 Transformer 编码器以获得飞行结果。 tation.To 优化 Flight2VEC 中的参数，提出了一种运动趋势学习方法以及传统的 MSE 损失来重建掩蔽 patches.It 鼓励学习的表示不仅记住位置坐标，而且记住掩蔽补丁中每条记录的移动方向。

方法论

我们分别指定了 Flight2Vec 的两个关键组件，即行为自适应修补 Transformer 和模型的优化。

行为自适应修补变换器

起飞和转弯等行为只占飞行轨迹的很小一部分，但它们具有信息性，对于建模轨迹模式至关重要。

图 3：基于行为的修补

我们提出了一种基于行为的修补机制，该机制通过放大行为密集的片段来提取更多信息丰富的特征。

基于行为的修补我们观察到：（i）行为段反映了显著的轨迹变化，例如转弯和保持模式;（ii）非行为段表现出稳定的运动，具有密集的点分布，这些信息较少。受观察的启发，我们首先确定飞行轨迹中的行为段

A

T

，然后根据适应修补轨迹

A

。

具体来说，考虑到所示

T = {x_{1}, x_{2}, \dots, x_{n}}

的飞行轨迹，我们首先应用一个阈值滤波器来去除振荡过大的噪声点，接下来，我们计算每个点的角度变化为：angle

_{i} =

{a_{1}, a_{2}, \dots, a_{n}}

。

然后，将角度变化超过阈值

s

的点标识为活动点，用表示：

A^{'}

A^{'} = {a_{j} ∣ {angle}_{j} > s}

之后，我们使用基于行为的修补算法来创建补丁作为 Transformer 的输入。由于每个行为都是由多个连续的点组成的，对于每个活动点，我们计算其到相邻活动点的索引距离，并将索引距离小于阈值的点进行聚类。然后，我们从每个集群中选择一个中心活动点

c

作为补丁中心，我们可以得到一个具有预定义补丁大小的

S

补丁。如图 3 所示，

a_{j}, a_{j + 1}

，并且

a_{j + 2}

都是活动点。由于它们是相邻的，我们认为它们位于同一个集群中，并选择点

a_{j + 1}

作为中心点

c

。之后，我们得到一个由

g

补丁组成的行为补丁集

P_{b}

，其中

g

是活动点集群的数量。每个补丁都

P_{b}

保留了一个行为段的信息，提高了模型从局部模式中学习的能力。

对于非行为 Segment，我们执行 uniform samping，步长为，

\frac{n - S \cdot g}{N - g}

以从这些 Segment 生成额外的 Patch，其中表示

N

Patch 的数量，

S

是 Patch 大小。总体而言，我们得到一个由

g

行为 Patches 和非

N - g

行为 Patchs 组成的 Patch

P = [p_{1}, \dots, p_{N}]

序列。

*通讯作者。

飞行轨迹的有效和高效的表示学习

抽象

介绍

相关工作

方法论

行为自适应修补变换器