精华内容
下载资源
问答
  • 运动物体的轨迹预测,分别使用卡尔曼滤波、扩展卡尔曼滤波、无迹...本例仅为本人在研究轨迹预测问题时为理解算法原理所写,针对具体问题请自行斟酌算法适用性。 本例代码详解后续会在本人博客中做具体说明,欢迎讨论!
  • Python机器学习 预测分析核心算法1

    千次阅读 2020-10-08 15:25:56
    最近在学习Michael Bowles著的《Python 机器学习预测分析核心算法》,记录一下学习过程。 1.关于预测的两类核心算法 解决函数逼近问题的两类算法为:惩罚线性回归和集成方法。 1.1 什么是惩罚回归方法 惩罚线性回归...

    最近在学习Michael Bowles著的《Python 机器学习预测分析核心算法》,记录一下学习过程。

    1.关于预测的两类核心算法

    解决函数逼近问题的两类算法为:惩罚线性回归和集成方法。
    1.1 什么是惩罚回归方法
    惩罚线性回归方法是由普通最小二乘法衍生出来的。最小二乘法的一个根本问题就是有时它会过拟合。
    来自所看教材
    如上图左图,这是一个由6个点的数据集,通过普通最小二乘法拟合出的直线。如课本的假设,目标值为工资,特征值为男人的身高。那么这条直线就代表了对男人收入的最佳预测。
    但是如果我们无法获取全部的点,假设只能获取六个点中的任意两个点,那么拟合出来的直线就取决于我们得到的两个点,如右图。
    直线的自由度为2,而很明显,对在自由度与点数相同的情况下所做的预测并不能报以太大的信心。然而在很多时候点数甚至是小于自由度的,在这种情况下,惩罚线性回归就是最佳的选择了。
    惩罚线性回归可以减少自由度使之与数据规模、问题的复杂度相匹配。尤其是在面对类似于基因问题或者是文本分类问题的时候,更是得到大量的使用。
    1.2 什么是集成方法
    集成方法的基本思想是构建多个不同的预测模型,然后将其输出做某种组合,如取平均值或采用多数人的意见(投票)。单个预测模型叫做基学习器。计算学习理论的研究结果证明只要基学习器比随机猜测稍微好些,集成方法就可以得到相当好的效果。
    集成方法为了实现最广泛的应用通常将二元决策树作为它的基学习器。二元决策树通常如下图所示。在这里插入图片描述
    关于比较值和输出值,都是来自己基于输入数据的二元决策树的训练。给定输入数据的话,这些值都会是很确定的。
    一种获得不同模型的方法是先对训练数据随机取样,然后基于这些随机数据自己进行训练,这种技术叫做投票(自举集成算法)。
    1.4 算法的选择
    线性模型倾向于训练速度快,并且经常能够提供与非线性集成方法相当的性能,特别是当能获取的数据受限时。因为训练时间短,在早期特征选取阶段训练线性模型是很方便的,然后可以大致估计针对特定问题可以达到的性能。
    集成方法通常能提供更好的性能,也可以提供相对间接的关于结果的贡献的评估。

    展开全文
  • 运动物体的轨迹预测,分别使用卡尔曼滤波、扩展卡尔曼滤波、无迹...本例仅为本人在研究轨迹预测问题时为理解算法原理所写,针对具体问题请自行斟酌算法适用性。 本例代码详解后续会在本人博客中做具体说明,欢迎讨论!
  • 11.轨迹预测,具体方法

    千次阅读 2018-03-06 11:15:21
    基本确定思路了,基本就是用机器学习方法,估计比直接拟合准确度高算法如下:1.把数据处理成样本和标签,样本是某时刻t的经度、纬度、速度、方向等信息,标签是t+Δt时刻的位置(经度或纬度),仍然插值计算(线性...

    基本确定思路了,基本就是用机器学习方法,估计比直接拟合准确度高

    算法如下:

    1.把数据处理成样本和标签,样本是某时刻t的经度、纬度、速度、方向等信息,标签是t+Δt时刻的位置(经度或纬度),仍然插值计算(线性插值)

    2.把样本和标签输入机器学习模型,(选取机器学习模型是个问题,某些模型只能做二分类,某些模型需要信息较多,应该选取回归模型)

    3.测试训练好的模型,统计误差。

    4.调整参数,例如步长、层数、学习模型。


    这些都是完成了bp算法的实验后写的,我还没尝试其他机器学习算法


    问题是我在做毕业设计,我现在做这些只是现有技术的应用,创新不够。还需要从这个过程中挖两个有价值的细节做创新。

    就算是机器学习,样本和标签之间也有某些内在关联,对于预测就是位置角度速度与将来位置的因果关系。


    补充:如果把标签改成Δt时间段的位移是不是效果更好,这样能减小标签的取值范围。如果假设方向、速度固定,位移本来就是很容易算出来的,实际不固定,但是可以把造成波动的因素加进去,比如白天黑天,海域位置。学习难度应该会小一些。

    展开全文
  • 运动物体的轨迹预测,分别使用卡尔曼滤波、扩展卡尔曼滤波、无迹...本例仅为本人在研究轨迹预测问题时为理解算法原理所写,针对具体问题请自行斟酌算法适用性。 本例代码详解后续会在本人博客中做具体说明,欢迎讨论!
  • 总第434篇2021年 第004篇近日,美团无人车配送中心团队获得NeurIPS 2020 INTERPRET轨迹预测挑战赛Generalizability赛道冠军、Regular赛道亚...

     

    近日,美团无人车配送中心团队获得NeurIPS 2020 INTERPRET轨迹预测挑战赛Generalizability赛道冠军、Regular赛道亚军。本文主要是算法层面的介绍,希望能给从事相关工作的同学有所帮助或者启发。

    01 背景

    NeurIPS (Conference on Neural Information Processing Systems) 是机器学习和计算神经科学相关的学术会议,也是人工智能方向的顶级会议。INTERPRET轨迹预测挑战赛(INTERACTION-Dataset-based PREdicTion Challenge)隶属于NeurIPS 2020 Workshop: Competition Track Saturday。该竞赛由UC Berkeley MSC Lab主办,旨在建立一个公共数据集来评估自动驾驶领域各类轨迹预测算法的性能。

    02 赛题简介

    INTERPRET竞赛共包含两条赛道:Generalizability Track和Regular Track。Generalizability赛道中,测试集轨迹与训练集差异较大(采自不同的场景),且不带有高精地图;而Regular赛道中测试集轨迹分布与训练集相同(采自相同的场景),同时带有高精地图。数据集采自于美国、中国、德国等多个国家,包含并线/变道的高速与城市道路、带停车/让车标志的环形路、无保护左转路口等场景。此外,场景中的障碍物包含行人、自行车和机动车3种类型。

    本次竞赛中,参赛队伍需要根据每个障碍物过去1秒(10帧)的运动轨迹,预测出它在未来3秒(30帧)的轨迹。障碍物的轨迹使用离散采样点集合来表示,采样的频率是10赫兹,即每0.1秒采样一个轨迹点。竞赛允许参赛队伍对于每个障碍物输出50条预测轨迹,但只根据最优轨迹(排序第1条)的平均位移误差(Average Displacement Error,ADE)来排名。平均位移误差的计算方式为:

    03 算法介绍

    Part 1 地图数据处理

    由于Generalizability Track和Regular Track数据形式不一致(前者带有高精地图,后者不带高精地图),为保证算法的有效性,我们使用了两种形式来更好地表达场景。如下图1:

    图1 地图表达形式。左:Regular Track场景;右:Generalizability Track场景

    在Regular Track中,所有测试集都附带高精地图,我们可以通过查询地图的方式得到任意位置附近的车道线(如图1-左所示,场景中道路拓扑非常完整);而对于Generalizability Track,测试集没有给出对应的高精地图,无法获取完整的道路结构化信息。对此,我们设计了一种基于地理位置的语义地图来描述非结构化场景下的可行驶区域。基于地理位置的语义地图依赖于场景中障碍物的历史观测轨迹,具体绘制流程主要分为3个步骤:

    Part 2 预测模型设计

    轨迹预测算法设计过程中通常需要考虑一个重要问题:即在预测时如何建模障碍物与周围环境的复杂交互,这里周围环境通常包含多类交通元素,例如其他交通参与者,路网拓扑,交通信号灯等。

    在现有的预测算法中,对障碍物交互的建模方式也不尽相同,例如较早期基于简单位置关系的交互[1-3],基于语义地图+CNN编码的交互[4-6],基于(图)注意力机制的交互[7-11]等。随着对障碍物交互认知的加深以及新技术的迭代,轨迹预测算法的精度也在逐步提高。

    本次竞赛中,我们提出一种基于混合注意力机制的预测算法,以通用的形式解决两个赛道的预测问题。算法是基于目前主流的图注意力机制,整体设计思路是通过引入混合注意力机制,促使算法更准确地提取障碍物运动特性与车道拓扑特性,同时编码障碍物之间、障碍物与车道间的复杂交互。

    图2 基于混合注意力机制的预测算法

     

    上图2是算法的整体结构,整个模型基于主流的Encoder-Decoder结构,包含特征编码网络(Feature Embedding Network)和交互&预测网络(Interaction & Prediction Network)。特征编码网络使用Timewise + Agentwise Attention双注意力机制与双通道GRU对障碍物轨迹和地图信息进行高质量特征强化与时序编码;交互预测网络则使用Agentwise + Conditional Attention双注意力机制建模智能体间交互行为,并输出多模态预测轨迹及其概率。

    上述两个网络都是基于混合注意力的图网络,其核心是Enc-MAT和Dec-MAT(Mixture Attention Transformer encoder)模块。Enc-MAT和Dec-MAT是现有BERT-like模型(Transformer encoder)的改进结构,下图3对比了传统Transformer encoder、Enc-MAT和Dec-MAT的区别。

    图3 Transformer改进模块。(a)常规Transformer Encoder;(b)Enc-MAT;(c)Dec-MAT

    从图3可以看到,相比于传统Transformer encoder,Enc-MAT和Dec-MAT改进并额外新增加了一个注意力通道,混合注意力机制也由此而来。Enc-MAT编码器使用了Timewise和Agentwise混合注意力机制;Dec-MAT编码器则是使用了Agentwise和Conditional(同图3-c中的Distance-base Attention)混合注意力机制。算法使用混合注意力代替原有单注意力机制,目的在于结合实际需求来强化障碍物与环境拓扑的特征表达。图2下半部分展示了三种Attention结构,从计算形式上看,三种注意力方式的计算公式是一致的:

    Part 3 轨迹预测流程

    首先对符号作一些说明:

    编码过程主要包含障碍物历史轨迹编码与场景拓扑编码。以障碍物特征编码为例,流程主要分为两步:

    对于道路拓扑的编码也采用相似的方式,但与轨迹编码有两个区别:

    解码过程主要包含高层交互和轨迹预测两个阶段。前者采用混合注意力网络Dec-MAT,后者使用基础的MLP实现轨迹与概率的多任务预测。在介绍流程前,我们先阐述两个相对合理的事实:

    • 事实1:障碍物运动方向和场景中车道走向存在关联(运动趋势关联)。

    • 事实2:障碍物运动更依赖与距离它更近的邻近车道(相对位置关联)。

    基于上述两个事实,解码器两个阶段的流程分别可以描述为:

    最终在Generalizability赛道上,我们以ADE 0.5339米获得冠军;Regular赛道上,我们以ADE 0.1912米获得亚军。

    04 总结

    障碍物轨迹预测对无人车安全行驶具有重要的意义,它也是学界与工业界公认有很大挑战性的课题。我们希望通过努力做出更好的解决方案,持续提升自动驾驶系统对障碍物的预测能力,为美团实际业务及出行领域提供更多的技术支持。

    05 参考文献

    [1] Alahi A, Goel K, Ramanathan V, et al. Social lstm: Human trajectory prediction in crowded spaces[C]//Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition. 2016: 961-971.

    [2] Gupta A, Johnson J, Fei-Fei L, et al. Social gan: Socially acceptable trajectories with generative adversarial networks[C]//Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition. 2018: 2255-2264.

    [3] Zhu Y, Qian D, Ren D, et al. StarNet: Pedestrian trajectory prediction using deep neural network in star topology[C]//Proceedings of the IEEE/RSJ International Conference on Intelligent Robots and Systems. 2019: 8075-8080.

    [4] Chai Y, Sapp B, Bansal M, et al. Multipath: Multiple probabilistic anchor trajectory hypotheses for behavior prediction[J]. arXiv preprint arXiv:1910.05449, 2019.

    [5] Chang M F, Lambert J, Sangkloy P, et al. Argoverse: 3d tracking and forecasting with rich maps[C]//Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition. 2019: 8748-8757.

    [6] Liang J, Jiang L, Niebles J C, et al. Peeking into the future: Predicting future person activities and locations in videos[C]//Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition. 2019: 5725-5734.

    [7] Mohamed A, Qian K, Elhoseiny M, et al. Social-STGCNN: A Social Spatio-Temporal Graph Convolutional Neural Network for Human Trajectory Prediction[C]//Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition. 2020: 14424-14432.

    [8] Liang M, Yang B, Hu R, et al. Learning lane graph representations for motion forecasting[C]//European Conference on Computer Vision. Springer, Cham, 2020: 541-556.

    [9] Huang Y, Bi H K, Li Z, et al. STGAT: Modeling spatial-temporal interactions for human trajectory prediction[C]//Proceedings of the IEEE International Conference on Computer Vision. 2019: 6272-6281.

    [10] Gao J, Sun C, Zhao H, et al. VectorNet: Encoding HD maps and agent dynamics from vectorized representation[J]. arXiv preprint arXiv:2005.04259, 2020.

    [11] Zhao H, Gao J, Lan T, et al. Tnt: Target-driven trajectory prediction[J]. arXiv preprint arXiv:2008.08294, 2020.

    06 作者简介

    炎亮、傅 壮、德恒、冬淳等,均为美团无人车配送中心算法工程师。

    ----------  END  ----------

    招聘信息

    美团无人车配送中心多个岗位持续招聘中!诚招算法/系统/硬件开发工程师及专家。欢迎感兴趣的同学发送简历至:ai.hr@meituan.com(邮件标题注明:美团无人车团队)

    也许你还想看

      | CVPR 2019轨迹预测竞赛冠军方法总结

      | ICRA 2020轨迹预测竞赛冠军的方法总结

      | 顶会论文:基于神经网络StarNet的行人轨迹交互预测算法

    展开全文
  • 图卷积神经网络行人轨迹预测算法.pdf
  • 本文针对海量的用户轨迹数 据进行研究,提出一种基于分区域的隐马尔可夫模型用以解决时空轨迹序列的预测问题.该模型首先通过聚类将一片区域内的 时空序列分成多个小区域,每个小区域内再通过聚类确定多个隐状态和...
  • 机器学习轨迹

    2020-10-15 19:48:27
    传统机器学习 1.KNN算法 二.深度学习 1.联邦学习:目的是为了解决数据孤岛,在不共享数据的前提下,实现数据的融合,充分利用大数据,再通过机器学习或者数据挖掘等技术将这些数据的潜在价值最大化 2.迁移学习:是一...

    一.传统机器学习

    1.KNN算法:是为了对实例进行正确地分类,其最大的缺点是无法给出数据的内在含义。该算法的关键在于针对不同的数据集选择合适的“距离”,因为对距离的定义我们有很多种方式,比如欧式距离、切比雪夫距离等。
    2.决策树:既可以回归也可以分类;决策树通常有三个步骤:特征选择、决策树的生成、决策树的修剪;用决策树分类:从根节点开始,对实例的某一特征进行测试,根据测试结果将实例分配到其子节点,此时每个子节点对应着该特征的一个取值,如此递归的对实例进行测试并分配,直到到达叶节点,最后将实例分到叶节点的类中;决策树学习的目标:根据给定的训练数据集构建一个决策树模型,使它能够对实例进行正确的分类。
    决策树学习的损失函数:正则化的极大似然函数
    决策树学习的测试:最小化损失函数
    其中分支节点为判断模块即对所选择的特征,叶子节点为最终分类结果的模块即可以得出最终的结论或者分类结果。
    决策树的优势在于数据形式非常容易理解且可以更好地理解数据的内在含义。
    构建决策树的实质时根据该特征对训练数据进行分割,使得各个子数据集有一个最好的分类的过程。这一过程对应着对特征空间的划分,也对应着决策树的构建。即利用训练数据构建最优的决策树即可以花费最少的平均时间和步骤进行分类,然后待测点通过该决策树进行分类。
    划分数据集有两种算法:ID3和C4.5;划分数据集的大原则是:将无序数据变得更加有序,在划分数据集前后信息发生的变化称为信息增益,获得信息增益最高的特征就是最好的选择,即先对每个特征对数据集进行划分,选取最高信息增益的特征为我们选择的最优特征。
    所谓信息增益是指得知特征X的信息而使得类Y的信息不确定性减少的程度。
    举个栗子,判断一个西瓜是否为好瓜,我们有许多特征进行判断,而如果我们仅做一次判断可以使得我们做出的决策正确概率最大的特征就是我们当前应当选取的特征。比如颜色,如果不是绿色,则我们可以断定它不是好瓜,但如果是绿色,我们还要进一步判断,信息增益是说,当我们已知该瓜的某一个特征比如颜色的情况下,我能进行正确分类的概率大大增加了,比如之前我只有0.5的概率猜对,而得知后,我有0.8的概率猜对,这就是信息增益即条件概率。
    求解信息增益:熵、条件熵(H(Y∣X)表示在已知随机变量X的条件下随机变量Y的不确定性),而这里的概率就是统计频率即选择该特征的概率;因此,信息增益熵-条件熵,信息增益率信息增益/熵;这里的熵指的是无视任何属性的情况下,即不知任何先验信息的情况下,我瞎猜能猜对的平均概率有多大。经过第一轮选取最优属性后,将表划分为k个子表,再对子表重复上述操作直至无法划分子表为止。
    小技巧:剪枝(预剪枝和后剪枝);损失函数

    二.深度学习

    1.联邦学习:目的是为了解决数据孤岛,在不共享数据的前提下,实现数据的融合,充分利用大数据,再通过机器学习或者数据挖掘等技术将这些数据的潜在价值最大化
    2.迁移学习:是一种机器学习方法,就是把为任务 A 开发的模型作为初始点,重新使用在为任务 B 开发模型的过程中。可以提升效率,有些类似C++的代码重用的赶脚

    展开全文
  • 一种基于模糊长短期神经网络的移动对象轨迹预测算法.pdf
  • 轨迹预测 使用机器学习算法(例如lstm,seq2seq等)预测船只轨迹的python框架。
  • 1.背景 民以食为天,如何提升...在此过程中,美团无人配送团队也取得了一些技术层面的突破,比如基于神经网络StarNet的行人轨迹交互预测算法,论文已发表在IROS 2019。IROS 的全称是IEEE/RSJ International Confe..
  • 机器学习算法应用场景实例六十则

    千次阅读 2020-12-17 14:47:57
    原文链接:https://blog.csdn.net/liulingyuan6/article/details/53648273本文整理了60个机器学习算法应用场景实例,含分类算法应用场景20个、回归算法应用场景20个、聚类算法应用场景10个以及关联规则应用场景10个...
  • 大数据环境下移动对象自适应轨迹预测模型_乔少杰 多模式移动对象不确定性轨迹预测模型_乔少杰 基于卡尔曼滤波的动态轨迹预测算法_乔少杰 基于前缀投影技术的大规模轨迹预测模型_乔少杰
  • 负责预研自动驾驶场景的车辆轨迹预测、行人意图推断等算法; 4.负责预研深度学习模型量化和加速、AutoML、分布式训练等基础技术; 5.负责与嵌入式工程师协作,针对产品平台进行算法优化和部署。 任职要求 1.计算机...
  • 手动整理了1500多个深度学习及机器学习相关算法在实际应用中的项目,完全可以作为本科生当前较新的毕业设计题目选择方向。讲道理有些题目,比如“用户评分的隐式成分信息的研究”这种题目取的就比较广,有点科学研究...
  • 文章目录【机器学习】KNN算法实现手写板字迹识别1. 前言2. 实验背景3. 测试过程3.1 手写板及测试数据的制作3.2 加载训练数据并进行KNN模型搭建3.3 结果预测4. 总结 【机器学习】KNN算法实现手写板字迹识别 1. 前言 ...
  • 机器学习算法应用场景实例

    千次阅读 2018-05-25 09:39:32
    机器学习算法应用场景实例六十则 标签: 人工智能数据挖掘机器学习竞赛算法 2016-12-14 22:19 8217人阅读 评论(2) 收藏 举报  分类: 竞赛(4)  版权声明:本文为博主原创文章,未经博主允许不得...
  • 当所罗门说有一个时间和地点,他没有遇到停车问题。-Bob Edwards,广播记者 ...2017年1月,我们在美国25个城市推出了适用于Android版Google地图的新功能,可以提供有关目的地附近停车难度的预测,以...
  • 一、分类 可分为两类: 1. 基于数据驱动的方法 通过海量的历史数据来挖掘移动目标的行为特征,...根据目标的当前状态、所处的环境预测轨迹。 动力学模型:描述运动规律 意图识别:先判断意图,再预测轨迹 二、难点
  • 机器学习是一个非常火爆的术语。本文以最通俗易懂的方式阐述了机器学习的基本原理及其应用。什么是机器学习机器学习,顾名思义,一台机器,正在学习一些东西。这是一个学习过程,从观察输入到特定机器...
  • 机器学习算法应用场景

    万次阅读 2017-09-15 13:25:01
    本文整理了60个机器学习算法应用场景实例,含分类算法应用场景20个、回归算法应用场景20个、聚类算法应用场景10个以及关联规则应用场景10个。包含了天池、DataCastle、DataFountain中所有竞赛场景。 目录 ...
  • 基于运动学模型的轨迹跟踪控制算法——模型预测控制(MPC)法(四)之代码实现(m脚本) (KingkWinner——创作不易,转载请标明出处) % carsim中的输出端为X坐标(m)、Y坐标(m)、横摆角(°)、质心处的纵向速度...
  • #资源达人分享计划#
  • 机器学习在高德地图轨迹分类的探索和应用

    千次阅读 多人点赞 2020-10-16 11:45:59
    也许你还想看 深度学习在高德ETA应用的探索与实践 机器学习在高德用户反馈信息处理中的实践 深度学习在道路封闭挖掘方案的探索与实践 招聘 阿里巴巴高德地图在线引擎和安全运维中心团队长期招聘机器学习算法、C++、...
  • 模型预测控制与机器学习

    千次阅读 2020-11-17 21:10:12
    文章目录一、模型预测控制原理及应用二、浅谈机器学习技术三、基于机器学习的模型预测控制四、总结 最近几年,人工智能和机器学习受到了各行各业的热捧,已经不再是计算机科学系(CS)的“专利”,甚至连我这个...
  • 1、无监督学习(Unsupervised Learning)1.1、定义利用无标签的数据学习数据的分布或数据与数据之间的关系被称作无监督学习。1.2、两大任务 聚类(clustering) 降维(Dimension Reduction) 1.3、聚类(clustering)1.3.1...

空空如也

空空如也

1 2 3 4 5 ... 20
收藏数 7,850
精华内容 3,140
关键字:

机器学习轨迹预测算法

友情链接: hdgl.zip