人工智能|嵌入式深度学习

      深度学习技术火了这么多年，然而我们却很难在生活中实实在在地体会到它是如何工作的，本文将以 Nvidia Jetson TX2 开发卡为例，介绍深度学习技术是如何应用在小型硬件设备。

      Nvidia Jetson TX2

     TX系列是Nvidia 针对小型设备而研发的计算硬件，它能有效完成多深度学习模型的运算，能够实施小规模的再训练等，充足的配置与合适的大小，让它成为机器人大脑配件的不二选择。

      众所周知，在深度学习中想要训练一个值得信赖的模型，需要复杂的计算模型与海量的合适数据。然而当你拥有这些后，还需要有大量的算力来保障你的AI不会在几个月后才完成训练，目前主流的计算加速技术就是来自Nvidia的GPU硬件加速，当然像其他大厂也有自己的加速硬件，例如华为在今年的全连接大会中就公布了自己研发的硬件。

      当我们使用GPU作为加速硬件时，计算过程中的数据就会存储在显存而非计算机的内存中。诸如Tensorflow这样的系统，当GPU显存不足时就会提示一个OOM错误，使训练无法继续进行，这时就需要减少输入的数据量、调整模型等。当然，最直接的方法就是买块高档的显卡！而Jetson TX2 拥有8G 的显存量，足够同时运行若干模型的前向传播过程，进行同步语音识别、图像识别、自然语言理解等，也能满足一些模型的终端离线训练需求，例如深度强化学习过程。而更厉害的是，这块卡只有信用卡一般的大小。

      Robotic

      当你满怀信心的想使用TX2制作一个具备AI的机器人时，我们很抱歉的通知您，还有许多的工作需要完成。首先需要考虑的就是机器人的使用场景（飞行感知？陆地搜寻？双足行走？），然后就是根据使用场景来设计机器人的造型，简单的方法就是购买成套产品，例如一架无人机、一个小车或者一套乐高等，当然你也可以自行制作与装配机器人部件。

      做好了硬件部分，并且测试传感、操作、数据读写都无问题后，机器人与其大脑（TX2）的连接过程就完成了。接下来就可以专注于应用场景，例如采集数据、编写神经网络模型，在云端或终端进行训练。数据采集（如图像数据）的方法有很多，包括从互联网上搜集、采取一些实景相机拍摄，或者干脆操作你的机器人（例如无人机）去获取等。

      最终你拥有了自己训练出来的深度学习模型，将模型与机器人控制脚本部署在TX2中，或者干脆使用深度强化学习来直接让机器人适应一种场景。这样你就拥有了集智能感知、智能控制、智能行动于一体的AI机器人。

      怎么样，想想都很开心吧？一般这时候应该泼冷水了，没错我就是要泼冷水了，因为在最后成功之前，往往需要解决很多的问题。一个最简单的例子就是，你敢让部署了未知效果的模型在无人机上运作吗？很可能几千大洋甚至上万大洋的飞机就毁于一旦哦。

      解决这种问题的方法有很多，仿真环境就是最常用的方法，你可以使用ROS系统、各类PC游戏等，总之就是要把事故全部解决在仿真环境中，下面就是一些可靠的仿真环境。

      本文到此就要结束了，因为我们不太可能通过一篇文章把每个细节都展示出来，如果您对深度学习的各类应用十分感兴趣，可以尝试关注Yeslab的人工智能课程哦，说不定你的下一个创业想法就可以在这里产生呢。