生成式人工智能提高了人工智能变革力量的赌注，对我们日常生活的方方面面产生了深远的影响。在过去的一年里，我们看到人工智能的能力牢牢掌握在消费者手中。MWC 2024最近发布的新闻和产品公告强调了我们可以从下一波生成式人工智能应用中看到的东西。人工智能将无处不在，直接集成到边缘和端点设备中，使创造力和沟通达到新的水平。
“边缘人工智能”是指将人工智能算法部署到网络边缘基础设施中，以及直接部署到终端上，如智能手机、摄像头、传感器和物联网设备，从而在不依赖云服务器的情况下实现实时处理和决策。AI处理的这种分散化提供了几个优势，包括减少延迟、增强隐私以及在互联网连接有限的情况下提高可靠性。
让我们举一个智能手机的例子，它配备了人工智能边缘功能。智能手机可以利用设备上的人工智能模型在本地执行这些任务，而不是仅仅依赖基于云的服务来执行语音识别、翻译和图像处理等任务，从而为用户提供更快的响应时间，并通过最大限度地减少向外部服务器传输数据来保护隐私。
边缘人工智能的核心是高效推理，即采用经过训练的人工智能模型进行预测或决策的过程，它需要专门的内存技术来提高性能，同时根据终端设备的独特需求进行定制。由于更大的模型提供更高的准确性和结果保真度，因此在不超出设备功率和空间限制的情况下，将会出现对更大内存容量和带宽的持续需求循环。
设计人员对于 AI/ML 推理有多种内存选择，但在带宽这一关键参数上，GDDR 内存表现出色。 如果功耗和空间限制至关重要(对于手机和许多物联网设备来说尤其如此)，那么 LPDDR 就是首选内存。 用于边缘 AI 推理的内存需要在带宽、容量、功耗和外形紧凑性之间取得适当的平衡。
确保边缘和端点设备的安全也至关重要。 这些设备收集和处理敏感数据，从个人信息到专有业务洞察，使它们成为网络攻击的潜在利润丰厚的目标。 实施强大的安全措施对于保护人工智能设备免受一系列潜在威胁(包括恶意软件、数据泄露和未经授权的访问)至关重要。 这涉及采用加密协议、安全启动机制和基于硬件的安全功能来保护传输中和静态的数据。
边缘人工智能的崛起将为各种应用的创造力、创新和个性化体验带来新的机遇。 然而，要在任何地方充分发挥人工智能的潜力，就需要用于推理以及边缘和端点设备安全的内存技术不断发展。
适用于 GDDR 和 LPDDR 的 Rambus 内存接口控制器可提供现在和未来 AI 推理所需的高带宽、低延迟内存性能。 凭借广泛的安全 IP 产品组合，Rambus 还支持基于硬件的尖端安全性，以保护支持 AI 的边缘和端点设备。