MIT开发新人工智能系统助机器人修正记忆错误

麻省理工学院的研究人员开发了一种新型记忆系统，帮助机器人识别并修正储存在其记忆中的不准确物体描述。这个系统名为UQ-DAAAM，能够评估来自不同视角的同一物体的多个描述，以决定机器人对其识别的信心程度。然后，系统会选择额外的视角来降低不确定性，并将观察结果综合成更准确的描述。修正后的信息将储存在机器人的记忆中，这可能会改善其在环境中导航和执行复杂任务的能力。

该技术结合了计算机视觉、语言模型和不确定性量化，以改善机器人对周围物体的识别和记忆。UQ-DAAAM基于早期的机器人记忆框架DAAAM，该框架使用视觉-语言模型（VLM）生成机器人由其机载镜头捕获的物体的详细描述。这些描述被储存在基于三维地图的环境表示中，使机器人在回答问题或执行任务时能够检索物体的信息。然而，原系统在物体部分可见、距离较远或捕获的图像模糊或光线不足时存在局限性。

在这些情况下，视觉-语言模型可能生成不正确的描述。例如，它可能将灰色烟囱误认为屋顶上的松鼠。如果没有修正这些错误的机制，不准确的信息可能会留在机器人的记忆中，影响随后的决策。

解决不准确描述的机制

UQ-DAAAM通过引入一种测量视觉-语言模型生成的描述不确定性的方法来解决这一问题。当机器人在环境中运动时，其镜头会不断捕获图像，通常会从多个视角记录同一物体。新系统利用这些额外的观察来判断现有描述是否可靠。研究人员表示，系统首先评估模型在描述潜在误认物体时生成的词语的信心，然后通过将该描述与从不同角度捕获的同一物体的图像生成的标题进行比较来测量一致性。

系统将这两个测量结果结合成一个单一的不确定性分数，表示其对物体理解的信心。如果分数超过预定的阈值，UQ-DAAAM会将该描述标识为潜在不可靠并启动修正过程。

选择额外视角的策略

该系统不会分析每个捕获的图像，而是使用基于规则的方法选择可以帮助降低不确定性的额外视角。例如，如果机器人将烟囱误认为另一物体，它可能会选择显示从烟囱冒出烟雾的图像，以更准确地识别该结构。研究人员数学证明了这一选择方法可以在不重复运行视觉-语言模型的情况下识别有用的图像。这减少了计算需求，使系统能够在处理资源有限的移动机器人上运行。一旦选择了额外的图像，大型语言模型（LLM）将其描述综合成修订的标题。

系统对较新的描述和包含较少歧义的描述赋予更大权重，以生成更可靠的物体表示。修正后的描述随后将储存在机器人的记忆中以供未来参考。

在测试中，修正过程解决了约92%物体的歧义，每个物体仅需两个额外的标题。与现有的最先进方法相比，物体描述的准确性提高了5%。研究人员进一步发现，UQ-DAAAM改善了对物体、其位置以及机器人上次遇到它们的时间的问题回答的准确性。团队目前计划将该技术扩展到不同的机器人平台，包括移动机器人操控器。他们还在探索该系统是否能够识别高不确定性区域，并引导机器人重新访问这些位置以收集更好的观察结果。

UQ-DAAAM对机器人技术的影响

UQ-DAAAM的开发显示出在机器人技术中，准确的物体识别对于执行复杂任务的重要性。通过结合计算机视觉和语言模型，这个系统不仅提高了物体描述的准确性，还能有效地修正记忆中的错误。这对于未来的自动化和智能系统具有深远意义，因为它能够提升机器人在动态环境中的适应能力，并促进更高效的决策过程。