麻省理工学院開発智能系統協助機械人理解人類意圖

麻省理工学院（MIT）が開発した人工知能駆動のシステムは、機械が人間の意図を理解するのを助けることを目的としており、例えば人が機械に対してカフェカップを散らかったテーブルから持ち去るように求める際に含まれるニーズを理解することができます。このシステムはFLEX（Flexible Language Guided Representation Editing for Adaptive Robot Behavior）と呼ばれ、今月の年次ロボティクス学習会議で展示される予定です。

FLEXシステムのテストと応用

研究者たちは機械アームを使用してシミュレーションタスクを行い、FLEXをテストしました。ある例では、機械が散らかったテーブルからカフェカップを運ぶように求められました。ユーザーは「ノートパソコンにこぼさないで！」と言いました。FLEXはカフェがノートパソコンにこぼれる潜在的なリスクを特定し、大型言語モデル（LLM）を使用して液体と電子機器を関連付けました。その後、機械はノートパソコンや近くのスマートフォンを避けましたが、ユーザーは指示の中でスマートフォンについては言及していませんでした。この研究は航空宇宙学の助教授Andreea Bobuが主導し、共著者には麻省理工学院計算機科学と人工知能研究所（CSAIL）の博士後研究員Nathan Dennler、修士生Audrey

Lee SM ’26、ニューヨーク大学の学生Ilia Sucholutskyが含まれています。

大型言語モデル（LLM）は大量のインターネットテキストで訓練されており、物体や状況を関連情報と結びつけることができます。例えば、カフェや水がこぼれる状況では、LLMはこれらを潜在的な電子機器の損傷と関連付けます。FLEXはこれらの関連を利用して、機械がユーザーが明示的に言及していない物体に関する問題をより良く予測できるようにします。このシステムは三つの段階を経て進行します：追加、概括、マスキングです。追加段階では、FLEXは避けるべき物体や特徴を特定します。例えば、ユーザーが「私のカップの上にボウリングの球を落とさないで！」と言った場合、

カップは機械が避けるべき物体リストに追加されます。概括段階では、FLEXはGPT-4o言語モデルを使用して前の段階で追加された物体や特徴を概括します。例えば、カップは壊れやすい物品として分類されるため、機械は他のすべての壊れやすい物品も避けることになります。最後に、マスキング段階では、機械の標準的なコンピュータビジョンシステムが機械の周囲の物体を特定するために使用されます。もはや存在しない物体は機械の特徴リストから削除され、機械は環境の変化に応じて即時に意思決定を更新できるようになります。研究者によれば、全体のプロセスは約五秒かかります。

多様な家庭の好みの学習

チームはシミュレーション環境でFLEXの三つの活動をテストしました。これにはカフェを提供すること、キャンドルを移動すること、ボウリングの球を運ぶことが含まれます。機械はノートパソコン、紙の山、カップに関する指示に従うことができ、これを同類の物体（例えば電子機器、可燃物、壊れやすい物品）に拡張しました。麻省理工学院生成的人工知能影響連盟および麻省理工学院シュワルツマン計算学院の社会と計算倫理責任プログラムがこの研究を部分的に支援しました。Bobuは「家庭の好みは非常に多様です。したがって、機械はさまざまな状況で人々の好みを学習すべきであり、数文の指示で十分です。」と述べています。

FLEXは、機械が異なる状況で人々の好みを学ぶのを助け、数文の指示で済むようにします。

FLEXシステムがロボット技術に与える影響

FLEXシステムの開発はロボット技術の重要な進展を示しており、機械が人間のニーズをより柔軟に理解し、対応できるようになります。大型言語モデルの応用により、機械は具体的なタスクを実行するだけでなく、潜在的なリスクを予測することができ、これは日常生活での応用において特に重要です。家庭環境の多様化に伴い、FLEXは迅速に学習し、さまざまな状況下の好みに適応できるため、家庭や商業分野でのロボット技術の広範な応用を促進し、人間と機械のインタラクションの質と効率を向上させることが期待されます。