人の理解/誘導で強化される
制御システム調査研究会
(2024.1-2025.12)
ニュース
2024.4.24：調査研究会のセミナー１をおこないました。
2024.4.17：調査研究会の招待講演１をおこないました。
2024.4.17：調査研究会のキックオフをおこないました。
2024.3.18：SICE MSCS 2024にてOSを2セッション企画しました。
2023.11.27：調査研究会の新設が承認されました。
活動内容（セミナー情報）
【キックオフ&招待講演1】
2024.4.17(水)15:00-17:00
プログラム
15:00-15:30：趣旨説明（井上 正樹＠慶應）
15:30-17:00：招待講演
タイトル：Vision & Language技術とロボティクスの融合の先にある未来
アブスト：大量のデータで自己教示学習をする大規模言語モデル(LLM)は、開発者も思いも寄らないほどの汎化性能を示し、第四次AIバブルとも呼ばれる現在の状況を作り上げた。また、画像と言語を結びつけたCLIPを皮切りに、LLMは視覚と言語の両方を扱うVision Language Model (VLM)へと発展している。ロボットについても、同様に大規模データの収集によるRT-Xなどの成果が新たな時代を予感させている。本講演では、もともと画像処理やVision & Languageの研究者であった講演者の視点から、最近の言語制御型ロボットへの取り組みを紹介するとともに、当該分野の今後の発展の方向性について議論する。
会場：ハイブリット（早稲田大学西早稲田キャンパス & Zoom）
【セミナー1】
2024.4.24(水) 10:30-11:30
プログラム
10:30-11:10：招待講演
11:10-11:30：ディスカッション
講演者：Thien Q. Tran 博士＠LINEヤフー
タイトル：大規模言語モデルに対するjailbreak prompts攻撃と防御
アブスト：大規模言語モデル（LLM）の安全な運用には、システムの安全性を脅かす「jailbreak prompts」攻撃への対策が必要不可欠です。本講演では、jailbreak promptsの背景、それがもたらす脅威、およびこれに関連技術について解説します。さらに、効率的なjailbreak prompts構築手法に関する最近の研究成果を紹介し、LLMの安全性を高めるための今後の課題について述べます。
会場：オンラインのみ
【招待講演2（予定）】
2024.6.5(水)14:45-16:15
プログラム
14:45-15:45：招待講演
15:45-16:15：ディスカッション
講演者：杉浦 孔明准教授＠慶應
タイトル：ロボティクスにおける基盤モデルの利活用
アブスト：マルチモーダル大規模言語モデル等の基盤モデルの発展は社会全体に影響を与えており、ロボティクスも大きな転換期を迎えている。現状では、システム統合への基盤モデルの利活用が先行しているものの、自己注意に代わる機構として状態空間モデルを導入するなど制御理論における知見の利活用も進みつつある。本講演では、基盤モデルの概要、ロボティクスにおける基盤モデルの利活用事例、我々の取り組みと展望について述べる。
会場：ハイブリット（慶應義塾大学矢上キャンパス ＆ Zoom）
研究会の目的
昨今の大規模言語モデル（LLM）や大規模マルチモーダルモデル（LMM）の急速な発展を背景として、チャット情報やカメラ情報からLLM/LMM を通して、人の行動だけでなく心理的な状態までも推定して、より深い部分まで人を理解するための下地は整ってきた。これら人の理解に繋がる情報系分野の技術に対して、SICE 制御分野ではこれらと関連付けた新しい理論どころか技術を取り入れる試みすらもほとんど行われていない。本調査研究では、まずは、人の理解のための技術動向を追いながら制御分野に取り入れることを目的としている。また、人からシステムへの情報の解析技術だけではなく、逆方向、人を誘導する技術に関しても動向調査をおこなう。本調査研究では。これらの人の理解/誘導の技術を制御分野に取り入れて新たな制御システム開発、そして、構成される人とシステムのフィードバック系の解析・設計など、新たな理論開拓の準備までおこなうことを目的とする。
研究会幹事
主査：井上 正樹（慶應義塾大学），副査：和佐 泰明（早稲田大学），幹事：阿久津 彗（富山県立大学）