M1宮岡君が大阪梅田で開催された言語処理学会の言語処理若手シンポジウム(YANS)に参加しました。初日に開催されたハッカソンでは大喜利の題材に取り組み,チーム8 – Say2 Do2として最優秀賞を受賞しました。また,3日目には自身の研究成果をポスター発表でおこないました。制御理論をもとにした大規模言語モデル(LLM)を安全化させるアライメント技術を発表して,スポンサー賞(Spiral.AI株式会社賞)を受賞しました。おめでとうございます。



研究成果(ポスター発表):
宮岡佑弥,井上正樹,LLMの”衝突回避” : LLMと制御理論の融合
関連技術の論文:
Y. Miyaoka & M. Inoue, CBF-LLM: Safe Control for LLM Alignment, arXiv, 2024
https://arxiv.org/abs/2408.15625
関連技術の公開コード:
https://github.com/Mya-Mya/CBF-LLM
その他報道など:
サイバーエージェントグループのAI Shift株式会社の技術ブログでも取り上げて頂きました。
https://www.ai-shift.co.jp/techblog/4800