AI 代理人安全
模型可以做什麼,應由誰決定?
從角色、資源與行為的授權關係,研究最小權限、工具存取及人工確認,讓代理人的能力與責任邊界可以被檢視。
MIRAGE Lab 設於元智大學資訊工程學系,由魏得恩(Wilbur Wei/Te-En Wei)助理教授主持。研究聚焦 AI 代理人安全、紅隊攻防與零信任,從攻擊情境、授權邊界與行為證據,探討防禦如何設計與驗證。 接下來規劃深耕無人機與機器人通訊資安,以及 PUF 硬體資安應用。
LLM-Driven Red Team Agent Platform for Adversarial Drills and Real-World Scenario Simulation
查看研究計畫在既有 AI 資安與零信任研究基礎上,我希望進一步深耕通訊資安與硬體資安。以下是接下來的研究規劃,歡迎討論問題定義、實驗設計與產學合作。
裝置、控制端與服務之間,如何確認指令與資料值得信任?
規劃研究無人機、機器人與控制系統之間的身分認證、指令授權與通訊保護。從偽冒、重放與未授權控制等威脅情境出發,探索防禦機制及其對延遲、可用性與運作安全的影響。
如何把硬體特徵用於裝置身分與金鑰保護?
探索實體不可複製函數(Physical Unclonable Function, PUF)在裝置識別、認證與金鑰生成的應用。研究規劃將評估環境變異下的可靠度、資源限制與攻擊抵抗能力,並討論如何銜接裝置及通訊安全。
這兩項為未來研究方向;已發表論文與獎項另列於研究成果中。
主持人與共同作者的相關研究包含 AHAF、HMELF、MARS、STIE-ZTA,以及 AD 風險與 APT 情資分析。研究頁保留各篇論文的作者、發表出處及研究範圍。
歡迎就 AI 代理人安全、攻防驗證與零信任,以及規劃中的無人機/機器人通訊資安、PUF 硬體資安應用討論學術或產學合作。來信可簡述研究問題、已有背景與合作構想。
點選邀約可準備洽詢內容,再複製或選擇郵件方式寄出。