本期為TechBeat人工智能社區(qū)第719期線上Talk。

北京時間10月16日(周四) 20:00，上海交通大學(xué)碩士生袁童鑫的Talk將準(zhǔn)時在TechBeat人工智能社區(qū)開播！

他與大家分享的主題是:大模型智能體風(fēng)險揭示與評估，屆時他將分享課題組在智能體風(fēng)險揭示與評估方向的系列工作，覆蓋科學(xué)智能體、GUI智能體、多智能體等場景。

Talk·信息

主題：大模型智能體風(fēng)險揭示與評估

嘉賓：上海交通大學(xué) · 碩士生 - 袁童鑫

時間：北京時間10月16日(周四) 20:00

地點(diǎn)：TechBeat人工智能社區(qū)

http://www.techbeat.net/

Talk·介紹

大模型智能體能力增強(qiáng)，風(fēng)險也日漸凸顯。惡意用戶、對抗動態(tài)環(huán)境、多智能體交互，智能體面臨多樣風(fēng)險。本報告將分享課題組在智能體風(fēng)險揭示與評估方向的系列工作，覆蓋科學(xué)智能體、GUI智能體、多智能體等場景。

Talk大綱

1. 風(fēng)險揭示：以科學(xué)智能體為例

2. 安全評估：智能體安全評估數(shù)據(jù)構(gòu)造

3. GUI智能體風(fēng)險：對抗環(huán)境中的動態(tài)干擾

4. 多智能體風(fēng)險：錯誤知識傳播與過度競爭

Talk·預(yù)習(xí)資料

論文鏈接： https://www.nature.com/articles/s41467-025-63913-1

論文鏈接： https://aclanthology.org/2024.findings-emnlp.79/

論文鏈接： https://aclanthology.org/2025.acl-long.1087/

論文鏈接： https://arxiv.org/abs/2407.07791

論文鏈接： https://www.arxiv.org/abs/2509.26126

Talk·提問交流

在Talk界面下的【交流區(qū)】參與互動！留下你的打call和問題，和更多小伙伴們共同討論，被講者直接翻牌解答！

你的每一次貢獻(xiàn)，我們都會給予你相應(yīng)的i豆積分，還會有驚喜獎勵哦！

Talk·嘉賓介紹

袁童鑫???????????

上海交通大學(xué) · 碩士生
???

袁童鑫，上海交通大學(xué)三年級碩士生，導(dǎo)師為張倬勝、劉功申，主要研究方向?yàn)榇竽Ｐ椭悄荏w及其安全。在ACL、EMNLP、Nature Communications等國際會議發(fā)表多篇學(xué)術(shù)論文。

個人主頁: https://www.techbeat.net/grzytrkj?id=45719 ????

-The End-

如果你也想成為講者

自薦 / 推薦

單人Talk | 團(tuán)隊(duì)專場 | 錄播or直播 | 閉門交流

多種方式任你選擇！

推薦講者成功也有獎勵哦~

關(guān)于TechBeat人工智能社區(qū)

TechBeat(www.techbeat.net)隸屬于將門創(chuàng)投，是一個薈聚全球華人AI精英的成長社區(qū)。

我們希望為AI人才打造更專業(yè)的服務(wù)和體驗(yàn)，加速并陪伴其學(xué)習(xí)成長。

期待這里可以成為你學(xué)習(xí)AI前沿知識的高地，分享自己最新工作的沃土，在AI進(jìn)階之路上的升級打怪的根據(jù)地！

更多詳細(xì)介紹>>

預(yù)約本期Talk