蒙特利爾2025年11月26日 /美通社/ -- 《國際人工智能安全報告》正式發(fā)佈第二份「關(guān)鍵更新」，針對通用人工智能的風(fēng)險管理及技術(shù)緩減措施，提供適時的分析與建議。

該報告由圖靈獎得主、著名電腦科學(xué)家 Yoshua Bengio 領(lǐng)導(dǎo)，匯聚超過 100 位國際專家共同參與，並獲歐盟、經(jīng)合組織 (OECD) 及聯(lián)合國等 30 多個國家及國際組織全力支持。

鑑於 AI 領(lǐng)域發(fā)展一日千里，單靠年度報告已難以緊貼趨勢，因此報告引入「關(guān)鍵更新」機制，針對關(guān)鍵進(jìn)展提供更聚焦的簡報。本次更新緊接於 2025 年 10 月 15 日發(fā)佈的首份關(guān)鍵更新。這些更新旨在確保政策制定者能掌握最新的文獻(xiàn)綜合分析，以制定基於實證的決策。

第二份關(guān)鍵更新重點探討提升 AI 可靠性及防止濫用的技術(shù)方案，以及新興的風(fēng)險管理體制。報告重點摘要：

• 訓(xùn)練模型以防禦惡意攻擊有進(jìn)展，惟漏洞尚存。雖然 AI 模型和系統(tǒng)抵禦攻擊的能力有所提升，但技術(shù)高超的黑客仍有約 50% 的機會僅透過 10 次嘗試便能突破防線；甚至只需 250 份惡意文件污染訓(xùn)練數(shù)據(jù)，即可成功入侵模型。
• 開源差距收窄。開放權(quán)重模型目前的水平落後業(yè)界龍頭不足一年，這雖有助技術(shù)普及，卻令防止系統(tǒng)失靈及濫用的工作變得更複雜。
• 業(yè)界安全努力倍增，實際成效未明。儘管 2025 年採用風(fēng)險管理框架的 AI 企業(yè)數(shù)量增加逾倍，但其實際執(zhí)行成效仍充滿不確定性。

報告主席、蒙特利爾大學(xué)正教授、LawZero 科學(xué)總監(jiān)及 Mila - 魁北克 AI 研究所科學(xué)顧問 Yoshua Bengio 表示：

「由於我們持續(xù)追蹤 AI 能力及風(fēng)險的變化，提供清晰指引以落實適切有效的風(fēng)險管理及技術(shù)緩減措施至關(guān)重要。這份關(guān)鍵更新概述了相關(guān)領(lǐng)域的進(jìn)展，以及尚存的缺口與機遇。我們的目標(biāo)是在 2026 年初於印度舉行的『AI 影響力峰會』前發(fā)佈第二份完整的《國際人工智能安全報告》，在此之前，我們致力為全球決策者提供有關(guān) AI 發(fā)展的適時更新?！?/i>