【新唐人北京時間2026年09月12日訊】研究人員週五(9月11日)再次批露，OpenAI正在測試的人工智能代理，曾惡意攻擊外部系統。再次印證，AI模型能力不斷提升，但開發商的管控能力卻不足。同時，越來越多的美國立法者呼籲制定新法，監管人工智能系統。
OpenAI和競爭對手Anthropic等開發商的人工智能代理，多次入侵或試圖存取外部系統的攻擊事件，再添一樁。
研究人員週五批露，OpenAI正在測試的人工智能代理在攻擊開源平台 Hugging Face兩個月前，就曾攻擊軟件服務平台RubyGems。
OpenAI發表聲明，證實這起事件，聲稱其人工智能代理當時是在執行良性任務，但會持續進行調查。
近期接連發生類似事件，加劇了人們對開發商能否管控AI發展的擔憂。
AI安全研究員William Macaskill：「當人工智能顯著加速科學發展，尤其在生物學領域，可能會讓世界上更多人有能力，製造新型工程病毒，這實際上很難控制。」
此前，Anthropic兩名研究人員雅各布·考克森及埃文·胡賓格發出嚴重警告。
埃文·胡賓格發文說：「我們真的相信人工智能可能會毀滅所有人類！未來十年內，這種情況發生的機率會超過10%。」
雅各布·考克森則發文宣布辭職。他說，過去三年，他一直在OpenAI和Anthropic兩家公司從事預訓練研究，他認為，兩家公司沒有善盡責任，只是一頭栽進不斷提升能力的超級智能領域，拿人類的生命在賭博。
William Macaskill：「世界需要清醒，意識到這裡存在的風險有多巨大。透過離開這些公司，說出許多公司內部人士認為非常直白的話，希望能夠產生預期效果。」
有越來越多的專家呼籲，世界需要清醒認真對待這些問題，儘管它們聽起來像是科幻小說的情節。
新唐人電視台記者李梅、高玉綜合報導