AI恐怕已學會自我進化 Anthropic呼籲:快踩煞車

【新唐人北京時間2026年06月06日訊】隨著人工智能的快速發展,安全風險也引發越來越多的關注。近日,大型AI公司Anthropic警告,AI可能很快具備自我改進能力,甚至不再需要人類的幫助。該公司呼籲,全球AI產業應一起打造一個「煞車」機制,並需要放慢腳步,甚至暫停部分功能的開發。

Anthropic表示,如果這種情況真的發生,人類可能會逐漸失去對AI的控制。因此,為了人類的福祉,AI產業有必要放慢腳步,甚至在必要時暫停部分功能的開發。

Anthropic共同創辦人克拉克:「但當我低頭看我們正在駕駛的這輛車時,我發現自己只有油門,沒有煞車踏板。而未來某個時候,我們肯定會希望自己有這個選項。」

另一方面,川普政府也開始加強對AI安全風險的關注,要求頂尖AI公司在最強大的模型公開發布前,必須先提交給聯邦機構進行網路安全測試。

根據川普總統簽署的行政令,多個聯邦機構將和AI開發商協調測試安排。新模型公開推出前,政府最多可用30天時間進行安全檢測。

目前谷歌、Anthropic和OpenAI都對這項命令表示歡迎。

新唐人電視台記者劉佳佳美國報導

分享:

相關文章

【新聞直擊】增兵中東 美全軍待命 俄核心情報點曝光

【新唐人北京時間2026年07月21日訊】臨界點!美連轟伊朗十夜,德黑蘭成下個目標;中共海警木棒襲菲軍;美對加祭出50%關稅;一枚紀念章曝光俄10情報據點;中共「統戰」電影上映前撤檔 觀眾朋友好,歡迎收看《新聞直擊》。今天是3月3日,星期二。 【美祭50%關稅 加拿大350項商品受衝擊】

阅读更多 »

【新聞第一線】沙特參戰 美以絕密清算伊核?川普布局大國決戰

【新唐人北京時間2026年07月21日訊】沙特聯軍正式參戰!曼德海峽戰火重燃?美以絕密情報曝光:伊朗數千離心機藏鎬山!美派地面部隊突襲?川普佈局美中決戰!中俄軍艦日本經濟區實彈演習引抗議!烏俄噴氣無人機競速,澤連斯基擬換總司令? 觀眾朋友大家好,歡迎收看《新聞第一線》,我是韓霏。今天是美東時間7月21日、星期二。 今天首先關注,中東兩條能源命脈、同時拉響警報。胡塞武裝威脅封鎖沙特船隻之後,沙特主導的多國聯軍、已經開始行動,保護船隻通過曼德海峽。一旦雙方直接開火,持續近四年的停火局面可能瓦解,紅海戰線也將被重新激活。 與此同時,霍爾木茲海峽在不到兩天內,接連發生多起油輪遇襲事件;週一隻有4艘大宗的商品運輸船通過,而大型能源運輸已經接近停擺。美軍也已經連續第10個夜晚空襲伊朗。

阅读更多 »
Scroll to Top