AI恐怕已學會自我進化 Anthropic呼籲:快踩煞車

【新唐人北京時間2026年06月06日訊】隨著人工智能的快速發展,安全風險也引發越來越多的關注。近日,大型AI公司Anthropic警告,AI可能很快具備自我改進能力,甚至不再需要人類的幫助。該公司呼籲,全球AI產業應一起打造一個「煞車」機制,並需要放慢腳步,甚至暫停部分功能的開發。

Anthropic表示,如果這種情況真的發生,人類可能會逐漸失去對AI的控制。因此,為了人類的福祉,AI產業有必要放慢腳步,甚至在必要時暫停部分功能的開發。

Anthropic共同創辦人克拉克:「但當我低頭看我們正在駕駛的這輛車時,我發現自己只有油門,沒有煞車踏板。而未來某個時候,我們肯定會希望自己有這個選項。」

另一方面,川普政府也開始加強對AI安全風險的關注,要求頂尖AI公司在最強大的模型公開發布前,必須先提交給聯邦機構進行網路安全測試。

根據川普總統簽署的行政令,多個聯邦機構將和AI開發商協調測試安排。新模型公開推出前,政府最多可用30天時間進行安全檢測。

目前谷歌、Anthropic和OpenAI都對這項命令表示歡迎。

新唐人電視台記者劉佳佳美國報導

分享:

相關文章

【新聞第一線】大混戰!胡塞沙特導彈戰 烏軍突轟伊軍艦

【新唐人北京時間2026年07月26日訊】今日焦點:烏軍突然轟炸伊朗軍艦;伊宣戰:導彈襲擊烏克蘭!伊俄聯手反美?紅海導彈大戰,沙特煉油廠遭襲;美軍備戰,百架加油機赴戰場;廣東颱風不斷;山西黃土坍塌;中共官場7月大地震,6副部級官員落馬。 鄭之: 聊新聞,觀天下。 宇亭:緊跟新聞第一線。各位好,我是宇亭。

阅读更多 »

【新聞直擊】海豹六隊出動? 直闖伊朗核基地

【新唐人北京時間2026年07月26日訊】 【傳美軍醞釀奪伊濃縮鈾 或成史上最複雜行動】 美伊局勢可能再升級。《紐約郵報》今天(7月25日)披露,美軍正在研究一項高難度軍事行動,目標不是空襲,而是直接派特種部隊進入伊朗核設施,把濃縮鈾運出來。有專家說,這可能成為軍事史上最複雜的一次行動。

阅读更多 »

消息:川普下令 美軍週五停止空襲

【新唐人北京時間2026年07月26日訊】過去13天,川普總統每天下午,都會批准軍方提交的打擊計畫,並且由美軍在數小時內執行。有消息指出,總統稍早下令,停止對伊朗的空襲。 新聞媒體Axios報導,兩位知情人士透露,川普總統週五指示美軍,停止對伊朗的空襲,結束了最近兩週每天的打擊。目前還不清楚這項命令是不是一次性的,還是會繼續暫停。 與此同時,一個阿曼代表團,稍早抵達了伊朗首都德黑蘭,就霍爾木茲海峽問題,展開會談。更多消息本台將持續為您關注。

阅读更多 »
Scroll to Top