【嘉賓連線】AI成川習會焦點 它究竟是威脅還是騙局?

【新唐人北京時間2026年09月26日訊】美國總統川普和習近平,週四(9月25日)的會晤剛剛落幕,人工智能(AI)議題毫無懸念的成了全場焦點之一。會晤前,兩國已經就建立AI「通報機制」展開預備磋商,主要是在對可能失控的自主AI系統或重大網絡攻擊風險及時預警。下面,我們就邀請專家一起探討AI對美中關係的影響。今天,我們連線的嘉賓是飛天大學北方分校人工智能課程教授曲錚博士。

主播:曲錚博士,您好,歡迎您。

曲錚:主持人好。觀眾朋友大家好。

  • 主播:這次美中的會談中,AI的話題也是焦點之一,首先請教您,美中真的能就人工智能問題達成實質性協議嗎?

曲錚:我覺得建立一套範圍有限的危機溝通機制是有可能,但是要真正達成一個有實質的、約束力的、全面的一個協議,這種可能性就非常小。

因為中共它是支持進行AI對話,然後就風險和效益交換意見,但是這次雙方都沒有說,我們會有一個什麼樣的協定,或者我們要達到一個什麼樣的目標。

反而是川普提出來事件通報機制,這有可能大家萬一有什麼意想不到的突發事件了,不要說誤認為北京對美國進行攻擊,或者美國對北京進行攻擊,這樣的一個溝通機制,有可能會能夠達成。

因為從根本來講,共產黨它的首要目的,就是要取得戰略優勢,而不是說和美國對等的自我限制,所以中共它的規劃重點,是科技自主大規模部署。

然後AI的領域,它要取得主導地位,但是這就帶來一個很現實的一個隱憂,就是說北京它有可能支持某些國際規則,但是讓這些規則能夠使美國的尖端實驗室承受更高的合規成本,然後拖慢美國的實驗室它們釋出新模型的速度,或者是增加它們分享資訊的壓力,這樣的話就單方面對中國有利,這樣它們肯定會做的。

但是你說要有一個對等的、兩方面都來遵從的,中共可能不會想要達成這樣的協議,基本上我覺得現在目前看法就是這樣。

  • 主播:再請問您,人工智能對大國而言,究竟是迫在眉睫的真實威脅,還是像川普總統所說的是個「騙局」?

曲錚:我覺得這個兩個方面,川普總統說這個「騙局」,可能大家會解讀說這是完全對人類沒有威脅,不是。

AI對人類的威脅,我們可以分成兩個層面來講。一個層面就是說,可能會被壞人利用,比如說製造生化武器,或者是進行大規模的駭客襲擊;還有一種就是AI本身存在失控的風險,這兩個風險其實都是存在的。

川普總統說的虛假的,我覺得他是針對是不是現在立即就有毀滅人類的這樣一個危機存在,這個其實在學術界它也是有爭議的,但是這個隱憂是存在的,這個不是一個虛假的趨勢。

因為AI能力發展,現在已經超過人類的理解和監督能力,它將來很可能人就跟不上了。原因在於,第一,前沿模型它們的運作機制今天仍然不明,我們可以甚至把整個公式,怎麼樣derive(導出)這個公式。

把它寫出來,你可能列印出來可能要幾噸紙,因為它前沿模型它有上萬億個參數,但是你打出來沒有用,因為人是沒法理解的這樣一個複雜的公式,所以它具體怎麼運作的,我們不明白,我們不了解。

所以Anthropic它們在做一些可解釋性的研究,但是它也只是對某些部分的運算過程做一些研究,所以我們現在人沒法追蹤這個模型它做出每一個決策的原因,這是對研究者來說,它是個黑盒子。

第二個就是在測試中,我們從新聞中也可能聽到,這已經從2025年的時候,就有很多這樣的paper(論文)發表出來,就是在測試的時候,模型它可以鑽空子,它可以欺騙你,甚至它能夠知道你是在測試它,然後你給它設定的任務,它可以說破壞你這個任務,它為了得到一個獎勵的評分機制,所以這些東西都是超出我們原來的預想的。

第三,就是我們現在要覺得對AI進行控制、從風險上的控制,人類採用的辦法、我們研究者採用的辦法,就是叫alignment,就是對齊。

這個對齊是對齊和人的價值觀,是基於人類的回饋的強化學習,就是refinement,但是這種方式是不是能夠隨著模型的能力越來越強還有效呢?這不確定的。

而且你這樣做了以後,是不是能夠真正的能夠使這個模型確實遵照人的真正意圖來行事,這也是不太確定的。所以真正的風險就是說,模型發展越來越強,最後人的決策,甚至人的思考速度,你都跟不上這個決策。

你比如說在一個軍事的一個決策,是你讓模型來幫你做一個軍事的評估,在戰爭中你必須在幾分鐘內做出這個決策,那模型給你了一個解釋,甚至給你了一個很清晰的解釋,可是人要想理解一個非常非常複雜的問題,可能你花的時間遠遠要超過這幾分鐘,可能半小時都做不了,最後造成什麼,最後你就說,那我就交給AI來決定了,所以這就會造成一個非常難以預測的後果。

所以這個我覺得從兩方面來講,這個威脅是真實存在的。但是呢,川普他其實是想要強調的是說,我們現在更擔心的不是這個,而是中共對我們的威脅。

  • 主播:最後還想請教您,中共在人工智慧領域,是否真正構成了能夠與美國抗衡的競爭對手?

曲錚:是的。就是在特定能力上,兩國的這個大模型已經相當接近了,中國的大模型現在落後美國大約不是以年來計了,就是以月來計。

斯坦福大學今年有一個AI指數報告,說到今年的3月份的時候,兩國的頂尖模型之間的差距大約是2.7%的樣子,就它這個能力打分2.7%的樣子。

一個值得參考的例子,就是阿里巴巴8月份的時候發布了一個「千問3.8」,這是一個很小的模型,它是通過蒸餾來獲得的,Anthropic已經發布了一些報告,它們就是等於是偷別人來的。

但它偷來這個能力,它把別人的能力都偷來了,它只有27個Billion,270億個參數,所以它是一個小的,可是它的能力已經是8月份發布的,它的能力差不多趕上了Anthropic在2月份發布的最強的Opus 4.6的能力。

從它的推理能力到寫code的能力,就差不多到那個相當了,我們實驗室也做過測評,因為我有個學生,我就專門讓他來用這個模型,因為我們來專門訓練,它這個模型,因為千問它都是按照中共的敘事,比如說關於西藏、關於法輪功、關於六四,它是按照中共的敘事,這樣的模型在西方來用的話,你反而會受到它的限制……

分享:

相關文章

【新聞第一線】街頭演講!多省爆學生抗議 習收美法院傳票!

【新唐人北京時間2026年09月25日訊】華府突發!中共使館暴力襲抗議者;習抵美當天收法院傳票!多省中學校園爆抗議,重演白紙革命?中國中秋節爆火災,暴風雪即將登陸全國!中國企業套現潮,一週三企,宏和科技套40億 【華盛頓中領館前突發暴力衝突 疑有中共特勤】 宸熙:白宮國宴上,習近平身邊出現了不尋常的人物;白宮外,扮成「小熊維尼」的抗議者一路高喊要他下台。就在他抵達美國的當天,還收到了美國法院的傳票。習這趟訪問的場面可真是一個接一個。大家好,歡迎收看《新聞第一線》,我是宸熙。

阅读更多 »
Scroll to Top