專家：中國聊天機器人發展遭遇審查瓶頸
【大紀元2023年04月13日訊】（大紀元記者寧海鐘、易如報導）自美國公司OpenAI開發的聊天機器人ChatGPT於去年底亮相以來，全球AI技術熱度飆升。中國科技公司也成批跟進，但已推出的聊天機器人，因實測使用時的政治審查受到用戶譏諷。日前，官方更擬審查內容，要求「不得顛覆國家政權」等。
專家表示，因應中共審查，未來中國的聊天機器人可能會分國內版和國際版。而至關重要的是，在美中科技戰的背景下，中國AI技術落後幾年，「一個地球、兩套系統或標準」或將形成，最後中共會被歐美標準淘汰。
超級政治審查下的中國聊天機器人產業
中共國家互聯網信息辦公室（簡稱網信辦）4月11日發布《生成式人工智能服務管理辦法（徵求意見稿）》，就研發、利用生成式人工智能產品的限定，強調利用人工智能生成的內容，「應當體現社會主義核心價值觀」，不得含有「顛覆國家政權、推翻社會主義制度」等等。違反規定的人可能面臨罰款或刑事調查。
去年11月正式推出的ChatGPT打響了全球聊天機器人競賽的第一炮，隔著網絡防火牆的中國大陸也被這股聊天機器人熱潮席捲。從去年底開始，騰訊、華為、字節跳動、京東、360、快手、網易等十幾家中國科技企業都相繼宣布正在研發類似ChatGPT的產品。百度、阿里巴巴和商湯科技則已推出自己的產品。
4月11日，阿里巴巴推出「通義千問」AI聊天機器人。阿里巴巴董事會主席兼CEO張勇表示，阿里巴巴所有產品未來將接入「通義千問」大模型，進行全面改造。前一天，商湯科技也推出了一系列新的人工智能產品，包括聊天機器人和圖像生成器。商湯科技因開發人臉識別程序協助中共監視新疆維吾爾人，2019年被美國列入貿易黑名單。
與AI相關的倫理問題、泄密和假訊息，就業和教育等問題也倍受關注。不少科技專家呼籲監管機構管制AI，一些政府正在研究監管人工智能技術。3月底，意大利政府因ChatGPT泄密和年齡管制問題，暫時禁止該AI。
台灣國防安全研究院中共政軍與作戰概念研究所助理研究員王繡雯，4月13日對大紀元表示，審查和限制是各國政府對AI必然發展出來的制度設計，但是西方國家主要在防止AI對國家社會安定和人民生命等基本權利的傷害，而極權政府則是以防止政權被顛覆為最高目的。
王繡雯表示，中共特別擔心AI聊天機器人會給出他們不想讓人民知道的回答，所以用「假訊息」名義來總括一切不合其價值，例如所謂社會主義規範的訊息，這樣才有監管和取締的正當性。
「中共未來會在符合其價值觀的名義下，對訊息進行最大幅度的監管和過濾。這本來就是共產主義愚民政策和用民族主義洗腦的看家本領，只不過現在是用AI監管和過濾，所以速度會變得很快。」
加拿大約克大學教授沈榮欽（Jung-Chin Shen）4月13日也對大紀元表示，中共從發展網際網絡開始，就一直搞內容審查。因為它必須要控制所有國民的意識形態。而監控資訊本來就是中共利用數位極權來鞏固政權的方式的一種。在AI領域上，中共也會沿襲這個方法。而中共定義的虛假信息，通常指的是不符合中共意識形態的消息。
多年來，中共一直嚴格審查其互聯網，中國科技巨頭也謹慎行事，尤其是在中共國家主席習近平和1989年鎮壓天安門廣場民主示威等敏感話題上。
3月16日，百度首席執行官李彥宏率先發布了聊天機器人「文心一言」（Ernie Bot），並從當天開始允許用戶申請使用和測試。
路透社、《華爾街日報》等外媒，包括阿里巴巴創始人馬雲控制的《南華早報》，都有報導中國聊天機器人遇上的政治審查難題。比如，百度的「文心一言」（Ernie Bot）聊天機器人，在遇到政治類問題，諸如中共高層領導人、新疆、白紙運動，特別是涉及習近平時，均會拒答或要求改變話題，由此引發人們譏笑。
《華爾街日報》測試了四款中文聊天機器人產品，對話表現最好的聊天機器人是「吉皮Talk」（Gipi Talk）。當有人問習近平是否是一位好領導人時，得到的回應是輸入「無法通過安全審查」，然後是「我們換個話題，說點別的吧。」
在此次網信辦管理辦法發布後，不少網友戲稱，未來中國的生成式AI機器人應該被稱為「ChatXJP」。XJP是習近平姓名的首個拼音字母組合。
專家：中國聊天機器人或將分國內和國際版
中共網信辦起草的上述管理草案中，有條文提到，「對於運行中發現、用戶舉報的不符合本辦法要求的生成內容，除採取內容過濾等措施外，應在三個月內通過模型優化訓練等方式防止再次生成。」
沈榮欽教授對大紀元說，就是給三個月的時間讓你有機會嘗試去修改。雖然這漏洞不可能防堵得完，但至少它可以在某些方面達成讓中共當局滿意的效果。
王繡雯表示，這其實是中共將運用大語言模型，來強化其對AI回覆內容的監管和過濾。「美國是不斷訓練AI回答得更聰明、更智慧、更完整，但是中共是不斷訓練AI回答得更少、更閃避敏感主題，完全是相反方向的機器學習。」
王繡雯認為，在不斷縮減和篩選AI回答內容之下，中國AI可能變得智力越來越減退或停頓，無法和美國AI相比較。
《南華早報》3月26日的報導，比較ChatGPT和百度的「文心一言」，後者有政治審查問題，但擅長獲取最新信息。「OpenAI的ChatGPT在中國政治方面表現更好，但僅限於2021年之前的數據。」比如，百度的「文心一言」就能夠提供俄羅斯入侵烏克蘭等事件的實時信息。
在3月的「文心一言」發布會上，百度首席執行官李彥宏表示，該產品並不完美，但對此類服務的需求強勁。因為美國競爭對手ChatGPT並未在中國大陸或香港正式上市。
目前中國民眾只能通過虛擬專用網絡（VPN）和外國電話號碼使用ChatGPT。
沈榮欽表示，中共當局要對AI所產生出來的任何言論進行全面審查，表面上看來是有些困難，因為這意味著在建立人工智能模型的時候，就必須給它大量的資料。但事實上也不難，因為在之前，中國的搜尋引擎，本來就已根據中共的意識形態進行大量審查，要審查的資料在中共的金盾系統之下都已經有了。
「如果把這些文本植到AI裡面，它要去控制某些內容也不會是太困難的事情。」
但他認為也會出現意外，不可能百分之百的控制住。
沈榮欽解釋說，AI有一個特色，當複雜到一定程度的時候，它會突然出現一些無法控制的特性。比如像OpenAI的ChatGPT系統，很多人會問出OpenAI原來不希望人們去問的問題。未來人工智能要怎麼回答這些問題，很可能超過當初寫程式的工程師的想像。
目前已有觀點認為，因為審查的原因，中國可能發展出有別於ChatGPT的「中國特色聊天機器人」。
沈榮欽表示，最後中國的聊天機器人可能也會像抖音，在國外有TikTok。在國內有個國內版，在國際上會有個國際版。
王繡雯則表示，中國產聊天機器人出問題和市場有限是一定的。就像華為手機沒有世界通用的APP或軟件系統支援，最後就只能在中國或其盟友國家內使用。「我覺得西方國家人民倒不是因為不自由或不開放而排斥中國聊天機器人，而是在回覆內容和使用功能的比較（貨比貨）之下，中國聊天機器人會被國際市場自然淘汰，未來大概只能用廉價等優點來吸引低度發展國家。」
一個地球、兩套系統或標準？
中共當局在2017年印發的《新一代人工智能發展規劃》提出，到2030年AI理論、技術與應用總體達到世界領先水平，成為世界主要AI創新中心。
不過，中美的AI競爭，除了由於中共自己的審查機制等自我限制，可能無法進入廣闊的國際市場，美國的制裁，也使中共在AI領域更處劣勢。
美國國家安全顧問沙利文去年9月強調，「包括微電子、量子信息系統和AI在內的與計算相關技術」，將在未來10年發揮巨大的作用，美國要儘可能在這些領域與對手維持大幅領先。去年10月，拜登政府禁止美國公司向中國出售先進的芯片製造設備和高端半導體，包括AI產業的主力芯片A100。
沈榮欽表示，對AI的制裁是美國對半導體制裁衍生出來的一部分，最核心就是NVIDIA和AMD兩家，他們設計出來芯片的速度非常快。
「美國政府擔心，AI可以軍民兩用，已經可以應用在軍事上面，所以要求NVIDIA和AMD不可以把最先進的AI芯片賣到中國。但NVIDIA設計了另外一款，相對效能比較低的，符合美國政府要求，還是把它賣到中國。中共獲得的芯片不是最先進的，運算效能趕不上美國的芯片。中共的聊天機器人已經落後美國大概兩三年時間。」
王繡雯對大紀元表示，沒有大量運算所需的高階AI芯片，中共的AI發展可能會停滯或延緩，除非中共能自行開發並製造出高階AI芯片或技術創新，但目前看來，短期內（3—5年）這個可能性很低。所以，美國的芯片制裁有效。
她還表示，最後可能形成兩套AI標準。「就如同華為5G手機一樣，沒有芯片就只能在中國勢力範圍內使用，AI也會如此。等中國AI發展緩慢之後，對國際AI標準制定的話語權會逐漸減弱，數位轉型和數位國家建設都會被拖延。『一個地球、兩套系統或標準』將會形成，最後可能還被歐美標準打敗。因為東西不夠好，沒有市場。這就是中共大力鼓吹強國夢所付出的慘痛代價。」
不過沈榮欽認為，如果到ChatGPT5.0的話，就會是比較通用型的人工智能系統。從技術上來看，並沒有中共和美國採用不同的兩套技術的說法，還是同樣的技術。只是因為中共的內容審查，才被迫分成兩套，這是中國科技公司採取的應對方式。
沒有留言:
張貼留言