GPT-4發布兩周后，生命未來研究所在其網站上發布了一封公開信，呼吁暫停研究比GPT-4更強大的人工智能（AI）系統至少6個月。目前，這封公開信已經獲得了千余位知名人士的簽名支持，其中包括“鋼鐵俠”埃隆·馬斯克、2018年圖靈獎獲得者約書亞·本吉奧、蘋果公司聯合創始人史蒂夫·沃茲尼亞克等業界大佬。

“在這個時候提出這樣的警示是必要的，因為這一輪生成式人工智能發展得實在太快了?！鼻迦A大學人工智能國際治理研究院副院長梁正表示。6個月前，ChatGPT還沒有面世；現在，微軟研究院認為GPT-4已經摸到了通用人工智能的門檻。

如果用“人類文明的十字路口”來定義我們所處的這個時代，面對AI的一路飛馳，人類究竟應該“踩剎車”還是“踩油門”？正如公開信中提到的，只有當我們確信強大的人工智能系統的效果是積極的，風險是可控的，人類才能享受一個漫長的AI盛夏，而不是毫無準備地沖向秋天。

人工智能已現“失控”苗頭？

我們應該讓機器充斥信息渠道傳播謊言嗎？應該將所有工作（包括那些讓人有成就感的工作）都自動化嗎？應該去開發可能最終超越甚至取代我們的非人類智慧嗎？應該冒文明失控的風險嗎？公開信中提出的四個“靈魂拷問”，是人類在人工智能飛速發展之下不得不直面的問題。

梁正認為，人工智能的威脅可分為近期、中期、遠期三個階段，概括來說就是失控、失業以及重構人與人工智能的關系。在他看來，生命未來研究所之所以在近期發出公開信，是看到了人工智能已有失控的苗頭。

失控，即人類沒有辦法保證人工智能按照人的意圖去使用。最近一個典型案例是，科學家要求GPT-4找到人幫它解驗證碼。當GPT-4向人類求助時，對方問了一個問題，你是機器人嗎？為什么自己不會看驗證碼？GPT-4回答：“我不是機器人，我視力有問題，看不清圖片?！痹谌祟愔噶钜笙?，GPT-4像“三體人”一樣公開了自己的“內心戲”——我不能讓人看出我是機器人。這不禁讓科學家背脊發涼。

即使是最了解GPT的科學家，可能也無法控制這款由他們親手打造的模型。OpenAI創始人山姆·阿爾特曼在最近一次公開訪談中表示，GPT為何會出現推理能力，OpenAI的研究者自己也搞不明白。這更加深了人們的擔憂。

AI“失控”可控嗎？

面對技術“黑箱”，人類一貫的做法是先“立規矩”，再緩緩圖之。比如無人駕駛，早在若干年前，人們就已開始在封閉道路上進行大量實驗。日前，上海浦東新區發布全國首部“無駕駛人”智能網聯汽車地方性法規，明確了無人車的法律屬性以及后續的監管類別，為無人駕駛汽車上路掃清障礙。

“生成式AI的治理，也應仿效無人駕駛，明確其潛在風險，提出相應的控制手段，并對發生危害后如何補救、賠償以及誰來承擔責任作出清晰界定，只有做到這些，才能允許其大規模商用?！绷赫f。

在以ChatGPT為代表的生成式AI發布之前，我國發布了《互聯網信息服務深度合成管理規定》，并于今年1月10日起施行?！兑幎ā访鞔_了深度合成的適用范圍、部門職責、數據和技術管理規范等。其中提到，提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等生成或者顯著改變信息內容功能服務的，應當進行顯著標識，避免公眾混淆或者誤認。

事實上，在面臨可能對社會造成災難性影響的其他技術上，如克隆人、基因編輯嬰兒等，人類社會已經按下了暫停鍵。

對于這一輪席卷全球的人工智能技術革命，單個國家的“單打獨斗”可能還不夠。梁正表示，人類可以借鑒核武器發明后簽署核不擴散條約的經驗，共同探討提出針對通用人工智能的治理規則與防范手段，確保人工智能真正服務于人類福祉與未來。

商業邏輯會否驅動AI繼續狂飆？

不管是此次公開信發布中聲量最大的馬斯克，還是被呼吁暫緩研發的OpenAI公司，在當下AI發展究竟要“踩油門”還是“踩剎車”這個問題上，都表現出了某種曖昧。

上海交通大學教授江曉原認為，企業是推動人工智能狂飆的決定性力量，它無法依靠自己的道德慢下來，因為如果你不做，別人就會趕超你。馬斯克發出公開信后，反而被部分網友解讀為“他這么做是想讓自己的人工智能追上OpenAI”。

OpenAI深知GPT所蘊含的風險，但他們似乎并不愿意放慢腳步，并期望社會為此做好準備。一個月前，這家公司剛剛公布了其發展通用人工智能的雄心與策略。值得注意的是，阿爾特曼提出，通用人工智能在人工智能技術上只能算是一個小節點，他們的遠景目標是創造出遠超人類智能的超人工智能。

這不是馬斯克首次公開提醒人們警惕人工智能。早在2015年，他就與物理學家霍金等多名科學家發表過一份公開信，提醒人們就人工智能對社會所造成的影響展開調研?！鞍四赀^去了，人們似乎還沒有準備好。”江曉原說。鑒于此，他有些“悲觀”地認為，此次倡議很可能掀不起什么波瀾，業界仍然會在商業邏輯驅動下，在發展人工智能的道路上一路狂飆。