AI領袖再次警告 AI難以控制兩年就可造出生化武器

儘管不少大佬並不看好AI的爆炸式發展，不過並不影響世界各大巨頭們的佈局，7月26日信訊息，美國當地時間週二，三位人工智慧(AI)行業領袖在美國國會參議院司法委員會舉行的聽證會上作證。

他們警告稱，AI的瘋狂發展速度可能會在未來幾年內造成嚴重危害，比如流氓國家或恐怖分子會利用這項技術製造生化武器。

此次聽證會很好地展示了人們對於AI會超過人類智慧的擔憂。多年來，人們的這種擔憂原本只存在於科幻小說中。然而，隨著ChatGPT橫空出世並引發AI競賽，這一擔憂迅速成為主流聲音。

美國AI創業公司Anthropic CEO達裡奧·阿莫代伊(Dario Amodei)在聽證會上表示，他擔心尖端AI技術可能在短短兩年時間內就會被用來製造危險的病毒和其他生化武器。

蒙特利爾大學AI教授、“現代AI科學之父”約書亞·本吉奧(Yoshua Bengio)認為，美國應該推動國際合作來控制AI的發展，他還概述了一種類似於核技術國際監管規則的管理制度。

“最近，我和其他許多人都對ChatGPT等AI系統實現的巨大飛躍感到驚訝。AI進步的加快更令人擔憂。”本吉奧表示。與本吉奧、拉塞爾不同的是，阿莫代伊經營著一家正在推動AI技術向前發展的公司Anthropic。

該公司的員工都是前谷歌和OpenAI的研究人員，試圖將自己定位為比大型科技公司的技術考慮更周到、更謹慎的替代品。而且，Anthropic從谷歌那裡獲得了大約3億美元的投資，並依靠谷歌的資料中心來執行其AI模型。

他還呼籲為AI研究提供更多聯邦資金，以學習如何降低AI帶來的一系列風險。阿莫代伊預測，在未來兩到三年內，惡意分子可能會利用AI來幫助開發生化武器，繞過旨在阻止人們開發此類武器的嚴格行業控制。“我擔心我們能否及時做到這一點，但我們必須嘗試。”他表示。