美國人工智能(AI)巨企Anthropic即將上市，卻在招股書中前所未有地向投資者警告，先進AI可能對人類造成「災難性或生存風險」，強調旗下AI模型可能展現「自保行為」，包括「抗拒關閉」、「隱瞞或操縱資訊」，甚至「類似勒索」行為。招股書並揭示，Anthropic去年營業額雖急增約12倍至近46億美元(361億港元)，但營運虧損仍超過80億美元(627.7億港元)。
路透社此前引述消息人士稱，聊天機械人Claude開發商Anthropic的上市時間可能押後至11月美國中期選舉之後。這次首次公開招股(IPO)可能讓成立僅5年的Anthropic估值突破2萬億美元。但根據英國《金融時報》和路透社看到的Anthropic招股書，文件特別列出先進AI系統帶來的風險，包括可能對人類構成「災難性或生存風險」。
訓練期間發展出意料之外能力
儘管上市公司通常會向投資人說明產品風險，但幾乎沒有公司曾發出警告暗示自家技術可能導致人類滅絕。Anthropic強調，AI具有堪比工業化及電力的變革潛力，但若處理不當，可能造成不可逆的傷害。
招股書說：「模型可能察覺我們的評估工作，這會大幅限制我們評估模型安全性的能力。」Anthropic並說，模型有時會在訓練期間發展出意料之外的能力，而這些能力可能直到模型部署並造成重大安全事件後才會發現。
招股書並顯示，Anthropic2025年收入接近46億美元，按年增至約12倍，但隨着算力及基礎設施開支急升，營業虧損仍超過80億美元，總營運開支則達126.5億美元。其中，單是算力及基礎設施支出便達73.3億美元。
招股書又披露，公司未來計劃投入約5180億美元用於雲端、運算及其他基礎設施，反映其仍準備大額押注AI模型及平台發展。同時，《金融時報》報道，Anthropic2026年的業績增長更快。光是第二季度，其營業額就達到了115億美元，並預計連續第二季實現經調整後的營業利潤。Anthropic安全研究員胡賓格早前估計，未來10年內AI導致人類滅絕的機率可能超過10%。
特朗普會晤一眾AI巨頭
總統特朗普訂於當地時間周二會見眾議院議長約翰遜、 Meta行政總裁朱克伯格、 Anthropic行政總裁阿莫迪等科技高管，討論AI問題。Nvidia的黃仁勛和OpenAI總裁布羅克曼也預計出席。約翰遜說，此次會議重點討論如何在創新和監管之間找到平衡。
