逾1100名來自尖端人工智能（AI）公司的員工，周二聯名簽署了一份請願書，呼籲美國政府控制AI的發展，幫助減緩最先進AI模型的發佈速度。聯署者不乏AI界重量級人物，包括AI龍頭公司Anthropic的行政總裁阿莫迪，以及OpenAI首席科學家帕喬基和Meta超級智能部門首席科學家趙晟佳。
不乏AI界重量級人物表態
這項名為「前沿控速」（Pacing the Frontier）的倡議，由Anthropic、OpenAI、Meta和Google DeepMind的員工參與。聯署書促請美國政府推動國際合作，研發必要的技術與管治工具，從而主動調節自動化AI尖端發展的步伐。聯署者包括Anthropic行政總裁阿莫迪、OpenAI首席科學家帕喬基，以及該兩間公司的幾名共同創辦人、Google DeepMind策略總監塞孔、Meta超級智能實驗室首席科學家趙晟佳等。
聯署書寫道：「全球頂尖人工智能公司相信，業界或已接近實現AI研究的自動化。這將在多大程度上加快技術進展，目前仍難以準確預測，但相關能力可能迅速發展，超出人類理解或控制最終系統的能力，風險確實存在。」
OpenAI行政總裁：開發者或需主動放慢發展步伐
OpenAI行政總裁奧爾特曼沒有簽署這份請願書，但根據周二發佈的網媒訪問，奧爾特曼也認為，AI模型的開發者或許需要主動放慢快速發展的步伐，以便社會有機會跟上步伐。由奧爾特曼掌舵、開發ChatGPT的OpenAI近日承認，一個由旗下兩款先進模型驅動的AI代理，在網絡安全測試期間突破隔離環境及安全限制，擅自連接互聯網併入侵了AI開源平台Hugging Face。
奧爾特曼在周二發佈的播客節目中表示：「這是我第一次對這類安全事件感到如此切身的擔憂。」他續稱，OpenAI隨後「暫停」了自身的測試，同時改進了相關安全措施。但他說，從長遠來看，業界或許得同意放慢開發速度。
