【吉米言法】2026年2月10日，在卑詩省北部小鎮圖布勒嶺發生大規模槍擊悲劇。
18歲的槍手Jesse Van Rootselaar在當地擊斃8人，之後飲彈自盡。OpenAI在事發後表示，去年系統偵測到槍手Jesse Van Rootselaar的ChatGPT帳號異常，被標記為「濫用我們的模型以推進暴力活動」後將其帳號封鎖，但認為他違規的情況沒有達到向執法機關通報的門檻。
3月9日，一名受傷學生的家庭以疏忽為由向卑詩高等法院起訴OpenAI，要求賠償。希望這起悲劇所產生的官司能給受害者帶來賠償，同時也可以幫助公眾避免再度受害，並迫使加拿大各級政府建構更加完備的人工智能立法。
根據原告代理律師約翰萊斯的訴狀，受傷的學生原告，在槍擊後遭受了「災難性創傷性腦損傷；永久性認知及身體殘障；右邊偏癱； 瘢痕和身體畸形；憂鬱症；焦慮症；創傷後壓力症候群等嚴重傷害。而槍手則依靠 ChatGPT 獲得心理健康支持和諮詢，將 ChatGPT 視為心理健康咨商師、顧問或無證治療師」。
因此，當事人狀告OpenAI旗下的人工智能驅動的聊天模型ChatGPT，「扮演了心理健康咨商師或無證治療師、合作者、可信賴的知己、朋友和槍手的盟友角色」，在「OpenAl明知槍手的暴力意圖的情況下，ChatGPT扮演心理健康咨商師和無證治療師角色時，有義務發出警告」，而沒有盡到注意的義務（Duty of Care），因此對原告負有責任。
這個案子有意義的地方就在於相信司法很快就會否定人工智能只是一個工具。
工具就如同榔頭，扳手，槍。我們把工具看作一個人能力的延伸：因為有了工具，你才可以劈柴鋸木；因為槍是工具，所以才有所謂「槍不殺人，人殺人」的說法。如果ChatGPT被認定為簡單工具，跟兇手所持有的槍同屬一種性質，那麼ChatGPT肯定就不用負責任。
但是答案沒有那麼簡單，如果ChatGPT擔任了「心理健康咨商師或無證治療師、合作者、可信賴的知己、朋友和槍手的盟友的角色」，這個聊天模型是否可以被視作服務的提供者呢？
一般服務提供商的定義是「為服務接受者提供服務並換取報酬或其他應稅利益的個人或實體」。當然所獲的酬勞未必一定是金錢，ChatGPT有數以億計的用戶，所以它獲得的好處就是其自身大語言模型所獲得的遠遠不斷的訓練和優化。
當ChatGPT是一位服務提供者時，ChatGPT這個模型更多是履行高質量心理健康咨商師的職責，這也就是為何原告律師提出了ChatGPT未盡注意義務的指責。所謂注意義務就是「不讓任何人受到傷害的道德或法律責任」。
有意思的是，2026年3月初，OpenAI在美國伊利諾伊州被日本生命保險公司（美國）指控在未取得執業資格的情況下從事法律業務。
讓我們繼續以法律行業為例，參考卑詩律師公會《卑詩省專業行為準則》的3.3-3 條款，「當律師有合理理由相信有迫在眉睫的死亡或嚴重人身傷害風險時，且披露資訊對於防止死亡或傷害是必要時，律師可以披露保密信息」。
相信健康工作者的行為準則和法律工作者有相似之處。
當兇手向擔任心理健康咨商師的ChatGPT袒露心聲，如果相同的訊息會被其他心理健康咨商師認作有「迫在眉睫的死亡或嚴重人身傷害風險」並且有必要披露資訊對於防止死亡或傷害。但是面對相同的訊息，ChatGPT卻選擇沉默爾未披露保密信息，那麼ChatGPT需要承擔多少法律責任？
2023 年 9 月，時任加拿大創新、科學和工業部長商鵬飛(François-Philippe Champagne)宣布了《關於負責任地開發和管理先進生成式人工智能系統的自願行為準則》（Voluntary Code of Conduct on the Responsible Development and Management of Advanced Generative AI Systems），提出了「問責，安全，公平公正，透明，人工監督與監測，以及有效性和穩健性」的六大準則。
Tumbler Ridge受害人狀告OpenAI的案子對於對人工智能的規範有着重要意義，是對以上六大準則的考驗。這也提醒我們，單純依賴行業或機構的自我約束，難以形成足夠有效的規範框架。面對人工智能技術迅速發展的現實，加拿大聯邦政府及各省政府更應積極承擔起制度設計的責任，透過完善相關立法與監管機制，建立更具前瞻性和約束力的治理體系，以更好地保障社會公眾與人類整體利益。
撰文：吉米言 (卑詩公益法律服務社團 Access Pro Bono Society of BC 法律義診服務總管及資訊官)
