【星島綜合報道】社交平台Meta宣布推出新措施，加強保護青少年使用人工智能（AI）聊天機械人時的安全。
Meta表示，若青少年在Instagram與Meta AI對話時提及有自殘或自殺意圖，已啟用家長監護功能的家長將會收到通知；若系統認為任何用戶有即時自殺風險，Meta亦會主動聯絡緊急救援部門。
Meta表示，公司曾諮詢數十名精神健康專家，改善Instagram AI回應涉及自殺及自殘內容的方式。新措施周四（16日）起在加拿大、美國、英國及澳洲同步實施。
根據新安排，已參與Instagram家長監護功能的家長，如子女向Meta AI表示有意傷害自己，系統會向家長發出警示，並提供由專家制定的建議及資源，協助家長與子女展開對話。家長亦可限制子女與AI聊天機械人可討論的內容範圍。
Meta表示，公司建立了專門的AI系統識別涉及自殘風險的對話，所有被標記的聊天內容均會先由真人審核，再決定是否向家長發出通知。如未能確定青少年的真正意圖，公司會採取較審慎做法，傾向通知家長，以保障安全。
若青少年未有連結家長監護帳戶，系統則會向當事人提供危機支援資訊及求助資源。
除了家長通知機制外，Meta亦表示，如AI分析認為任何用戶（包括成年人）可能有即時自殺風險，公司將考慮聯絡緊急救援部門。目前Meta已會就Facebook及Instagram上涉及可信自殺風險的帖文通知緊急服務，去年全球共作出超過1.9萬宗相關轉介。
有關措施亦配合加拿大聯邦政府今年6月提出的《安全社交媒體法案》（Safe Social Media Act）。法案建議禁止16歲以下人士使用社交媒體，同時規管AI聊天機械人，包括禁止AI鼓勵用戶犯罪或自我傷害，並要求企業建立危機介入機制，以及公開向警方通報高風險個案的標準。
Meta指出，現時所有青少年帳戶均預設採用13歲以上內容限制，而相關限制亦將延伸至AI聊天功能。AI系統已接受訓練，不會與青少年進行涉及性、戀愛或其他不適齡內容的對話，例如提供酒精飲品配方等。去年推出、更嚴格的家長內容限制設定，本周起亦正式適用於AI聊天功能。
（資料圖：路透社）T15
