【星岛综合报道】社交平台Meta宣布推出新措施，加强保护青少年使用人工智能（AI）聊天机械人时的安全。
Meta表示，若青少年在Instagram与Meta AI对话时提及有自残或自杀意图，已启用家长监护功能的家长将会收到通知；若系统认为任何用户有即时自杀风险，Meta亦会主动联络紧急救援部门。
Meta表示，公司曾咨询数十名精神健康专家，改善Instagram AI回应涉及自杀及自残内容的方式。新措施周四（16日）起在加拿大、美国、英国及澳洲同步实施。
根据新安排，已参与Instagram家长监护功能的家长，如子女向Meta AI表示有意伤害自己，系统会向家长发出警示，并提供由专家制定的建议及资源，协助家长与子女展开对话。家长亦可限制子女与AI聊天机械人可讨论的内容范围。
Meta表示，公司建立了专门的AI系统识别涉及自残风险的对话，所有被标记的聊天内容均会先由真人审核，再决定是否向家长发出通知。如未能确定青少年的真正意图，公司会采取较审慎做法，倾向通知家长，以保障安全。
若青少年未有连结家长监护帐户，系统则会向当事人提供危机支援资讯及求助资源。
除了家长通知机制外，Meta亦表示，如AI分析认为任何用户（包括成年人）可能有即时自杀风险，公司将考虑联络紧急救援部门。目前Meta已会就Facebook及Instagram上涉及可信自杀风险的帖文通知紧急服务，去年全球共作出超过1.9万宗相关转介。
有关措施亦配合加拿大联邦政府今年6月提出的《安全社交媒体法案》（Safe Social Media Act）。法案建议禁止16岁以下人士使用社交媒体，同时规管AI聊天机械人，包括禁止AI鼓励用户犯罪或自我伤害，并要求企业建立危机介入机制，以及公开向警方通报高风险个案的标准。
Meta指出，现时所有青少年帐户均预设采用13岁以上内容限制，而相关限制亦将延伸至AI聊天功能。AI系统已接受训练，不会与青少年进行涉及性、恋爱或其他不适龄内容的对话，例如提供酒精饮品配方等。去年推出、更严格的家长内容限制设定，本周起亦正式适用于AI聊天功能。
（资料图：路透社）T15
