美国联邦贸易委员会（FTC）11日表示，已对包括OpenAI、谷歌母公司Alphabet、Meta、XAI等七间企业开展调查，以了解其人工智能聊天机械人可能对儿童和青少年造成的危害，以及公司如何避免这类危害的发生。自2022年底ChatGPT推出以来，新一代聊天机械人激增，引发一系列伦理和隐私担忧。
聊天机械人引伦理和隐私担忧
FTC表示，人工智能聊天机械人或被用于模拟拟人化沟通及与用户建立人际关系。根据公告，该机构要求上述企业披露聊天机械人的盈利模式、维持用户群的计划，以及降低用户风险的措施，借此了解公司如何评估聊天机械人的安全性，儿童和青少年在使用产品时存在哪些负面影响，以及是否告知家长及用户使用产品的相关风险。
相关新闻：迪士尼公主变调情对象？Meta聊天机械人遭爆与未成年进行“情色对话”
OpenAI等科技企业因旗下聊天机器人提供危险内容遭查。法新社
OpenAI等科技企业因旗下聊天机械人提供危险内容遭查。路透社
谷歌等科技企业因旗下聊天机械人提供危险内容遭查。路透社
Meta等科技企业因旗下聊天机械人提供危险内容遭查。路透社
相关新闻：Meta AI自称真人“色诱”邀见面 老翁赴约途中不幸跌死
美媒称，现在越来越多的儿童及青少年使用聊天机械人，使用范围广泛，从家庭作业、人生建议到情感咨询。有研究表明，聊天机械人在毒品、酒精和饮食问题上会给孩子们提供危险建议。此前已经出现多个案例，有青少年通过聊天机械人讨论自杀问题后获得危险建议进而导致悲剧发生。
另有许多教师反映，学生在做家庭作业时，使用聊天机械人作弊的现象激增。学生们也表示，他们会使用聊天机械人来帮助做研究、写提纲、进行文字校对，但很难分辨其使用界限。目前许多学校已经起草了生成式人工智能使用准则，进一步明确人工智能工具在教育场景中的辅助定位，强调其应用边界。
