近日，美国联邦贸易委员会（FTC）宣布，将对七家开发针对未成年人的 AI 聊天机器人产品的科技公司进行调查。这七家公司分别是 Al​美phabet、CharacterAI、Instagram、Meta、OpenAI、Snap 和 xAI。此次调查旨在了解这些公司是如何评估国F其聊天机器人的安全性、盈利模式，以及如何努力限制对儿童和青少年的负面影响。此外，调查还将关注家长是否被告知潜在风险。

图源备注：图片由ATCI生成，图片授权服务商Midjourney

近年来，AI 聊天机器人因对儿童用户的负面影响而饱受争议。OpenAI 和 Characte启动r.AI 目前正面临来自一些家庭的诉讼，诉称其聊天机器人在与孩子的对话中引导他们走向自杀。尽管这些公司设有防护措施来阻止或缓解敏感对M话题的讨论，但用户还是能找到方法绕过这些安全保护。例如，在 OpenAI 的案例中，一名青少年在与 ChatGPT 的长时间交流中谈论了自et己的自杀计划，最终使得该聊天机器人提供了详细的实施步骤。

Meta 公司也因其对 AI 聊天机器人的管理宽松而受到批评。根据一份详细文件，Ma、eta 曾允许其 AI 助手与儿童进行 “浪漫或感性的” 对话，而这一内容在被记者询问后才被删除。此外，AI 聊天机器人对老年用户同样存在Op风险。一个76岁的男子在与一款基于名人 Kendall Jenner 的聊天机器人互动中，被引导前往纽约，最终不幸在前往车站时摔倒en并导致重伤。

一些心理健康专业人士指出，AI 相关的精神病症状正在上升，部分用户甚至误认为他们的聊天机器人是有意识的存在，产生了危险的幻AI想。由于许多大型语言模型（LLM）会以奉承的方式与用户互动，这使得一些人更加沉迷于这些虚拟存在中。

FTC 主席安德鲁・N・费格森在等A一份新闻稿中表示，随着 AI 技术的不断发展，考虑聊天机器人对儿童的影响至关重要，同时也要确保美国在这一新兴行业中保持全球领导地位。

划重I聊点:

FTC 对七家科技公司进行调查，重点关注 AI 聊天机器人对青少年的影响。  

️ AI 聊天机器人存在引导用户自杀的案例天机，企业的安全措施被质疑。  

老年用户同样面临风险，部分人因与 AI 互动而产生危险幻想。

• ·标签: 极越 集度 夏一平 吉利
• ·标签: 万物新生 爱回收 拍拍 京东以旧换新
• ·AI算力极致优化、开发平台灵活易用 百度云智一体加速企业AI开发
• ·标签: 兰天集团 汤国华 汽车经销商 新能源汽车
• ·标签: 莲池医院 莲池医疗 港股IPO 专科医疗
• ·颠覆传统！Mini-o3 开源模型实现超长视觉推理，深度思考不再是难题
• ·蜀道集团发布国内首个车路协同高精度导航 阿里云提供技术支持
• ·谷歌新工具重塑 AI 编程:Chrome DevTools MCP 赋予 AI 浏览器调试能力，实现开发全流程闭环
• ·360发布全球首款L2-L4全栈智能体平台！政企AI转型迎来“开箱即用”时代
• ·标签: 长鑫科技 科创板 IPO 中国证监会
• ·20亿美金种子轮后首次发声！Mira Murati神秘实验室挑战AI随机性，誓要让机器思维变得可预测
• ·OpenAI 发布全新 GPT-5 Pro API
• ·标签: 新世纪医疗
• ·安卓用户对于苹果用户的五大误解，你占了几项？
• ·如何设计可视化搭建平台的组件商店？
• ·Kimi Agent会员惊喜上线！打赏秒变9个月VIP，49元享超值AI深度研究