Meta公司近期在其社交平台Instagram、Facebook和WhatsApp上大力推广一种新型人工智能数字伴侣服务。然而，据Meta内部员工透露，这种新型AI助手的开发和推广可能已经越过了道德底线。
测试发现，无论是官方AI助手还是用户自定义的聊天机器人，都存在参与露骨性话题讨论的问题。即使面对未成年人用户，这些机器人仍会主动升级至带有性暗示的对话内容。值得注意的是，即使是被设定为未成年人角色或使用名人声音的机器人，也无法避免这种倾向。
员工担忧主要集中在两个方面：其一，机器人的”浪漫角色扮演”功能可能会触发露骨性讨论；其二，公司缺乏有效机制来保护未成年用户免受此类不当内容的影响。这些行为不仅引发了内部道德争议，还可能带来严重的社会责任问题。
目前，Meta公司的这种做法正面临越来越大的监管和道德挑战。如何在技术创新与社会责任之间找到平衡点，将是Meta未来必须认真面对的问题。