纽约市官方人工智能聊天机器人产生了错误的法律建议
如果你关注生成式人工智能新闻，你可能熟悉大语言模型聊天机器人倾向于“编造”不正确的信息，同时将这些信息呈现为权威的真实信息。美国纽约市政府运行的一个聊天机器人对某些重要的地方法律和市政政策问题做出了错误的答案，这种倾向似乎会引发一些严重的问题。纽约市的“MyCity”聊天机器人于去年十月作为试点计划启动。提供如何遵守准则和法规、可用的商业激励措施以及避免违规和罚款等信息。但 The Markup 和当地非营利新闻网站 The City 的一份新报告发现，MyCity 聊天机器人在某些相当基本的城市政策方面提供了错误的信息。例如 The Markup 在询问有关工人薪酬、工作时间法规以及殡仪馆定价等行业具体信息时，都收到了不正确的回复。
—— Arstechnica、 报告
发表回复