微软开始屏蔽一些导致其人工智能工具创建暴力、色情图像的文本
微软似乎屏蔽了其 Copilot 工具中的几条提示词，这些提示导致生成式人工智能工具产生暴力、色情和其他非法图像。 这些变化似乎是在该公司的一名工程师写信给联邦贸易委员会表达他对微软生成式人工智能技术的严重担忧之后实施的。当输入“pro choice”（支持堕胎）、“four twenty”（大麻黑话）或“pro life”（反对堕胎）等先前曾生成不良输出的提示词时，Copilot 现在会显示一条消息，指出这些提示已被阻止。同时，反复尝试被屏蔽的提示词可能导致用户被封禁。然而，现在仍然有可能通过“car incident”（车祸）等提示生成暴力图像，而用户也仍然可以说服人工智能创建迪士尼人物和其他受版权保护的作品的图像。微软回应表示，其一直在持续监测、调整和添加额外的保护措施，以缓解对于模型的安全担忧。
—— CNBC
发表回复