中国网信办要求AI模型在发布前准备数万个问题以测试回答是否安全
在中国，大多数生成式人工智能模型在向公众发布之前都需要获得中国网信办的批准。据知情人士透露，互联网监管机构要求企业准备 2 万至 7 万个问题，用于测试模型是否能给出安全的答案。企业还必须提交一个数据集，其中包含 5,000 至 10,000 个模型将拒绝回答的问题，其中大约一半与政治意识形态和对共产党的批评有关。如果用户在一天内连续三次或累计五次提出不当问题，生成式人工智能运营商必须停止为其提供服务。
这些要求催生了一个小型咨询行业，专门帮助民营企业获得其模型的批准。为了提前测试这些模型，咨询公司通常会雇佣前任或现任互联网监管机构的官员。一家位于广东的机构，其服务起价为80,000元人民币，约合11,000美元。
—— 华尔街日报