2023年4月11日，国家互联网信息办公室发布了《生成式人工智能管理办法（征求意见稿）》，明确要求利用生成式人工智能生成的内容应当体现社会主义核心价值观，不得含有破坏国家统一、宣扬民族仇恨、暴力信息等可能扰乱经济和社会秩序的内容。

以大模型技术为核心的生成式AI技术近来受到了广泛的关注和应用，而大模型训练语料大多来自互联网，而互联网中存在很多敏感信息。因此对生成式AI的内容监管将成为互联网安全管理工作的重要内容，云创cGPT M1000敏感信息过滤一体机在此背景下应运而生，能够针对各种场景，识别和筛选出文本中的潜在敏感信息，有效避免大模型产品在提供服务时产生不可控信息，为大模型技术应用安全保驾护航。