微软发布AI内容审核工具，支持图片和文本

10月19日消息，经过多月测试之后，微软正式发布AI内容审核工具Azure AI Content Safety。

该工具包含一系列经过训练的AI模型，可检测图片或文本中与偏见、仇恨、暴力等相关的负面内容，并能理解并检测包含八种语言的图片或文本，为被标记的内容严重性打分，指示人工审核员哪些内容需要采取行动。

该内容审核工具最初整合到Azure OpenAI服务中，微软现在以独立系统方式正式推出。

微软在官方博文中指出：“这意味着客户可以将其用于来自开源模型和其他公司模型的人工智能生成内容，以及调用部分用户生成的内容，进一步扩展实用性。”

微软表示，在处理数据和内容时，虽然该款产品在公正性和理解上下文方面有所改进，但仍然需要依赖人工审核人员来标记数据和内容。这也就意味着最终的公正性取决于人类。然而，在处理数据和内容时，人工审核人员可能因为自己的偏见而无法做到完全中立审慎。