关于文本滥用检测系统¶

文本滥用检测系统检测并确认聊天、社区等各种文本中的文本滥用（禁用词、垃圾邮件），并通过 API 进行处理。

特点¶

• 通过关注检测到的文本，可以实现高效监控。
• 打包处理可以有效检测到不仅在单个句子中，而且在多个连续句子中的禁用词。
• 提供通用的 RESTful API，可用于多种用途，包括聊天。

前提条件¶

请验证您是否可以从 Hive 控制台访问 AI 服务 > 滥用检测 > 文本滥用检测，如果没有，请参考 权限管理指南 来获取对 Hive 控制台权限管理指南 菜单的访问权限。

如何使用文本滥用检测系统¶

• 菜单位置: Hive 控制台 > AI 服务 > 滥用检测 > 文本滥用检测
• 文本滥用检测 API 文档

• 文本滥用检测系统组成

  

  • 使用统计：您可以查看 API 在分钟、小时、天和月的使用情况。
  • 查看检测结果：您可以查看滥用检测结果并编辑报告列表。
  • 管理项目：您可以注册一个项目并配置各种系统设置。
  • 个人设置：您可以设置用于后台管理的默认设置。
  • 后台日志：您可以查看您的后台使用历史。

使用统计¶

您可以按语言/游戏/来源查看 API 使用情况，时间单位为分钟、小时、天和月。

• 设置搜索周期

• • 提供整个搜索时间的利用率指示器。
  • 您可以指定聚合周期（分钟、小时、天或月）。
  • 搜索周期：您可以选择当前时间之前最多 60 天的时间。

• 图表和统计表
  • 图表：您可以在搜索周期内按语言、游戏和来源查看 API 使用情况。
  • 统计表：单击图表底部的下拉框按钮以查看您的 API 使用情况的数字。
  • 按语言每小时使用情况

• • 按项目的每小时使用情况
  • 按来源的每小时使用情况

查看检测结果¶

您可以查看注册项目的滥用检测结果并编辑报告列表。

• 查看搜索周期和项目名称
  • 搜索周期：您可以从当前时间选择最多60天。
  • 项目名称：您可以选择注册项目中的一个。默认选项是“全部”。

• 图表和统计表
  • 图表：您可以按小时/天查看滥用检测结果。
  • 统计表：点击图表底部的下拉按钮以查看按小时/天的滥用检测数值结果。

• 文本搜索
  • 您可以在原始内容旁边查看滥用检测结果。
    • 文本过滤器：选择您的检测结果、语言、文本来源和文本类型，以确保您只获得相关结果。
    <

• 搜索结果
  • 下载：您可以下载搜索列表。
  • 查看原文：根据您选择的文本，您可以查看之前和之后的文本。
  • 报告：您可以将选定的文本添加到下面显示的报告列表中。
  • 精确匹配：您可以通过匹配整个搜索词进行搜索。

• 查看报告记录
  • 您可以查看报告的文本。
    • 文本过滤器：选择您的检测结果、语言和文本来源，以确保您只获得相关结果。

• 搜索结果
  • 下载：您可以下载搜索列表。
  <
  • 查看原文：根据您选择的文本，您可以查看之前和之后的文本。
  • 删除：将文本从报告列表中排除。被排除的文本可以在后台日志中发现。
  • 精确匹配：您可以通过匹配整个搜索词进行搜索。

管理项目¶

您可以通过注册一个项目并配置各种系统设置来使用API。

• 注册项目

  

  • 注册一个项目以使用API。
    • 项目名称：选择一个在应用中心已注册的项目。即使项目未在应用中心注册，您仍然可以通过直接输入来使用文本滥用检测系统。
    • 文本来源：您可以选择三种文本来源：聊天、社区和其他。如果请求的文本来源不可用，您可以手动输入。
    • 检测设置：您可以自定义设置以改善滥用检测。
      • 包处理设置：您可以指定包处理标准。
      • 屏蔽设置：您可以指定哪些字符将替换禁用词。
      • 广告检测设置：您可以指定广告检测标准。
    • 禁用词设置：您可以指定您将使用的禁用术语。

      • 查看默认禁用词

        

        • 搜索：您可以轻松确定您想要的禁止词是否包含在内。
        • 下载：下载一份基本禁止词列表。

• 检测设置

  

  • 您可以更改已注册项目的检测设置。
    • 检测设置：您可以更改设置以提高滥用检测的有效性。
      • 包处理设置：您可以在设置中更改包处理标准。
      • 屏蔽设置：您可以更改将替换禁用词的字符。
      • 广告检测设置：您可以在设置中更改广告检测标准。
    • 禁用词设置：您可以更改任何之前注册的禁用词。

• 管理密钥

  

  • 注册项目后，您可以管理已发放的项目密钥和加密密钥。
    • 项目密钥/加密密钥的重新发放：您可以选择重新发放已发放的项目密钥/加密密钥。
  • 项目密钥/密码密钥可以在 文本滥用检测系统 API 中使用。

• 最近的日志

  

  • 您可以查看最近输入的十条文本。

• 删除

  • 您可以删除注册的项目。

个人设置¶

您可以配置您的首页和搜索过滤器。

• 初始入口页面设置
  • 您可以在第一次进入时设置页面。
• 使用统计设置
  • 默认标签：您可以选择到达时立即查看哪个屏幕。
  • 按周期搜索：您可以更改默认搜索周期。标准是页面入口点。
• 检测结果查询设置
  • 全部
    • 搜索周期：您可以更改默认搜索周期。
    • 项目：您可以指定进入页面时显示的项目。
    • 检测结果聚合：您可以选择在进入页面时是否显示检测结果的聚合。
  • 查看原始文本/报告列表
    • 语言：您可以指定初始语言。
    • 检测结果：您可以指定初始检测结果。
    • 文本来源：您可以指定初始文本来源。
    • 文本类型：您可以指定初始文本类型。

后台日志¶

您可以查看您的后台使用历史记录。

• 搜索周期：您可以指定检查日志的周期。
• 过滤任务信息可以让您检查日志。