谷歌推出人工智能改进以帮助搜索安全和“个人危机”查询

谷歌宣布将推出对其人工智能模型的改进，以使谷歌搜索成为一种更安全的体验，并且更擅长处理敏感查询，包括与自杀、性侵犯、药物滥用和家庭暴力等主题相关的查询。它还使用其他人工智能技术来提高其从搜索结果中删除不需要的显式或暗示性内容的能力，当人们没有专门寻找它时。

目前，当人们搜索敏感信息（如自杀、虐待或其他主题）时，谷歌会在搜索结果上方显示相关国家热线的联系信息。但该公司解释说，处于危机情况下的人可能会以各种方式进行搜索，而且搜索引擎并不总是很明显他们需要他们，即使如果有人看到他们的搜索查询它会发出警告。借助机器学习和对名为 MUM（多任务统一模型）的谷歌人工智能模型的最新改进，谷歌表示，由于 MUM 能够更好地理解背后的意图，它将能够自动、更准确地检测更广泛的个人危机搜索。人们的问题和疑问。

该公司去年推出了使用人工智能技术重新设计搜索的计划在其 Search On 事件中，但它没有解决这个特定的用例。相反，谷歌随后专注于如何利用 MUM 对用户意图的更好理解来帮助网络搜索者深入了解他们正在研究的主题，并引导用户走上新的搜索路径。例如，如果用户搜索了“丙烯画”，Google 可以建议关于丙烯画的“需要了解的事情”，例如不同的技术和风格、绘画技巧、清洁技巧等。它还可以将用户指向他们可能没想过要搜索的其他查询，例如“如何用家居用品制作丙烯画”。在这个例子中，谷歌表示它可以识别出 350 多个与丙烯画相关的不同主题。

以某种类似的方式，MUM 现在将用于帮助更好地了解处于危机中的人可能会搜索的主题，这并不总是像直接输入求助声那样明显。

“……如果我们不能准确识别这一点，我们就无法对系统进行编码以显示最有用的搜索结果。这就是为什么使用机器学习来理解语言如此重要的原因，”谷歌在一篇博文中解释道。

例如，如果用户搜索“悉尼自杀热点”，Google 以前的系统会将该查询理解为信息搜索，因为这就是“热点”一词经常使用的方式，包括在旅游搜索查询中。但 MUM 了解到，该查询与试图在悉尼寻找自杀跳跃点的人有关，并将此搜索识别为可能来自处于危机中的人，从而使其显示可操作的信息，例如自杀热线。另一个可以看到 MUM 改进的自杀查询是“完成自杀的最常见方式”，同样，谷歌以前只会将其理解为信息搜索搜索。

MUM 还可以更好地理解较长的搜索查询，其中上下文对人类来说是显而易见的，但对机器来说不一定。例如，像“我说我不爱他时他为什么要攻击我”这样的查询暗示了家庭暴力情况。但是，如果不使用高级人工智能，Google 的系统很难进行长时间的自然语言查询。

此外，谷歌指出，MUM 可以将其知识转移到其接受过培训的 75 种语言中，这有助于它更快地将这样的人工智能改进扩展到全球用户。这意味着它将能够向更广泛的受众展示这些类型的个人危机搜索来自可信赖合作伙伴（如本地热线）的可操作信息。

这不是 MUM 第一次帮助指导 Google 搜索。该公司表示，MUM 以前曾被用于改进对 COVID-19 疫苗信息的搜索。在接下来的几个月里，谷歌表示将使用 MUM 来改进其垃圾邮件保护功能，并将这些功能扩展到几乎没有训练数据的语言。其他 MUM 改进也将很快推出。

另一个从人工智能技术中得到提升的领域是谷歌从搜索结果中过滤显式内容的能力。即使关闭了 Google 的 SafeSearch 过滤技术，Google 仍会尝试从那些不以查找色情内容为目标的搜索中减少不需要的显式内容。如今，随着用户在全球范围内进行数亿次搜索，它的算法改进了这种能力。

但被称为 BERT 的人工智能技术现在可以帮助谷歌更好地了解人们是否在寻找明确的内容。该公司表示，在过去一年中，BERT 已将不需要的令人震惊的搜索结果减少了 30%，这是基于“搜索评估者”进行的一项分析，他们在网络和图像搜索的随机查询样本中测量了过度性化的结果。分析发现，该技术还特别有效地减少了与“种族、性取向和性别”相关的搜索的显式内容，谷歌称这些内容对女性，尤其是有色人种女性的影响尤为严重。

谷歌表示，MUM AI 改进将在未来几周内开始推广到 Serach。