Google 借助 AI 技术提升 Google Search 安全性与确保资料正确性

网路资讯众多,比起以往透过口耳相传方式更容易传递各类资讯,其中也包括许多恶意与造假的内容,有些是不合时宜的旧闻被误认为最新资讯,有些则是透过各式手段刻意传播试图操弄的假消息; Google 今日在官方部落格公布一则技术说明文章,介绍 Goo

网络资讯众多,比起以往透过口耳相传方式更容易传递各类资讯,其中也包括许多恶意与造假的内容,有些是不合时宜的旧闻被误认为最新资讯,有些则是透过各式手段刻意传播试图操弄的假消息; Google 今日在官方部落格公布一则技术说明文章,介绍 Google 如何透过 AI 技术提升 Google Search 的安全性与正确性。

Google Search 是现代人寻找资讯的手段,基于社会责任也会避免与遏止使用者滥用,例如搜寻关于自杀或人口贩卖,首先会出现全年无休的谘询或是救助单位而非这些行为的教学,但一旦人们陷入恐慌情况,则会不择手段的试图绕过 Google Search 的基本过滤,在全球提供服务的 Google Search 若无法理解各种语言,就有可能会出现这些使用者希冀的恶意结果。

为了避免出现这样的情况, Google Search 需要能去理解不同的语言,其中最关键的就是新一代 AI 模型 MUM , MUM 是一项迁移式学习技术,能透过完成基础模型后去学习不同语言所要传达的真正语意与企图,当前已经使用 75 种语言进行模型训练, Google 也将在接下来陆续几周开始导入 MUM 模型进一步提供更安全的搜寻结果。

此外,若要确保使用者安全的使用搜寻功能,就要设法避免使用者找到骇人的搜寻结果,但这对于搜寻引擎是相当困难的,因为许多恶意的内容操作会透过在网页加入各式无害的标记包装煽情露骨或具有暗示性的内容,即便使用者并非要搜寻这类结果,也会被误导到提供经过包装的错误资讯结果。

照片中提到了Google、Q全部、影片,跟谷歌有关,包含了数、大老闆 - 第 15 季、週末卡瓦尔、第67话、数

▲ Google 尽可能减少滥用标籤与关键字的煽情露骨内容出现在搜寻结果上

Google Search 为了降低这样的情况发生提供多种方式,其一是透过安全搜寻功能,安全搜寻功能会自动为未满 18 岁的用户预设开启,纵使未启用安全搜寻,只要搜寻的目标非色情内容,仍会减少滥用关键字的色情内容的出线机率。

当然光靠安全搜寻还不够,故 Google 也搭配 BERT 的进阶 AI 技术, BERT 是一项自然语意理解 AI 技术,藉此判断使用者是否真的要搜寻煽情的内容,使使用者尽可能找到他们想搜寻的结果。虽然无法完全遏止这类滥用情况,不过 Googl 去年已经将这些非预期的误导结果降低 30% ,尤其是搜寻种族、性倾向与性别相关内容时大幅减少出现煽情、露骨的结果。

原创文章,作者:科技庭,如若转载,请注明出处:https://www.53moban.com/1053.html

联系我们

400-800-8888

在线咨询:点击这里给我发消息

邮件:admin@example.com

工作时间:周一至周五,9:30-18:30,节假日休息