Facebook开发了一种可以检测仇恨言论的新AI系统。

2018-10-25 19:39:04

来源标题:Facebook开发了一种可以检测仇恨言论的新AI系统。

  今天,Facebook宣布它已经开发出一种可用于检测仇恨言论的新型人工智能系统。一些美国科技媒体认为,这种人工智能系统将有助于Facebook的内容审查困境。一直以来,国内外社交媒体平台都面临着难以回顾的内容。、很容易出现“缺鱼”的情况,而Facebook作为一个社交巨头是无法避免的。此前,Facebook被指控对缅甸的暴力行为负有一定程度的责任、斯里兰卡和印度。因此,最近几个月,Facebook正在采取行动,组织缅甸仇恨内容的传播。但目前,罗马尼亚境内针对穆斯林的种族暴力活动仍在继续,尽管Facebook删除了与缅甸军方有关的18个帐户和52个页面。这一次,Facebook推出了代号为“Rosetta”的人工智能系统,该系统可帮助计算机阅读和理解每天发布到Facebook的数十亿图像和视频。这将使Facebook更容易发现平台上的内容是仇恨言论。该系统适用于Facebook和Instagram,也可用于改善照片搜索和新闻流表面的内容。据报道,该系统通过超过十亿的图像和视频帧实时提取不同的语言文本来监控平台内容。最近,Facebook首席运营官雪莉·桑德伯格和Twitter首席执行官杰克·多尔西共同前往国会作证,因为需要详细阐述其公司为保护用户而制定的内容审查政策和安全措施。这也足以让他们看到内容审查面临的困境。

  与此同时,Facebook对目标内容的审查变得越来越严格。以前,它只禁止暴力内容。从今年7月开始,Facebook已经开始删除旨在煽动或加剧暴力的虚假信息。该系统的推出意味着Facebook正在进一步改进其内容审查。最后,Facebook还表示正在为自动翻译工具添加一种新语言。新增的24种新语言包括Hausa、乌尔都语和尼泊尔语。