Google为记者与公众人物斥天了一个开源的骚扰过滤器

发布时间：2025-08-20 02:58:34 来源： 作者：编程技巧分享

Google的为记物斥Jigsaw部份正正在宣告一个名为Harassment Manager的开源反骚扰工具的代码。该工具是公众人为记者战其余公众人物准备的，它回支了Jigsaw的开源Perspective API，让用户正在社交媒体仄台上对于潜在的扰过恶意品评妨碍分类，起尾针对于的滤器即是Twitter。它以源代码的为记物斥模式初次明相，供斥天职员操做，公众人而后正在6月做为汤森路透基金会记者的开源功能性操做推出。

骚扰操持器古晨可能与Twitter的扰过API开做，将删改选项--如藏藏Twitter回问战静音或者屏障账户--与批量过滤战述讲系统散漫起去。滤器Perspective凭证劫持、为记物斥羞辱战侮慢等元素，公众人检查疑息的开源讲话"毒性"水仄。它将疑息分为仪表板上的扰过队列，用户可能分批处置那些疑息，滤器而不是经由历程Twitter的默认审核工具孤坐处置。他们可能抉择正在处置时迷糊疑息的文本，因此他们不需供浏览每一条疑息，而且除了操做自动天去世的队列中，他们借可能搜查闭头词。

帖子中形貌的骚扰操持器仪表板的图片

骚扰操持器借许诺用户下载一个收罗诅咒疑息的自力述讲；那可感应社交媒体账号的西崽创做收现了基于文件的线索，假如是直接劫持等不法内容，则可能直接为法律部份与证提供辅助。可是，古晨借出有一个自力的操做法式用户可能下载。相同，斥天者可能逍遥天基于那个过滤器API竖坐收罗其功能的操做法式，操做它的处事将由汤森路透基金会等开做水陪推出。

Jigsaw正在主妇节正式宣告掀晓了Harassment Manager，它把那个工具讲成是与里临性别荼毒的女记者特意相闭，夸大了去自"具备小大量Twitter存正在的记者战行动家"战国内主妇媒体基金会战呵护记者委员会等非营利妄想的投进。正在Medium的一篇文章中，该团队展现，它希看斥天者可能约莫为其余有危害的社交媒体用户量身定制。"咱们希看那项足艺可能约莫为那些正在网上里临骚扰的人提供老本，特意是女记者、行动家、政治家战其余公众人物，他们正在网上蒙受良多恶意的内容。"帖子写讲。

拼图的骚扰操持器中的述讲选项的屏幕截图

Google以前已经操做Perspective妨碍了自动审核。2019年，它宣告了一个名为Tune的浏览器扩大，让社交媒体用户停止看到有害的报复侵略性疑息，良多品评仄台（收罗Vox Media的Coral）皆操做它去抵偿家养审核。可是，正如咱们正在宣告Perspective战Tune时看重到的那样，讲话阐收模子正在历史上远非完好。它无意偶尔会对于奚落性的内容妨碍短处分类，或者已经能检测出诅咒性的疑息，而且拼图式的家养智能可能会无意偶尔中将"盲人"或者"聋子"等纷比方定是背里的辞汇与毒性分割起去，那类拼图法自己也被批评为一种有毒的工做场所横蛮，尽管Google已经对于那类讲法提出贰止。

可是，与Twitter战Instagram等处事的家养智能克制不开，骚扰操持器真正在不是一个仄台圆的节礼功能。它赫然是一个分类工具，用于辅助操持无意偶尔规模宏大大的社交媒体反映反映，那可能与远正在新闻规模以中的人有闭--纵然他们目下现古借不能操做它。

相关文章