端科技您的位置:首页 >财经 >

字母制作的Chrome扩展程序旨在消除有毒评论

字母表孵化器Jigsaw发布了一个实验性的Chrome扩展程序,旨在通过释放有毒评论使我们的在线浏览体验更好一些。名为Tune的扩展程序允许您选择查看不同级别的礼貌或积极评论。“禅模式”完全关闭了评论,而“音量水平”从“安静”到“咆哮”通过不同的毒性(如攻击,侮辱,亵渎等)。

字母制作的Chrome扩展程序旨在消除有毒评论

在开源的扩展使用机器学习来确定评论是多么容易被认为是有毒的。它使用了Perspective,这是一个由Jigsaw和Google的反滥用技术团队于2017年创建的API,它被包括纽约时报和卫报在内的新闻机构用于试验在线审核。以下是Perspective如何按毒性排序评论的示例:

Jigsaw小心地注意到Tune是一个仍在进行中的实验,并且在标记哪些注释有毒时可能不准确。扩展“并不意味着直接针对骚扰目标的解决方案(对于他们来说直接威胁对他们的安全至关重要),Tune也不是解决所有毒性问题的解决方案,”该扩展的描述中写道。相反,它旨在向用户展示如何使用机器学习来改善在线讨论。

到目前为止,该扩展程序可用于YouTube,Reddit,Facebook,Twitter和Disqus评论。过滤后的注释显示空白并带有一个点,可以打开它以显示实际注释。在我自己的Twitter Feed上使用它设置为最低的“安静”设置,它错误地标记了这个“毁灭性的Beto攻击广告”,这实际上是一个有毒的模仿视频。但你能真的责怪AI吗?机器学习还有很长的路要走,才能发现讽刺的层次,也许这就是一个例子,选择忽略我们不想看的东西最终会弊大于利 - 或者只是让我们错过一个好笑的视频。

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如有侵权行为,请第一时间联系我们修改或删除,多谢。