人工智能正在适应保护儿童免受网络欺凌和社交媒体的危害。
研究人员培训了一种机器学习算法,用于检测社交媒体上的欺凌帖,并将其隐藏起来。
AI检测到此数据集中的单词和短语通常与欺凌相关,并过滤掉超过三分之二的威胁,侮辱和性骚扰事件中国机械网okmao.com。
比利时根特大学的吉尔斯·雅各布斯(Gilles Jacobs)建立了该计划,并负责过滤AskFM的现实生活帖子。
一个由专业语言学家组成的团队经历了相同的数据集,并从近200,000个帖子中挑选了令人反感的帖子。
雅各布斯博士说,通过网络传播的欺凌行为往往更加微妙,包含更少的明显诅咒词或诽谤。
他说,要实现100%的检测准确率真的很难,因为有很多不同的方法可以欺负某人。
在检测英语的细微差别时,例如讽刺或讽刺,该算法也很难理解。
例如,它有时无法区分无辜的评论和恶意评论之间的区别。
研究人员表示,如果可以在更大的数据集上训练算法,即使是这个复杂的问题也可以避免。
最近,对某些网站上允许的一些视频,图片,文章和评论感到愤怒,对网站上评论和内容的审核一直备受关注。
主要平台Instagram,Facebook,Twitter和YouTube一直面临着改善其筛选过程和保护用户,特别是年轻一代的压力。
康奈尔大学的托马斯戴维森告诉“新科学家”杂志说,依靠人类主持人每天手动扫描数百万条评论是不可行的。
“假设系统运行良好,它将允许版主将他们的注意力转移到最有问题的内容上。”
该研究发表在Plos One期刊上。