2014年,19岁的美国公民阿舍·阿比德·汗计划前往叙利亚为ISIS作战。媒体报道称,他通过网络接触到了宣传视频
脸谱网鼓励世界各地的人们去叙利亚作战。在印度也有报道称,一个名为@ShammiWitness的推特账号属于一名据称拥有100万粉丝的ISIS招募人员,此人已被班加罗尔警方抓获。或者以安萨里(Anees Ansari)为例,他在试图制造铝热剂炸弹时,曾使用Facebook与他的联络人交谈。
像ISIS这样的组织,甚至是旨在推动宣传的个人,都使用了脸书、推特等社交媒体平台或来自美国的工具
谷歌而且
微软传播他们的信息,招募新人。尽管政府和科技公司已经建立了遏制利用技术传播极端观点的系统,但在很大程度上并不成功。“虽然脸书试图屏蔽Anees Ansari,但他以不同的头像回来,并与美国的朋友讨论轰炸学校。此外,一名Kalyan工科学生Areeb Majeed被招募并在网上激进化,成为ISIS战士,然后回到家乡,落入印度警方手中,”孟买高等法院律师和网络政策专家普拉桑特•马里(Prashant Mali)表示。
政府和科技公司希望屏蔽爆炸性内容,但问题在于此类内容在数字世界中产生和放大的规模之大。研究和咨询机构Aranca全球传播主管贡扬•特里维迪(Gunjan Trivedi)表示:“考虑到每天有数百万条帖子和视频被上传,全球执法机构没有足够的能力主动干预恶意内容的放大。”
在处理网上极端主义内容方面,印度一直在采取全球路线,要求社交媒体公司禁止此类内容。“《IT法》中有规定,要求中介对内容负责,从而确保他们让社交媒体公司保持警惕。然而,我们的政策和法律,就像我们的全球同行一样,过度依赖社交媒体公司来执行。”马里说,印度需要更好的内容删除政策和更严厉的惩罚。
总部设在新德里的软件自由法律中心(Software Freedom Law Center)的法律主管米希•乔杜里(Mishi Choudhary)表示,公司应该与其他利益相关者合作,进行有效的信息交换,并建立一个共享的数据库,用于收集各自服务部门发现的暴力恐怖图像或招聘视频和图像。在此背景下,谷歌、Facebook、微软和Twitter承诺建立一个国际论坛,分享和开发技术,支持中小企业共同打击网络恐怖主义。
从技术角度来看,人工智能和机器学习技术可能是识别网上大量内容的最佳解决方案。然而,Trivedi警告说,当这些工具学会识别和映射某些图像或关键字时,犯罪者可能已经转移到另一个层次或交流模式。“人工智能算法还没有进化到可以开发上下文。自我学习技术很难区分真正的恶意内容和讽刺内容。Facebook、Twitter、谷歌等公司都明白这个难题。”
他说,他们联合使用志愿者或人类智能和机器学习工具来扫描和清除网络空间的极端主义内容。
推特的一位发言人在回应ET的询问时表示,他们在2015年8月1日至2017年6月30日期间暂停了935897个宣传恐怖主义的账户,政府请求占这些暂停的比例不到1%。
“相反,95%的账户被封是我们内部努力使用专有工具打击这些内容的结果,高于我们上一份透明度报告中的74%。”
但当《ET》杂志联系到脸书时,环球新闻的一位发言人
互联网代表脸书、微软、推特和Youtube的反恐论坛(GIFCT)回应说:“打击恐怖主义需要政府、公民社会和私营部门的回应。在过去的一年里,我们通过共享行业哈希数据库等举措取得了长足的进步。”
谷歌的发言人向我们介绍了谷歌的法律总顾问肯特·沃克(Kent Walker)的一篇文章,强调了他们为打击恐怖主义所采取的四个步骤。这家搜索巨头正在与Jigsaw合作,在欧洲更广泛地实施“重定向方法”,利用有针对性的在线广告的力量,接触到潜在的ISIS新兵,并将他们重定向到反恐视频。“我们的工程师开发了一种技术,利用图像匹配技术防止已知恐怖主义内容的重新上传。我们使用视频分析模型找到并评估了过去6个月里删除的50%以上与恐怖主义有关的内容。”
在文章付印前,发给微软的电子邮件没有得到回应。但是乔杜里说,尽管恐怖主义是一个主要问题,但它经常被用于过度监管或提出不可能的要求
加密正如我们在英国所看到的,政治家对好人和坏人的作用是不同的。他说:“这些要求是浪费时间,只是故作姿态,阻碍制订有效的战略来解决真正的问题。请记住,过度监管可能会导致限制合法的言论表达。”