独家

随着科技面临清算,你在线下的所作所为可能会让你被封禁

虽然一些组织赞扬了平台在保护用户方面的主动,但也有人批评它们侵犯了公民自由

本月初,抽搐宣布将开始禁止用户在其网站外的行为。

亚马逊公司的直播平台此举聘请了一家律师事务所对用户的不当行为进行调查,这是最近一个突出的例子中的一个新转折科技公司采取“停止服务”的行为。

平台如何强制执行针对其服务以及其他服务的活动网站而且离线在他们的规则中,这往往只是模糊的描述。但随着立法者和研究人员审视科技与现实世界暴力或伤害的关系,这种适度正受到关注。

虽然一些组织赞扬了平台在保护用户方面的主动,但也有人批评它们侵犯了公民自由。

“这不是内容审查,这是行为审查,”数字版权组织电子前沿基金会(Electronic Frontier Foundation)的法律总监科琳·麦克雪莉(Corynne McSherry)说。她说,她担心那些难以有效审查自己网站上内容的平台会扩大其影响力。

在采访中,平台政策主管们描述了他们如何对可能影响他们网站的离线行动划出不同的界限,承认存在着挑战雷区。

“我们的团队正在网络上寻找一些不同的平台和渠道,我们知道我们的创作者在这些平台上有影响力……尽可能多地了解他们在那里参与的活动,”Patreon的政策主管劳伦特·克伦肖(Laurent Crenshaw)说。粉丝可以在该网站上为创作者的内容付费订阅。

脸谱网Inc的规则禁止他们认为危险的用户,包括那些参与恐怖活动、有组织的仇恨或犯罪团体、被定罪的性犯罪者和大规模杀人犯。一位女发言人说,由于犯罪规模大,谋杀一人的人大多被允许入境。去年,脸书将名单扩大到“军事化社会运动”和“引发暴力的阴谋网络”,如QAnon。

Twitch的新规定称,它可能会禁止“故意充当非自愿性行为的帮凶”或“直接和明确地损害Twitch社区人身安全”的行为的用户,一名女发言人表示,这一类别故意很宽泛。

Twitch首席运营官萨拉·克莱门斯告诉路透社,Twitch政策的变化https://reut.rs/3ewoCgf主要源于游戏行业在2020年夏天的#MeToo时刻,当时该网站在现实生活中的游戏活动以及推特和Discord等网站上看到了骚扰。

反诽谤联盟(Anti-Defamation League)技术与社会中心(Center for Technology and Society)副总裁戴夫·西弗莱(Dave Sifry)说,在自己的网站之外寻找机会,有助于公司清除极端分子和其他在网站规则中“了解到细微漏洞”的人,让他们继续在线。该中心一直在推动各大平台将这种行为纳入决策。

自助出版网站Medium在2018年制定了离线行为规则,此前该网站意识到,2017年8月在夏洛茨维尔举行的白人民族主义集会的参与者,如果没有在特定网站上违反规则,似乎就是“网络上的坏演员”互联网总的来说,”它说。

去年夏天,乔治·弗洛伊德被谋杀引发了抗议活动快速公司公开谈论平台外规则:首席执行官埃文·斯皮格尔宣布Snapchat将不会推广煽动种族暴力的人的账户,包括在应用程序外。2020年12月,抖音更新了其社区指南,表示将在决策中使用其他网站和线下提供的信息,一名发言人表示,这一变化有助于该公司打击民兵组织和暴力极端分子。

值得注意的是,今年,脸书、推特和Twitch等网站考虑到了美国前总统唐纳德·特朗普的不服务行为,这些行为导致他的支持者在1月6日冲进美国国会大厦,封杀了他。

从谋杀到洗钱

研究人员和维权组织表示,科技公司对待平台外行为的方式不同,它们应用规则的方式可能不透明、前后矛盾。

Twitter的全球公共政策战略和发展总监尼克·皮克尔斯在接受采访时说,像理查德·斯宾塞这样的白人民族主义者继续在Twitter上运营,它的非服务规则主要针对暴力组织。

其他平台描述了特定的危险信号活动:Pinterest对健康错误信息采取强硬态度,可能会删除在平台外传播虚假声明的人,政策主管莎拉·布罗姆玛说。Patreon的克伦肖说,虽然订阅网站想要支持改过自新的罪犯,但它可能会禁止或限制被定罪的洗钱者或侵污者利用其平台筹集资金。

对于是否仅禁止用户进行离线活动,还是必须将网站内容与犯罪行为联系起来,各网站也存在分歧。

Alphabet公司的YouTube表示,它要求用户的内容必须与现实生活中的犯罪行为密切相关,但它可能会剥夺用户基于离线行为从他们的频道中赚钱的能力。该公司最近对美妆网红詹姆斯·查尔斯(James Charles)采取了同样的做法,原因是他涉嫌向未成年人发送色情信息。

查尔斯的代表没有回应记者的置评请求。特朗普本月在Twitter上发布的一份声明中表示,他已为与他认为已超过18岁的人的对话承担责任,并表示他的法律团队正在对传播虚假信息的人采取行动。

网络法律和隐私专家说,决定哪些现实生活中的行为或指控需要在网上受到惩罚是一个棘手的领域。

专家们表示,由于数据隐私以及无法以任何确定的标准将行为归咎于个人等原因,将多个网站的用户活动联系起来也很困难。

但这并没有阻止许多公司扩大这一做法。Twitch的Clemens表示,该网站最初专注于暴力和性剥削,但它计划将其他非网站活动添加到列表中:“这是设计上的增量,”她说。

关注并与我们联系脸谱网LinkedinYoutube
Earlier this month, Twitch<\/a> announced it would start banning users for behavior away from its site.

The move by Amazon Inc's live-streaming platform involved hiring a law firm to conduct investigations into users' misconduct, a new twist in the latest prominent example of
tech<\/a> companies acting on \"off-service\" behavior.

How platforms enforce against activities conducted not just on their services but on other
sites<\/a> and offline<\/a>, is often only described vaguely in their rules. But as lawmakers and researchers examine tech's relationship with real-world violence or harm, this moderation is gaining attention.