作者:Garance Burke
拜登政府星期二公布了一系列意义深远的目标,旨在避免毒品泛滥造成的危害
人工智能系统,包括如何保护人们的个人数据和限制监控的指导方针。
值得注意的是,《人工智能权利法案蓝图》并没有规定具体的执法行动,而是旨在作为一项法律
白宫官员们表示,呼吁美国政府采取行动,在人工智能驱动的世界中保护数字和公民权利。
白宫科技政策办公室科学与社会副主任阿朗德拉·尼尔森说:“拜登-哈里斯政府实际上是在说,我们需要共同努力,不仅是在政府内部,而且是在所有部门,真正把公平放在中心位置,把民权放在我们制造、使用和管理技术的方式的中心。”“我们可以也应该对我们的技术有更好的期望和要求。”
该办公室表示,白皮书代表着政府在让科技公司承担责任的议程上取得了重大进展,并强调了各联邦机构在权衡新规则和研究人工智能技术的具体影响方面的承诺。这份文件是在与二十多个不同部门进行了长达一年的磋商后发布的,其中还包含了来自民间社会团体、技术专家、行业研究人员和Palantir等科技公司的反馈
微软.
它提出了五项核心原则,白宫表示,这些原则应被纳入人工智能系统,以限制算法偏见的影响,让用户控制他们的数据,并确保自动化系统被安全、透明地使用。
由此产生的不具约束力的原则引用了学术研究、机构研究和新闻报道,这些研究记录了人工智能工具对现实世界的危害,包括导致错误逮捕的面部识别工具,以及歧视就读于历史上黑乐动扑克人学院或大学的求贷者的自动化系统。
白皮书还表示,家长和社会工作者都可以从了解儿童福利机构是否使用算法来帮助决定何时应该调查家庭虐待中受益。
今年早些时候出版后
算法工具的回顾据多位参与通话的人士透露,OSTP的工作人员联系了文章中引用的消息来源,以了解更多信息。美联社的调查发现,与白人儿童相比,阿勒格尼县的工具在最初几年的运行中显示出一种模式,即将不成比例的黑人儿童标记为“强制性”忽视调查。
今年5月,有消息称,卡内基梅隆大学的研究人员和美国公民自由联盟的工作人员与OSTP官员讨论了儿童福利机构使用算法的问题。尼尔森说,保护儿童免受科技危害仍然是一个值得关注的领域。
尼尔森说:“如果一种工具或自动化系统对弱势群体造成了不成比例的伤害,人们应该希望,通过一些具体的应用程序和说明性建议,可以有杠杆和机会来解决这个问题。”尼尔森同时担任总统副助理
乔•拜登(Joe Biden).
OSTP没有对5月的会议发表更多评论。
尽管如此,由于许多人工智能工具是在州和地方层面开发、采用或资助的,联邦政府对其使用的监督有限。白皮书没有具体提到拜登政府将如何影响州或地方层面的具体政策,但一名高级政府官员表示,政府正在探索如何将联邦拨款与人工智能指导结合起来。
白皮书对开发这些工具的科技公司没有权力,也没有包括任何新的立法建议。尼尔森表示,各机构将继续使用现有规则,防止自动化系统不公平地使人们处于不利地位。
尼尔森说,白皮书也没有具体谈到由司法部资助的人工智能技术,司法部的民权部门一直在单独研究算法的伤害、偏见和歧视。
在呼吁加强监管的同时,白皮书还表示,如果实施得当,人工智能系统有能力为社会带来持久的利益,比如帮助农民更有效地种植粮食或识别疾病。
“在美国创新力量的推动下,这些工具有可能重新定义我们社会的每个部分,让每个人的生活更美好。这一重要进展绝不能以牺牲民权或民主价值观为代价。”