疫情期间,网络交流为我们提供了生命线,让我们都敏锐地意识到了支撑我们生活的技术。我们也看到了社会不平等的深度。人们越来越意识到两者之间的危险联系,但这种认识仍然有限。 去年,英国政府部署的人工智能 (AI) 取代考试,低估了来自贫困家庭学生的表现,A-Level 学生举着横幅上街游行,高喊“你的算法不认识我”。随后,英国内政部因使用算法筛选签证申请而受到成功挑战。据说,该算法在签证系统中根深蒂固地形成了不公平和种族主义的决策——“白人快速登机”。 在这种背景下英国尚未就人工 智能战略做出关键决定。它现在已脱离欧盟,而欧盟于 2021 年 3 月成为世界上第一个制定人工智能全面法律框架的政治体系。其提案旨在保证“人民和企业的安全和基本权利,同时加强整个欧盟对人工智能的采用、投资和创新”。 框 1:欧盟新人工智能拟议法规概述 拟议法规采用基于风险的系统,禁止构成“不可接受风险”的系统。这些系统包括以可能造成身体或心理伤害的方式操纵行为的系统、剥削儿童的系统、使用“社会评分”的系统(如中国所见)以及使用“实时”远程生物识别系统(严格条件除外)。 如今,几乎无法想象没有智能手机的日子会怎样,而 WhatsApp 是我们日常互动中不可或缺的一部分。专注于使用 WhatsApp 消息传递的俄罗斯民众 俄罗斯 WhatsApp 号码数据 数据是非常有意义的。对于任何热衷于与庞大人口进行宣传和积极互动的政府来说。由于俄罗斯面积大、人口多,使用 WhatsApp 应用程序进行大众传播是合理的。 高风险系统包括机械医疗设备和车辆中的人工智能 用于管理关键基础设施,用于生物识别和人员分类,为招聘决策提供信息,评估信用评分,以及会对欧盟基本权利产生不利影响的系统。此类系统将满足各种要求,涉及使用的数据、记录保存、监督、透明度、准确性、安全性。 聊天机器人等有限风险系统将有特定的义务。例如,让用户意识到他们正在与机器交互。 欧盟的提案(见方框 1)意义重大,因为它们协调了一些非常复杂的问题,并奠定了第一个法律基础。尽管如此,一些人认为它们还不够。例如,它对生物特征识别使用的限制在某些方面被认为不够充分。 我们和人工智能旨在提高公众对人工智能风险和回报的认识和理解。其政策顾问 Claudine Tinsman 博士指出,尽管该法规第 5 条禁止在公共场所使用远程生物特征识别,但它仅适用于用于执法目的的“实时”系统。 这并没有解决“非实时”面部识别在警务中的使用问题 非实时应用程序仍可用于识别人员,或由公共当局或私人行为者用于其他用途。 其他例外情况意味着它不禁止使用实时面部识别来识别在非法情况下进入或居住在成员国的嫌疑人,例如移民和难民。廷斯曼指出,60 多个非政府组织呼吁欧盟委员会禁止使用人工智能系统自动识别性别和性取向。法规草案中没有包含这样的禁令。也没有禁止将生物识别技术用于识别以外的目的,例如用于情绪感知(见方框 2)。 方框 2:情绪感知人工智能 最近有传言称,中国政府正在将维吾尔族人作为未经验证的人工智能情绪感知程序的预先判断的测试对象。这些程序就像测谎仪一样,经过训练可以检测和诊断皮肤毛孔和面部运动的微小变化。 在世界杯和奥运会等赛事中,人工智能系统通过分析人们头部的振动来确定心理和情绪状态。 类似的系统已用于检测美国和欧盟边境的欺骗行为 尽管人们担心缺乏任何可靠的证据 直播带货,怎么就止不住翻车 来证明其准确性。根据新的欧盟法律,此类情绪检测系统被视为高风险,但并未被禁止。 Tinsman […]