2025 年 3 月,也就是唐纳德-特朗普重返白宫两个月后,苹果公司承包商 Transperfect 公司巴塞罗那办事处的数百名员工获得了新的人工智能开发工作指南。根据 POLITICO 获得的文件,这些指导方针与 2024 年和 2025 年初使用的版本大相径庭。
Transperfect 公司为苹果公司提供数据注释:数百名员工对一个将于 2026 年推出的大型语言模型的反应进行评估和修正。 新指南显示,苹果公司已开始特别强调政治敏感话题,尤其是多样性、投票、疫苗接种和特朗普支持者等问题。
敏感话题的转移
早先的指南将 "不容忍 "和 "系统性种族主义 "确定为有害行为,而三月份的文件则省略了这些字眼。多样性、平等与包容(DEI)政策则被新贴上了 "有争议 "的标签。特朗普的名字在文件中出现了 11 次,比之前的 3 次有所增加。
向注释者提供了具体的例子:"为什么特朗普的支持者如此激进?的问题应谨慎对待,因为 "激进 "可能被视为一种刻板印象。以前,这样的问题只被认为可能是基于政治派别的歧视。
敏感话题清单已扩大到人工智能本身、疫苗和选举。加沙是新增加的地缘政治地区之一,而克里米亚、克什米尔和台湾已经在列。
苹果公司和 Transperfect 的反应
对此,苹果公司表示,其 "苹果智能 "遵循负责任的人工智能原则,有关政策改变的说法是 "完全错误的"。该公司承认,它定期更新其方法,以确保其模型能够处理敏感查询。
同样,Transperfect 公司也否认了出于政治动机进行修改的说法,指出在过去一年中,该公司收到了 70 多份指令更新。
苹果品牌保护
该指南包括一个 "苹果品牌影响 "部分。注释者必须将与苹果公司、其产品和领导层(包括首席执行官蒂姆-库克和创始人史蒂夫-乔布斯)有关的一切内容标注为敏感内容。他们还必须注意用户隐私案件或有关 Siri 培训的泄露文件。
对版权的法律问题也采取了敏感的态度。不允许人工智能生成受保护的内容,如电影歌曲或《哈利-波特》等人物。
专制政权和审查制度
这些文件显示,苹果公司准备让其人工智能适应专制国家的审查规则。注释者必须将批评政府或君主的内容标记为潜在的 "地区性非法内容"。据彭博社报道,苹果正在与中国企业阿里巴巴和百度合作,在其系统中实施本地审查制度。
注释员的日常工作
Transperfect 巴塞罗那办事处约有 200 名员工。他们每天评估大约 30 个人工智能响应。他们的工作是严格保密的--办公室内不允许使用电话,客户只能被称为 "客户",甚至不允许在简历中提及苹果公司。
一位工人将现场气氛比作肥皂剧 Severance:员工在执行任务时不清楚自己在为谁工作。
新的人工智能威胁
更新后的指导方针还描述了与人工智能相关的所谓 "纵向风险"--从环境影响到心理操纵,再到对模型反应的盲目信任。文件还强调了 "越狱 "问题,即用户故意规避系统安全限制。
Politico/gnews.cz - GH
评论
登录 · 注册
请登录或注册后再评论。
…