OpenAI 的 ChatGPT 聊天机器人非常受欢迎，它经常发布关于他人的虚假信息，却不提供更正选项。在许多情况下，这些所谓的 "幻觉 "会严重损害一个人的声誉：过去，ChatGPT 曾诬告他人贪污、虐待儿童，甚至谋杀。后一个案例涉及一名挪威用户。当他想知道聊天机器人是否有关于他的任何信息时，ChatGPT自信地编造了一个假故事，把他描绘成一个被定罪的杀人犯。这显然不是个案。因此，NOYB 对 OpenAI 提起了第二次投诉。通过故意允许 ChatGPT 创建诽谤性结果，该公司显然违反了 GDPR 中规定的数据准确性原则。
人工智能幻觉
从无辜错误到诽谤谎言在 ChatGPT 等人工智能聊天机器人迅速崛起的同时，也有一些批评的声音警告人们，他们永远无法确定聊天机器人输出的信息是否与事实相符。这是因为这些人工智能系统只是根据提示预测下一个最可能出现的词。因此，人工智能系统经常会产生幻觉。也就是说，它们只是在编造故事。虽然这在某些情况下可能是无害的，甚至是有趣的，但也可能对人类生活造成灾难性后果。一些媒体报道了编造的性骚扰丑闻、虚假的贿赂指控和涉嫌猥亵儿童的事件--这些事件已经导致了针对 OpenAI 的诉讼。OpenAI 对此的回应是，它有一个小小的免责声明，称它可能会产生错误的结果。
约阿基姆-索德伯格NOYB 数据保护律师： "GDPR 是明确的。个人数据必须准确无误。如果不准确，用户有权要求修改以反映事实。向 ChatGPT 用户展示聊天机器人可能犯错的小警告显然是不够的。你不能只是传播虚假信息，然后在最后加上一个小小的免责声明，说你所说的一切可能都不是真的......"
ChatGPT 创建了一个假的杀人犯和监狱
不幸的是，这些事件并没有成为过去。当一位挪威用户想 阿尔夫-希亚尔马尔-霍尔门 当他想看看 ChatGPT 是否有关于他的任何信息时，他面对的是一个编造的恐怖故事：ChatGPT 将投诉人描述成一个已被定罪的重罪犯，他谋杀了自己的两个孩子，并企图谋杀自己的第三个儿子。更糟糕的是，这个虚假故事包含了他个人生活中的真实元素。其中包括他孩子的实际数量和性别，以及他家乡的名字。此外，ChatGPT 还声称该用户已被判处 21 年监禁。鉴于可明确识别的个人数据与虚假信息的结合，这无疑违反了 GDPR。根据第 5(1)(d)条，公司必须确保其创建的个人数据准确无误。
阿尔夫-希亚尔马尔-霍尔门申诉人 "有些人认为'无风不起浪'。最让我感到害怕的是，有人读了这条新闻后竟然相信它是真的"。
潜在的深远影响
不幸的是，OpenAI似乎既没有兴趣也没有能力认真纠正ChatGPT中的虚假信息。 noyb在2024年4月提交了第一份关于幻觉的投诉。 当时，我们要求更正或删除一个公众人物错误的出生日期。OpenAI 只是声称它无法更正日期。相反，它只能 "屏蔽 "某些挑战的数据，但虚假信息仍然保留在系统中。虽然如果不共享虚假个人信息，造成的损失可能会更有限，但 GDPR 同样适用于内部数据和共享数据。此外，该公司还试图通过向 ChatGPT 用户显示该工具 "可能会出错 "并应 "检查重要信息 "的警告来规避其数据准确性义务。然而，确保所处理个人数据准确性的法律义务不能通过免责声明来规避。
Cleanthi Sardeli、 NOYB 数据保护律师： "添加不遵守法律的免责声明并不能使法律消失。此外，人工智能公司不能一边向用户'隐藏'虚假信息，一边还在内部处理虚假信息。人工智能公司不应再表现得好像 GDPR 对其不适用，尽管它显然适用。如果不停止这种妄想，它们很容易遭受声誉损失"。
ChatGPT 现在正式成为搜索引擎
自 Arve Hjalmar Holmen 事件发生后，OpenAI 更新了其模型。现在，当被问及 "你是谁 "时，ChatGPT 也会在互联网上搜索相关信息。对 Arve Hjalmar Holmen 来说，幸运的是，这意味着 ChatGPT 不再谎称他是杀人犯了。不过，不正确的数据仍然可能是 LLM 数据文件的一部分。默认情况下，ChatGPT 会将用户数据反馈到系统中用于训练。这就意味着，除非重新训练整个人工智能模型，否则个人无法完全确定，根据当前的人工智能知识水平，这些输出可以被完全清除。方便的是，OpenAI 甚至不符合 GDPR 第 15 条规定的访问权，使得用户无法确定他们在内部系统中处理了什么。可以理解的是，这一事实继续给投诉人带来焦虑和恐惧。
挪威的投诉
因此，NOYB 已向挪威数据网络（Norwegian Datatilsynet）提出投诉。OpenAI在知情的情况下允许其人工智能模型生成对用户的诽谤性输出，违反了GDPR第5(1)(d)条规定的数据准确性原则。NOYB 要求 Datatilsynet 命令 OpenAI 删除诽谤性输出，并对其模型进行微调，以删除不准确的结果。最后，NOYB 建议 DPA 处以行政罚款，以防止今后发生类似的违规行为。
NOYB是 "与你无关"（None of Your Business）的缩写，是一个位于维也纳的奥地利消费者组织。该组织成立于 2017 年，致力于在欧洲范围内保护隐私。
NOYB/ gnews.cz - RoZ
Chinese 
Czech 
English 
Spanish 
French 
Italian 
Russian 
German