意大利宣布禁用 ChatGPT 聊天机器人,将调查 OpenAI 的隐私保护问题

VSole2023-04-04 10:14:41

据意大利安莎社报道,意大利已成为第一个禁用聊天机器人 ChatGPT 的西方国家。意大利数据保护机构表示,该模型存在隐私问题,该模型由美国初创公司 OpenAI 创建,并得到微软的支持。

意大利数据保护机构称对 OpenAI 的禁止和调查已于 3 月 31 日“立即生效”。OpenAI 告诉英国广播公司 BBC,该公司遵守了意大利的隐私法,已在意大利下线了 ChatGPT。

人们一直担心人工智能 (AI) 的潜在风险,包括它对工作的威胁以及错误信息和偏见的传播。本周早些时候,包括埃隆・马斯克在内的科技界人士呼吁暂停开发更高级的 AI 系统。意大利数据保护机构则表示,意大利不仅会阻止 OpenAI 的聊天机器人,还会调查它是否符合通用数据保护条例。

3 月 23 日,OpenAI 的首席执行官 Sam Altman 曾公开承认开源库中出现错误,导致部分用户与 ChatGPT 的聊天记录被泄露。

意大利监管机构称,由于无法验证用户的年龄,ChatGPT 也让未成年人接触到“与其发育程度和意识相比绝对不合适的答案”。OpenAI 有 20 天的时间来说明它将如何解决监管机构的担忧,否则将被处以 2000 万欧元(IT之家备注:当前约 1.49 亿元人民币)或高达年收入 4% 的罚款。

此外,爱尔兰数据保护委员会也表示,该机构正在与意大利监管机构跟进,以了解他们采取行动的依据,并“将与所有欧盟数据保护机构就禁令进行协调”。

英国独立数据监管机构信息专员办公室也称,它将“支持”人工智能的发展,但它也准备好“挑战”不遵守数据保护法的行为。

值得一提的是,谷歌的 AI 聊天机器人竞品 Bard 现已推出,但仅限于 18 岁以上的特定用户使用,预计也是出于同样的担忧。

监管机构聊天机器人
本作品采用《CC 协议》,转载必须注明作者和本文链接
近期,美国人工智能公司OpenAI推出的聊天机器人ChatGPT在引发科技浪潮的同时,也招致多国监管部门对数据安全问题的关注。意大利个人数据保护局已于3月31日宣布,暂时禁止使用人工智能软件ChatGPT,限制其开发公司OpenAI处理意大利用户信息,并开始立案调查。
据意大利安莎社报道,意大利已成为第一个禁用聊天机器人 ChatGPT 的西方国家。意大利数据保护机构表示,该模型存在隐私问题,该模型由美国初创公司 OpenAI 创建,并得到微软的支持。意大利数据保护机构称对 OpenAI 的禁止和调查已于 3 月 31 日“立即生效”。
美国人工智能技术公司OpenAI首席执行官阿尔特曼当地时间16日出席国会参议院一委员会听证会,呼吁政府应加强对人工智能技术监管。ChatGPT发布后立刻引发各界关注。当天的听证会在参议院司法委员会下属的隐私、技术和法律委员会举行。阿尔特曼表示,政府可成立监管机构,向人工智能公司发放牌照,如不符合相应安全标准,则吊销牌照。阿尔特曼强调,人工智能技术将以不可预测的方式改变社会,甚至给世界带来“严重危害”,因此监管至关重要。
OpenAI首席执行官山姆·奥特曼表示,人工智能对世界的改变比我们想象的要小得多,对工作的改变也比我们想象的小得多。
随着工作中聊天机器人的广泛使用,使员工无意中就会共享敏感数据,人为因素对数据安全的影响变得愈加严重。值得注意的是,亚马逊、苹果和Spotify等大公司正在采取措施来防止数据泄露。
莉娜·汗在当地时间周四在国会出席作证时,曾对AI表示担忧,称执法者“需要尽早警惕”AI等变革性工具。当地时间周四,他在推特上表示,OpenAI技术的安全性“非常重要”。OpenAI已经面临国际监管压力。今年3月,意大利数据保护机构禁止了ChatGPT,称OpenAI非法收集用户的个人数据,并且没有适当的年龄验证系统来防止未成年人接触非法信息。OpenAI在4月恢复了对该系统的访问,并表示已按照意大利监管部门的要求进行了更改。
针对这些问题,有专家学者提出应对ChatGPT“制定专门立法”“制定配套措施”。ChatGPT及其类似产品本身不具有社会危害性,关键在于以不当方式使用可能导致一定的损害结果。针对ChatGPT可能引发的网络钓鱼邮件等网络诈骗风险,应当明确作为“危险制造者”的研发机构、网络平台经营者在此类产品投入市场之前进行安全风险评估,确保风险可控。
针对这些问题,有专家学者提出应对ChatGPT“制定专门立法”“制定配套措施”。ChatGPT及其类似产品本身不具有社会危害性,关键在于以不当方式使用可能导致一定的损害结果。针对ChatGPT可能引发的网络钓鱼邮件等网络诈骗风险,应当明确作为“危险制造者”的研发机构、网络平台经营者在此类产品投入市场之前进行安全风险评估,确保风险可控。
据 SlashNext 介绍,WormGPT 在各种数据源上进行训练,尤其集中在恶意软件相关的数据上,加上输出没有道德限制,可以被要求执行各种恶意任务,包括创建恶意软件和“一切与黑帽有关的事情”,对于网络犯罪分子而言无疑是一大利器。据了解,虽然这些密钥大多是无效的,但有少量序列号也确实是真实可用的。另一方面,作为用户的我们也应时刻保持谨慎,避免对 AI 产生过度依赖。
OpenAI已经发布新的工具,使用户能够更好地管理自己的信息。在意大利暂时禁止ChatGPT进入该国后,欧洲数据监管机构已经联合起来关注OpenAI。不过,OpenAI也表示,它正在采取措施减少收集的数据量。已经要求OpenAI提供数据的人对其回应并不满意。意大利数据监管机构表示,OpenAI声称目前“在技术上不可能”纠正不准确的信息。OpenAI表示,当聊天记录被关闭时,它将继续保留所有对话30天“以监控滥用”,之后它们将被永久删除。
VSole
网络安全专家