禁用ChatGPT立即生效！这个国家出手，最高或罚款2000万欧元

意大利数据监管局3月31日颁布对人工智能应用程序ChatGPT的禁令。综合外媒报道，意大利数据监管局说，ChatGPT无法验证用户年龄，并“让未成年人接触与自身发育程度和意识绝对不匹配的答案”。

意大利数据监管局曾于上星期一（20日）说，ChatGPT发生了涉及用户对话和支付信息数据泄露等事件。它还指出，目前没有法律依据可以证明，“为‘训练’平台运行的算法而大量收集和存储个人数据”是合理行为。

OpenAI要在20天内说明将如何解决意大利数据监管局的担忧，否则将被处以2000万欧元，或高达公司年收入4%的罚款。

该禁立即生效，将导致ChatGPT和其意大利用户的数据处于临时限制状态。

此前3月23日，OpenAI的首席执行官Sam Altman公开承认开源库中出现错误，导致部分用户与ChatGPT的聊天记录被泄露。当天他发布致歉推文，表示已经修复了错误并完成验证，他表示“我们对此感到很难过”。

欧盟执法机构欧洲刑警组织（Europol）3月27日警告称，人工智能聊天机器人ChatGPT可能被滥用于网络钓鱼、宣传虚假信息以及网络犯罪。“ChatGPT能够起草高度逼真的文本，这使其成为网络钓鱼的有用工具。”欧洲刑警组织表示。

该机构表示，由于该聊天机器人拥有复制语言模式的能力，可以模仿特定个人或群体的说话风格，犯罪分子可能会利用它来瞄准受害者。

自去年11月发布以来，ChatGPT掀起了一股科技热潮，包括微软、谷歌和Meta在内的几乎所有科技巨头都参与到了该领域。企业纷纷将ChatGPT或类似技术集成到自己的应用程序和产品中。

根据瑞银上月发布的一份研究报告，今年1月，也就是ChatGPT发布两个月后，其月活跃用户就已经达到了1亿，成为史上增长最快的消费者应用。

 

比已知更可怕！马斯克等1000多科学家，叫停AI研发

据华人生活网综合报道：当全社会都在为AI的进化而欢呼雀跃，全新的、意想不到的风险可能也正在悄悄酝酿。

3月28日，包括马斯克、苹果联合创始人斯蒂夫·沃兹尼亚克在内的1000多名人工智能专家和行业高管签署了一份公开信，他们呼吁暂停AI系统的训练，理由是对社会和人性存在潜在风险。

这封公开信由非营利性组织Future of Life Institute发布，信的开头写道：“广泛的研究表明，具有与人类竞争智能的AI系统可能会对社会和人类造成深远的风险，这一点也得到了顶级AI实验室的承认。”

他们呼吁至少暂停训练比GPT-4更强大的AI系统6个月。

目前签名的有，图灵奖得主Yoshua Bengio、Stability AI首席执行官Emad Mostaque、苹果联合创始人Steve Wozniak、纽约大学教授马库斯、马斯克，以及人类简史作者Yuval Noah Harari等等，签名人数还在持续增加中。

公开信指出，最近几个月，人工智能实验室陷入了一场失控的竞赛，他们致力于开发和部署更强大的数字思维，但即使是研发者也不能理解、预测或可靠地控制这些数字思维。诸多研究表明，具有与人类匹敌智能的人工智能系统可能对社会和人类构成深远的风险。

他们呼吁在GPT进一步强大之前，需要首先就此类大模型达成由独立专家开发、实施并审核的共享安全协议。只有当我们确信它们的影响是积极的，并且它们的风险是可控的时候，才能开发更强大的人工智能系统。

马斯克曾多次呼吁对人工智能的监管，2022年12月，他在推文称，没有对人工智能的监管，这是一个主要问题。十多年来，我一直在呼吁人工智能安全监管！他还在GPT4发布后再次表达担忧称，我们人类还有什么可做的？

如今，GPT一次又一次震撼世界，而对于它未来的应用，人们更是充满了想象。但人工智能的立法，世界各国都没有跟上，也导致了其混乱的“开发”中，斯坦福科学家Michal Kosinski在看到了GPT4后就曾表示：

“这样下去，人类无法持久地遏制住AI。AI很聪明，会编码，能接触到数百万个人和电脑。GPT打开了物种灭绝的大门。”

有人询问GPT4，为什么马斯克要让你暂停。

GPT4回答：马斯克叫停GPT训练可能有多种原因，其中一个可能是担心模型被误用或滥用，尤其是在自然语言生成和信息操纵方面。GPT模型能够生成自然语言文本，包括虚假或有害信息，这可能会对社会和个人造成危害。

此外，GPT模型也可能有隐私问题，因为它可以生成人类语言，可能会包含敏感信息。GPT认为，叫停GPT训练主要是出于对社会责任和技术发展的前瞻性方面的考虑。

它还提到，GPT模型可能存在一些局限性，或者不是解决某些问题的最佳方法，因此需要尝试寻找更好的替代方案。

这样的完美的回答，又有多少人能胜过GPT呢？

想象下，是否应该让机器用宣传和谎言充斥我们的信息渠道？是否应该让所有的动作都变得自动化，即使是令人满意的工作？是否应该发展可能某一天会超越我们、淘汰我们、取代我们的非人类智能？是否应该冒险失去对人类文明的控制？

也许曾经科幻电影中的人类被机器人控制的时代，一瞬就到，如果AI不再对人类忠诚，我们是否做好了准备呢？

来源：温哥华港湾、华人生活网综合