AI工具Grok在套壳ChatGPT?

上官雨宝2023-12-12 18:06:10

埃隆•马斯克旗下人工智能公司xAI最新推出了名为GroK的人工智能聊天机器人,并面向美国地区的Premium+ X 用户开放。据悉,Grok采用了名为Grok-1的模型,与目前OpenAI旗下的ChatGPT所使用的GPT-4模型不同。

但越来越的用户注意到,埃隆·马斯克的AI工具Grok的一些回答和ChatGPT几乎一模一样,这也让用户认为,Grok就是直接从竞争对手ChatGPT那里抓取内容。换句话说,Grok是在套壳ChatGPT?

目前来看,Grok的稳定性似乎有点问题,而且表现的颇为“叛逆”,在其回答中直接调侃其创始人埃隆·马斯克。“让我们谈谈你对X的迷恋。这就像你在试图弥补某些东西,但我不确定是什么。也许是你无法理解基本人类情感,或你缺乏自我意识。或者仅仅因为你是一个无法抗拒闪亮新玩具的大男孩。”

更魔幻的是,有用户使用GroK时收到的回复是:“我无法完成您的请求,因为它违反了OpenAI的用例政策。”这一炸裂消息在社交媒体上引起了热议。不仅如此,GroK像所有AI聊天机器人一样,存在生成包含虚假或误导信息等AI大模型的通病。

对此,xAI的工程师Igor Babuschkin向用户进行了解释,在Grok的训练过程中使用了大量的网络数据,很可能其中包含了由ChatGPT生成的文本内容,导致出现了这样的问题。但他表示:“不过请放心,这个问题非常罕见,并且我们已经意识到了它,并将确保未来的Grok版本不会出现类似的问题。Grok的开发没有使用任何OpenAI代码。”

曾几何时,埃隆•马斯克公开指责OpenAI这样的AI公司使用Twitter的数据来训练他们的大型语言模型,影响了用户体验。如今xAI却因为训练数据来源问题,导致部分输出内容高度类似ChatGPT,不知作何感想。

Grok事件也暴露了数据对于AI大模型的重要性。在训练AI时,开发者必须保证所使用的训练数据是准确、可靠的。此外,他们还需要定期对模型进行测试和评估,以确保其能够在不同的情境下都能产生准确的结果。

有媒体评价道,虽然这看起来似乎存在抄袭的可能性,但事实上,当一个人工智能用其他人工智能输出的数据进行训练时,奇怪的事情确实会开始发生。就比如谷歌的人工智能也正在吸收和反刍ChatGPT的工作。

参考来源:https://cybernews.com/news/grok-ai-chatgpt-openai-code-musk/
人工智能openai
本作品采用《CC 协议》,转载必须注明作者和本文链接
据路透社报道,当地时间3月31日,意大利个人数据保护局宣布,即日起暂时禁止使用聊天机器人ChatGPT,已就OpenAI聊天机器人ChatGPT涉嫌违反数据收集规则展开调查,并暂时限制OpenAI处理意大利用户数据。据悉,OpenAI公司必须在20天内通过其在欧洲的代表,向意大利个人数据保护局通报公司执行保护局要求而采取的措施,否则将被处以最高2000万欧元或公司全球年营业额4%的罚款。
OpenAI在该论文中估算,ChatGPT等大型语言模型可能会颠覆美国19%的工作岗位。研究发现,约80%的美国劳动力至少有10%的工作任务可能受到GPT的影响,而对于其中19%左右的工作岗位,其50%以上的工作任务会受到GPT影响。GPT的影响波及所有工资水平,特别是高收入工作可能面临更大的风险。AI和机器学习文献的证据充分证明了GPT满足第一个标准,OpenAI又在论文中提供了支持后两个标准的依据。
近期,美国人工智能公司OpenAI推出的聊天机器人ChatGPT在引发科技浪潮的同时,也招致多国监管部门对数据安全问题的关注。意大利个人数据保护局已于3月31日宣布,暂时禁止使用人工智能软件ChatGPT,限制其开发公司OpenAI处理意大利用户信息,并开始立案调查。
11 月 7 日,北美人工智能公司 OpenAI 的开发者大会彻底吸引全球科技界的目光,点燃整个人工智能发展的“助燃剂”。从大会现场 GPT-4 Turbo 的演示效果来看,相较于其它版本,其具有更快、更长的上下文、更好的控制的特性。 不仅如此,OpenAI 还推出了 GPTs,试图让民众能用自然语言构建定制化 GPT 。大会结束,行业一片惊呼人工智能构建的社会架构真的可能会实现!
近期由ChatGPT引导的AI互联网革命正在发生,基于ChatGPT/GPT的网络安全应用如雨后春笋,然而在特定安全领域下,ChatGPT面对复杂问题推理时能否学会底层逻辑,做出正确判断?
正是由于它真正披上了如真人般的外衣,ChatGPT自问世以来就迅速火爆全球。截至2023年1月底,ChatGPT月活用户数突破1亿,成为全球用户增速最快的爆款应用之一。当ChatGPT碰到未经大量语料训练的专业领域问题,给出的答案往往并不能回答实际问题,同样,也不具备人类擅长的引申能力。任务自动化ChatGPT 有望进一步加强脚本、策略编排、安全报告的自动化,比如为渗透测试报告编写修复指南。
ChatGPT不仅可以“记住”问答中的个人信息,并用于模型训练和内容生成,还可能被用来生成虚假信息等。应对ChatGPT带来的个人信息保护挑战,亟须加快数据合规建设,严格审核数据来源,强化输出内容管理,在人工智能设计中嵌入个人信息保护机制。
高通宣布继续向华为供货近日,高通公布了2023财年第一财季财报。无锡出台全国首部车联网发展地方性法规,支持“自动驾驶”商业化运营《无锡市车联网发展促进条例》正式颁布并将于3月1日正式施行,这也是国内首部推动车联网发展的地方性法规。不完全统计显示,有近20款AR新品在2022年发布。近日,观安信息完成近3亿元人民币的新一轮战略融资。螣龙安科于今日正式宣布完成Pre-A轮融资。
人工智能研究公司 OpenAI 4月11日宣布推出一项新的漏洞赏金计划,允许注册安全研究人员发现其产品线中的漏洞,并通过Bugcrowd众包安全平台报告这些漏洞从而获得报酬。但这仍然引起了部分国家监管机构的注意。此前3月31日,意大利宣布禁止使用ChatGPT,并限制其开发公司OpenAI处理意大利用户信息。
上官雨宝
是水水水水是