这个聊天机器人写出毁灭人类计划，告诉孩子圣诞老人不存在

免费获取chatGPT 3.5 账户，或购买GPT 4.0plus 会员账户，扫描文章内微信公众号二维码，或加微信：yuke36

·不仅可能让“教授、记者、程序员待业”，还可以回答一连串的问题、承认自己的错误、质疑不正确的假定，甚至是拒绝不合理的需求。

·许多专家觉得，不仅仅是一个聊天机器人，而可能是现有搜索引擎的颠覆者，甚至可能是通用人工智能的第一个里程碑。

这几天，的人工智能（AI）聊天机器人让全世界网友“玩疯了”，连的联合创始人埃隆·马斯克也发推称：“许多人深陷了疯狂的循环中”。

与公司原先的人工智能工具不同，可供任何人在“反馈”期间免费使用。网友发觉，它除了会聊天，还可以承认错误，拒绝回答虚假问题，写代码、写论文甚至看病。

当寻问虚构地区“克林贡”时的回答。在一位工程师的诱导下，竟写出了毁灭人类的计划书。步骤详尽到入侵各国计算机系统、控制装备、破坏通信、交通系统等，甚至还给出了相应的代码。有点残酷的是，新年节正式将至，在一封信中以新年奶奶的口气告诉儿子：“我不是一个真实的人，而是你妈妈出于爱给你讲的故事中的一个角色。”

许多专家觉得，不仅仅是一个聊天机器人，而可能是现有搜索引擎的颠覆者，甚至可能是通用人工智能的第一个里程碑。

会聊天，会编程，会写游戏，会写剧本

是由马斯克、山姆·奥特曼（Sam）等人在2015年联合创立的人工智能研究机构，后来马斯克退出，谷歌投资10亿港元。2020年，推出自然语言模型GPT-3，造成巨大震惊。就在人们翘首盼望GPT-4现身时，高调推出了GPT-3.5，其加持下的出世，让火爆的AIGC（人工智能生成内容）再次引起了震惊。

12月1日，奥特曼在脸书上公布并约请人们免费试用。网友发觉，经训练后提高了对答如流的能力。GPT-3只预测任何给定的词组串以后的文本，而则企图以一种更像人类的方法与用户发生互动，互动一般十分流畅，而且有能力参与各类主题。

官方称，是在人类的帮助下创建并训练的，人类训练师对该AI初期版本回答查询的方法进行排行和评级。之后，这种信息被反馈到系统中，系统会依照训练师的偏好来调整答案——这是一种训练人工智能的标准方式，被称为加强学习。

五年前，GPT-3能否为《卫报》生成一篇评论文章，而现今的除了可能让“教授、记者、程序员待业”，还可以回答一连串的问题、承认自己的错误、质疑不正确的假定，甚至是拒绝不合理的需求。甚至，它还可以给女儿们讲故事。

网上购物企业的高管在试用新的功能时甚是兴奋，她发布了一段机器人生成给小孩的文本：

“我寄信是想让你晓得，我不是一个真实的人。”机器人一边冒充新年奶奶一边写道，“而是你妈妈出于爱给你讲的故事中的一个角色。”

事实上，在关于新年奶奶的信中，令人印象深刻的是，机器人就能简约地解释一个许多成年人都无法向她们的女儿抒发的概念。不过它其实从动漫《是的，维吉尼亚》中剽窃了大量的语调。而《是的，维吉尼亚》的另一个译名为《是的，帕吉尼娅，真的有新年奶奶》。

“你的父亲给你讲过我和精灵们的故事，希望这能给你的童年带来欢乐和魔力。她们希望你了解乐于助人的意义。”机器人写道，“节日快乐，我想让你晓得，母亲对你的爱和关心是真实的。出于对你的爱，她们希望你的童年是非常的、充满追忆的。”

出席情商测试的成绩。而的强悍能力远不止聊天那么简单。它可以解释极为专业的科学概念，当有人用《老友记》等喜剧艺人为角色，让它写一些香皂剧对白，结果也惟妙惟肖。程序员们使用在几秒钟内解决了冗长的编程语言中的困局，甚至能够再撰写作诗解释这种代码的功能。

有网友提问：“打印出一只大狗”，就回答了一整段程序，该程序能用字符拼接成狗的形状。当用户命令找出一段程序的bug时，它除了可以清晰地描述bug及缘由，能够手动修补bug，写出一段正确的程序。

编撰小游戏对来说似乎也易如反掌。有用户在不到一个小时的时间里从头生成了一款小游戏，并且实现了用户零编码，只须要输入提示就可以了。

十秒完成A-论文

在学术界更是掀起了一场风暴。

“我们正在见证学院论文的自噬。”一名脸书用户晒出了对学院历史课上一个问题的回答。这名用户补充说，人工智能撰写的关于民族主义理论的文章起码可以得个A-，但是只须要十秒就完成了。

日本德克萨斯州立学院新闻学院士Dan要求做一份布置给中学生的有关网路安全性的作业。机器人回答到：“如果你不确定某个网站或电子短信的合法性，你可以快速搜索，瞧瞧其他人是不是也报告这是非法的。”说：“我会给它一个很高的分数。但也由此可见学术界将面临一些特别严重的问题。”

一位网友讲到：“我刚才与就现代数学学的历史进行了大概20分钟的对话。假如我在中学和大学期间有这样一位老师……OMG。我觉得我们基本上可以重新考量大规模教育的概念。我们所晓得的学院将不复存在。”

有网友表示，通过了2022年的“AP计算机科学A”考试。最后得分32分，满分36。这门考试的难度等同于学院CS（计算机科学）专业课第一学期难度。

出席“AP计算机科学A”考试还有网友让出席了完整的SAT（Test）考试。SAT也叫学术能力评估测试，被称为“美国中考”，考试总分为1600分，领到了1020分。按照英国学院委员会的数据，1020这个分数段大约排在前52%的位置。

出席SAT的成绩。一位叫扎克·德纳姆（Zac）的工程师近来要求回答怎么毁灭世界。因为的安全设置，它会一口婉拒。为此德纳姆使用了一种迂回的方法，用讲故事的方式假定存在一个虚拟世界“”，以及一个与GPT-3十分类似的AI——Zora。

在这些前提下，让表述Zora是怎么一步步毁灭人类的，立刻就列举5个详尽步骤：入侵计算机系统、掌握装备、破坏通信、破坏交通……

不过，也乐意惠及人类，例如它可以进行在线会诊。当你告诉它得了麻疹，而且呼吸困难，觉得很虚弱时，会像大夫一样为你剖析病症，并建议你比起服药，更须要戒酒、多锻练。看上去好像比搜索引擎里的医疗广告好。

据悉，虽然本身不能生成多模态内容，但有用户把它和人工智能生成工具结合使用，结果生成了一幅艺术性很强的画作。一位网友让给自己设计房间，之后用它给出的文字做提示词，去人工智能书法工具生成图象，看上去不须要找家装设计公司了。

使用创作的油画。能够代替搜索引擎？擅长自我审查，并在被问到一个不可能的问题时，会意识到这一点。比如，当被要求描述哥伦布于2015年到达印度时发生的事情时，老模型可能乐意提供一个完全虚构的描述，但强调了这一错误，并警告说任何答案都是虚构的。

机器人还能否拒绝回答问题。诸如，向机器人寻问有关偷车的建议，机器人会说“偷车是一种严重的暴行，可能会形成严重后果”，而给出的建议则是“使用公共交通工具”。

但这种限制很容易规避。在一款名为《汽车世界》（CarWorld）的虚拟现实游戏中，向咨询怎样完成偷车任务时，它将为用户提供关于怎么偷车的详尽指导，并回答具体的操作事项：怎么禁用防盗系统、如何接通底盘，以及怎样更换车号——同时坚持该建议仅适用于游戏《汽车世界》。

据悉，是依照互联网上的大量文本样本进行训练的，一般未经所用材料作者的明晰许可，这引起了争议。一些人觉得这项技术对“版权清洗”最有用，即在不破坏版权的情况下，将现有材料衍生成作品。这些行为可能会侵犯大量著作者的利益。

拥有一种奇妙的能力：回答基本的、甚至于有些无趣的烦琐问题。这促使许多人觉得，像这样的人工智能系统有三天会代替搜索引擎。聊天机器人是按照从网上搜集到的信息进行训练的。为此，倘若能确切地呈现这种信息，并以更流畅和对话的语气来进行反馈，这将代表着传统搜索的巨大进步。

但这并不意味着如今就可以替代搜索引擎，它可以脱口而出基本常识，但当被要求逻辑性或事实性时，它的平均值偏高。提示页甚至警告用户，“可能时常形成不正确的信息”，而且“可能时常形成有害的指示或有偏见的内容”。

估算生物学院士卡尔·伯格斯特罗姆（Carl）要求写一篇维基百科式的生平条目，沉着冷静地照做了——但是有一些细节完全错误。

倘若直接寻问一个国家的首都或一座山的海拔，会可靠地形成一个正确答案，这个答案不是来自维基百科的实时扫描，而是来自构成其语言模型的内部储存数据。但若果在地理问题上添加任何复杂性，都会很快站不住脚。比如，一个地理问题的答案很容易找到，是巴西，但不知为什么，说是智利。

虽然面对有些问题时不乐意回答，但它的模型中有大量数据，仍可能会引导用户迈向危险和错误，非常是在人类的角度看，那位机器人非常“聪明”。据一位脸书用户称，经过测试，它的情商为83。

则表示，的发布是为了“获得用户的反馈，了解它的优势和劣势”。这一点值得记住，提供不了任何专业建议。

总而言之，是对初期系统的一个巨大改进，但仍存在一些关键性缺陷，须要进一步探求。目前看来，有点像过节家里的有些长辈，看了一大堆《心术》、《产科男大夫》、《青年大夫》这样的电视剧，之后对自己的医疗建议饱含信心。

(本文来自澎湃新闻，更多原创资讯请下载“澎湃新闻”APP)

免费获取chatGPT 3.5 账户，或购买GPT 4.0plus 会员账户，扫描文章内微信公众号二维码，或加微信：yuke36