ChatGPT 和 Bing Chat 为何擅长捏造故事?

标签: chatgpt bing chat | 发表时间:2023-04-07 21:33 | 作者:
出处:https://www.solidot.org
法学教授 Jonathan Turley 发现自己被 ChatGPT 列入了性骚扰名单,澳大利亚一位市长发现 ChatGPT 声称他有贿赂罪被判处监禁,为什么 AI 聊天机器人 ChatGPT 和 Bing Chat 擅长捏造故事?AI 研究人员通常将此类错误称为“幻觉(hallucinations)”,一部分人认为这个形容词太拟人化了,暗示了它们能自己做决定。商业大语言模型的创造者可能会以此为借口将错误输出归罪于模型本身而不是他们自己。“虚构”可能是更恰当的比喻。在人类心理学中,记忆出现空白,在无意欺骗他人时大脑会虚构出空白部分。ChatGPT 与人脑的工作原理不同,但虚构是更合适的比喻。ChatGPT 事实上已经比它的前辈能更有效的抑制虚构了。这种虚构能力与大语言模型的工作方式相关。ChatGPT 等模型是根据统计概率挑选出一个适合上下文的词,当它寻找其数据集中不存在的信息时,它会用看似合理的词贴补空白。它是使用海量的数据集训练的,编造虚构故事对其而言就是信手拈来,它还能根据上下文让虚构的故事看起来逼真。AI 研究人员使用名叫 temperature(温度)的属性去控制模型的这种胡编乱造的“创造性”。如果它的值设置过低的话准确度会提高但会变得不太有趣。平衡创造性和准确度是微调 ChatGPT 之类模型的一大挑战。AI 公司 Hugging Face 的首席伦理科学家 Margaret Mitchel 说,ChatGPT 不是构建去实事求是,因此也不会实事求是。就是这么简单。

相关 [chatgpt bing chat] 推荐:

ChatGPT 和 Bing Chat 为何擅长捏造故事?

- - 奇客Solidot–传递最新科技情报
法学教授 Jonathan Turley 发现自己被 ChatGPT 列入了性骚扰名单,澳大利亚一位市长发现 ChatGPT 声称他有贿赂罪被判处监禁,为什么 AI 聊天机器人 ChatGPT 和 Bing Chat 擅长捏造故事. AI 研究人员通常将此类错误称为“幻觉(hallucinations)”,一部分人认为这个形容词太拟人化了,暗示了它们能自己做决定.

Waze+Yelp+Foursquare+bing=?

- 小班 - 36氪
朋友们可以先想象一下:用户生成实时交通地图+大众点评+签到+搜索引擎=. 好吧,这不是一个留在纸上的创意,而是新版Waze具有的一系列功能. 不熟悉Waze的朋友可以先看以下一小段介绍:. Waze是一款实时交通流量地图绘制应用,绘制主体是开车的司机们. 这些司机都开着带GPS的手机,然后手机会把司机们的行驶速度发到服务器,很多用户聚合起来,就可以知道哪里堵车,哪里不堵了.

Bing高级搜索技巧

- -
These keywords return webpages that contain the specified term in the metadata, such as the anchor, body, or title of the site, respectively. To find webpages that contain “msn” in the anchor, and the terms “spaces” and “magog” in the body, type inanchor:msn inbody:spaces inbody:magog.

ChatGPT的几个声明

- -
ChatGPT是一个免费的研究预览. 我们的目标是获取外部反馈,以改进我们的系统并使其更加安全. 虽然我们已经设置了保障措施,但系统偶尔可能会生成不正确或误导性的信息,并产生冒犯或有偏见的内容. 我们的AI培训师可能会审核对话以改善我们的系统. 请不要在您的对话中分享任何敏感信息. 整个欧洲都有兴趣“封禁”ChatGPT.

Twitter:Google不要我了,Bing你不要走

- 大宝PKU - 36氪
在与Google合作的实时搜索到期而Google又没有续签后,Twitter现在在想办法不让同样的事情发生在微软的Bing身上. 结果可能对于Twitter和Bing来说都意味着很多事情,不签,Twitter将损失2大笔收入(搜索引擎接入它的全功能实时API是要给钱的),并且同样会损失很大的流量. 而Bing,正在辛苦的跟Google抢地盘,它很有机会成为既能接入Facebook又能接入Twitter的唯一一家搜索引擎.

微软和Mozilla发布“Firefox With Bing”

- SUN - Solidot
微软和Mozilla联合发布了一个以Bing为默认搜索引擎的版本“Firefox with Bing”,网站由微软托管. Mozilla在Firefox 4的搜索选项中加入了Bing,Google仍是默认引擎,但微软和Mozilla借此机会达成了收入分享协议. 新的“Firefox with Bing”以Bing为默认搜索引擎,开始页也与Bing进行了整合.

最强语言 AI 诞生 - ChatGPT

- - 煞有介事
没错,最强语言 AI 已经诞生,那就是 ChatGPT. ChatGPT 是 OpenAI 实验室最近推出的语言 AI,上周三推出,今天已经有 100万用户量,甚至马斯克都已经注意到了. 这两天也是各个圈子在一直分享和「玩」,有技术圈、web3 圈. 我也注册试玩了下,从 SEO 角度,内容质量和流畅度确实远超其他 AI 几条街.

ChatGPT背后人工智能算法

- - 今日话题 - 雪球
ChatGPT背后人工智能算法,关键的原创技术,其实全部都是国外公司发明的. 这里做一点简单的科普,人工智能原创性研究,中国还有很大进步空间,ChatGPT也不是普通的公司能够复刻的出来的. 深度残差网络(ResNet)由微软(亚洲)研究院发明. 在此之前,研究员们发现深度神经网络的效果要比浅层神经网络要好得多,这也就是所谓的深度学习.

ChatGPT会取代搜索引擎吗

- - 知乎每日精选
作为智能对话系统,ChatGPT最近两天爆火,都火出技术圈了,网上到处都在转ChatGPT相关的内容和测试例子,效果确实很震撼. 我记得上一次能引起如此轰动的AI技术,NLP领域是GPT 3发布,那都是两年半前的事了,当时人工智能如日中天如火如荼的红火日子,今天看来恍如隔世;多模态领域则是以DaLL E2、Stable Diffusion为代表的Diffusion Model,这是最近大半年火起来的AIGC模型;而今天,AI的星火传递到了ChatGPT手上,它毫无疑问也属于AIGC范畴.

ChatGPT ReAct (Reason+Act) 模式实现

- - hooopo (Hooopo)
ChatGPT 是一个语言模型,对自然语言的理解和输出比人类要强很多,对编程语言和结构化处理相关的问题更是比人类好很多. 对于开发者来说,目前 ChatGPT 存在的几个问题:. 在 Chat 模型里对话过长会出现失忆现象. 前两个问题可以通过 数据填充机制(Augmentation)解决. 后几个问题一般引入 ReAct(Reason+Act) 模式来解决.