认知课01:GPT三个字母到是底什么意思?

大家好。关于ChatGPT,大家既要着急(要比别人更快的了解使用),也不要着急(真正的学习还要沉下心来一点点攻克)。
实操很重要,认知也很重要。
我特别喜欢张一鸣的一句话:你在一件事上的认知深度,就是你在这件事上的竞争力。
我在咱们这个ChatGPT社群的介绍里写了,从大家对ChatGPT的认知上,人群就分层了,其中提到一点:能清晰解释GPT三个字母和其运行原理的人,是更少数人。
我敢说,很多嘴上谈论ChatGPT一个月了且已经在使用的人,也未必知道,甚至一下问你这三个字母是哪三个单词,很多人也答不上来,那我们就放下姿态,想小孩子一样,从最基本的慢慢学。
注:每个人都在学习中,我也是,所以我讲的很多东西不能保证没有差,请多指教。(这种科普帖大佬请忽略 见笑了)
GPT是Generative Pre-trained Transformer.
分别白话一下这三个单词在这个概念里的含义:
一、Pre-trained
意思是:经过预先训练。
怎么理解?类比一下,王建硕老师举过一个例子,我给大家解释一下:
预训练就像你家里面请了一个阿姨,这个阿姨从保洁公司送到你家里面的时候,她其实已经过预训练了。保洁公司已经教会她如何打扫卫生间、收拾厨房、擦玻璃等基础家政工作,她都已经掌握了,她来了之后,我就不用再教了,甚至在她进入保洁公司之前,她曾经在上学的时候老师们已经对她完成了语言理解和表达的预训练。
如果没有经过预训练呢?比如保洁公司只负责招聘和输送,但不培训,那阿姨到你家的时候,是啥也不会的,你要教她怎么打造卫生间、收拾厨房、擦玻璃等。这就费劲了。如果学校也没有预训练过她,可能她正常的沟通都需要你教,这就更费劲了。
预训练过,就会很好用。
ChatGPT也是如此,我们觉得它好用,很强大,是因为它被高强度的预训练过了。如果让我们每个人自己从头到尾训练它,就像从头到尾教保洁一样,那我们是承担不起的。
问题又来了,保洁来了之后,是不是不同家庭不同人要求不同,比如上次来我们家的保洁给我清理纱窗时用了一种清洁剂,我们说:只用清水就行,家里有小宝宝,味道太刺鼻了~
OK,保洁马上听懂,然后调整动作。
类似还有很多。也就是虽然保洁被预训练过,但是每个家庭在请他们做事时,都会“调教”她。
ChatGPT也是如此,我们有时候发现它有很多不好用的地方,或者说真正很好的驾驭它让它辅助我们并不容易,所以我们也要在预训练的基础上“调教”它,行业术语叫Fine-Tuning,就是微调。
ChatGPT,它懂很多语言,知道一些基础基本的逻辑和一些基本的事实,但很多特定知识它是没有的,比如我们公司运营社群的内部手册里的东西,它肯定不知道,所以我需要把我们的手册里的东西灌给它,这样它就是知道了,也能用它的方式根据我们的指令来做输出。
这就是Pre-trained+Fine-Tuning,预训练+微调。
有的东西,它能回答的很好,直接能用,因为它被预训练过了,有的可能还需要微调。
二、Generative
意思是:生成式的。
AI 有非常多种,我们开车进停车场,它可以自动识别车牌,这种叫congnition,识别式的,这是一个大类,各种各样的识别。
ChatGPT的核心就是,我给你一个指令,你生成一个东西。这种归类于generative类,无论它是生成图片,生成文字,它都是一种生成式的模型,或者说,它是一个补全式的模型,我给你开一个头,你帮我把句子给补全。
三、Transformer
意思是:转化器。
我们很多时候写作这个行为,就是一个转换器的行为,我是教写作的,我经常说写作就是对输入处理后的输出,比如我想写一篇关于“复利思维”的文章,那我现在还不太了解这个思维,我就去阅读10篇关于复利思维的文章学习,中间我用自己的大脑吸收思考理解,最后我自己写出一篇关于“复利思维”的好文章。
所以转换器就是把很多输入经过转换后再输出。
现在ChatGPT也可以做这件事了。但它的工作原理和我们有区别。
它的模型里面有两大部分,一个叫做encoder,一个叫decoder,就是编码器和解码器。
我们输入给它的东西,它进行encode编码,后面根据你的不同提示不同指令,它可以进行不同的decode解码。decode解码不一定让我们满意,是因为它在decode时经常会添油加醋。
这个就像,每个人都有一定的学习思考理解能力,但在很多时候,我们读书听课输入后,再输出的东西也不一定让人满意。所以,我们才需要不断学习提升自己。
对ChatGPT也是一样,想让它在decode时表现更好,那也要不断的帮助它提升。
以上,先分享这些。
声明,我是纯纯的文科生,理科一踏糊涂,技术更不懂,这是我学习这个东西的劣势,同样这也是我的优势,因为本质上绝大多数人都是不懂技术的“文科生”,我有机会弄懂之后讲得更容易让我们这样的人明白。
要一起学习研究的太多太多,日拱一卒,日进一寸吧,毕竟进一寸有进一寸的欢喜。

© 版权声明
THE END
点赞544 分享
评论 抢沙发
头像
善语结良缘,恶语伤人心!
提交
头像

昵称

取消
昵称表情图片

    暂无评论内容