The Kai Way

AGI 曙光 ChatGPT

ChatGPT 是什么？ #

GPT，全称Generative Pre-trained Transformer，是基于Transformer模型训练的通用人工智能。当卷积网络的参数量达到数以亿计时，它展现出惊人的智能水平，已经能完成人类相对初级的工作。更令我震撼的是，这么强大的智能居然在 2022 年底被OpenAI发布出来，让普通大众触手可及。

智能的涌现仍是个谜。毕竟，Transformer 神经网络本质上只是人类大脑的仿制品，而人类对大脑的运作原理也远未完全理解。训练是一种无监督学习，通过吸收海量文本数据进行自我学习，就像人类智慧被注入机器大脑一样。以文字承载的知识是人类对世界的理解，在这种训练下 GPT 在某种程度上按照人类的理解在认识世界。甚至 GPT 的思维方式都与人相近，比如思维链、承诺给予高额小费，让它回答前做深呼吸等技巧，可以提升回答质量。

我从 OpenAI 工程师 Andrej Karpathy 的视频，《大语言模型简介》和《从头构建 GPT》 获得对底层技术脉络的基本理解，特别推荐给好奇 GPT 怎么被构建出来的朋友观看。

GPT 改变了什么？ #

当我工作和生活开始大量使用 ChatGPT 后，切身感受到了人类文明的巨轮正在转动，新一代的工业革命已经来临。

之前需要为问题定义解决方案的每个步骤，而人工智能采用之后可以将问题直接抛给他们来解决，比如生活中最常见的智能驾驶，给出目的地，而不再需要自己去转方向盘踩油门刹车。

过去数千年，人类社会的发展基本上依赖于众多独立个体的相互协作。而现在，人工智能已经参与到诸如疫苗制造和城市规划决策等方面。

人类需要从出生到能做某种智能要求的工作，需要一二十年的培训，培训过程本身并非各体自我完成，也需要占用其他个体的时间来达成。并且不是全人类每个个体都拥有对这个世界的所有知识，水平也参差不齐，能贡献到文明发展仅是少数。

同样，人类协同效率其实也挺低的，因为信息传递需要通过文字，并且输出输入都存在损耗，你不能理解我想表达什么是常态。人类每天还需要 8 小时的睡眠，分布在不同时区有不同的作息，全球化的大规模协同需要不少时间来回做信息传递和校准，进而逐步降低效率。

人工智能与此不同，可以无需干预地进行学习，并且智能可直接 1:1 无损复制。它们无需休息，工作效率上比起人类高出几个量级，能短时间处理大量信息，通过现有的 API 操作数据，而无需人类那般通过界面来手动操作。

我想象的未来是怎样 #

尽管 AGI 的到来还需时间，除了技术上还有不少难点需要突破，也因为人类社会本身存在不小的内耗，并不是把 100% 资源用在文明发展上。

单看各家科技企业都在研制自己的人工智能，资源被分散，全球算力资源肯定不足以支持成百上千家企业各自作出巨大推动。当然也存在一定重合共同推动部分，大部分企业用开源的 Llama 作为底座进行训练，这很像当初 Yahoo 开源 Hadoop 的局面。

假如人类社会遇到巨大危机，能像三体或者星际穿越那样，将所有资源集中到一处，去掉竞争的冗余成本，去掉非必要的人文开销，可能达到 AGI 时代不需要太久，但明显不现实。

作为一个软件工程师（或者称我为程序员），我相信很快不再是个人从头一行行代码手工实现，而是需要提高抽象层次做程序架构设计。编程语言的层出不穷可能会到此为止，因为这种面向人类友好的计算机操作定义方式肯定没有直接告诉人工智能你要做什么，大概怎么做来的更高效。

我猜会像现在高度集成的硬件一样，不再有人类手工打造的冰箱洗衣机，相应地，人力转到维修（Debug）这一环节上。

而且，不仅是编程语言会停止进化，人类第二语言学习也可能会大幅减少。随着人工智能在语音识别方面的准确率和处理速度达到极高水平，我们可能再也不需要为了交流而学习第二语言。当前我面对大量英文时候，都会直接用 OpenAI 给出翻译结果，并通过中文进行提问。

人类的知识学习方式也将随之转变，实现个性化教育并不是遥不可及的。像 Mr.-Ranedeer-AI-Tutor 这套 Prompt 能完全基于个人的母语，知识水平，学习习惯和教学接受度，生成完全个性化定制的教学内容和测试题。它甚至能依据你当前的环境背景，修改教学材料，同时根据实际情况随时调整教学的难度和深度。

我认为新时代将对人类个体产生深远影响，赋予更多知识工作者更大的能力，进而拓宽他们的技能边界。在人类社会中，大规模的协作是实现更伟大目标的必要途径。然而，随着协作人数的增多，沟通和理解的成本也相应升高，这使得仅仅增加人手并不一定能带来产出的直接提升。因此，“超级个体”，10x 工程师的概念应运而生，这种情况下，一个或少数几个人能实现原来十倍的工作量，但降低团队规模也消除不少沟通损耗。或许，有一天我们会见到新一批的全能超人，他们就像文艺复兴时期的达芬奇一样，10x 工作效率和产出引领文明发展。

等待 AGI 降临后，整个人类文明能更高速往前发展，但这时人类本身呢？人类能和自己创造的智能体和平共处吗？如果机器得到人类的完整智慧还需要只会消耗资源的人类吗？如果机器延续的是人类的文明，那他延续生存下去的动机是什么？

在等待 AGI 降临之后，整个人类文明将以更快的速度向前发展，但是人类自身会发生什么变化呢？我们能和自己创造的智能体和平共处吗？如果机器得到了人类的全部智慧，会不会还需要我们这样只会消耗资源的人类？如果说机器延续的是人类的文明，那么它的生存动机又是什么呢？

可能等待我们的是像天网一样毁灭人类的科技巨兽，也有可能是像阿童木一样守护人类的友善机器人。