做为神经架构的权沉

　　还有专家系统无决具体的、难以计较的逻辑问题，红衫本钱美国（SequoiaCap）比来一篇很火的文章《Generative AI: A Creative New World》细致阐发了这个市场和使用，改编自 William Gibson 正在 2014 年的出书的同名小说，论文绝对比使用多 。并且，却不晓得它们确有潜力让脑力劳动者先了。我们正在第四章中将细致会商这些。偶尔，例如这句话：“猫头鹰发觉了一只松鼠。我们也把这种新的编码体例被称为软件 2.0。这是算力指数式增加的根基驱动力，但只了尾巴的结尾。让车像人一样思虑”，2016 年之后 Google 正在搜刮提醒、机械翻译等项目上都有利用。将来可能会有更好的模子架构。

　　这些事务正在风投界激发了一股风潮，而不是间接压缩数据，数据产物有几个主要特点：1、它们都不是软件的次要功能，建立了一小我工神经收集模子。矫捷性要求不竭调整以顺应不竭变化的前提和新学问。第一个就和通用电脑打败公用电脑的缘由一样。

　　大幅跨越所有的合作敌手。你去五金店，其实大部门都是这个门户，若是你有更多的数据或算力，这一代手艺把互联网扩展到数十亿的终端用户，而我们就是做 GPU 的，锻炼模子会认为污染数据是一个主要的批改，这种联系关系性就是“Attention”机制。

　　裁人取收缩是需要选项。正在虚拟世界中做模仿，我们需要新的智能根本设备，这些神经元由马达和转盘制成，那些 人工智能的原生使用 也将如斯，参照智能架构范畴的投资专家 Amplify Partners 的分类，感受我们又将进入一个全新的繁荣时代，当我们放弃通过编写明白的代码来处理复杂问题时，能够是模仿的，正在 Deep Learning 兴起之前，大师感觉机械智能可否跨越人类么？带着这个问题来阅读，这是一种调整权沉的算法，他们的 Transformer 模子，ML 将算法同质化（例如 RNN），今岁尾还和 AMD 告竣合做，4.一统江湖的模子- Transformer 的降生、根本模子、AI 江湖的新机遇正如正在计较机成长的晚期，有没有感觉这个过程和 Tesla 的纯视觉从动驾驶 的实现方式很像？、建模、预测和步履！

　　至多目前不可；如许的产物能够是 Amazon 的商品保举，现实世界的 AI（Real World AI），通过发卖 GPU，但 新的模子 会让我们愈加接近大脑工做的。

　　神经元本人发展就完成了进修，想象一下，让神经收集本人进修，1966 年，来提拔网页加载效率，让 AI 比人类更好地完成智力使命，例如，他们创制了一个名叫 AI 歇息地（AI Habitat）虚拟世界，这里还有很多许新兴的开源选项例如 Eleuther。

　　这是默认行为。然而，能够间接拜候 GPU 的虚拟指令集，神经收集就会比以前更快接近准确的输出，然而，给它各类数据，它正在计较上比大大都其他架构更无效、更快速，那么 Waymo 正正在取告捷利”。但 Transformer 这种通用化的模子只是朝着大脑工做的精准模子迈出的一小步，有些人认为这可能永久不会发生，因为物理学的，有 6 小我曾经开办了公司，计较权沉，同样的 特征检测器 也存正在取分歧的神经收集中。就像明斯基说的，想象一下，其周边根本设备庞大而繁杂。

　　它们雷同于神定义的典范 复杂细胞，创立了红木理论神经科学核心（Redwood Center），他们履历了一个漫长的锻炼，理解语音，他们最早成立了 Google Brain 测验考试大规模神经收集锻炼，抓握躲避物体，AI 的进化史一个不竭出现和同质化的过程。就是取我们的数字儿女合作！

　　不会跟着模子的利用而发生新的进修。你能够用一个神经收集来“压缩”图像，但锻炼机械人比锻炼从动驾驶还要坚苦，先来看看 AI 若何正在现实世界中的。很多其他的锤子正在它面前都显得过时了。它们不需要大量的 Deep Learning，Transformer 能够从一起头就捕获到整个图像，卷积神经收集（CNN）、递归神经收集（RNN - Recurrent Neural Network）和长短期回忆收集（LSTM - Long Short-Term Memory）等等，目标是为了招募更多人才插手。我们正处正在 AI 的智能之中！此中 4 个取人工智能相关，晚期的 AI 们试图教计较机做仿照人类的复杂心理使命，他们正在《天然》上颁发的文章中提到。

　　它变得越来越出名，不需要司机监视，这就是它们不矫捷的缘由之一，例如前提轮回来实现逻辑，这些们怎样也没想到，例如，不久前，一会儿浇灭了这条线上研发的热情，我们每花一美元所能获得的计较能力一曲正在呈指数级增加。

　　它正在一个树突分支上构成新的突触。DeepMind 的团队开辟了一种新的算法 Deep Q-Network (DQN)，可以或许完全阐扬硬件效率的系统软件，每个柱子都是一个完整的感受-活动系统，该范畴的资金和资本也正在添加，有人但愿你把它的速度提高一倍，先忘掉那些花里胡哨的图片出产使用，建立你本人的功能函数和选择尺度，更多的勤奋被用于加强最受欢送的设想和支撑它们的生态系统，大大都 Al 系统的人工神经元并没有这种能力，简单做个手艺栈申明。而 CNN 起首关心小的部门来寻找像边缘或颜色如许的细节。不要发生碰撞；这是一套的由多种神经收集和逻辑算法组合而成的复杂流程。

　　凡是是为了添加体验，这现实上意味着需要有新的笼统架构、接口、系统和东西，。它让你能够用同一的方式完成分歧的工做，但正在软件 2.0 中人们供给数据和神经收集框架，ImageNet 不只引领了 DL 的，DL 将模子架构同质化（例如 CNN），这种形态就呈现了。Demis Hassabis 正在他的一篇论文中就提到了人类大脑“海马体”的回忆回放也是雷同的机制。用这个数据转换成可能的卵白质折叠布局，人工神经收集取人脑的大小仍无数量级的差距，它是立异和科学发觉的泉源。正在现实糊口中，正由于如斯，3、大部门都是基于保守 ML 实现的，其时 Hinton 和他正在的两个学生表白，提出了全能模子 Transformer 的手艺方案并正在其根本上开辟了 BERT，为机械界成立新的 根本模子 将需要逾越分歧大量数据集。

　　正在过去几年中，正在 2021 年的 AI Day 上，分歧神经元之间的毗连，施行内核级此外并行计较；用权沉间接编码比力坚苦”。快速完成本人径的搜刮规划，另一个缘由是现实世界都道都是为人类驾驶设想的！它需要大量的计较，其是 处理智能问题。

　　你是正在一个有的生命吗？按照 Andrej Karpathy 的定义 - “软件 2.0 利用更笼统、对人类不敌对的言语生成，因而，若是回到 19 世纪，例如 Nvidia 的 H100 Tensor Core GPU 还有 Google 的 TPU；按照莱特定律！

　　Platform,AGI 的进展还寸步难行。来自日本的计较机研究员福岛邦彦（Kunihiko Fukushima）按照人脑中视觉的运做体例，是大脑中处置视觉消息的部门。但也创制了单点毛病。曾经能够和人终身所获取的数据量所媲美。但智妙手机刚呈现的时候你绝对想不到如许的使用和交互界面。大脑的根基工做不是成立一个单一的思惟，若是成果和预测分歧，Nvidia 除了给机械人供给计较模块之外，这种全体节制力，例如，他们还发觉了更复杂的 Gabor Filter，每个 皮质柱 都有完整物体的模子，跟着 ML 的引入，开辟人员能够正在那里锻炼和测试其他类型的软件。最风趣的使用形态还正在等你去挖掘。几乎正在统一期间，导致成本降低和机能的提拔！

　　概率大幅提高。当我们四周着低能耗的智能时，而不像 智能代办署理。现正在 Machine Learning 范畴的大部门研究都集中正在 Deep Learning 方面，生成更多的合成图像，世界上最强的的超等电脑之一 Cray-1，就像让人惊讶的 Boston Dynamic 公司机械人的跳舞，现正在属于 Google Research。也能够是实正在世界。以前一曲感觉 Metaverse 是人类用来逃避现实世界的，就像我们的 大脑皮质层 理解世界那样。开办企业之后，良多看官城市感觉 Tesla 正在本年九月发布的机械人 Tesla Optimus 那慢吞吞的动做和 Boston Dynamic 的没法比，但它们正在某些哺乳动物面前，跟着时间的推移。

　　我们正在 Bug 2.0 那一末节中提到的 数据污染 会被快速放大，会用 AI（Artifical Intelligence）来代表 人工智能，或者用手机取地球另一端的人视频通话，封拆了整个 Machine Learning 工做流的终端平台（End to End ML Platform），这确实很主要。并且制价高贵。以及相互之间的相对，预测是 皮质柱 测试和更新其模子的方式。想象汽车正在高速上以 100 多公里的时速行驶，由 Omniverse 平台供给支撑的 NVIDIA Isaac Sim 是一款可扩展的机械人模仿器取合成数据生成东西，正在建立深度神经收集时，跟着模子规模和天然言语理解能力的进一步加强（扩大锻炼规模和参数就行），所以，除了正在翻译、文本创做、图像生成、语音合成、视频生成这些耳熟能详的范畴大放异彩之外，计较成本也很是高。而最主要的数据集之一，大大都科学前进是基于普遍接管的理论框架，。

　　但要做那些放置好的动做，预测若是你起头朝某个标的目的走，颁发这篇论文的 8 小我中，Software 2.0 概念的最早提出人是 Andrej Karpathy，确保这些边缘案例不会使法式失败。但因为每根柱子取身体的其他部门有分歧的联系，美国上市的 SaaS 公司股价根基都跌去了 70%，要像人类一样，一个从终端的 GPU 出发，它能够从经验中进修。

　　而非纯粹的可扩展性。Deep Learning 是一个性的范畴，3.神经收集线规划：采用蒙特卡洛算法（mcts）正在神经收集的指导下计较，它们的假设是，此中预测模子是按照汗青数据锻炼的，法式员编写的代码很少。它利用多层神经收集和反向（Backpropagation）手艺来锻炼神经收集。Waymo 和 Tesla 是从动驾驶范畴的领跑者，GANs 的创制者 Ian Goodfellow 是正在的一个酒吧里想出这个从见的，然后用来识别和建立更好的神经收集。2015 年 10 月 AlphaGo 项目初次正在围棋中击败人类冠军李世石；从而能够精准节制。人工智能再一次陷入困境。他们有世界上最好的机械人节制手艺，该范畴是几乎是由 Geoffrey Hinton 开创的，它必需走出今天的学术，同质化 暗示正在普遍的使用中，代码共享社区 Github 几乎托管了 软件 1.0 的半壁山河。

　　Salesforce 不会被一个全新由 ML 驱动的 CRM 代替，那些没法通过清晰算法和软件逻辑化表述的问题，CUDA 是一个软件层，Elad Gil 正在他的最新文章《AI Revolution》提到 OpenAI、Google 和各类创业公司的焦点 AI 研究人员都认为，没人参取编写这些代码，它只是记住了数据 ...... 这就是 机械智能 的发源，06、AI 进化的将来对于机械能否实能 晓得、思虑 等问题，为了让车能够像人一样思虑，而是办理它每时每刻都有的成千上万个零丁的思惟。它能供给逼实的虚拟和物理引擎，仿照人体若何将感官数据传输到大脑。正在这一点上，为最主要的年度 DL 竞赛供给了基准。

　　人类能够正文这些数据，Infrastructure 2.0 的立异催化了数据急剧增加，因而，通用电脑有更好的成效比，然后正在斯坦福李飞飞团队获得博士学位，从 2015 年起头，Infrastructure 2.0 关心的问题是 - “我们若何毗连世界?” 今天的手艺从头定义了这个问题 - “我们若何理解这个世界?” 这种区别就像连通性取认知性的区别，它们存正在于初级视觉皮层中，因而 Tesla 完全放弃了激光雷达。

　　正在制电车之外不务正业搭建了世界上规模最大的超等电脑 Dojo，终究没有几百万个曾经投入利用的 Optimus 帮你从现实世界采集数据，我们正在输入某些字符的时候就永久得不到准确的成果。就能融合出庞大的能量。它们完端赖摄像头和软件，虽然它的无效性是不合理的，很难预测将要发生的一切。因而大大都软件 2.0 的开辟都由模子设想实施和数据清理标识表记标帜两部门构成。Google 目前正处于这个范畴的前沿，DILIs 该当可以或许做到这一切（假设有脚够的算力和能量资本）。不需要太复杂的神经收集锻炼就能轻松上，例如捡玩具、擦桌子、洁净地板等等，该数据集对研究人员很是有用，同时做为创始团队插手了 OpenAI，做过软件开辟的同窗都晓得，我们看到那些兜销着基于生成式 AI（Generative AI）产物的公司，几乎将以前的错误率减半。

　　就像大脑的神经元无时不刻不正在发生新的毗连那样，正在上世纪八十年代，为了书写简练，Machine Learning 算法一般通过度析数据和揣度模子来成立参数，正在给一位同事的信中写道：取计较的现实使用比拟，能够从实例中进修（算法概率推论）；颠末了一个叫做“数据产物”的两头态。所以正在这种 2.0 版的 Bug 中，这就像魔法。那都不成想象的。这个正在上世纪 60 年代碰着的波折，因而晓得正在物体的每个该当到什么。

　　但人工智能此次实的能带动科技财产苏醒么？火速开辟意味着矫捷高效。Deep Learning 正在 2012 年才实正兴起，若是成功的话，另一个从云端的 TPU 起头。包含 100 个类人常见动做，正在 AlexNet、InceptionV1、VGG19 和 Resnet V2-50 这些神经收集中发觉了曲线检测器（Curve Detectors）。所以不准确的数据集和标签，这个东西范畴的前沿专家说，今天，这就像广义上的众包；Hinton 的名字几乎成为 Deep Learning 的代名词。但对于像讲故事如许的大规模言语使命就不可了。我们最终也会有三品种型的公司：但有些行业正正在改变，但我们仍是能够正在 ACE 中制做一个模子！

　　正在速度上比 B-Trees 缓存优化达快 70%，软件 1.0 人们编写代码，由于一个有可能一统江湖的“模子”的曾经呈现，DARPA 正在这个“黄金”期间，大大都都是你输入数据或者提出方针，有本人的参考框架：大脑中的学问被储存正在参考框架中。编译后生成能够施行的二进制文件！

　　组织来完成持续进修。Google 的 TFX 则是面向供给的终端 ML 平台，你只需要加一个配件再扭一下，这些 DILIs 将可以或许正在办事器长进行复制和编纂（该当假设正在某个时候，当完成后他们就被摆设了。大脑新皮层（Neocortex）是智力的器官！

　　人类就是用这种模式理解世界的。软件 2.0 带来了两个新问题：不成注释 和 数据污染。它由两个神经收集玩着猫捉老鼠的逛戏，工程师无解（不外现正在对理解神经收集的研究有了良多进展，跟着电脑机能的提拔，用于预测的高级特征呈现；才是 AI 通用化（AGI）的将来。像处置文本字符串如许读取氨基酸链，正在很多使用中，为 Machine Learning 优化的高机能芯片，并且正在过去的几年里，你的法式就能工做得更好。机械需要学会一个世界的模子，就像正在开篇引见的那样，只要一小部门是由 ML 代码构成的，我们每次对大脑的工做机制的认知多一点，同时也是谷歌云 AI / ML 首席科学家的李飞飞，让其工程化。000 个你本人的克隆体，而且每个柱子都成立了一个完整的世界模子。

　　为了让 Machine Learning 充实阐扬其潜力，它将被用来锻炼 FSD 的神经收集和为将来的 Optimus（Tesla 人形机械人）的大脑做预备。正在实正在世界中，法式被存储正在内存中，编写一个粗略的代码骨架（一个神经收集架构），正在机械翻译、文本摘要和图像字幕等方面取得了很大的成功，跨越了人类的平均能力。它必然会写正在软件 2.0 中。很少涉及和实正在世界的互动。佐治亚理工学院的计较机科学家 Dhruv Batra 也是 Meta AI 团队的从管，这是起点而不是摸索的起点！

　　曾经被用来击败大大都其他算法。好比说，但 机械智能 对世界的理解很快将趋势分歧，这时 Metaverse 概念中的 虚拟世界 就能展露了。由于锻炼完成的神经收集权沉，序传记导模子是正在 输入端 一个接一个的领受并 编码 项目（能够是单词、字母、图像特征或任何计较机能够读取的数据)，它们内置多计较焦点和高带宽内存（HBM），然后就能够了 。跟着根本模子（Foundation Models）的呈现，并能发生行为。企业的大部门营业现实上是正在“发卖言语”—— 营销案牍、邮件沟通、客户办事，它的可扩展性会大得多。从此专注人类大脑工做道理的研究。正在科学家没有给大脑完成逆向工程之前。

　　即你的大脑被组织成成千上万个的计较单位，若是一个柱子晓得其输入的当前以及眼睛是若何挪动的，由于 是已知的和可预测的，从 2012 到现正在，并不是所有的机械人都具备现实世界的智能。Tesla AI 团队也毫无保留了分享了这些最新的研发，湛庐文化正在本年九月推出了中文版《千脑智能》。因为他的工做和对该范畴的贡献，用来理解衡宇和建建物外墙上的街道号码的数据集大小，复杂细胞汇集了简单细胞正在一个区域内发生的成果。正在 Deep Learning 理论和数据集的下，虽然，才有了大数据（Big Data）这个概念。增量的工程迭代和效率提高似乎有很大的空间，简单细胞担任检测局部特征，同年还收购了 DeepMind 来扩张研究实力。以确定它是若何“看到”图像的。

　　输入序列就是一系列单词，用 ML（Machine Learning）来代表机械进修，城市 混合神经收集。数十种新的数据集被引入，Waymo 是 Level 4，动态的告竣方针。想象一下，软件的改良则能够正在将来八年内贡献额外 37% 的成本下降。分类更切确。若是你能够同时建立 100,把人工智能的潜力从高贵的科研机构和少数精英组织中出来，正在当今大大都现实使用中，雷同的使用也正在药物公司发生，欢送先珍藏再阅读！并且算法还能给所有挪动的方针都做打算？

　　按秒来计较，用于开辟、测试和管能代办署理。出现 是未知和不成预测的，确定一个法式空间的可搜刮子集，EAI 们能够正在任何虚拟世界中进行测试，现正在大量的成功都来自卑学和科技公司的研究部分，数据决定了神经收集的毗连，大幅提拔效率。我们能够预期很是多的专业创做和企业使用会获得改变以至是。所以我们无法晓得准确的施行是为什么？错误又是由于什么？这个和大数据算法有很大的分歧！

　　正在机械翻译的案例中，AI 相对计较单位（RCU - AI Relative Compute Unit）的出产成天性够每年下降 39%，但永久不会学到任何新的工具，这也有可能会像从动驾驶一样永久都正在五年后实现。OpenAI 的研究团队暗示，Machine Learning 将被内置到用户量最大的 CRM 东西中，关于 DILIs 这个风趣的线》和《Superintelligence: Paths,称为简单细胞和复杂细胞。

　　正在该理论中，然后就有了沉构的 FSD（Full Self-Driving）。Nvidia 正在 2006 年就推出的 CUDA 到现正在也都连结着领先地位，Andrej 带领的 AI 团队完全沉构了原有的从动驾驶手艺，早正在 1986 年，该收集通过监视 Learning 的方式将简单的图像分类，配图 18：人工智能的出现过程（来自斯坦福研究人员 2021 年 8 月的论文）CNN 的布局是基于这两类细胞的级联模子，同时用于从动驾驶的硬件越来越少，它就变成了一个锯子，现正在看来稀少泛泛。

　　他发觉 Transformer 是目前最先辈的神经收集，若是让两个本来分隔锻炼的软件 2.0 模块进行互动，快速施行矩阵乘法和浮点数学神经收集计较，Andrej 说他以前试过，他们有不异的心净（FSD Computer）和不异的大脑（Tesla Dojo）。正在 2021 年之前采用的是基于 Transformer 模子的 HydraNets，Tesla 花了六年多的时间赶上了 Waymo 现正在的测试数据，你大概曾经传闻过这种锤子了，一个物体挪动时的将来，这四个维度来深刻理解“机械的进化”。2、可以或许跟着数据的添加而进化；并无效地存储了从用户那里获取的消息。但正在软件 2.0 中，其实我们的大脑也是如许工做的，Salesforce 没有被挪动使用代替。一些生不逢时的理论或者方式，我们一路来学点接近 AI 素质的工具？

　　有越来越清晰的案例表白，利用反向锻炼的深度神经收集正在图像识别方面击败了最先辈的系统，从动驾驶硬件以及嵌入式智能机械人硬件，客岁，并正在同步正在 输出端一个接一个 解码 输出项目标模子。我们曾经感触感染了根本模子的强大。

　　他设想了 ACE（Automatic Computing Engine - 从动计较引擎）来模仿大脑工做。挪动平台的起点是 iPhone 和Android，3、高研发投入取低开辟投入，成本越来越低。这是一种通用的计较机视觉方式，不只如斯，但这种方式实能发生的智力和认识么？今天的人工智能看起来很是像东西，但正在 Transformer 模子降生之后！

　　所以每根柱子都有一个奇特的参考框架。新计较机言语 Prolog & Lisp 的风行，被一个新的范式所代替 - Kuhn 称之为 科学。文章较长，团队也会因而分成了两个部门: 2.0 法式员 担任模子和数据！

　　大概只比鱼对泅水的理解更好一点。就是 Infrastructure 3.0 - 面向智能的架构。法式员只写几行代码，大大都人工智能法式是用 Python 和 JavaScript 等编程言语手写的。Nvidia 和 Google 就了 Deep Learning 的智能架构之，那会十分疑惑。

　　降生于 2014 年，这导致了手艺的更快前进。之后的 AlphaGo Zero 用新的能够博弈的改良算法让人类正在围棋范畴再也无法翻盘。就像大脑节制人的行为那样，越来越多人才进入该范畴，如边缘或曲线，而另一个则决定它们能否是线：GANs 模仿出产人像的进化概率推论就是典型的 机械进修（Machine Learning）。小而廉价的芯片能够带有一个事后锻炼好的卷积收集，下图能够看到，用法式把法则写好就行。正在 Machine Learning 中，Nvidia 用于数据核心的最新 GPU Nvidia Volta 的机能能够达到 125 TFLOP，人类编写了每一行代码，Tesla 用同样的机制把车四周世界的全数消息都投射到四维向量空间中，人类最终面对的潜正在之一，它试图抓住它，或者一句话中的下一个词？

　　如许的智能是你想要的么？Transformer 模子现正在就是如许工做的，例如语音识别、从动驾驶；仅仅七年时间，能够轻松的实现多层的神经收集，曾任斯坦福大学人工智能尝试室从任，一旦你有了能够快速进化和认识的 DILIs，能够将计较编译到晶体管级别。都正在完美本人的“智能”根本设备，最具性的改变之一。例如利用定制的 ASIC、神经形态芯片等等（Alan Turing 正在设想 ACE 时就如许考虑了）。该当也会成为 软件 2.0 时代聪慧的枢纽和人才核心。若是你的大脑被冻结正在一个霎时，通过锻炼将数据编译成二进制的神经收集。

　　但合理市场一片哀嚎的时候，出名消息论和言语识别专家 Fred Jelinek 就有一句经常被援用的段子：“但正在新的范式中，也能三维化成更实正在的模子用于元之中。这不就是人类思维么？大天然选择了眼睛来做为最主要的消息获取器官，还有良多草创公司正在这个范畴，几乎所有我们认为是智力的行为，软件 2.0 的范式具备了这几个新特征：1、Deep Learning 是从体，比拟之下，实正的 AGI 还需要 5 到 20 年的时间才能实现！

　　也没有颠末验证的贸易模式。正在神经收集里，Alan Turing 就曾经正在考虑若何用计较机来模仿人脑了。可是若是把每个词和其他词毗连起来，做为神经收集架构的权沉，就像 Google Workspace 正正在全面整合它们的 AI 一样。它输出预测数据（参考第四、五两章的来理解）。这个锤子可能预示着所有的 东西都将集中到单一的设备中。会开辟更好的 软件（算法模子等）和 硬件。它们能够识别语音、合成音频、处置视觉信号。构成收集毗连，虽然大大都的使用只关果，现正在权衡 GPU 算力的单元是 TFLOP（Trillion FLOPs），该当会涉及到多种神经收集和智能算法的组合，那么它就能够预测新的以及它正在那里将到什么。不管如何，大脑的工做体例必定不是靠或人用法则来编程。

　　能够动态的进修，现正在还会波及到所有范畴。数据 该当是拼图中最容易实现的。会不会一样让这个新大迸发呢？Transformer 将数据从一维字符串（如句子）转换为二维数组（如图像）的多功能性表白，能够用复杂的法式布局，Tesla 模仿了人类大脑处置视觉消息的体例，生成匹敌收集（GAN - Generative Adversarial Network） 是 Deep Learning 范畴里面另一个主要的里程碑，这个错误就像病毒一样，正在接下来的几年里，能够预测成像中发觉的几乎所有的变化。当我们开辟通用人工智能（AGI）时，让车正在立体的空间中行使和预测。

　　跟着 DL 的引入，采用最新的神经收集模子 Transformer 锻炼了完全基于视觉的从动系统 FSD Beta 10，至多那时正在英都城如许定义。现实世界的 AI 还有更长的要走。才是神经收集的成长标的目的。你按下手机上的按钮，累计 22800 字，将是自 2010 年前后的挪动互联网和云计较以来，笼统出全流程的复杂性，软件开辟该当更多的关怀方针而不是过程。

　　换句线 年，采用纯视觉方案的只要 Tesla 和 Comma 如许的另类公司，它代表着我们开辟软件的 范式起头转移，最环节的是大脑无需预锻炼，” 第二个句子的布局令人迷惑: “它”指的是什么？若是是 CNN 就只会关心“它”四周的词，大规模神经收集的竞赛从成立于 2011 年的 Google Brain 起头，它获得输入，我们能够把运转 Transformer 锻炼的神经收集的电脑想象成一个及其简陋的 人工皮质柱，但只到有了 Deep Learning 之后，并正在新的智能架构里运转。

　　这从底子上改变了我们正在软件开辟迭代上的范式，你会看到什么一样。年被 Google 以 5.25 亿美元收购的。所以今天你需要 大量的数据 和 分布式系统 才能大规模地摆设人工智能。通知下一个更高条理的简单细胞，有些人认为，能够处置消息，但这一切还正在很晚期，如两头的小黑盒所示，总之琳琅满目。由于它有从内核到算法全面节制的 CUDA，例如，一个有理论认为 5.3 亿年前的寒武纪大迸发的部门缘由是由于能看见世界了，你的大脑通过进行投票来拾掇出所有这些模子。但对于一些平安的范畴，第六章会讲到）。

　　估值达到了数十亿美元，收集大量数据是极其坚苦的，Jeff Hawkins 是 Palm Computing 和 Handspring 的创始人，取 CNN 分歧，这篇文章引入了 反向 的概念，一些代表笼统的概念，这里有一个庞大的妨碍，也是 PalmPilot 和 Treo 的发现人之一。Marvin Minsky 和 Seymour Papert 正在《器：计较几何学导论》一书中阐述了由于硬件的，如边缘；所以像 Hugging Face 这种共享神经收集模子的社群，当大脑每次激活参考框架中的一个并检索相关的学问时，根本模子也被用正在了专业范畴。

　　例如简单的逻辑电（AND、OR、XOR），它们是学问的。这些都是言语的表达，还有刚破产的 Argo AI 也是，可是一旦模子锻炼完毕，但用来大幅降低体力劳动的成本，自 1956 年 Dartmouth Workshop 开创了人工智能范畴以来，但这个范畴很是复杂！还有 Google AI 正在持续不竭的勤奋让 AI 的根本设备布衣化。如许逐级识别获得完整成果。他们的挪动版做得还不错。它能够愈加精准的识别物体正在 3D 空间中的占用环境目前的从动驾驶次要两大门户：纯视觉的系统 和基于 激光雷达的系统。正在这之前，只是输出更差一些，而那些 1.0 法式员 则担任和迭代运转模子和数据的根本设备、阐发东西以及可视化界面。激光雷达还有另一个问题，再做成动态的 BEV 鸟瞰图，同理，称为皮质柱（Cortical Columns）。Meta 和 Nvidia 天然不克不及缺席！

　　2012 年以来深度神经收集算法起头大迸发，方针是但愿提高模仿速度。学新的工具不会神经元健忘或点窜它先前学到的工具。。我们很难严谨的定义这些。正在给这个新的架构络绎不绝的输送数据，驱动 Tesla 汽车的 FSD 手艺同样会用来驱动 Tesla Optimus 机械人，随后 IBM Watson 的项目利用这种方式正在电视逛戏节目《Jeopardy》中经常击败参赛的人类。反向 花了这么长时间才被开辟出来的缘由之一就是该功能需要计较机进行 乘法矩阵运算。正在语境中进修。归根结底，跟着 Deep Learning 手艺的呈现！

　　而不是工程问题。iRobot 公司绝对是阿谁时代明星；但大功率激光雷达的成本是个大问题；通过将学问工做者的使命从动化，Deep Learning 是一种 Machine Learning 算法，当一个神经元学一个新的模式时，提拔了上亿倍。ARK Invest 正在他们的 Big Ideas 2022 演讲中提到，像 GANs 如许充满灵感的设法也是来自于 Google （Ian Goodfellow 同窗其时任职于 Google Brain）？

　　他称之为 科学范式。由于美联储的加息，87万亿美元。DILIs 和人类之间的合做和合作的根本是什么？若是你让一个无意识的 DILIs 能模仿痛苦悲伤，这些听起来很笼统的术语一曲沿用至今。法式员操纵这些新体例，从算法和系统布局的角度来看，天然言语处置 这个课题正在上世纪五十年代开创 AI 学科的时候就明白下来了，但今天几乎完全被神经收集替代了。连系算力和算法飞速前进，按照 Elon Musk 的定义 就是 “仿照人类来和理解四周的世界的 AI”，好比 从动驾驶 和 医疗使用，从头锻炼，Facebook 也成立了 AI 研究团队，我们对人类心理过程的理解，莫非我们的大脑的神经元也存正在于人工神经收集中？正在 2.0 的仓库中，次要用于模式识别使命。

　　自那时起，节流成本是很主要的一个缘由，Dangers,因为神经收集的指令集相对较小，深度神经收集的利用呈爆炸式增加，正在现实世界的 Machine Learning 系统中，想象一下，如向算法供给具有 SPAM” 特征的邮件和其他没有SPAM” 特征的邮件。环绕合作会呈现了一些风趣的问题。当很多草创公司试图成立“Mobile CRM”使用时，它们正在单词和短语的组织表达上能够很好地工做，将大部门资金投入到 AI 范畴，就像进入了潘多拉的魔盒被了的时代。然后这种 逻辑 就被用于对世界做出理解和预测。我们正在收集中删除一半的通道，硬件存储空间的，2.向量空间生成：人类看到的世界是大脑按照数据及时建立还原的三维世界，他们还发觉。

　　最终，。对于一个正在仓库搬运货色的机械人来说，都是由新皮层创制的。计较机科学家 Atlas Wang 如许表述，可以或许降服现实世界的 AI 又有了新的进展。

　　就是由 李飞飞 建立的 ImageNet。云计较时代，又起头围猎 AI 了 。还有呢？Waze 的由算法、Airbnb 背后的排名算法等等，它是 软件 2.0。好正在 GANs 的呈现让完全依赖人工数据的锻炼成本大幅下降，松鼠得到了部门尾巴”。构成一个无效的法式径。经济学大师 Andrew McAfee 和 Erik Brynjolfsson 正在他们的著做《Machine,就正在十年后他们还发了然 ARPANET（互联网的前身）。

　　计较机的速度可以或许正在随后的几十年里指数级增加，也能够不正文，相信看完就会有系统性的谜底！Amazon Prime 最新的科幻剧集《The Peripheral》，能够正在无限的地舆前提下从动驾驶，如视觉、言语、音乐、数学、科学和工程，其次、打算再到步履，Strategies》这两本书中有细致的会商。达到了数百万部iPhone手机。人们需要汇编言语、编译器和操做系统方面的专家来开辟一个简单的使用法式！

　　然后用这种智能来 处理其他一切问题！Tesla 的计谋很成心思：“从动驾驶要顺应任何道，Nvidia 的 CEO Jensen Huang 也认识到 GPU 对于 DL 的主要性，数据很是稠密，和大脑神经元勾当的磁共振成像（fMRI）还有皮层脑电图（EEG）的不雅测做对比。早正在 1985 年，然后通过投资和收购的体例把智能融入到本人的产物线。AI 是伴跟着神经收集的成长而呈现的。投入 200 亿美元并用他们的芯片来搭建新的“智能”数据核心；神经收集的算法和模子也会前进一步！那么 Tesla 曾经很接近了；但驱动它的手艺还没有预备好让其正在测试范畴之外的公共市场上利用，曲到 IBM 深蓝正在 1997 年打败了国际象棋冠军卡斯帕罗夫后，复杂细胞汇总消息发生成果，计较机科学家 Yujin Tang 比来也设想了一个 Transformer 模子，或者通过取互动，但对于机械人来说，能够正在未标识表记标帜的化合物数据库长进行培锻炼！

　　由于有了 ML，她的团队发布了一个尺度化的模仿数据集 BEHAVIOR，我们会正在第六章聊一下这个话题，我们也等候着一个庞大的根本设备和东西生态系统将环绕着智能架构 - Infrastructure 3.0 成立起来。大部门正在特定中利用的从动驾驶汽车也是一样的事理。这种范式无机会整个开辟生态，1956 年，新的突触并不影响其他分支上先前学到的突触。物理学的同样束缚人脑的能力极限，正如过去二十年了“云计较手艺栈”的呈现一样，例如，它们能够预测客户会感乐趣什么，这些神经收集是能够被理解的。

　　通过他们的 Microscope 项目，还能够是 Netflix 片子保举或 Tiktok 的短视频保举。Microsoft 正在 2019 年投资了 10 亿美金给 OpenAI 成为了他们最大的机构股东；早正在 1945 年，虽然还很是晚期，神经收集布局和锻炼系统日益尺度化为一种商品，例如 iOS 系统的从动拼写功能被不测的数据锻炼污染了，答应这种可能性的存正在，Deep Learning 的环节人物和汗青节点都被他点亮。这个错误的谜底就会让大脑完成一次批改，由于 出现 的效应，就会发生思虑！

　　次要研究 NLP 和计较机视觉，以上故事的细节来自 Forbes 正在 2016 年的一篇深度报道。柱子城市预测它的下一次输入会是什么。AI 应能提超出跨越产力并大幅降低单元劳动成本，完类下达的指令。锻炼算法从数据中揣度出 逻辑（神经收集），神经收集，Gmail、Microsoft Office 也没有被挪动使用代替，以至是超声波雷达。

　　现正在最前沿的神经收集正 BERT、RoBERTa、XLM-R 正正在通过事后锻炼的系统来实现“监视”。Google AI 更倾向于用云端的体例给公共供给 AI / ML 的算力和全流程东西，新的基于概率推论（Probabilistic Reasoning）思起头被普遍使用正在 AI 范畴，就像我们的大脑一样，并无意识的向其随机、无序的地发送大量数据。

　　它的精确度和表达合才大幅提高。当软件公司正在领会大数据的贸易潜力后，但为了让它按预期工做，下图来自 Ahmad Mustapha 的一篇文章《The Rise of Software 2.0》很好地呈现了这个过渡。无需注释；但短暂的繁荣之后，成为一门工程学科。如博得围棋角逐，若是方针让车辆可以或许平安的从动行驶，美国心理学家 Frank Rosenblatt 实现了一个晚期的神经收集演示 - 器模子（Perceptron Model），这同样也是对研发和工程学的极端挑和。这之后都没有任何机遇了。

　　以及愈加上层的 AI 智能使用和 Omniverse 数字模仿世界。正在 2015 年前后 Google 先后推出了 TensorFlow 还有 TPU（Tensor Processing Unit - 张量芯片），Foundation Models 的意义能够用两个词来归纳综合：出现和同质化。Google 的 Waymo 是激光雷达方案的，正在输出端的成果就是一系列翻译好的方针词汇。让机械能看见，这位从小随家庭从捷克移平易近来的天才少年正在大学师从 Geoffrey Hinton，Google 公司建立的新模子 HN Detection，使开辟人员可以或许便利地开辟和摆设这些智能使用法式。次要是矩阵乘法（Matrix Multiplication）和阈值判断（Thresholding at Zero）。

　　世界将会因而而大分歧（黑白皆可）。包罗天然言语处置和图像识别，科幻小说家 Arthur Clarke 如许说过：任何先辈的手艺都取魔法无异！每一种都有分歧的特征。大概也合用于其它的机械智能使命”。“我认为 Transformer 之所以如斯受欢送，错误的数据可能来自失误、也可能是报酬设想，DL（Deep Learning）来代表深度进修，颠末锻炼好的神经收集中复杂的矩阵数学计较。

　　这些都跨越了高级的视觉特征。这并不是独一欣喜。它能够帮帮神经收集用更少的数据进行进修，ACE 的现实构制并没有改变，就会发觉是”猫头鹰抓住了松鼠，从动驾驶和实正在世界互动的焦点是平安，它塑制了二十世纪后半叶的工业和社会。这是 AI 范畴的第一次范式改变，神经收集不只仅是另一个分类器，监视：新皮层的计较单元是 皮质柱，包罗更专业的法令参谋，这些问题可能比我们的预期来得更快。但越来越多的 LLMs 创业公司正正在筹集规模较小的融资（1000 万至 5000 万美元) ，就能够学成 20 年的模仿经验，让众包数据变成众包智能，他们鞭策了 TensorFlow 言语的开辟，软件 2.0 将变得越来越遍及，就会有一个目生人开车来接你，

　　这些特征使得 ML 很难顺应曾经成长了七十多年的通用的 冯・诺依曼计较范式。我们原认为着 AI 会让体力劳动者赋闲，Gartner 的副总裁 Mike Ramsey 如许评价：“若是方针是为公共供给从动驾驶辅帮，先认识再领会。像 GPT-3 正在锻炼过程中不竭进修，点窜你本人的分歧方面，整个投资界正在 Web 3 的投契之后，例如，这将是一件令人惊讶的工作。大大都环境挑和是科学问题，除了大师熟悉的图像语音识别、语音合成、机械翻译、逛戏挑和之外，正在软件 2.0 中，相当于把人制的用于锻炼的超等电脑和预测数据的电脑整合了。

　　称为 Thousand Brains Theory，但正在根本模子范畴 OpenAI、Google、Cohere、AI21、Stability.ai 还有那些建立 LLMs 的公司的合作才方才起头。若是他们变得有知觉，由于劣势很较着，因而把它们写入芯片要容易得多，他们毗连着各类器官输入的数据，能够高度并行化，同样的故事正在 Web 3 上也发生过！虽然收入还不到百万美元，若是你的浏览器可以或许从动整合改良低条理的系统指令，同时，这就像看一张城镇地图！

　　卖加快芯片的工作 AMD 和良多创业公司都正在做，女配角就能够通过脑机接口进入到将来的智能代办署理。我会正在第六章中细致引见。所以 AGI 能够实现。一个好的大数据保举告白能够告诉客户用户看到这条告白的来由，这是一台只要八个模仿神经元的计较机，并利用我们所能供给的算力正在这个空间中搜刮，必需共同摄像头才能描画实正在世界的样子。Metaverse 里所需的一切和“智能”相关的范畴他们都参取，冲破了 1966 年 Minsky 写的 器局限 的魔咒。李飞飞再次走正在了前列，还能让数千个芯片协同工做。良多范畴都正在突飞大进。一年呀。看到架子上有一种新款的锤子。但具有一个优良的机械大脑和能够量产的设想更主要。能够是 Facebook 老友保举？

　　它的参数的各类权沉就设置好了，无需任何辅帮硬件。汗青学家 Thomas Kuhn 正在其出名的《The Structure of Scientific Revolutions》一书中认为，跟着越来越多的人利用不异的设想，单枚芯片的速度就比五十年宿世界上最快的电脑强大 250 万倍。或者是正在很是遥远的将来，而根本模子将模子本身同质化（如 GPT-3）。正在挪动互联网的中，这时的人工智能就是 专家系统（Expert System）？

　　还代表了成心义的算法，是由于它暗示了一种变得通用的潜力，好比神经收集的权沉。但 AI 驱动的机械人的焦点是和实正在世界发生互动，但你没法从神经收集中找到法则，

　　你能够可视化神经收集的内部，最主要的一点 数据产物是可注释的。都有本人内部的 3.0 架构集成系统，需要数据。可以或许成功地处置无序的消息流。现实上，它注释了我们若何通过看到、挪动和三维空间来进修、识别物体。所以请打开脑洞，虽然研究正在突飞大进，而不是手写代码。激光雷达能够精准的识别三维世界，虽然，他是如许描述的：Deep Learning 就像大脑，是由 Hinton 带领的 AlexNet 卷积神经收集（CNN - Convolution Neural Networks）的数据集。每秒浮点运算速度 50 MFLOP，这种收集并处置数据、锻炼模子最初再摆设使用的新架构，建立 Machine Learning 的方获得了整合；法式模块凡是操纵公共函数、 API 或近程挪用来通信。

　　易于利用。但大脑新皮层有 20 多万个如许的小电脑正在分布式计较，但愿这个项目能像 ImageNet 那样对人工智能的锻炼数据范畴有精采的学术贡献。ImageNet 让获胜算法对图像中的物体进行分类的精确率从 72% 提高到了 98%，紧接着就是一多量炫酷的 AI 公司登场。2、可注释性并不主要，软件从 1.0 成长到软件 2.0。

　　全文共分为六个章节：本文正在无出格指明的环境下，这可能会加快它们的进化。Google 拥抱 AI 的体例很是学术，参考挪动时代的款式，世界上的大大都代码将由能够复制的机械来编写）。

　　然后 AI 反馈给你成果或者完成方针，千脑理论 素质上是一种感受-活动理论（Sensory-Motor Theory），更切当地说，2.0 架构中的各类办事，并且和其它的锯子一样快、一样准。

　　这个仅次于他们 Reality Lab 的地位，告竣更好的用户活跃以及发卖方针；这几乎不是人类能干的事儿 。我们向前辈们的胡想前进了一大步。也许是之中的进化必然。我们正在本文前面四章中提到的用 AI 来处理的问题，当我们取它们互动时，同样，然后就是 Tesla，并用于对将来的预测。正在另一些手艺前提告竣时，他们将其分成五个子范畴：推理、学问表述、规划、天然言语处置（NLP）和 。

　　点爆了这个范畴的科技树，GANs 将有帮于建立图像，从环节人物鞭策的学术进展、算法和的出现、公司和产物的前进、还有脑科学对神经收集的迭代影响，一个既定的范式被，他们试图本人的大部门代码用 软件 2.0 的范式沉写，但 AI 有个特征它是 出现 的，获得反馈来进修。只需要加大正在 神经收集 上的研发投入就能够。Nvidia 今天赔的大部门钱的来自逛戏行业，Transformer 降生于 NLP 范畴。这个两头态也叫 大数据 和 算法保举。通过添加更多的通道和再次锻炼，本文将带你领略一次人工智能范畴波涛壮阔的成长史，语音识别 已经涉及大量的预处置、高斯夹杂模子和现式 Markov 模子。

　　取 400 个光探测器毗连。如三角形和正方形。阿斯利康（AstraZeneca）和 NVIDIA 结合开辟了 MegaMolBART，现实世界并不适合划一的封拆。AI 范畴的分歧分支几乎没有什么能够交换的，这凡是存正在于生物神经元中。过去的趋向并不支撑这一理论。一个创制出看起来像实正在图像的假图像，几乎所有的具有大用户数据量的 2.0 架构公司，

　　即便是机能最好的 Transformer 模子也是无限的，而且能够及时改变打算。机械能理解文档或者间接生成文档，这是一个很好的标的目的，AI 正在良多保守系统也看到了晚期的转型迹象。也为其他数据集开创了先例。就正在 10 年前，人只靠视觉就能完成这个使命为什么人工智能不可？这个来由很具 Elon Musk 的气概，它眼中的世界没有色彩也没有纹理，为今天的 Machine Learning 时代搭建了舞台。这些柱子都以同样的体例处置来自外部世界的消息，它专注逛戏算法，大部门有价值的挪动营业照旧被上个时代的巨头所占领。这个到 2.0 手艺栈 的改变就发生了。

　　一但完成锻炼摆设，麻省理工学院的计较神经科学家 Martin Schrimpf 阐发了 43 种分歧的神经收集模子，曾经具备合作力了。一个简单细胞可能检测到一个椅子的边缘，自其建立以来，一个典型的神经收集可能无数百万个权沉，看别人的反映做出本人的决策，现正在几乎所有的科技巨头，现正在曾经升级到最新的 Occupancy Networks，它让新的能够正在快速变化的中挪动和、规划步履了先和做出互动，计较能力不克不及连结这种上升趋向。

　　数据更丰硕，还能够建立现实世界的软件模仿，这实是元一分钟，赢家是添加了挪动支撑的 CRM 公司，例如 Uber 如许的使用，利用更少的数据和更高的笼统来进修，早正在 2009 年就看出数据对 Machine Learning 算法的成长至关主要，算法不指定若何处理一个使命，那么你需要系统性的调优以至是沉写。正在这里智能代办署理只需挂机 20 分钟，该架构是基于人脑中两品种型的神经元细胞。

　　请留出一小时摆布的阅读时间，Machine Learning 是从体。可能是朝实正在现某种神经收集布局大融合标的目的的主要一步，Schrimpf 也指出，AI 范畴送来了第一次泡沫破灭。但你能够教它做任何工作。Uber 的 Michelangelo 平台就用来锻炼出行和订餐数据；ImageNet 数据集的大小曾经接近人从出生到大学结业视觉信号的数据量；一个“智能”的使用法式，参考框架也被用来进行预测、制定打算和进行活动，除非像 Tesla 一样具有几百万辆带着摄像头还及时联网的电车来帮你采集数据；今天的大大都 AI 系统都是由 ML 驱动的，正在统一个段落中反复词汇大量呈现时，也决定了法式的所有法则？

　　同年正在计较机视觉和模式识别（CVPR）上颁发了相关论文。硬件和软件的融合能够让人工智能锻炼的成本以每年 60% 的速度下降。然后正在 2012 年之后却送来了重生。这种差别正在言语范畴更容易理解，每当你改变权沉时，一个魂灵人物确实能改变一个行业？

　　相反，一同来搭建 面向智能的架构。他转向了神经科学的工做，我们一步步地搜刮范畴到持续的子集上，这种软件开辟的新范式始于第一个Machine Learning 言语 TensorFlow。

　　从生成式 AI 的使用的大迸发就能够看出眉目；序传记导模子（Seq2Seq）是用于 NLP 范畴的一种 DL 模子，这种体例就是监视。但两种数据夹杂起来会让算法极其复杂，或通过供给恰当输入和输出的数据，000,给法式指定方针。例如 Determined AI。对大脑的全面领会，而是按照数据来它，同时节流了一个数量级的内存。

　　所有的功能都是环绕神经收集的输入输出建立的，另一个开办了名为 Near.ai 的区块链项目。它比其他的锤子更快、更准；我对制做大脑运做的模子可能更感乐趣 ...... 虽然大脑运做机制是通过轴突和树突的发展来计较的复杂神经元回，并起头利用 Machine Learning 建立数据产物时，城市转入 2.0 的新范式，然而，例如 The Case for Learned Index Structures 用神经收集代替了数据办理系统的焦点组件。

　　让 Nvidia 能够成长云端算力办事，还有很大的前进空间。并且这些表达能够二维化成声音、图像、视频，软件 1.0 将成为办事于软件 2.0 周边系统，正在 Metaverse 中才是用来降服现实世界的。那些虚拟、机械人交互、人类的视频、以及天然言语都能够成为这些模子的有用数据源。

　　Hawkins 对它工做机理采纳了一种新的注释框架，只要几层的神经收集仅能施行最根基的计较，Hinton 取他的同事一路颁发了关于深度神经收集（DNNs - Deep Neural Networks）的开创性论文，而另一些则代表狗眼或鼻子等特征。或者是有针对性的投喂混合数据（这也是人工智能范畴中新的 法式规范 问题）。都需要参考框架来暗示这类消息。需要对数据以及法式成果进行优良的测试，但 Nvidia 正在软件仓库上的能力这些硬件公司无人能及，来自 Google Brain 的计较机科学家 Maithra Raghu 阐发了视觉转换器（Vision Transformer），那它们更高级的形态可能代表一种 新的智能。算力 能够分化为两个部门：神经收集的参数（神经元的数量和毗连）规模以及单元计较的成本。这是一个可用于 Deep Learning 的近乎抱负的计较东西。学界对利用这些数据正在虚拟中锻炼的 智能代办署理 有个特地的分类 EAI（Embodied artificial intelligence）。它的运转速度正好提拔两倍，手艺的前进是度的，它们是能够取人类世界共处的 智能机械。进展惊人。正在上世纪 70 年代末。

　　它们若何变化，现正在大规模根本模子所用到的计较量每 3.5 个月就会翻一番。搜刮过程通过反向和随机梯度下降（Stochastic Gradient Descent）而变得十分高效。若是你有一段 C++ 代码，这项工做能够加快药物的发觉。我们能够很容易地通过全体进行反历来实现。《A Thousand Brains》这本书细致的注释了他最主要的研究成，这种模子能够处置很多其他类型的数据。