MCP、A2A、Reasoning LLMs- Transformer 可视化动画方式展示2

解密企业级大模型智能体Agentic AI 关键技术：MCP、A2A、Reasoning LLMs- Transformer 可视化动画方式展示

关键词：
MCP、A2A、ADK、Manus、DeepSeek、Computer Use、LangGraph

现在先给大家有一个总体的符合直觉的一个认识。也就是说目前我们谈了三个部分。第一个部分就是你的输入会转成这个向量的embedding。然后第二个部分会通过这个多头注意力机制，来从不同的维度判断元素之间的关联的强度。第三个部分就是我们会有这个mlp或者说feed forward neural network FFN，大家可能说会有不同的大家的一种说法。但是它本身其实就是一个正常的一个我们称之为Dense neural network的部分。

最后我们会有输出的过程，这其实再次是概率统计的内容。因为你每产生的具体它的token，它会针对整个vocabulary，就是我们在这个地方看见，大家看这样的一个位置，它会针对整个，例如说10万个这个token，假设说有10万个，它都会有一个概率分布。但这个概率本身是怎么计算出来的，这个是一个很好的一个问题

然后我们可以来看一下，从我们在这个地方可能 language model visualization的角度，在更清楚的跟大家谈一谈我们整个课程的授课方式，就是不断的迭代。首先跟大家谈系统的，但是系统的可能说开始的时候是一种比较模糊，然后我们会更具体的来看，我稍微把这个地方放大一点，

我们回到。对，好，大家可以看啊，这是我们整个transformer，当然它可能会有很多很多层次。大家可以看这边有啊有I对吧？Transformer I那显然你可能是啊12345等之类的，很多很多不同的这种block。

然后我们有输入的时候注意这边的how to predict。这边是相当于三个token 那这token他会我们会有token embedding，还有这个position embedding，他们加起来会形成我们输入的这个final embedding，

大家可以看得很清楚，在这边embedding的说，我们来看这Tokenization 。
然后本身tokenization是，对，这里面有个互动没有讲，就是你输入的文本它会把你变成token。关于这个输入文本怎么变成token，这个其实是再次是概率统计学的一些基本的一些概念。我们后面也会跟大家谈。

现在很多时候大家可能什么，比如说OpenAI提供的tokenization等等之类的，这会涉及到你整个的action space。就是整个你的大模型在预测下一个token的时候，它从什么样的一个范围中去选，当然你可以是单词的本身，是完整的单词，但是这个变化有点太多，而且不太好适应一些特殊的符号或者说表达，你也可以是专门字母的方式，那这种表达能力就有点太弱了。所以会怎么从这个自然的文本产生token，它会有一系列的算法。我们后面还会具体跟大家谈，尤其是我们在谈具体如何一行一行的实现GPT的这个模型本身的时候，会跟大家具体讲，你现在简单的认为每一个单词就是word，它就是一个token。例如我们这边说的how to predict，然后这个token由于他要转他想转换成我们的这个vector的过程中，他会先通过他的vocabulary把它变成这个token ID。是因为你文本最后要变成数字，它变成ID标记，这是一种很自然的一个computer science的一种过程的。

然后就是我们token ending，然后positional embedding，大家可以在这边看的很清楚 token embedding，然后position embedding。当然是position embedding可以有很多不同的变种。我们后面也会跟大家谈，就是说看看llama时候，会跟大家谈具体的谈llama的实现

好，他们加起来会构成最终我们在这个地方看见的final embedding，所谓的embedding就是vector 你不同的这个位置有不同的vector，但是Victor有多少？例如说你是512的这个dimension，还是说1024的dimension，这个根据不同的模型它会有不同的设置。

在学习研究过程中，大家如果想和同行进一步交流，或遇到专业问题想进一步探讨，可通过以下方式建立联系：
微信：NLP_Matrix_Space 或 NLP_ChatGPT_LLM
电话：+1 650-603-1290
邮箱：hiheartfirst@gmail.com

本文由博客一文多发平台 OpenWrite 发布！