在开始前，先统一下 Harness 和 Agent 的概念；

Agent（智能体）是一个概念层的词，指"能感知环境、自主决策、采取行动来达成目标"的实体。Agent 描述的是一种行为模式，不特指某个产品。

在 LLM 场景下，Harness 指把模型套起来、变成可用工具的整套工程框架，通常包括 Agent Loop、系统提示词、工具集、上下文管理、权限与审批、界面。

目前各家的定制 Android 系统已经非常完善，一般人正常使用下 Root 的必要性很低，并且灰产、外挂的原因，现在手机厂商都在收紧 BL 锁的权限，所以我觉得大部分人是完全用不到的。

模型迭代速度还是太快了，平均一两个月就出一个版本，目前各家的方向还都是重点训练 FunctionCalling（或者说工具调用能力） 和安全挖掘方向的能力，个人认为实际还是编程方向的特化，通用知识方面目前看已经很难有大的进步了。

这篇就是来更新记录当前环境下流行的模型、工具，仅代表主观感受。

本文介绍下通过使用一些主流的 AI 编程工具后的一些心得，以及围绕编码方面的相关技术生态和工具。

我的整体态度是 AI 在编码方面算是进入可用阶段，还不能称之为成熟阶段，相比之下通用型 Agent 例如 Hermes 、各种 xxxWork 处于起步阶段，可用性没那么高。

对于老程序员，AI 是个利器，用的好可以提升很多的效率，不同智力的模型使用效果也差别很大，但是达到一定的智力程度，区别就没有那么夸张了，通过上下文管理、提示词优化对日常编码来说都可以胜任。

距离上次了解这部分已经很久了，目前的生态发生了非常多的变化，主要是发现之前发文章的网站倒闭了，也有必要写一篇新的与时俱进。

先说 LLM 方向，上一次还是 Ollama + OpenWebUI 搭建运行环境，目前的环境下 Ollama 已经跌落神坛，效率不行，伪开源商业化严重，已经是非必要不选择的状态。关于它的罪恶，可以看网友的这篇文章。

在前面 Embedding 的介绍中，我们对 LLM 的基础原理已经有了一定的了解，如果想自己尝试下本地跑大模型，光靠之前的那些知识还是不够的，这一篇为本地部署做准备，需要了解稠密模型 Dense、混合专家架构 MoE、模型的量化、模型蒸馏等基本概念。

Embedding（嵌入）可以理解为：把文字、图片、音频、用户等对象，转换成一串数字向量，用这些数字来表示它们的 “语义特征” 或 “含义”。

因为大模型的本质就是处理数字，而我们输入的文本需要先经过 tokenization，再被转换成 embedding 向量，才能进入模型参与计算；因为表示的是语义特征，所以语义相近的文本在向量空间中的距离往往更近，因为这个特性，它在语义搜索、上下文检索和 RAG 等场景中非常重要。

Tailwind CSS 从名字看就知道是和 css 相关的，它是一个 Utility-First（工具类优先）CSS 框架，用于快速构建网页 UI，更像是一个 css 的增强写法，在 AI Coding 流行的现在，建议是优先选择。

简单说，它不像 Bootstrap 那样给你现成的按钮、卡片、导航栏组件，而是提供大量低层级的 CSS 工具类，可以简单理解为每一类 css 属性封装成一个 class 名称，让我们更优雅的写 css。