computed 是 Vue3 中处理派生状态的核心工具,其缓存机制和懒更新策略使其在处理复杂计算时兼具性能优势和代码可维护性。
响应式系统是 Vue 的基础,正式响应式的设计使得数据的依赖收集、派发更新变得简单,同时,在 Vue3 中,提供了 ref 和 reactive 两种响应式的支持,不同点在于 ref 是为了让基本类型(如 number,string)可以变为响应式,而 reactive 是为了让对象变为响应式,其本质是背后的实现方式的差异,这也就导致在使用上会存在差异。
LoRA 技术结合了残差连接的思想,针对新的训练数据,在固定住原始的矩阵的前提下,通过残差的方式进行微调,同时为了进一步减少参数的量,对微调矩阵进行低秩分解,进一步减少了需要学习的参数的量。
KV Cache 的提出,将 LLM 的推理过程分成了两个阶段,分别是 Prefill 阶段和 Decode 阶段,其中,Prefill 阶段处理的是 LLM 的 Prompt,用于产出首个 Token 以及存储 Prompt 中所有 Token 的 K 向量和 V 向量,此阶段算力要优先于内存的带宽;Decode 阶段则是根据新生成的 Token 以及历史所有 Token 的 K 向量和 ...
LLM 在推理阶段,其实用到的是最终 Embedding 矩阵的最后一行,而影响最后一行的最关键的计算是 Attention 的计算,进而在 Attention 中与其相关的是新增 Token 的 Q 向量,完整 Input 的 K 矩阵以及完整 Input 的 V 矩阵,因此,我们可以将该新增 Token 之前所有 Token 对应的 K,V 向量缓存起来,这便形成了 KV Cache。
SSE(Server-Sent Events)是一种可以主动从服务端推送消息的技术,客户端向服务端发起 HTTP 长连接,服务端返回 stream 响应流。客户端收到 stream 响应流并不会关闭连接而是一直等待服务端发送新的数据流。
WebSocket 是一种在单个 TCP 连接上进行全双工(Full-Duplex)通信的协议。它允许服务器主动向客户端推送数据,打破了传统 Web 通信中“客户端不问、服务器不答”的限制。
Label Stuido 是一个较成熟的标注系统,平时在做 CV 相关的业务时,会使用 Label Stuido 进行训练数据的标注。当然,除了对原始数据的标注之外,还有一部分的需求是对预测后的结果进行“微标注”,也就是对预测的结果做细微调整。然后就是这第二部分的工作,在 Label Studio 中支持得并不是很友好。我从我个人的实践中总结出一套非常好的方式供大家参考,主要针对于图像分割场...
REINFORCE 算法是最经典、最基础的 Policy Gradient(策略梯度)算法,由 Ronald J. Williams (1992) 提出,直接对策略建模,寻找到最优的策略使得总体回报的期望最高。从实验的结果来看,与 DQN 相比,效果及稳定性要低于 DQN。
通过神经网络对动作状态函数建模,从而解决传统基于 Q-Table 这种只能处理离散状态的问题,同时通过经验回放,缓慢更新等策略,确保在 DQN 中训练的稳定性。
Sarsa 算法和 Q-Learning 算法都是基于时序差分的算法,不同的是 Sarsa 算法是 on-policy 算法,而 Q-Learning 算法是 off-policy 算法。
蒙特卡洛方法(Monte-Carlo method)是一种基于采样估计的方法,完全不需要事先知道模型,而是通过让智能体与环境交互,收集到完整的回合(episode)的样本,然后用该回合的实际回报的平均值估计价值函数。