Uvicorn 原理及源码分析

Uvicorn 是一个基于 ASGI(Asynchronous Server Gateway Interface) 的轻量级 Web 服务器,专为异步 Web 应用程序而设计。

发布博客 2024-10-17 01:07:45
174 次阅读
Python getattr() 的基本用法

`getattr()` 是 Python 内置的一个函数,可以用来获取一个对象的属性值或方法。

发布博客 2024-08-19 23:59:01
327 次阅读
FastChat 框架中的服务解析

FastChat 是一个开源的用于训练,评估以及部署大模型的框架,本文聚焦在模型的推理部分,从源码的角度介绍其基本的工作原理。

利用 FastChat 框架部署一个完整的模型服务主要分为三个部分,分别为: Controller , Server 以及多个 Worker 。

发布博客 2023-10-22 21:11:34
4112 次阅读
Java 中的 final 关键字和 static 关键字

final 和 static 是 Java 中的两个关键字,其中, final 关键字可用于修饰类,方法和变量, static 关键字可用于修饰变量和方法。

发布博客 2023-08-15 20:12:00
1263 次阅读
Siamese Network孪生网络

Siamese Network是受到了Siamese的启发,旨在通过共享网络的方式学习出对数据的表征,通过设计不同的损失函数,如Contrastive Loss和Triplet Loss,从而实现对不同数据的度量。

发布博客 2023-05-18 15:37:06
1690 次阅读
淘宝搜索的向量召回算法MGDSPR

淘宝在2021年也提出了对应的向量召回算法MGDSPR(Multi-Grained Deep Semantic Product Retrieval)。在MGDSPR中着重要解决的问题是如何优化相关性的问题,这一点在其他的文章中很少提及,但是搜索中的相关性问题对于向量召回来说是避不开的一个问题,而且是一个较难解决的一个问题

发布博客 2023-04-02 01:24:27
1953 次阅读
Facebook的多任务多模态向量召回模型Que2Search

在Que2Search中,主要是加入了更多的文本特征,并利用基于Transformer的方法提取文本语义信息,同时在特征中融入了图像的特征,实现了多模态的模型学习。另一方面,在训练的过程中提出了多任务的学习,有利于对item塔的模型学习。

发布博客 2023-04-01 00:20:45
1799 次阅读