GitHub - kelindar/search

阿里云创新中心> 创业资讯> GitHub - kelindar/search
0
0

GitHub - kelindar/search

齐思GPT 2024-10-30 00:00:00 163
GitHub存储库"kelindar/search"介绍了一个专为嵌入和向量搜索而设计的Go库 该库的一个关键特点是它能够与llama.cpp一起工作,无需cgo,简化了集成和交叉编译过程。它还提供了带有Vulkan GPU支持的预编译二进制文件

GitHub存储库"kelindar/search"介绍了一个专为嵌入和向量搜索而设计的Go库,专为需要语义搜索功能的小到中型项目而设计。该库以其简单和高效而脱颖而出,利用SIMD优化以保持速度,而无需传统搜索系统的复杂性。它支持GGUF BERT模型,并提供GPU加速以加快计算速度,使其成为具有少于100,000条记录的数据集的Go应用程序的实用选择。 该库的一个关键特点是它能够与llama.cpp一起工作,无需cgo,简化了集成和交叉编译过程。它还提供了带有Vulkan GPU支持的预编译二进制文件,适用于Windows和Linux,为开发人员简化了设置过程。 然而,该库也有一些限制,包括由于其蛮力搜索方法,仅适用于小规模应用,可能无法处理大型数据集或复杂的查询需求。 对于有兴趣在Go中实现语义搜索的开发人员,该库提供了一个简单的方法,具有开始所需的必要工具,包括如何生成嵌入、创建搜索索引和执行搜索的示例。存储库还包括在不同平台上编译库的说明,以适应那些需要从源代码构建的人。- 该库是为了提供嵌入式向量搜索和语义嵌入的简单高效解决方案而创建的。 - 该库支持使用GGUF BERT模型进行向量搜索。 - 该库支持使用GPU加速进行快速计算。 - 该库支持从计算的嵌入中创建搜索索引。 - 该库适用于小规模应用,数据集少于100,000条。 - 该库不适用于大规模数据集、复杂查询需求和高维复杂嵌入。 - 使用该库的示例代码演示了如何加载模型、生成嵌入、创建搜索索引和进行搜索。 - 可以通过预编译的二进制文件或自行编译库来安装使用。 - 在Linux上编译库需要C/C++编译器和CMake。 - 在Windows上编译库需要C/C++编译器和CMake,可以使用Visual Studio或Build Tools for Visual Studio。 - 可以通过添加适当的标志启用GPU支持。 - 编译库时可以选择使用Vulkan进行GPU加速。

后缀.jpg

版权声明: 创新中心创新赋能平台中,除来源为“创新中心”的文章外,其余转载文章均来自所标注的来源方,版权归原作者或来源方所有,且已获得相关授权,若作者版权声明的或文章从其它站转载而附带有原所有站的版权声明者,其版权归属以附带声明为准。其他任何单位或个人转载本网站发表及转载的文章,均需经原作者同意。如果您发现本平台中有涉嫌侵权的内容,可填写「投诉表单」进行举报,一经查实,本平台将立刻删除涉嫌侵权内容。

评论

登录后可评论
AI助理

你好,我是AI助理

可以解答问题、推荐解决方案等