基于anythingLLM搭建本地知识库`
书接上文,我们完成了deepseek模型的本地化部署,并通过pageAssist插件构建了我们第一个本地化聊天Agent。今天我们则通过anythingLLM 工具,从0到1搭建专属知识问答Agent。本文搭建过程无需任何编码经验
下载与安装访问anythingLLM官网,点击“Download for Desktop”按钮,并根据要安装的电脑的操作系统选择对应版本的anything LLM安装包下载
下载完成后,根据安装导引进行anythingLLM的安装
基础配置及使用
https://docs.anythingllm.com/configuration
工作区基础配置
第一次打开AnythingLLM可以通过新建工作区 来建立自己专属的工作区,创建完成后,可以点击工作区名称右侧的“齿轮”按钮进入工作区设置页面,在“聊天设置”选项卡汇总进行模型基础信息设置
本次我们设置基座模型为Qwq-32B的本地版本,所以工作区LLM提供者选择Ollama,模型选择已经下载好的Qwq-32B(Ollama 安装及下载本地模型可以参考基于deepseek本地化对话机器人搭建),如果使 ...
基于deepseek本地化对话机器人搭建
随时deepseek春节的爆火出圈,通过deepseek官网使用AI对话能力,出现稍后再试的概率越来越高。deepseek又开源了模型,本着自己动手丰衣足食的想法,尝试通过本地搭建私人订制的AI,后续会考虑搭建本地代码生成机器人来提升工作效率。
ollama安装根据搭建环境系统信息下载Ollama 对应版本到本地
下载完成后,根据安装提示进行ollama安装,安装完成后在命令行输入
> ollama -v 
ollama version is 0.5.7
输出ollama版本这说明ollama安装成功,通过下列命令拉取和运行相应版本deepseek模型
> ollama run deepseek-r1:7b
目前Deepseek-r1 提供 如下几种不同参数r1模型
可视化UI对话机器人搭建Chatbox搭建可视化本地对话机器人
ChatBox官网下载 ,根据部署模型机器系统信息,选择相应系统版本进行下载
下载完成后根据提示进行安装
在chatBox应用界面点击设置后
“模型”选项卡中,“模型提供方”选择“Ollama API” ...
胖小天2024随想
翻了下自己之前的博客,上次写类似内容还是20年初,对19年的回顾和新的一年的展望,年初本来想写去年年终终结,后来因为种种原因不了了之。所以这篇随想主要想对过去的四年的一些变化和思考进行一下记录,等若干年后回忆过往的时候有一个对比对照,可能会觉得当时的自己咋这么SX。wahtever总的来说就是像记录下当下自己的一些状态和思考
关于工作这几年是到目前为止工作上最稳定的几年,打破了之前2+年就会换工作的故事,第一次在一家公司待了三年以上,到目前为止这个一家公司待得时间记录还在增加,也是一次在互联网大厂打怪升级的历练。
工作经历会比较繁杂,大体从工作城市上可以分为两端,刚毕业在帝都打拼和后来在杭州定居。从毕业进入正在步入夕阳的通信公司,到当时LD带我们出来创业,体验了从0到1搭建平台能力和从业务从单一城市网点一点点铺开到两城运营,虽然因为个人要换个城市的原因,和大家分道扬镳,但不得不承认这是一段回想起来收获颇丰的经历。但是共事的同学都是很nice的同学,能够包容我这个菜鸟犯各种低级错误,也能给与及时的从技术层面还是职业成长层面的指导和鼓励。同时也收获了很多友情,虽然大家现在很多都不在一个城市 ...
langchain学习笔记
langchain-githubLangChain 🦜️🔗 中文网
<System Desgin Interview -An insider's guide>笔记
先占坑
System Desgin Interview -An insider’s guideSystem Desgin Interview Series
这本书应该是一个同事推荐去年上半年读完的,当时觉得这本书与其说是给准备进行系统设计面试的同学的指导书籍,不如说是一本基础系统设计的基本思维指南,当时看完就准备写一篇读书笔记,记录一下当时的收获和思考,又一次搁浅。因为最近在主导业务系统重构,在重构的过程中又有了一些新的思考和收获,所以决定将本书学到的东西和最近做重构的思考整合记录一下。
本文主要会本书内容以及本次业务架构重构全过程,从思路和思考以及方方法论上进行分析,不会涉及技术点及其各种技术框架,基础组件及中间件原理;更不会涉及工作中任何的业务架构信息。如果想要通过本文了解真实业务架构和技术点信息的读者,可以跳过本文。
Go学习笔记(六)——context
前言从转go语言开发开始,会发现在日常开发时,很多方法的入参的第一个参数都是context.Context。同时我们在代码逻辑中绝大部分情况下,不会对context继续任何处理。今天就来从源码的角度弄清楚Context是如何实现的及在程序中起到什么样的作用。
Context源码解析1234567891011121314151617181920212223242526272829303132// Package context defines the Context type, which carries deadlines,// cancellation signals, and other request-scoped values across API boundaries// and between processes.//// Incoming requests to a server should create a Context, and outgoing// calls to servers should accept a Context. The chain of f ...
Go学习笔记(五)——泛型
Tutorial: Getting started with genericsWhen To Use GenericsAn Introduction To GenericsDeconstructing Type Parameters
泛型介绍泛型常用方法
pulsar学习(一)
先占坑pulsar官网
redis笔记
redis基础知识
数据结构底层数据结构SDS双向链表压缩列表跳跃表Hash表整数数组对外数据结构string
list
map
set
sorted set
rehash如何触发和渐进式机制
rehash触发根据负载因子阈值进行触发,不同于java中hashMap ,reids默认提供两个扩容负载因子阈值分别为1和5;
当负载系数达到1时, 如果当前redis server没有执行AOF重写或者RDB备份,会触发扩容
当负载系数达到5时,此时会立即触发阔扩容
rehash流程
rehash时会维护两个hash桶,一个是扩容前的老hash桶,一个是扩容后的新Hash桶
渐进式扩容方式为:
设置rehashIndex为0 表示开始扩容
当在rehash过程中,有客户端命令执行时,除了进行正常的操作外,还会将当前rehashindex对应的桶中数据迁移到新hash桶中,rehashindex 加一
当没有命令执行时,redis服务也会使用定时任务,执行迁移过程(每次执行不超过1ms)
当所有老hash桶中数据都迁移完成时 rehashindex设置为-1表名迁移结束 ...



