原子聊天核心
脚本推论核心 原子聊天: 当地lama.cpp /
MLX / 苹果基金会模型运行时间,后端和模型管理,云提供商,模型路由器和
OpenAI 兼容服务器 http://localhost:1337/v1。 。 。 .
- 工作在这个repo:
AGENTS.md - 计划、建筑和外观:
PLAN.md - 决定:
docs/decisions/INDEX.md
bun install
npm run verify
阶段1CLI实例:
atomic-chat-core serve owner/repository # a model already on disk; the core does not download models
atomic-chat-core serve --model-path ./model.gguf --bin ./llama-server --port 6767
atomic-chat-core models list --json
atomic-chat-core shutdown
serve 附加到选定数据文件夹的持久所有者。 命令可以退出
- 不卸下模型; shutdown 明确停止该所有人及其会议.
管理运行时间(Linux + NVIDIA)
在有NVIDIA GPU的Linux上,核心还可以在它自己管理的容器内运行一个模型-
{\fn华文楷体\fs16\1che0e0e0}今天 tensorrt-llmNVIDIA的推论引擎 而不是像它那样产生一个局部过程
lama.cpp和MLX都这样 它需要多克和NVIDIA集装箱工具包,核心从未安装过
单打独斗:设定一个计算一个计划,请求同意,然后进行一个特权步骤
(包装安装, docker group members),通过帮助者应用或CLI作为根运行——核心
它从未获得过更高的权利。 让你加入 docker 组等待您的下一个
在它能继续之前签入。 见 docs/contracts.md 控制路线,
主机步骤文件协议和退出代码、磁盘版式以及 model.yml 形状管理
模型的目录需要.
手工安装运行与设置相同的步骤:多克引擎和NVIDIA集装箱工具包
从自己的供应商那里 apt 或者说 dnf 寄存器,用于分发
合格(见 atomic-chat-conf/runtimes/),然后NVIDIA运行时间注册到多克和
引用用户添加到 docker 组合。 在主机上没有任何东西被删除或升级.
实际安装在真实的 Linux VM 上的活性测试是选入并更改机器——见
docs/live-tests.md 他们的行为。 他们只在 ATOMIC_LIVE=1 财务报告和审定财务报表
ATOMIC_LIVE_MANAGED=1 二者均被设定; ATOMIC_RUNTIME_DESCRIPTOR_URL 可以选择将其指向一个
本地描述符.
释放
桌面app 标出一个核心版本(atomicCore.version 联合国 package.json和下载该
释放的二进制,检查它们与 SHA256SUMS。 。 。 .
make release # patch; or VERSION=minor, major, or an explicit X.Y.Z
它会撞倒 package.json 财务报告和审定财务报表 src/version.ts 一起,承诺 release: vX.Y.Z,标记并推
分支和标签(当前版本,明确给出,只有标签) HEAD) (中文(简体) ). 未制作:
npm run release -- patch --push,或删除 --push 在推进前看看 标记运行
release 工作流程:与macOS、Linux和Windows(x64和arm64上的Linux和Windows)上的CI相同,两者均
二进制为每个目标(macOS arm64和x64,Windows x64和arm64,Linux x64和arm64),然后
vX.Y.Z 以二进制和 SHA256SUMS 作为最新发布.
工作流程也可以由手动启动,用于已经输入的版本 package.json 在树枝上
运行工作流程,或 gh workflow run release.yml --ref <branch>)它创造了
标记自己。 公布的版本从未被替换:第二次运行失败,所以先被撞倒.