口号
GUT代表全球公用事业。 Gut是用于KrnlTS服务,FrnlTS组件,Skipo应用程序等代码资产所需的非常基本功能和操作的集合库. 其目的是防止多所图书馆解决同样的基础问题.
结构
每个类别都是一个具有稳定外观的目录. GutTS既包含确定性的公用事业,也包含范围狭窄的模型支持的图书馆.
当前类别:JSON,字符串,数组,对象,数字,URL,API定义,以及模型库.
示范图书馆
每个模型都是一个命名的库,有自己的元数据,语义性API定义,以及运行时间生命周期.
模型包括用于一般文本生成的SmolLM2-135M-Instruct,用于工具选择和取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取.
模型重量不被捆绑入GutTS npm包. 当操作需要模型时,模型运行时间会获取这些模型,并可能在磁盘上缓存文物. ModelResidency只在操作活动时将模型保存在RAM中,在同一过程中共享一个并发呼叫的加载实例,并在最终操作完成后卸下.
GutTS不包含解析器,智能规格,或应用程序级路由系统. 模型元数据描述一个模型何时合适;在模型中选择仍然是更高层次应用逻辑的责任.
图书馆政策
GutTS是一个聚合层,不是被重用过的实用算法的集合.
- 更倾向于成熟,被广泛采用,保存良好的图书馆,当它们提供所需的原始.
- 保持包装小而稳定.
- 将应用程序/域特定的行为保留出 GutTS .
- 模型运行时间是适配器:模型出品和执行引擎仍然可以替换而无需更改被命名的模型API.
设计规则
- 偏好小型可堆肥的功能.
- 保持类别外观稳定.
- 在拥有它们的类别之外保留共享类型.
- 增加每个公用事业家庭的回归测试和模式生命周期保障.