• AI Chat as a Model

    核心思想:将 AI 的文本输出规范为 JSON 格式,作为 Service 使用 模型 和 AI Chat 页面本身都是 接受输入、黑盒处理,返回输出,因此交互式的 AI Chat 本身也是一种模型。 模型需要一组输入输出工具完成 token 到模态...
  • 书生大模型公式识别打榜赛参赛记录

    参赛记录 本文记录参加书生大模型社区比赛的一些过程。 比赛简介 本次比赛是上海 AI Lab 举办的书生大模型实战营(第六期)的社区活动,在算力平台 d.run 上使用沐曦算力,通过微调 VLM 等方法识别输入的公式图片,输出对应的 LaTex ...
  • LLM 结构化输出原理、实现方式及实践

    结构化输出的意义 LLM 是输出不可控的概率模型,而结构化输出则增强输出的可控性。 有了这种可控性,LLM 就具备了一个程序的交互 interface 可以稳定地接入上下游程序,比如调用工具 结构化输出的原理及实现方式 实现格式化输出通常有以下几...
  • 龙潭公园里的鹅和鸭们日子过得无忧无虑

    龙潭公园里的鹅和鸭们日子过得无忧无虑呐。 潭水表面大都结着冰,沿潭水绕行一圈,每个鹅鸭聚集的岸边都有人在喂食,有馒头,有不知名的食儿,甚至还有个眼镜哥带一大串葡萄来喂。 馒头屑浮在水面上,鸭子悠悠游来伸脖一衔便进肚,而葡萄都沉入水中。 有鸭子站在冰面...
  • 书生大模型论文分类微调赛参赛记录

    写在前面 https://aicarrier.feishu.cn/wiki/Gr7Iw6vhTiniMUkBIPvcfBiAnkg 有点遗憾,后面没抢到 GPU,感觉找到正确堆数据的方法了,没 scale 起来,最终从 10 名左右滑落到 28 名...