2024.9.6 更新
神州问学平台 Ver2.7 新功能发布,重点升级如下:
- 应用层
工作流:增加迭代节点,可以反复地对数组里的元素执行一系列操作或步骤,适用于对数组内容进行循环处理的场景

工作流:结束节点选择“由大模型生成回答”时,流式返回 LLM 节点的输出结果,提升智能体应用的响应时效和用户体验

AI 应用:应用编排中使用提示词优化功能时,可以选择调用的商用大模型

AI 应用:增强型应用的命中来源卡片,增加显示命中 chunk 的得分

- 数据和能力层
使用大模型生成数据集时,可以选择调用的商用大模型

- 模型层
大模型市场新增上架 Phi-3.5-mini-instruct 轻量级开源模型,为资源受限环境提供更多选择

支持对大参数模型单机多卡训练和测评,实现多张小内存容量的显卡可以训练和测评大参数模型,有效提升模型训练和评测的速度及效率


模型部署设置增加上下文窗口大小字段,可以按需设置模型输出的文本限制,避免无效和冗长的回复

增加大模型训练日志记录功能,便于监控训练进展、定位和优化问题,并支持对训练失败的大模型重新训练

增加大模型测评日志记录功能,以全面监控测评进程,为型性能评测提供重要参考
