2024.9.6 更新

神州问学平台 Ver2.7 新功能发布,重点升级如下:

  • 应用层
  1. 工作流:增加迭代节点,可以反复地对数组里的元素执行一系列操作或步骤,适用于对数组内容进行循环处理的场景

    image_17258622201501

  2. 工作流:结束节点选择“由大模型生成回答”时,流式返回 LLM 节点的输出结果,提升智能体应用的响应时效和用户体验

    image_17258622761496

  3. AI 应用:应用编排中使用提示词优化功能时,可以选择调用的商用大模型

    image_17258621289216

  4. AI 应用:增强型应用的命中来源卡片,增加显示命中 chunk 的得分

    image_17258626981648

  • 数据和能力层
  1. 使用大模型生成数据集时,可以选择调用的商用大模型

    image_17258618095870

  • 模型层
  1. 大模型市场新增上架 Phi-3.5-mini-instruct 轻量级开源模型,为资源受限环境提供更多选择

    image_17258612937678

  2. 支持对大参数模型单机多卡训练和测评,实现多张小内存容量的显卡可以训练和测评大参数模型,有效提升模型训练和评测的速度及效率

    image_17258616328075

    image_17258616764606

  3. 模型部署设置增加上下文窗口大小字段,可以按需设置模型输出的文本限制,避免无效和冗长的回复

    image_17258617362488

  4. 增加大模型训练日志记录功能,便于监控训练进展、定位和优化问题,并支持对训练失败的大模型重新训练

    image_17258614732097

  5. 增加大模型测评日志记录功能,以全面监控测评进程,为型性能评测提供重要参考

    image_17258615147207