自定义模型的利器来了!打造生成式代工厂还有加速部署的微服务
-
自定义模型的利器来了!打造生成式代工厂,还有加速部署的微服务
智东西(公众号:zhidxcom)作者|ZeR0编辑|漠影智东西7月24日报道,NVIDIA宣布推出全新NVIDIAAIFoundry服务和NVIDIANIM推理微服务,与刚推出的MetaLlama3.1系列开源模型一起,为全球企业的生成式AI提供强力支持。Llama3.1大语言模型有8B、70B和405B三种参数规模。模型在超过16000个NVIDIATensorCoreGPU上训练而成,并针对NVIDIA加速计算和软件(无论是在数据中心、云以及配备NVIDIARTXGPU的本地工作站或配备GeForceRTXG...