• 首页 > 云计算频道 > 大模型

    Ollama更新 优化软件并支持Command R+等多个热门模型

    2024年04月17日 14:32:00 来源:站长之家

      Ollama软件的最新更新为用户带来了一系列显著的性能提升和新功能。这次更新主要集中在优化软件性能,提高VRAM的利用率,减少内存不足的错误,并改善GPU的运行效率。此外,Ollama还扩展了对一些热门新模型的支持,以满足用户对最新技术的需求。

      功能更新细节

      VRAM和GPU优化: 更新后的Ollama能够更高效地利用可用的VRAM,这有助于减少内存不足的错误,确保软件运行的流畅性。同时,通过优化GPU的利用率,软件能够在处理复杂任务时表现更好,提供更快的处理速度和更高的性能。

      macOS上的模型分割: 对于在macOS系统上运行且VRAM较大的模型,Ollama现在能够将模型在GPU和CPU之间进行分割,这样做可以最大化性能,使得在资源有限的情况下也能运行复杂的模型。

      新增模型支持

      WizardLM2: 这是微软人工智能推出的最先进大型语言模型,它在复杂聊天、多语言、推理和代理使用案例上都有所改进。WizardLM2的加入意味着Ollama用户现在可以利用这一强大的模型进行更多样化和高质量的文本生成任务。

      Snowflake Arctic Embed:这是一个全新的嵌入模型,它的加入为Ollama用户提供了更多的选择,以适应不同的文本处理需求。

      Command R+:这是一款功能强大且可扩展的大型语言模型,专门为RAG(Retrieval-Augmented Generation)用例而构建。Command R+的集成将增强Ollama在文本生成方面的灵活性和准确性。

      Mixtral8x22B: Mistral AI推出的新领先专家混合模型,它结合了专家知识和混合模型的优势,为用户提供更高质量的输出结果。

      DBRX:由Databricks创建的大型132B开放通用用途LLM,DBRX的加入使得Ollama用户能够利用这一大规模模型进行广泛的应用,从数据分析到自然语言处理等多个领域。

      通过这次更新,Ollama不仅提高了自身的性能和稳定性,还通过支持新的模型,为用户提供了更多的选择和可能性。这些改进将帮助用户更高效地完成任务,同时也为探索人工智能的潜力开辟了新的道路。无论是研究人员、开发者还是普通用户,都能够从Ollama的新功能和模型支持中受益。

      文章内容仅供阅读,不构成投资建议,请谨慎对待。投资者据此操作,风险自担。

    海报生成中...

    最新新闻

    热门新闻

    即时

    全球顶级AI创作社区回归!海艺AI国内首发“全民娱乐化创作

    海艺AI的模型系统在国际市场上广受好评,目前站内累计模型数超过80万个,涵盖写实、二次元、插画、设计、摄影、风格化图像等多类型应用场景,基本覆盖所有主流创作风格。

    新闻

    市场占比高达35.8%,阿里云引领中国AI云增长

    9月9日,国际权威市场调研机构英富曼(Omdia)发布了《中国AI云市场,1H25》报告。中国AI云市场阿里云占比8%位列第一。

    企业IT

    “三位一体”数据保护体系,筑牢企业出海安全“生命

    戴尔科技一直致力于通过“三位一体”数据保护体系,为中国企业的数据安全“保驾护航”。

    3C消费

    雅马哈推出两款高端头戴耳机YH-4000与YH-C3000

    雅马哈昨日宣布推出两款头戴式耳机,分别是平板振膜的YH-4000和动圈原理的YH-C3000。

    研究

    IDC:2025上半年全球智能家居清洁机器人出货量同比暴

    IDC今日发布的《全球智能家居清洁机器人设备市场季度跟踪报告,2025年第二季度》显示,上半年全球智能家居清洁机器人市场出货1,2万台,同比增长33%,显示出品类强劲的市场需求。