(美国)生成式AI云平台

发布时间:2024-03-20 15:44    来源:中国国际科技合作网    字号:  

项目编号:2024D-0016

  Stochastic是一家美国科技初创公司,旨在为每个人创建个人AI,强调隐私、个性和效率,专注于适合个人需求的更小、更高效的语言模型开发。公司由Glenn Ko和Yuji Chai等哈佛大学AI系统研究人员创立,团队由在AI模型和基础设施方面拥有丰富研究经验的专家组成,该公司主要工作包括Transformer架构优化、微调技术以及最大化GPU性能。Stochastic的使用方法与大公司开发越来越大的AI模型的趋势形成鲜明对比,其目标是个性化、易访问的AI解决方案。

  xCloud by Stochastic是一个AI云平台,专为在生产中部署和扩展大型语言模型(LLM)而设计,使用可重新编程的计算机芯片,专门为客户使用设计特定算法。与 GPT-4等其他解决方案相比,该公司可以提供加速推理等功能,可显著节约成本并降低延迟。此外,xCloud强调安全性和隐私性,允许部署在公共云平台或私有云上,并提供高效的微调和模型压缩选项,旨在以更具成本效益和更高效率的方式促进生成式人工智能的开发。

  该项目获得了哈佛大学i-lab的Allston风投基金,具有较大市场潜力;已实现小规模生产,外方希望通过合作生产、投资等方式开展合作。

附件下载

相关链接