上周，Hugging Face宣布与微软合作推出一种名为Hugging Face Endpoints的新产品。该产品允许用户在微软的云平台上设置和运行数千个机器学习(ML)模型。
Embracing Faces最初是一个聊天机器人应用程序,由于其作为变形器模型的中心的声誉,这是一种深入学习的建筑,支持人工智能的许多最新进展,大型语言模型包括OpenAI GPT-3和DeepMind的蛋白折叠模型AlphaFold。
谷歌、Facebook和微软等大型科技公司多年来一直在使用变形器模型,但在过去几年中,小型公司对变形钻石的兴趣有所增加,包括许多没有内部机器学习人才的公司。
它对于像Facelift这样的公司来说是一个很好的机会,他们的愿景是成为一个机器学习GitHub。该公司最近获得了100亿美元的C轮融资,价值为200亿美元。
然而,在变压器周围的业务创造带来了对大型科技公司有利的挑战,并使面对面的公司处于不利地位。 面对面合作与微软可能是市场一体化的开端和未来可能的收购。
为什么变压器模型昂贵?
变形模型可以完成多种任务,包括文本分类、总结和生成;查询;翻译;编写软件源代码;和语音转换。
变压器模型的主要优点之一是其扩展能力.近年来的研究表明，随着变压器的生长和在更大的数据集上运行,变压器的性能也得到了改善。然而，大型变压器的培训和操作是非常困难和昂贵的。Facebook最近的一篇论文显示了训练超大的语言模型背后的一些挑战。虽然并非所有的转换器都像OpenAI的GPT-3和Facebook的OPT-175B一样大,但它们仍难以妥善处理。
接吻面提供了大量的预训练的ML模型,以减轻部署Transformer的负担。 开发者可以直接从接吻面库上载入转换器并运行它们在自己的服务器上。
该预训练模型非常适用于实验和微调制变压器。但是，在将ML模型应用于实际产品时,开发人员必须考虑许多其他参数,包括整合 、 基础 设施 、 扩充 和 再培训 的 费用 。如果配置不正确，变压器的运行成本可能很高,这将对产品的商业模式产生重大影响。
因此, 虽然 变换者 是 非常 有用 的, 但 许多 受益 于 变换者 的 组织 没有 训练 或 以 成本 效益 的 方式 运作 它们 的 才能 和 资源 。
转换器API
在Azure上运行自己的转换器的另一个方法是使用管理的ML模型在云服务器上。 近年来,一些公司已经引入了能够通过API调用使用机器学习模型的服务,而无需知道如何训练、配置和部署ML模型。
两年前，面对面启动了自己的ML服务,称为Inference API,它提供了数以千计的预训练模型(主要是转换器),而不是其他服务的有限选择。客户可以根据共享资源雇佣推导API,或者为他们建立和维护基础设施。信任模型使广泛的组织能够访问机器学习,就像云 Hosting 服务将博客和网站带到无法建立自己的网络服务器的组织。
那么，我们为什么要诉诸微软呢?把管理型金融产品转化为盈利型业务是非常复杂的(例如,参见OpenAI的GPT-3 API。像谷歌、Facebook和微软这样的公司已经投资了数十亿美元来创建专门的处理器和服务器,降低运行变压器和其他机器学习模型的成本。
mbrace端口使用了Azure的主要功能,包括其灵活的扩展选项, 全球可用性和安全标准.该界面易于使用，只需几击即可设置消费模型,并配置它以根据不同的请求数量扩展。微软已经创建了一个巨大的基础设施来运行转换器,这样可以减少交付一个微笑的ML模型的成本。(目前正在测试阶段,接纳终端免费,用户只能支付Azure基础设施成本。公司计划在产品公开时采用基于价格的定价。)
更重要的是, 微软已经取得了以微笑为目标的大量市场份额.
Facebook的博客说:“因为95%的 Fortune 500公司相信Azure的业务,所以与微软合作解决这个问题是有意义的。
许多公司发现,注册和支付云服务是令人沮丧的。 与Microsoft Azure ML 集成的强有力的ML产品可以减少实现其产品价值的障碍,并扩大公司的市场范围。
抱抱脸的未来
面对面终端可能是未来更多产品集成的开端,因为微软的工具包(Outlook 、 Word 、 Excel 、 Teams等)有数十亿用户,它还为变形器模型提供了大量的例子。公司管理人员暗示计划扩大与微软的合作关系。
“这是我们今天宣布的 Azure 与我们合作的开始,我们将共同努力，让我们的解决方案、我们的机器学习平台和我们的模型在Azure上易于访问和使用。基于Azure的HaggingFaceEndpoints是我们的首个 Azure Marketplace解决方案,但我们正试图为Azure带来更多的可拥抱的解决方案,"可拥抱的产品总监Jeff Boudier告诉TechCrunch。“我们认识到部署机器学习解决方案对生产中的重点项目的重要性,并开始与微软合作,为了解决人们对简单的现有解决方案的日益增长兴趣。
这非常有益,因为它必须找到能够证明其价值200亿美元的商业模式。
但与微软的合作并不是零总的游戏。
本月早些时候,联合创始人兼首席执行官克莱门特·兰格(Clement Drang)向Forbes表示,他拒绝了几个“重大收购报价”并不会像GitHub那样向微软出售自己的业务。
然而,目前他的公司正在采取的方向将使其业务模式日益依赖于Azure(OpenAI再次提供了一个很好的例子,说明事情的走向)并可能减少其独立推理API产品的市场。
没有微软的市场影响力,面对面产品将面临更大的采用障碍、低价值建议和更高的成本(上述的“障碍”), 而微软将永远能够推出更好的、更快、更廉价的竞争对手。
如果微软收购竞标失败,面对面将不得不作出艰难的选择。 这也提醒我们大型语言模型和应用机器学习市场的发展方向。
“拥抱的使命是民主化良好的机器学习,”德兰格在拥抱博客上的评论中说:“我们正在帮助每个开发者和组织建立高质量的机器学习应用,这些应用对社会和企业产生积极的影响。
事实上,像Face-to-Face终端这样的产品将民主化开发人员的机器学习。
但是，变换器和大型语言模型同样是不民主的,它将给少数拥有建设和运营资源的公司太多权力。虽然更多的人将能够在Azure支持的转换器上构建产品,但微软将继续确保并扩大其未来机器学习应用的市场份额。像拥抱这样的公司将不得不承受后果。