据媒体援引两位知情人士的话报道,亚马逊公司正在投入巨资来训练一个强大的大型语言模型(LLM),希望能与OpenAI和Alphabet旗下谷歌的顶级模型一争高下。
大型语言模型是人工智能工具的基础技术,这些工具需要从庞大的数据集中学习和训练,以产生类似人类的反应。
考虑到所需的计算能力,训练更大的人工智能模型的成本更高。早在4月的财报电话会议上,亚马逊高管就已经表示,该公司将增加对大型语言模型和生成式人工智能的投资。
据此次的知情人士透露,这个代号为“Olympus”的模型有两万亿个参数,这一点使它成为正在训练的最强大的模型之一。
目前来看,OpenAI公司的GPT-4模型是最好的模型之一,而它也只有一万亿参数。
据报道,该团队由亚马逊语音助手Alexa的前负责人Rohit Prasad领导,而他现在直接隶属于首席执行官安迪·贾西。
同时,作为亚马逊通用人工智能(AGI)的首席科学家,Prasad请来了Alexa人工智能的研究人员和亚马逊科学团队的研究人员来共同着手开发“Olympus”模型。
在今年的这场人工智能竞赛中,亚马逊并不属于第一梯队。尽管亚马逊已经训练了Titan等较小的模型;并且它还与Anthropic和AI21 Labs等人工智能模型初创公司合作,并将这些模型提供给亚马逊网络服务(AWS)。
不过,缺乏自有的模型对亚马逊来说始终是个问题。知情人士称,亚马逊认为拥有自有的模型可以使其产品在AWS上更具吸引力,因为企业客户总是希望访问性能最好的模型。
目前该公司还没有官方发布新模型的具体时间表。
推荐阅读: