Microsoft、Google等正因为AI而争个你死我活,AI可以说是决定了这些公司未来十年甚至更长远日子的兴衰,而AI这个大饼,Meta又怎么能错过呢?
Meta 在周五宣布,它将推出一种针对研究社区的基于人工智能 (AI) 的新型大型语言模型,算是正式入局了而这个赛道,而Meta自家的大型语言模型名字就叫做LLaMA。
所谓的LLaMA,是“大型语言模型 Meta AI” (Large Language Model Meta AI)的缩写,它可以在非商业许可下提供给政府、社区和非营利组织使用。LLaMA 多种不同的参数(7B、13B、33B 和 65B),规模最小的模型LLaMA 7B 也经过了 1 万亿个 tokens 的训练。
而这个训练的过程中,他们选择了20种语言来进行,还有一些要减少偏见、恶毒言论、虚假言论等情况,也是Meta正在面临的挑战。
其中,Meta表示LLaMA-13B在各方面的表现都优于Open AI开发的的GPT-3 (175B),而LLaMA-65B则是能与Google的Chinchilla70B和PaLM-540B抗衡。
从目前的发展来看,LLaMA目前还处在让一些有需要的单位使用的阶段,至于何时会开放到我们普罗大众使用又是值得我们去关注的消息了。
你觉得Meta能靠LLaMA翻身吗?