LLM Compiler-13b-ftd

Meta Large Language Model Compiler (LLM Compiler-13b-ftd) 是一个基于Code Llama构建的先进大型语言模型，专注于编译器优化和代码推理。它在预测LLVM优化效果和汇编代码反编译方面展现出了卓越的性能，能够显著提高代码效率和减小代码体积。

需求人群：

"LLM Compiler主要面向编译器研究人员和工程师，以及需要进行代码优化的开发者。它适合那些寻求通过深度学习技术提高代码效率和减小程序体积的专业用户。"

使用场景示例：

用于优化编译器生成的中间表示(IR)的代码大小。

在开发新编译器技术时，预测最优的优化传递序列。

将汇编代码反编译为LLVM IR，以便于进一步的代码分析和优化。

产品特色：

预测LLVM优化对代码大小的影响

生成最小化代码大小的优化传递列表

从x86_64或ARM汇编代码生成LLVM IR

在编译器优化任务中实现接近完美的输出复制

提供7B和13B参数的模型以满足不同服务和延迟需求

遵守Meta的许可证和可接受使用政策

使用教程：

安装必要的库，如transformers。

使用AutoTokenizer从预训练模型中加载分词器。

创建transformers.pipeline以设置文本生成的pipeline。

通过pipeline传递代码片段，并设置生成参数，如do_sample、top_k等。

获取生成的序列，并评估生成的文本以确定其适用性。