2023年5月17日 – Github Copilot 基于机器学习为在线代码编写提供服务，这背后需要用到一个被称为 Language Model (LM) 的技术。而 Github 的 LM 模型被称为 “LLMs”，是 Github Copilot 可以生成如此精确、有效的预测文本和上下文。本文将带您深入了解 Github Copilot 的LLMs技术。
LLMs全称为“英语语言模型”，是开发GitHub Copilot的基础构建单元。 LLMs致力于通过深入对英文语言的研究和分析来预测和生成代码语句，可以大幅度提高编程效率。 LLMS的诞生背后需要Python、TensorFlow 2.5、Keras、CUDA、cuDNN等开发技术的支持，同时还需要大量的数据集和验证，并且需要对原始数据进行适当的清理和处理，以便LM模型可以按预期生成高质量文本。
此外，本文将通过丰富的案例实例介绍Github Copilot如何在线生成代码，详细分析其中的监督学习和自监督学习模型。在监督学习过程中，模型将学习外部提供的数据集，来预测下一个标记；而自监督学习更是通过模拟大量语句进行文本预测，来训练模型。
总之，GitHub Copilot的LLMs简直是一项卓越的技术，值得开发者们深入研究和探索其神秘的代码背后。
了解更多有趣的事情：https://blog.ds3783.com/