有时候,最好的做法就是从头开始。对于人工智能领域内的自然语言生成,这显然是一个不错的起点。GPT-3等自然语言处理技术虽然会根据一定的预定义规则和模型进行语言生成,但它们的表现往往还不够出色。为了创造出真正出色的自然语言处理应用,一些科学家正在探索借鉴人类语言处理能力的方法。而为此,他们开始了一个史诗般的项目。

这个项目,在构建自然语言生成的新模型时,完全摒弃了已有的思路和算法。其中的一个重要目标是使计算机能够理解真正的语言,不再仅仅是机器人式的代码段。这项实践看起来非常具有挑战性,但已经取得了很多进展。

在新模型构建过程中,科学家们使用了不一样的权重算法,并采用逆向损失函数来进行推导。这一项策略,不仅支持了人类语言内部逻辑和语境的捕捉,同时还有效地解决了诸如“Bake a delicious cake with just three ingredients!”等无意义语句的生成问题。

目前,已经有大量有意思的实验结果,表明这种构建语言模型的方法是可行的,成功地破解了自然语言生成算法上的瓶颈。尽管仍然有很多问题,仍需深入研究,但这样一项探索,已经使我们站在了自然语言生成技术更高的巅峰。

详情参考

了解更多有趣的事情:https://blog.ds3783.com/