Skip to main content

Transformer，又或AGI的前方又在何处？🌐 链接:

  1. Transformer，又或AGI的前方又在何处？

    🌐 链接: https://linux.do/t/topic/2657696

    🔍 关键词: #api

    🏷️ 分组: LinuxDo论坛

    🕒 时间: 2026-07-27 01:17:59
    LINUX DO
    Transformer，又或AGI的前方又在何处？
    Transformer从何而起？ 谷歌在2017年6月12日在arXiv上发表了《Attention is all you need》的预印本，自此，transformers问世 而当时还是小公司，成立了数年却苦于找不到研发方向的OpenAI一看到这篇文章，就想到了利用Transformers构建模型 之后，在2018年，OAI和谷歌相继发布了GPT-1和BERT，接下来便是一代代的模型迭代，一代代的参数量增加，模型能力也一代代的变强，GPT-2拥有1750亿参数，便出现了涌现能力，但在这之前，马…