怎么總感覺是在給自己挖坑呢（

怎么總感覺是在給自己挖坑呢（的作者之一的伊利亞波洛蘇金。

這篇文章在17年6月12日發布后，并沒有第一時間造成很大影響，并且由于其難以收斂，并不比相對成熟的lst效率更高，因此在這個階段，大部分研究者的視線并未投向注意力機制的transforr架構，這里也包括openai。

openai在2018年年初，還在用lst進行訓練，并且在dota2里擊敗了人類。而僅僅幾個月之后，openai就發布了gpt-1。

這說明，幾個月的時間，足夠制作一個大模型。

『點此報錯』『加入書架』