2017
transformera raksts
Burts “T” nosaukumā GPT nāk no 2017. gada raksta
Google pētnieki 2017. gadā publicēja rakstu “Attention Is All You Need”. Tajā aprakstīts transformeris – tīkls, kas izsver, cik katrs teksta vārds ir svarīgs katram citam vārdam. GPT nozīmē Generative Pre-trained Transformer, un uz šīs idejas balstās gandrīz visi tērzēšanas roboti, ko lieto šodien.
Avots: Vaswani u. c., arXiv (2017)