Dienas fakts20. novembris Arhīvs

2017

transformera raksts

Burts “T” nosaukumā GPT nāk no 2017. gada raksta

Google pētnieki 2017. gadā publicēja rakstu “Attention Is All You Need”. Tajā aprakstīts transformeris – tīkls, kas izsver, cik katrs teksta vārds ir svarīgs katram citam vārdam. GPT nozīmē Generative Pre-trained Transformer, un uz šīs idejas balstās gandrīz visi tērzēšanas roboti, ko lieto šodien.

Avots: Vaswani u. c., arXiv (2017)