1. GEOFFREY HINTON -ov rad iz 2006. godine :2006. godine računalni znanstvenik Geoffrey Hinton objavio je seminarski rad pod naslovom "Duboko učenje:vodič o dubokim neuronskim mrežama" iz časopisa Nature. Ovaj se rad smatra orijentirnim na području umjetnih neuronskih mreža i pomogao je u popularizaciji izraza "duboko učenje". Hinton i njegovi kolege sa Sveučilišta u Torontu smatraju se pionirima u razvoju tehnika dubokog učenja.
2. Yoshua Bengio upotreba izraza :Yoshua Bengio, još jedan istaknuti istraživač na terenu, također je igrao značajnu ulogu u popularizaciji izraza "duboko učenje" početkom 2000 -ih. Bengio i njegovi kolege iz Université de Montréal proveli su revolucionarna istraživanja o algoritmima dubokog učenja, a u svojim istraživačkim publikacijama često je koristio izraz "duboko učenje".
3. Utjecaj kognitivne psihologije :Neki vjeruju da je inspiracija za izraz "duboko učenje" možda proizlazila iz pojma "duboke strukture" u kognitivnoj psihologiji. Duboka struktura je izraz koji se koristi u lingvistici i kognitivnoj psihologiji za opisivanje temeljnog prikaza ili sintakse jezika koji nadilazi značajke riječi i izraza na površinskoj razini. Ovaj je koncept možda utjecao na razumijevanje modela dubokog učenja kao hvatanje temeljnih obrazaca i složenih odnosa u podacima.
4. Usporedba s tradicionalnim strojnim učenjem :Izraz "duboko učenje" vjerojatno je skovan kako bi ga razlikovao od tradicionalnih metoda strojnog učenja. Iako se tradicionalni algoritmi strojnog učenja često oslanjaju na plitke neuronske mreže ili plitke prikaze podataka, duboko učenje uključuje upotrebu dubokih neuronskih mreža s više skrivenih slojeva. Ove duboke arhitekture omogućuju složeniju i hijerarhijsku ekstrakciju značajki, omogućujući modelima da nauče prikaze podataka više razine.
5. Povijesni kontekst :U ranim danima istraživanja neuronske mreže, plitke neuronske mreže bile su norma i suočile su se s ograničenjima u svojim reprezentativnim mogućnostima i sposobnosti za rješavanje složenih problema. Pojava moćnih računalnih resursa, poput grafičkih obrađivačkih jedinica (GPU), krajem 2000 -ih omogućila je učinkovito osposobljavanje dublje neuronskih mreža. Ovaj povijesni kontekst pridonio je potrebi za terminom koji je uhvatio napredak i povećanu složenost ovih novih pristupa, stoga je izraz "duboko učenje" stekao vuču.
Vjerojatno je kombinacija ovih čimbenika, zajedno s konvergencijom istraživačkih napora i proboja, što je dovelo do širokog usvajanja izraza "duboko učenje" za opisivanje podskupina unutar strojnog učenja usredotočenog na duboke neuronske mreže.