Co je deep learning?
Deep learning (česky hluboké učení) je podobor strojového učení, který k řešení úloh využívá umělé neuronové sítě s mnoha vrstvami. Zásadní průlom přišel v roce 2012, kdy síť AlexNet vyhrála soutěž ImageNet, a od té doby se deep learning stal základem rozpoznávání obrazu, řeči i velkých jazykových modelů. Dnes pohání technologie, které denně používáte – od překladače v telefonu po ChatGPT.
Co je deep learning a čím se liší od strojového učení?
Klasické strojové učení často vyžaduje ruční návrh příznaků: člověk musí rozhodnout, které vlastnosti dat jsou důležité. Deep learning to přesouvá na síť samotnou. Vrstvy neuronů postupně transformují vstupní data – pixely, zvukové vzorky, text – a každá vrstva se učí abstraktnější reprezentaci. První vrstvy zachycují hrany a barvy, hlubší vrstvy tvary a nakonec celé objekty. Slovem „hluboký“ se myslí právě počet vrstev; moderní sítě jich mají desítky až stovky.
Kdy a proč se deep learning prosadil?
Teoretické základy položil Geoffrey Hinton už v 80. letech, ale technika dlouho narážela na dva limity: málo dat a slabý výpočetní výkon. Zlom nastal 30. září 2012, kdy tým kolem Hintona (Alex Krizhevsky a Ilya Sutskever) vyhrál soutěž ImageNet s chybovostí 15,3 % oproti 26,2 % druhého nejlepšího řešení. Pomohly tomu grafické karty (GPU), které zvládly masivní paralelní výpočty, a rozsáhlé datové sady z internetu. V roce 2016 pak AlphaGo od DeepMind porazil korejského mistra Lee Sedola 4:1.
Jaké typy neuronových sítí se používají?
- Konvoluční sítě (CNN) – zpracování obrazu a videa.
- Rekurentní sítě (RNN, LSTM) – sekvence, dříve překlad a rozpoznávání řeči.
- Transformery – od článku „Attention Is All You Need“ (2017) základ jazykových modelů jako BERT (2018) a GPT.
- Generativní sítě (GAN, difúzní modely) – tvorba obrázků, například DALL-E nebo Stable Diffusion.
Kde se deep learning používá v praxi?
V lékařství pomáhá odhalit nádory na snímcích magnetické rezonance, často s přesností srovnatelnou s radiology. V dopravě pohání rozpoznávání chodců u autonomních vozidel. V telefonu rozpozná váš hlas, přeloží větu nebo doplní slovo. Průmysl využívá deep learning k detekci vad na výrobní lince a finanční instituce k odhalování podvodů v reálném čase.
Co deep learning zatím neumí?
Přes působivé výsledky má deep learning hranice. Modely jsou často „černé skříňky“ – nedokážou spolehlivě vysvětlit své rozhodnutí. Jsou náchylné k chybám, když se data v provozu liší od trénovacích (takzvaný distribuční posun). Trénink velkých modelů spotřebuje obrovské množství energie; odhady nákladů na trénink GPT-3 se pohybují v jednotkách milionů dolarů. A modely mohou reprodukovat předsudky přítomné v datech.
Kam se obor posouvá dál
V roce 2024 dostali Geoffrey Hinton a John Hopfield Nobelovu cenu za fyziku za přínos k neuronovým sítím – symbolické uznání disciplíny, která se z okrajového akademického tématu stala motorem ekonomiky. Další vývoj se soustředí na vysvětlitelnost, energetickou efektivitu a kombinaci deep learningu s jinými přístupy, jako je symbolické uvažování. Konkrétní posun lze čekat v horizontu nejbližších dvou až tří let, kdy se nové modely objevují v cyklech několika měsíců.
