Určitý pokrok v oblasti AI za posledné desaťročie môže byť zavádzajúci

Táto stránka môže získavať provízie pridružených spoločností z odkazov na tejto stránke. Pojmy.

Určitý pokrok v oblasti AI za posledné desaťročie môže byť zavádzajúci 1

V poslednom desaťročí sa umelá inteligencia a strojové učenie stali hlavným výskumným centrom, ktorý bol poháňaný pokrokom v oblasti výpočtovej techniky GPU, softvérových algoritmov a špecializovaného návrhu hardvéru. Nové údaje ukazujú, že prinajmenšom niektoré algoritmické vylepšenia za posledné desaťročie môžu byť menšie, ako sa pôvodne predpokladalo.

Vedci, ktorí sa snažia overiť dlhodobé zlepšenia rôznych algoritmov AI, našli situácie, keď ich skromná aktualizácia starších riešení umožňuje napodobniť novšie prístupy, ktoré by ich mali nahradiť. Tím porovnal 81 rôznych algoritmov orezania vydaných za desaťročné obdobie a nezistil žiadny jasný dôkaz o zlepšení v tomto časovom rámci.

Podľa Davida Blalocka, študenta počítačovej vedy na MIT, ktorý pracoval na projekte, sa po päťdesiatich esejach „stalo stále nejasnými“. Blalockov poradca, Dr. John Guttag, šokovaný správami a povedal Science, “Je to stará píla, však?” Ak nemôžete nič zmerať, je ťažké urobiť lepšie. “

Mimochodom, takéto otázky sú presne také, prečo sú iniciatívy MLPerf také dôležité. Potrebujeme objektívne testy, ktoré môžu vedci použiť na porovnanie modelov a platného výkonu hardvéru.

Vedci zistili najmä to, že v niektorých prípadoch majú staršie a jednoduchšie algoritmy možnosť prijať novšie prístupy po úprave starej metódy na zlepšenie ich výkonnosti. V jednom prípade porovnanie siedmich algoritmov navrhujúcich médiá na báze neurónov ukazuje, že šesť z nich je horších ako staršie, jednoduchšie neuralgické algoritmy. Cornellovo porovnanie fotografického algoritmu ukázalo, že výkon sa od roku 2006 po aktualizácii starej metódy nezlepšil:

Určitý pokrok v oblasti AI za posledné desaťročie môže byť zavádzajúci 1

Obrázok z vedy

Tu je niekoľko vecí, ktoré by som chcel zdôrazniť: Po prvé, existuje veľa nerealistických výhod AI, napríklad vylepšenia vylepšenia videa AI alebo pokroky vo videní z kamery a počítača. GPU sú pri výpočte AI omnoho lepšie ako v roku 2009 a v roku 2009 chýbajú aj urýchľovače AVX-512 špecifické pre AI v roku 2020.

Nehovoríme však o tom, či sa pri implementácii algoritmov AI hardvér zväčšuje alebo zlepšuje. Diskutujeme o samotných algoritmoch a o tom, aká veľká je ich zložitosť v modeloch AI. O tejto téme som sa skutočne dozvedel niečo; môj priateľ David Cardinal a ja sme pracovali na niektorých projektoch týkajúcich sa AI, ktoré som vykonal v projekte Upscale DS9. Základné vylepšenia algoritmov sú náročné a mnohí vedci nie sú motivovaní k úplnému otestovaniu, či je nová metóda skutočne lepšia ako tá staršia – ale môže byť lepšie, ak prídete s novou metódou, aby urobila niečo skôr, ako niečo iné.

Samozrejme to nie je také ľahké, ako povedať, že novšie modely neprispievajú ničím užitočným v tejto oblasti. Ak výskumník nájde optimalizáciu, ktorá zlepší výkon nového modelu a ukáže sa, že optimalizácia funguje pre starý model, neznamená to, že nový model nie je relevantný. Budovanie nového modelu je spôsob, ako bola optimalizácia prvýkrát objavená.

Určitý pokrok v oblasti AI za posledné desaťročie môže byť zavádzajúci 2

Na obrázku vyššie je to, čo Gartner nazval humbukový cyklus. AI je určite jedna ku druhej a vzhľadom na dôležitosť tejto technológie pre to, čo vidíme od spoločností ako Nvidia, Google, Facebook, Microsoft a Intel sa dnes budú diskutovať o budúcnosti. Pokiaľ ide o AI, videli sme veľký úspech s rôznymi predmetmi, ako je napríklad výučba počítačov na efektívne hranie hier a veľa výskumov vozidiel s vlastným riadením. Aktuálna aplikácia bežného používateľa je v súčasnosti stále celkom špeciálna.

Nebudem čítať tento dokument ako dôkaz toho, že AI je iba horúci vzduch, ale naozaj hovorím, že dobýva vesmír a nahrádza nás v hornej časti potravinového reťazca obilím soli. Skutočný pokrok v tejto oblasti – aspoň na základnej úrovni – môže byť ťažšie dosiahnuť, ako by niektorí mohli očakávať.

Kredit za horný obrázok: Getty Images

čítať teraz: