Pechoucek-Umela_inteligence Google, autonomní auta a… Skynet? aneb Umělá inteligence a život zítřka Michal Pěchouček Prof. Ing. Michal Pěchouček, M.Sc, Dr. vědec v oblasti umělé inteligence a CTO společnosti Avast Neurazitelny.cz - Umělá inteligence a život zítřka - Michal Pěchouček.mp3 13. května 2019 v zaplněné místnosti 209 Fakulty elektrotechnické ČVUT zároveň se v přednášce "Umělá inteligence a život zítřka" občas objevily informace, ze kterých mi spíš přeběhl mráz po zádech -- zvlášť vzhledem k lehkosti, s jakou byly tyto informace zmíněny. Například to, že kdybychom chtěli zjistit, jak autonomní auto poznalo, že má zabočit doprava, nedokážeme to. Že trvalo pouhých 16 hodin, než se z dobráckého robota Microsoftu stal "neo-nacistický sexbot". A že ani expert na umělou inteligenci by nechtěl žít v zemi, kde AI do roku 2030 ovládne 50% pracovního trhu. Ale proč to všechno píšu? Moc jsem se těšil, co nového a nečekaného se o umělé inteligenci dozvím. A ano, v tomto směru jsem rozhodně nebyl zklamán, jenom... Možná je to můj čistě subjektivní dojem, ale asi mi celá přednáška přišla až trochu nekriticky optimistická. Možná jsem úplně mimo, ale říkal jsem si, že do ní možná mělo prosáknout trochu více... já nevím... lidství a etických otázek. Proto bych Tě rád poprosil o jednu laskavost. Můžeš se prosím podívat na záznam tohoto Večera na FF UK a napsat mi svůj názor -- třeba v komentáři pod videem -- co si myslíš o umělé inteligenci po zhlédnutí téhle přednášky (včetně závěrečné diskuze, kde se otevřela hodně zajímavá témata)? Myslím, že to ocením nejen já, ale všichni, kdo si uvědomujeme, že umělá inteligence bude naše životy ovlivňovat čím dál víc -- ať se nám to líbí nebo ne. A udělej to raději dřív, než Ti umělá inteligence vypne ledničku (i o tom se v přednášce dozvíš)! :-) Jo, a pak chci říct ještě jednu důležitou věc... Věřím, že umělá inteligence bude mít hodně velký vliv na podobu naší budoucnosti. Co mě trochu zneklidňuje je rychlost a hlavně nenápadnost, s jakou se AI rozvíjí v nejrůznějších oblastech. Vlastně téhle přednášce hodně vděčím za to, že mi odkryla aspoň část obrázku, který se kolem nás kreslí, často naprosto bez našeho vědomí. Co s tím? Myslím, že je dobré nenechat si své obavy (ani nadšení, ať nejsem nespravedlivý) pro sebe. Mluvit o tom. A klást otázky, které si možná ne všichni experti na umělou inteligenci zapálení do svého díla pokládají. Osobní web pana profesora http://www.michalpechoucek.cz/ Rozhovor s panem profesorem pro Deník o mizejících pracovních místech https://www.denik.cz/z_domova/profesor-pechoucek-mista-v-administrative-budou-mizet-jako-prvni-velmi-rychle-20190210.html – vedl vědecké projekty financované americkými obrannými agenturami NASA a FAA – v roce 2015 byl zařazen na seznam výjimečných inovátorů New Europe 100 – působil jako ředitel R&D centra pro umělou inteligenci a počítačovou bezpečnost firmy CISCO – je spoluzakladatelem a investorem několika úspěšných start-upů z oblasti umělé inteligence Pechoucek-Umela_inteligence-00-uvod 0:00 úvod střihače 0:42 úvod přednášejícího - Jeden svět na školách je dobrý projekt a má smysl (Človek v tísni) 2:30 prfesní vývoj - před 25ti lety studoval v UK umělou inteligenci (1996 Edimburgh) 3:10 umělá inteligence (AI) je čím dál důležitěší 5:00 AI je na světě stovky let -> myslitelé se zabývají - do jaké míry lze matematicky formalizovat lidské myšlení a uvažování - i odhady odborníků z roku 1996 jsou dnes překonány Pechoucek-Umela_inteligence-01-vyvoj_je_obtizne_predvidatelny 6:20 1997 IBM napsalo šachový program, který porazil Kasparova -> ten sestavovali dobří programátoři ale i dobší šachisté 6:40 2004 soutěž na autonomní řízení, které auto přejede Mohavskou poušť (přes 200km) - nejlepší tým ujel jen 15km 7:26 ale už 2005 další kolo, skoro všechny týmy poušť přejely 8:25 2011 - program porazil člověka vprogramu Geopardy 8:40 2012 - počítač se sám naučil, co znamená kočka (test černé kočky) 9:20 2016 - Mistr Go byl poražen počítačem - ten už neprogramovaly mistři Go, ale ten počítač se sám naučil hrát Go - sám zkoušel mnoho her a nastavil si vlastní algoritmus 10:30 2017 - počítač porazil mistra v pokeru; angažoval se 1 čech a 2 slováci 11:00 2018 - autonomní auta jezdí komerčně - firma Vimo - autonomní taxíky Pechoucek-Umela_inteligence-02-definice_AI_soubor_HW_a_SW_technologii 12:30 problém definic - moc složité anebo moc jednoduché, ale jsou moc srozumitelné ale neplatí 13:00 AI - je vědecká disciplína, která tu je nejméně 60 let - soubor HW a SW technologií - s cílem zrychlovat a zpřesňovat lidské kognitivní schopnosti (analyzovat řeč, schopnost uvažovat, vidět, data analyzovat) - informace umíme škálovat - multiplikovat schopnosti - tedy udělat stejnou věc milionkrát 15:00 AI Silná/slabá specifická/obecná speciální (narrow) /všobecná - speciální (narrow) - úloha musí být ohraničená -> např. překlad z angličtiny do francoužštiny nebo řídit auto - v tom ten počátač je lepší, než člověk - ale ohraničená - všobecná - v tom je člověk lepší - zatím - ale jsou na to rozporuplné názory - někdo si myslí, že jo, někdo že ne - super AI -> všeopecná, ale lepší než u člověka - může se stát, že to ani nepoznáme, že se bude snažit, aby to lidi nevěděli Pechoucek-Umela_inteligence-03-co_uz_je_AI_ruzne_testy_a_tri_technologicke_smery 20:50 testy AI - jaký algoritmus už je AI? - AI vědci diskutují o svých algoritmech, co je AI nebo co je jen strojové učení, protože to nebylo nikdy přesně specifikováno, jak ten algoritmus má vypadat - Turingův test AI: když dva spolu chatují, jeden je robot a jeden je člověk, a když se nedá z dialogu poznat, kdo je člověk - coffee test -> když robot dokáže v každé domácnosti najít kafe, filtry a udělat kafe - vyslechnout přednášku a pak udělat zkoušku - capcha je taky test, jestli na druhé straně je člověk - je to čím dál těžší vymyslet capchu, která funguje 26:00 tři technologické směry AI 1. GOFAI - good old fashion AI - předpokládá, že vědci rozumí, jak myslí člověk a to naprogramují jako algoritmus 2. Synbolická AI - algoritmus 3. Statistická - učí se z velkého množství dat - algoritmus se sám vytvoří trénováním - strojové učení - supervised - s učitelem - program se učí z příkladů - unsupervised - bez učitele - sám v tom má najít podobnosti - posilované učení - dostává zpětnou vazbu při správné reakci Pechoucek-Umela_inteligence-04-AI_dela_velke_pokroky_a_je_snadne_zneuziti_pro_kontrolu_obyvatel_v_Cine 31:04 2012 - velký pokrok AI -> stroj se naučil rozponávat kočky - z milionu fotek koček sám poznal, co je na nich podobné - rozpoznávání obrazu se zneužívá ke koontrole obyvatel - to je špatně 33:30 rozprostřená AI -> jak jednotlivé programy ssebou mohou interagovat - jak funguje výběr a aukce, jakou reklamu nabídne Google uživateli na základě jeho profilu, emailů apod. 35:00 ukazuje se, že směry AI se mohou dobře doplňovat (příklad s hraním karetních her) 36:00 výzvy dneška - nedostatek dat - stále jich je málo - v EU je ochrana osobnosti, takže není možné všechna data dát na hromadu -> je to výzva pro vědce - v Číně taková data nemají, což jim umožňuj lepší práci - datové trhy - v oboru AI jsou důležitá data - sdílení dat výhodné a usnadňuje to AI - může se stát, že lidé budou mít svobodu nakládat se svými daty a prodávat je - trénují se na datech, která nemáme -> např. zácpy autonomních aut - řeší v SIngapore - algoritmy generující data neroznatelné od lidských dat - třeba generují fotky - izraelci umí zašumět fotky tak, aby zmátli počítač, a přitom člověku vypadá stále podobně Pechoucek-Umela_inteligence-05-obranna_adversary_AI 44:00 Adversary AI (protivníková) - obrana před jinou AI - např. antivirus rozpoznává útoky -> např. ušpiním testovací data -> poisoning training data -> algoritmus obejdu 46:30 AI explainibility (vysvětlitelnost) - sítě fungují, ale nevíme pořádně proč - nevíme, proč ta kamera poznala, že má zahnout doprava - statisticky je to ověřené, ale není tam deduktivní záruka, že se nestane něco nepředvídatelného - u aut to nevadí, ale ve zdravotnictví to asi je problém a očekávají se algoritmy, které jsou vysvětlitelné - menší riziko, například levnější pojištění proti chybám AI 48:40 etika AI - padající boeingy -> ten systém je tak složitý, že už ho nedokáže nikdo zkontrolovat, nezjistila se chyba 49:50 autoprogramování AI - dá se porovnávat program s tisíce programu v internetu a nějakým průnikem pozná, co je na programu anomálie a co je asi důvěryhodné - do roku 2005 se jazyk analyzoval a přes slova se generoval jazyk - dnes se překládá sítěmi - černá krabička se naučí na nějakých dokumentech - že by uměla sama sebe programvoat je ale nepravděpodobné 52:20 - dnes vzniká ročně 111 mld. řádků kódu, většinu píšou lidé, ale v bodoucnu bude 90% autoprogramování 53:00 AI on the edge - proč skončily chytré brýle? -> bylo to společensky nepřijatelné - zásah do soukromí - Google ten projekt přerušil Pechoucek-Umela_inteligence-06-tri_typy_aplikaci_AI 54:00 aplikace AI - 1. praktické - které vytlačují lidskou sílu - nabízení zboží, finanční analytika, zemědělství - 2. pro společenské a lidské dobro (social good) - autonomní auta - rostou posledních 5 let, - health care - zdemokratizuje zdravotnictví - AI mohou dělat diagnostiku za doktory - např. porovnávat diagnózy s historií - v USA jde 1/4 na platy doktorů, 1/4 jde na léky, < 10% jde na sestry, diagnostika je hrozně drahá - velké peníze jdou na pojištění chyby lékařů a platy právníků - > AI má menší chybovost - budou potřeba víc sestry (bohaté země si budou moci dovolit sestry, i když roboti jsou levnější) - 3. bezpečnost - identifikace pravdivých zpráv, pravdivosti videí Pechoucek-Umela_inteligence-07-AI_nahradi_pravniky_doktory_ridice_financni_poradce 1:00:45 Co máme studovat? - 50% práce v budoucnu nebude - 2015 zpráva pro Barracka Obamu o AI -> 83% práce, která je placená <20USD/hod zmizí, zatímco jen 4% práce nad 40USD zmizí - ale s tím autor nesouhlasí, podle něj AI bude nahrazovat drahou práci-> např. právníci koncipienti - finanční poradci - to stroje umí lépe - repetitivní práce - zmizí řidiči - hlavně tranzity - zatím se řeší zapojení do spojovaných pruhů (lidi vždycky vytlačí roboty) Pechoucek-Umela_inteligence-08-Lide_ve_svete_s_AI_by_meli_mit_kriticke_mysleni_kreativitu_empatii_a_znat_funkci_pocitacu 1:07:00 jak připravovat budoucí generace pro svět s AI - je třeba učit jak se věci boří a staví (dělat sochy, psát básně) - chybí kritické myšlení, debatovat - znalosti je třeba učit i když se dají najít - škola má dát fundamentální podklad, aby nebyly děti manipulovatelné - zdvojnásobit matematiku, je to důležité jako čtení -> pomáhá kritickému myšlení - matematika osvobozuje - umět programovat, aby lidi rozuměli strojům - empatie vůči strojům - budou více rozumět IT - empatie - pracovat s lidma, sociální dovednosti, soucit - zvyšovat empatii dětské populace - ta budou mít v budoucnu velkou hodnotu 1:11:20 Těžko srozumitelná bezvýznamná připomínka z publika - hlavně učit děti hodnotám - odpovědnost za společnost a za sebe Pechoucek-Umela_inteligence-09-problemy_AI_energie_dost_odborniku_vemze_praci_manipulace_lidmi 1:13:00 4 problémy AI 1. nechá nám AI nějakou energii? - kryptování bitcoinových měn spotřebuje tolik energie, kolik spotřebuje - a to není jen výpočet, ale i převody - podobně elektroauta se nemohou zavést hned, tolik energie ani nemáme - není dost energie pro všechny 2. nemáme dost kvalifikovaného talentu, kteří by stavěli AI - státy, které je mají, si je budou hájit - před 10ti lety HDP Slovenska bylo stejné jako obrat Google (5mil. lidí vs. 50tis inženýrů) - ekonomika se bude točit kolem práce v IT 3. zbyde dost práce pro ty ostatní? - budeme mít natolik sofistikovanou politiku, aby nás provedla AI? Nezvládají ani aktuální problémy 1:16:41 4. manipulace voleb - prokázalo se to v UK, USA i ČR - cílenou reklamou lze rozdělist společnost 1:17:20 zakládání Prague AI - ČVUT, UK, AV, hl. Praha - https://prg.ai/ ======================================================== Pechoucek-Umela_inteligence-10-diskuse-z_google_robota_se_stal_nacek_je_problem_skrytych_tendenci_v_ucicich_datech 1:18:20 DOTAZ 1 - POČÍTÁ AI S LIDMI? GOOGLO NAPROGRAMOVAL ROBOTA A STAL SE Z NĚJ NÁCEK - to je problém, ale hlavně lidí - algoritmický bios - v těch učících datech je latentně podchycen nějaký jev, který ten bot vyjevil - je problém ten bios z těch dat vytahnout - to je vůbec problém, jak ten bios z těch dat vyndavat (např. aby - vývoj AI bez předsudků - takové datové sady nejsou - AI lepší než lidi 1:21:00 DOTAZ 2 - nebude strach lidí např. aut - u aut se ty nehody dají testovat a na nich se ta bezpečnost hodně posune dopředu a získá to důvěru Pechoucek-Umela_inteligence-11-zneuziti_AI_je_v_Evrope_dosti_hlidano_hlavne_identifikace_lidi 1:22:30 DOTAZ 3 - OPRAVDU SE V RÁMCI V EVROPY NEMUSÍME BÁT ZNEUŽÍVAT AI, KDYŽ GLOBÁLNÍ SPOLEČNOSTI TO DĚLAJÍ - mluvil jsem o rozpoznávání tváří - v Číně je to na každém letišti - jsou pravidla pro nakládání s daty - tlak na privátnost informací - to ani v USA není - privátní informace slouží k poznání člověka a chrání to člověka - v Číně ta data mají 1:24:50 ALE JE TO I U NÁS BĚŽNÉ, ZÁKON O GDPR JE NEVYMAHATELNÝ, MÁME INTERNET DOMA - detekce útoků na počítače se vyvíjejí mnohem pomaleji než detekce obrazu, protože nejsou testovací data, nemůžou sdílet data, protože to je ochrana údajů - ani americká vláda nemá ta data (Cisco ani Iphone jí data neotevřel) - ta data se nedají jednoduše sdílet 1:26:52 DOTAZ 4 - PROČ ZROVNA MATEMATIKA BY MĚLA POMOCI ODHALOVAT FAKE NEWS - údaje o velikostí množství lidí, o tom jak ubývá kolik vody a ty údaje jsou přehnané - porovnávání pravděpodobností - např. riziko, co se mi může stát 1:29:30 DOTAZ 5 - VAŠE VIZE BUDOUCNOSTI MI PŘIJDE DOST TEMNÁ, UMĚLÁ INTELIGENCE PŘEVEZME CHYTROST A LIDI ZBLBNOU A BUDOU ZÁVISLÉ NA TÉ AI - proto jsem říkal, že ty děti musí být kreativní, protože kreativita nemůže být nahrazena strojem - práce se změní - některé zmizí, jiné vzniknou - práce bude méně - studium se také asi změní - možná že i studium zplyne s prací, karierní postup možná nebude Pechoucek-Umela_inteligence-12-AI_se_vyucuje_ma_CVUT_a_UK_zalozena_neziskova_Praha_by_mohla_byt_centrem_AI 1:32:45 DOTAZ 6 - KDY DO VAŠEHO CENTRA MŮŽEME PŘIJÍT NA KURZ - připravujeme koncept vedlejších studií v rámci AI, kterou si může student ČVUT zapsat jako volitelný předmět - v praze generujeme 100 magistrů AI ročně (v Montrealu jich je 20 a je to velkoměsto AI) - teď se snažíme to učit i bakaláře 1:34:00 KOLIK Z TÉ STOVKY TADY ZŮSTANE (ČVUT) - já nechci, aby studenti tady zůstávali - vrací se až po pár letech, když mají zkušenosti a to je lepší - provinční škola je taková, která si jen vychovává své docenty - jsme rádi, že se k nám vrací do Prahy ti zkušení, to v jiných městech tolik není - je riziko, že firmy vycucnou studenty a nebude kdo by učil 1:36:45 DOTAZ 7 - VY JSTE VÝJIMKA S BYSNYSMEN, JSOU TU SAMÍ AKADEMICI DOTAZ 8 - CHCETE, ABY AI TAKHLE MĚNILA SVĚT? - nechtěl, ale co s tím můžu udělat? - porozumět tomu a být toho součástí (embrace) 1:38:00 když jsme vystrašitelnější uprchklíky, tak společnost snáze dá společnost vystrašit AI - ale tím můžeme ztratit úplně kontrolu 1:39:00 ZÁVĚR - MODERÁTOR, REKLAMA NA NEURAZITELNÝ