Expertka na AI Kriti Sharma: Umělá inteligence je nejdůležitější technologie našich životů
, /

Expertka na AI Kriti Sharma: Umělá inteligence je nejdůležitější technologie našich životů

Expertka na AI Kriti Sharma: Umělá inteligence je nejdůležitější technologie našich životů

Má za sebou pozoruhodnou kariéru, byť jí před pár měsíci bylo teprve 30 let. Kriti Sharma pochází z Indie, kde sice chodila do jedné třídy se sedmdesáti dalšími dětmi, ale přesto ji to nezastavilo v zájmu o technologie, jimiž byla už od mala fascinována. Když si v 15 letech vlastnoručně sestrojila svého prvního robota, bylo jasné, že to dotáhne daleko.

Po studiích ve Skotsku se naplno začala věnovat umělé inteligenci a magazín Forbes ji loni zařadil do svého globálního seznamu 30 pod 30. Kriti Sharma totiž ve svých 30 letech patří k předním expertům na chatboty a umělou inteligenci, což potvrzuje její pozice v jedné z největších britských IT firem Sage, kde šéfuje právě vývoji AI a botů. Patří k nejvýraznějším proponentům více různorodé a etické umělé inteligence, o čemž bude za dva týdny přednášet také na konferenci FutureNow v Bratislavě.

O tom, jak se mladá dívka z Indie dostane až na vrchol v oblasti, které zpravidla dominují muži, čeho se v umělé inteligenci obává a co naopak může lidstvu přinést, jsme se s Kriti Sharma bavili v telefonickém rozhovoru na lince Praha–Londýn, kde 30letá technoložka pracuje. Pokud si budete chtít poslechnout ještě podrobněji nejen její názory na to, jaká nás čeká budoucnost, v prodeji jsou poslední lístky na bratislavskou konferenci FutureNow, která proběhne 24. října.

Jak se stane, že se mladá dívka z Indie začne natolik zajímat o robotiku a technologie, až si v patnácti letech vlastnoručně postaví svého robota?

Vyrůstala jsem v Rádžasthánu na severozápadě Indie ve městě Džajpur a už odmala jsem byla fascinována tím, co technologie dokáží, a to hlavně z toho důvodu, že jsem kolem sebe viděla spoustu problémů, které by mohly vyřešit. Chodila jsem do školy, kde měl jeden učitel 70 studentů, a už tehdy jsem si říkala, že by bylo skvělé, kdyby existovali nějací roboti, kteří by nás učili, protože se učitel nestíhal věnovat všem. A vzdělávání nebylo jediné, které mělo problém, šlo například také o zdravotní péči. Myšlenka, že bych tohle vše mohla řešit pomocí technologií, mě fascinovala.

Proto jste si postavila prvního robota?

Začala jsme počítačem. Když jsem byla malá, žádný jsem neměla, jen jsem četla knihy o tom, jak počítač vypadá, a nakonec si jeden postavila. To byla skvělá zkušenost, protože jsem se naučila, že když chci, dokážu vytvořit prakticky cokoliv. Pak jsem si stejným způsobem postavila i svého prvního robota a začala se zajímat o strojové učení a umělou inteligenci.

Dokážu si představit, že najít k tomu potřebné vzdělání v Indii může být celkem složité. Proto jste se přesunula na západní univerzity?

I v Indii je už dnes mnoho příležitostí, protože tu jsou různé inženýrské školy, ale já jsem se vydala do Velké Británie na skotskou Univerzitu v St Andrews, abych se měla šanci ukázat a mohla spolupracovat s těmi nejlepšími mozky světa. To byla další velmi dobrá zkušenost. Začala jsem se zabývat etickým užitím technologií, protože se s umělou inteligencí hodně řeší hlavně marketing nebo reklama, ale mě více zajímalo řešení složitějších problémů, ať už jde o zlepšování produktivity, vzdělávání nebo pomoc malým firmám. Pochopitelně všechno za pomoci technologií.

Dnes působíte jako viceprezidentka botů a AI v Sage Group, obří britské IT firmě, kde vyvíjíte bezpohlavního, respektive genderově neutrálního účetního robota Pegg. Co vlastně takový účetní robot dělá?

V Sage vedu vývoj umělé inteligence a věnujeme se pomoci malým podnikům v přístupu ke službám, jako je účetnictví, mzdy a podobně. Jde o věci, které dnes zabírají mnoho času, protože se dělají manuálně, přitom by je mohly zastat stroje. Dnes 120 dní v roce strávíme administrativním papírováním, proto vyvíjíme chatboty, chytré asistenty, kteří pomáhají při podnikání a dávají i menším firmám podobné možnosti, jako mají velké firmy, které na takové úkoly mají finanční ředitele.

Chytrý účetní robot se stará jak o repetitivní úkoly, jako je správa účtů nebo kontrola proplacených faktur, tak o chytré věci, jako je předpověď vašeho cash flow, chyb v datech nebo porovnání byznysu s konkurencí. Nemělo by jít o věci, které jsou přístupné jen velkým korporacím, protože si je mohou dovolit, ale měly by se postupně demokratizovat. Cena za vývoj umělé inteligence jde rychle dolů a malý podnik může mít stejný přístup jako velká firma.

Zároveň se ale věnujete také dalším aktivitám a projektům. Také souvisí s AI?

Založila jsem nadaci AI for Good (AI pro dobro), kde stavíme technologie právě pro řešení těch nejtěžších problémů. Zároveň jsem se nedávno připojila k Organizaci spojených národů jako Young Leader, kde mám na starosti stejnou věc – řešení problémů lidstva za pomocí technologií. Pracujeme například na programech, které pomáhají africkým ženám, jež se setkávají s domácím násilím, a také se snažíme o umělé inteligenci učit lidi ze všech koutů světa.

Zpět k vašemu účetním robotovi v Sage. Proč vlastně nemá žádné pohlaví?

Protože mi vadili všichni ti asistenti s ženskými hlasy jako Siri, Cortana nebo Alexa. Opravdu mě to trápí, protože to, že technologie nejsou dostatečně rozmanité, je reálný problém. Jde o oblast, které tradičně dominují muži a ženy v ní plní zejména roli asistentek, které dělají administrativní úkoly, a přesně tyto stereotypní pohledy pak technologické firmy promítají i do AI asistentů. Když jde o stroj, který rozsvěcí světla, objednává nákup nebo pouští hudbu, má ženský hlas, ale když jde o důležitá obchodní rozhodnutí, tak tu máme IBM Watson nebo Salesforce Einstein, které mají úplně jinou charakteristiku. Stroje by ale podle mě neměly být sexistické, ať už jde o design nebo algoritmické předsudky.

Michal Šmída z Twista: Chceme ukázat, že kredit dává smysl. Letos přes nás proteče miliarda korun

Finanční svět prochází velkými změnami. Vedle tradičních bank, které často nestíhají tempu inovací, rostou...

Takže bychom neměli mít ani mužské ani ženské hlasy, ale pouze nějaké neutrální?

Věřím, že bychom neměli mít stereotypy. Nemám problém s tím, když strojům přidáme nějaký charakter, ale vadí mi, že když jde o asistenta, musí mít ženský hlas. Vlastně ani nejde o hlas jako takový, ale o způsob, jakým reagují, protože mohou být často velmi submisivní až otročtí. Obzvlášť pro malé děti, které dnes vyrůstají po boku těchto hlasových asistentů, to není příliš dobré, protože jen křičí na ženskou asistentku, ať jim rozsvítí světa, aniž by se museli učit společenskému chování. Nejde tedy o pohlaví, ale o to, jaký charakter a osobnost strojům dáváme. Můžeme jim dát různou povahu, pohlaví, jméno i hlas, ale myšlenka, že když jde o domácího asistenta, co čte recepty, tak má mít ženský hlas, je špatná.

Každý si pod AI něco představí, ale ve skutečnosti často nevíme, co to vlastně pořádně je. Vy patříte k lidem, kteří by ale měli rozumět skutečnému potenciálu a dopadu, jaký může AI v budoucnosti míst. Jak na to pohlížíte?

Umělá inteligence přináší neuvěřitelné množství pozitivních příležitostí. Může lidem přinést služby, ke kterým dosud vůbec neměli přístup. V Indii například lidé nemají přístup k doktorovi. Bylo by skvělé, kdyby jim umělá inteligence pomohla diagnostikovat symptomy a řekla, zda skutečně potřebují jet za doktorem, který je od nich pět hodin cesty. S tím může AI pomoci.

V Jižní Africe se zase řeší obrovské stigma a tabu ohledně zneužívání a zastrašování, kdy ženy ani pořádně nemohou mluvit s jinými lidmi. Se stroji by ale mluvit mohly a navíc by mohly získat nezaujaté informace. Stejně můžeme ten potenciál vztáhnout na vzdělávání, klimatickou změnu, automatizaci a mnoho dalších oblastí. Jsme teprve na začátku.

A co negativa, ty ve využití umělé inteligence nevidíte?

Samozřejmě vidím i možné negativní účinky. Ale není to například scénář, že se stroje stanou chytřejší než lidé a vyhladí nás, to si nemyslím, že se stane. Obávám se nicméně o to, jak stroje vytváříme a kdo je vytváří.

To byl ve skutečnosti můj další dotaz. Říká se, že oheň je dobrý sluha, ale zlý pán. Platí to stejné i pro AI? Můžeme ji naším chováním zničit?

Vždy to může sklouznout k tomu, že si necháme tuhle příležitost uniknout a budeme vytvářet jen bezvýznamná užití. Je tedy klíčové, jak s tou technologií naložíme. Další potenciální problém vidím v tom, že se stroje mohou nešťastnou náhodou naučit naše předsudky a špatné chování. Například systémy pro rozpoznávání obličejů mají mnohem vyšší chybovost u ženských obličejů tmavé pleti, kde to je 35 procent, oproti bílým mužům, kde udělají chybu jen v 1 procentu. Existuje mnoho rasových a genderových předsudků a algoritmy se je mohou naučit také.

Jak se to pak může projevit v reálném životě?

Když máte stroje a algoritmy, které rozhodují o tom, kdo dostane půjčku nebo kdo je nejlepší adept na vybranou pracovní pozici, tak se mohou naučit různé předsudky a kandidáty posuzovat například na základě pohlaví nebo rasy. Stroje se učí na základě dat, která jim dáme, a pak mohou sklouznout k diskriminaci. To musíme rychle napravit. Zároveň záleží na tom, kdo technologii vytváří. Neměly by ji mít v rukou pouze geekové jako já, ale potřebujeme zapojit lidi s různými profily a původem, protože jde o nejdůležitější technologii našich životů, která bude mít zásah v ještě větším měřítku než chytré telefony nebo internet.

Mluvili jsme zatím o chatbotech, respektive o virtuálních asistentech. Já jsem nicméně před pár měsíci přišel do styku s reálným robotem Pepper od SoftBank Robotics a ta interakce s ním byla k mému překvapení velmi přirozená. Mají se roboti stále více přibližovat lidem, nebo je naopak důležité, aby si zachovaly svou robotickou podobu?

Jedna věc je interakce, která se stává stále plynulejší, což je vždy dobré, protože se zlepšuje celkový zážitek. Druhá věc je, jestli by měl samotný stroj vypadat jako člověk, nebo ne. Podle mě by měly být stroje především transparentní a pokud jsou stroje, tak jimi zůstat. Pepper je skvělý příklad, protože nevypadá jako člověk, ale jsou firmy, které se snaží vytvořit roboty, které vypadají jako lidé, mají kůži a reálný obličej, ale věřím, že je naší zodpovědností vytvářet technologii, která je transparentní. Neměli bychom oklamávat lidi. Když jsem člověk a mluvím se strojem, měla bych to vědět, a naopak. Existují příklady jako terapie, kde to může být nápomocné, ale jde o jen o velmi specializované oblasti.

Myslíte, že budeme v budoucnu mluvit více se stroji než s lidmi?

Určitě budeme mít se stroji stále více konverzací, protože jsou efektivnější a mohou za nás řešit různé problémy, ale zároveň si díky tomu budeme mnohem více vážit lidské interakce. Stroje jsou dobré v repetitivních úkolech a škálování, ale nemají emoční inteligenci, empatii, úsudek, uvažování – to jsou schopnosti, které lidé mají, a my se o ně nemusíme snažit u strojů. Od nich totiž potřebujeme především to, aby nám pomáhali odvádět lepší práci.

Jeden z největších problémů, které v interakci s roboty či chatboty vidím, především v České republice, je jazyk. Čeština je mnohem složitější než angličtina. Jak dlouho myslíte, že bude trvat, než se roboti naučí mluvit i takovými jazyky?

Je to rozhodně výzva. Často za to může nedostupnost potřebných datasetů a také byznysové využití, protože stojí opravdu hodně úsilí vytvořit AI algoritmu, který rozumí například česky, a je otázka, kolik lidí by ho využilo. Sama tomu rozumím, protože v Indii, kde jsem vyrůstala, máme tolik jazyků, že je to skoro stejné jako v rámci Evropské unie. Každopádně si myslím, že se situace zlepšuje. Když se podíváte na automatické překlady, ty se obrovsky zlepšily a dostaneme se k tomu i v umělé inteligenci. Nedokážu přesně předpovědět, jak dlouho nám to bude trvat, ale dostaneme se tam.