Lukáš Berta

o mně / blog / poezie / obrazy / životopis / weby / senát / kontakt

Kaleidoskop 2019/8

Jak regulovat internet, Facebook a umělou inteligenci?

Mark Zuckerberg a Yuval Noah Hararii

Po zhlédnutí skvělého rozhovoru mezi Zuckerbergem and Hararim jsem si uvědomil, že spousta otázek, které Harari vyslovil, nenašla uspokojivou odpověď, případně nebyla zodpovězena vůbec. Rozhodl jsem se proto, že zkusím odpovědět alespoň sám za sebe, abych předestřel scénář budoucnosti v oblasti regulace internetu (Facebooku a jiných datových gigantů), který považuji za rozumný.

Otázky níže nejsou přímým přepisem slov rozhovoru, ale zobecněním témat, která Mark Zuckerberg a Yuval Noah Harari řeší.

Jaký je hlavní cíl Facebooku? Aby uživatelé u obrazovek trávili co nejvíce času, nebo naopak, aby se dokázali krátce spojit, domluvit a potkat tváří v tvář, tedy u obrazovek trávili času co nejméně?

Pole mého skromného názoru, je odpověď poměrně jednoznačná. Kdyby byl Facebook soukromou společností, neziskovou organizací nebo státním podnikem, nikoli společností veřejně obchodovanou na burze, mohli by si jeho majitelé vytknout jakýkoli cíl; nikoli jen maximalizaci zisku akcionářů. V soukromých či státních rukách by Facebook mohl být klidně i neziskový, právě s cílem lidi spojit, ale nedržet u obrazovek déle, než je z důvodu výdělku nezbytně nutné.

Protože ale cílem každé firmy obchodované na burze je zisk (zde plynoucí z reklamy), nemůže Facebook lidi od obrazovek „odhánět“, i kdyby si to jeho zakladatel Mark Zuckerberg přál sebevíc.

Jaká se tedy nabízí řešení? Podle mého v prvé řadě regulace.

Facebook, ač mnohdy tvrdí opak, je z titulu maximální ziskovosti jednoznačně návykový, podobné třeba jako alkohol. Ovšem i alkohol rovněž podléhá regulací a zvláštnímu zdanění.

Samozřejmě v rámci regulace by byl nesmysl snažit se Facebook zcela sprovodit ze světa. Dopadlo by to jistě jako americká prohibice na začátku 20. století, tedy neúspěšně. Protože má však Facebook dominantní postaveni, dovedu si představit, že by ze strany státu mohl být regulován formou "zodpovědné reklamy", resp. poskytnutím části prostoru namísto zdanění.

Pro představu: rádia nebo televize mohou mít určena, jaký podíl vysílání musí být vyhrazen pro českou produkci, případně splňovat jiná kritéria (% obsahu věnované kultuře, vzdělání atd.) Obdobně by podle mého názoru Facebook mohl mít povinnost 20% reklamního prostoru vyhradit bezplatně pro státní vzdělávací či obecně prospěšné aktivity (prostor by bezplatně mohly využít radnice, kulturní instituce, školy atd.) V případě, že by se rozhodl Facebook tento prostor nezpřístupnit, zaplatil by zvláštní daň, obdobně jako tomu je třeba u větších zaměstnavatelů, kteří mají za povinnost zaměstnávat určité procento handicapovaných lidí.

Samozřejmě to, co navrhuji, není regulace pro Facebook, ale pro všechny ostatní budoucí sociální platformy, jejichž cílem bude v prvé řadě zisk akcionářů.

Jak se země typu Honduras nebo Ghana mohou zapojit do „nové“ ekonomiky založené na umělé inteligenci tak, aby jim vyspělé země neutekly a ekonomická propast se neprohloubila ještě více?

Zdá se, že robotizace ve spolupráci s umělou inteligencí povedou společně především k tomu, že bude potřeba méně lidí v továrnách, kde by se mohli živit „levnou prací“. Otázka tedy je, jaká práce zůstane pro lidi v méně vyspělých zemích. Co se stane, když tak zvaných „montoven“ začne ubývat? Jako příklad lze zmínit přesun továrny Adidas z Číny do Ameriky. Co budou dělat Číňané, Indové a další, když nebude potřeba jejich levné práce v takové míře jako doposud?

Moje představa, jak mohou zaostalejší země v době robotizace, 3D tiskáren a umělé inteligence, udržet krok, případně i dohnat země vyspěleji, je následující:

Jedny z nejvyšších platů jsou v oblasti IT, programování, vývoje algoritmů, datové analýzy, a obecně špičkové vědecké, vývojářské a designerské práce. Ta potřebuje nadání, skvělé vzdělání, schopnost komunikovat anglicky a být dostatečně spojen se světem. Většinu těchto činností lze však vykonávat „na dálku“. To ale znamená, že skvělí lidé mohou zůstat přímo v zaostalejší zemi, kde je jejich práce pro zaměstnavatele výrazně levnější, než kdyby fyzicky přesídlili do USA. Avšak na místní poměry může být jejich plat pro změnu astronomický.

Stačí tedy mít skvělou pracovní dovednost, umět angličtinu, získat dobré připojení k internetu, vhodný počítač, být spolehlivý, komunikativní a ochotný pracovat ve virtuálním „globalizovaném“ týmu. Požádat pak o práci u renomované firmy „za oceánem“ by pak mělo být schůdné.

(To, co popisuji, není žádná vzdálená sci-fi fantazie. Sám autor těchto řádků již mnoho let pracuje externě pro subdodavatele e-learningových aplikací jednoho z asijských výrobců mobilních telefonů, přičemž dva své spolupracovníky nikdy v životě neviděl, resp. zná je pouze díky internetové hlasové komunikaci, sdílení obrazovky a cloudovému úložišti).

Pokud se bude jednat o práci prováděnou lokálně, avšak placenou ze zahraničí, pak nadstandardní získané peníze dotyčný zaměstnanec utratí nejspíše v lokální ekonomice. Takže vzrostou platy i místním zedníkům, zemědělcům, asistentkám, masérům, kadeřnicím, pekařům i výčepním.

Jinak řečeno, když budou nejlepší mozky světa mezi sebou soutěžit o „dolarové“ platy, avšak zároveň tito zaměstnanci zůstanou v zemích, kde se narodili, tak dojde k rovnoměrnější distribuci bohatství než dnes. Co víc, pokud tito lidé utratí své globálně vydělané peníze v místní ekonomice, což je pravděpodobné, zvedne se zároveň s nimi životní úroveň všech lidí, kteří třeba nejsou tak geniální, ale mají šikovné ruce, jsou spolehliví a hlavně jsou blízko.

Jak ale dostat patřičné vzdělání i do odlehlých a chudých koutů zeměkoule?

Neobejde se to bez připojení k internetu, dostatečné znalosti angličtiny a větší otevřenosti prestižních univerzit. Již nyní existují na YouTube zvláštní kanály, kde nejlepší univerzity Anglie i Ameriky publikují vybrané přednášky. Otázka jen zní, jak je přimět k tomu, aby publikovali skutečně veškeré materiály a volně pro celý svět? Potom doslova každý, kdo bude mít 10-ti palcový tablet, připojení na internet a naučí se včas anglicky, může získat vzdělání, o němž se našim rodičům ani nesnilo.

Jako malou ochutnávku dostupného a prestižního vzdělání zkuste následující odkazy:

Harvard, Oxford, London School of Economics, Stanford, MIT open ware, MIT, Yale, více inspirace v článku Universities on YouTube. Pak také samostatné instituce a společnosti Talks at Google, Nobel Prize, DW Documentary, více inspirace například v článku Educational YouTube Channels.

Jak uchovávat data lidí z celého světa tak, aby se jich nemohl zmocnit někdo "špatný" a zneužít jich? Jenže kdo je vlastně ten "špatný"? Je větší riziko, když indická data leží v Americe, nebo když data Američanů leží v Indii?

Tato otázka je velmi zrádná právě v tom, že neexistuje žádný spolehlivý postup, jak identifikovat budoucí riziko; tedy toho, kdo může data zneužít. Občan spojených států žije v demokracii a může si myslet, že data uložená na území jeho země jsou naprosto v pořádku.

Jenže, kdo zaručí, že za 20 let se vláda USA „neotočí“ výrazně doleva a že Spojené státy nebudou nakonec "tvrdším" režimem než třeba současná Čína? Obzvláště, pokud se ukáže, že čínský model je v řízení státu efektivnější.

Jediné, co mi v takové souvislosti přijde rozumné, je požadovat po Facebooku a dalších cloudových firmách, které pracují s mými daty, aby:

1. V základní bezplatné variantě umístila moje data kamkoli na zeměkouli, kde bude poměr nákladů a rizik pro firmu nejefektivnější.
2. V placené variantě bych však ocenil možnost za příslušný finanční obnos přesunout data do mnou vybraného datového centra, které si určím sám a které budu považovat za bezpečné.

To, zda tajná služba dané země duplikuje všechna data z datových center pro vlastní současné či budoucí potřeby (duplikát jí zůstane i po smazání dat v původním úložišti) těžko ovlivním. Nicméně měl bych mít možnost se rozhodnout, zda takovou možnost svěřím Číně, USA, České republice atp.

Jak moc pomáhá umělá inteligence autoritativním režimům a propagandě, když dokáže vyhodnotit efektivně velké množství dat? Sovětský svaz se rozpadl právě proto, že centrální autorita nebyla schopna data efektivně vyhodnocovat. Jenže, co když se to s umělou inteligenci nyní změní?

Je asi na místě poukázat, že jakákoli technologie v sobě nemá znaménko plus, ani mínus. Pomocí jaderné energie lze vyrobit spoustu elektřiny, ale samozřejmě s ní lze zničit města, i celé světadíly učinit neobyvatelnými. To stejné platí pro technologie typu televize, rozhlas, internet ale i nástroje jako oheň nebo nůž – nejsou samy o sobě ani špatné, ani dobré.

Skutečně záleží, kdo a k jakým účelům nástroj či technologii používá. Ta samá pistole v rukou bankovního lupiče je špatná, ale v rukou policisty dobrá. Jenže zákaz střelných zbraní není řešením, jak víme, a proto jsou regulovány pomocí zbrojních pasů.

Ze stejného důvodu by bylo zbytečné sociální sítě a umělou inteligenci zakazovat, protože mohou vykonat spoustu užitečné práce pro lidstvo, pokud je budeme používat s rozumem a obezřetně.

Představuje datový monopol velkých hráčů (Google, Facebook a jiní) problém? Může vůbec vzniknout nová konkurence?

Monopolizace dat je problém. U Facebooku například vyjma Twitteru neexistuje žádná skutečná konkurence (síť Instagram koupil Facebook, takže není konkurenční).

A problém v takovém prostředí samozřejmě je, že nikdo jiný nemůže nabídnout takové služby jako Facebook, právě z toho důvodu, že nemá nasbíráno tolik dat jako Facebook.

Jak rozlousknout začarovaný kruh?

Tento začarovaný kruh má podle mého soudu řešení, které je podobné virtuálním mobilním operátorům a nebo alternativním společnostem zaměřeným na prodej energií. V obou případech se vytváří konkurence tak, že noví hráči na trhu dostanou přístup do fyzické infrastruktury vysílačů signálu, drátů elektrického napětí, plynových trubek atd.

U Facebooku a jiných datových gigantů by to mohlo fungovat tak, že uživatel stáhne svá data z Facebooku a přejdete s nimi do jiné sítě, ale s napojením na stávající kontakty (export a import v předem stanoveném formátu).

Něco podobného již nyní funguje v elektronickém bankovnictví, kde mají klienti možnost pod jednu online platformu zahrnout ovládání více bankovních účtů, jež si mezi sebou data vyměňují, jako by patřily jedné bance. Mohlo by tak existovat více alternativních sociálně-datových operátorů pod střechou Facebooku, stejně jako je nyní více mobilních operátorů pod střechou tří skutečných provozovatelů telefonní infrastruktury.

V jistém smyslu je to také podobné, jako když požádáte obvodního lékaře, aby Vám předal složku se všemi Vašimi zprávami, protože přecházíte k jinému lékaři, jež je bude dosud získaná data vyhodnocovat svým způsobem. Přitom lékaři představují také model informační sítě, jež společně čile komunikuje (nebo by přinejmenším měla).

Výsledkem by měla být konkurence mezi alternativními firmami s vlastními algoritmy, které budou nabízet jiné způsoby vyhodnocení toho, co se Vám zobrazí od přátel na zdi a jaké množství i obsah reklamy uvidíte.

Co když efektivita není v souladu s etikou? Co když systémy založené na umělé inteligenci nejsou etické, ale efektivní (rozpoznávání obličejů u chodců na ulici atd.)?

Etika a efektivita jsou skutečně dvě cela rozdílné kategorie. Při znalosti historie režimu v Severní Korei člověku naskakuje husí kůže, když si představí, jak lze lidem vymývat mozky propagandou – a jak to s pomocí sbírání takzvaných „velkých dat“ a umělé inteligence může jít vše ještě efektivněji raději ani nemyslet.

Jenže neexistuje žádný recept, jak technologii zabránit, aby nebyla zneužita. Takže neexistuje jiná cesta, než důsledná lidská kontrola, kritické myšlení a dobré a špatné zkušenosti jako vodítko (... stejná pistole v rukou policisty i lupiče).

Co když umělá inteligence (chytrá online reklama) nejen pomůže zakoupit zbytečný výrobek, který nepotřebuji, ale dokáže mě přesvědčit ke zvolení politika, který bude jednat proti mému zájmu?

Prvně vysvětlení možného zneužití pomocí příkladů:

1. Řekněme, že jsem podnikatel a bylo by tedy v mém zájmu volit stranu, která podnikání podporuje, avšak chytré algoritmy dokáží „vyčenichat“ nějakou "bolístku" na duši (zemřel mi třeba jeden z rodičů na rakovinu), a systém mě začne bombardovat reklamou politické strany, která má v programu lepší paliativní péči. Jinak je však tato strana bytostně socialistická a proti rozvoji podnikání. To se však nedozvím, pokud nezačnu studovat její program ... a věřím, že spousta voličů se tímto skutečně neobtěžuje, protože volí "srdcem".
2. Chytré populistické algoritmy půjdou ještě dále, to znamená identifikují skupinu, která má největší potenciál být oslovena, a tyto algoritmy sestaví nový program"na míru" těmto"zákazníkům". Jedná se o opačný populistický postup. Nikoli tedy, jak je to běžné: mám vizi a recepty na lepší svět – sdílíte je také? Ale: řekneme každému, co chce slyšet, jen ať nás zvolí.

Ano, bohužel i zde mohou algoritmy ve spolupráci s umělou inteligencí přispět k manipulaci. Obávám se však, že jediná možnost je mít vzdělanější voliče s kritickým myšlením, protože regulace je jen obyčejným základním informačním „deštníkem“ – i ten se ve vichřici ohne a člověka neochrání.

Již přece regulujeme reklamu zaměřenou na léky, alkohol nebo děti, takže omezení samozřejmě zasluhuje i politická reklama. Doporučil bych tedy nastavení jasných a hlavně jednoduchých pravidel propagace – politickou reklamu zadává jen subjekt registrovaný delší čas na území, kde propaguje (fyzická doručovací adresa ověřená zasláním kódu, existující bankovní účet s kreditní kartou), odkaz nesmí vést na stránku, z níž by nebyl zřetelně dostupný hlavní volební program (politické strany by mohly jinak lákat voliče na protichůdné či zavádějící mikrostránky bez sdělení celého programu), atd.

Život byl doposud vnímám jako velké drama dílčích rozhodnutí, kde jsme každý den na křižovatce a vybíráme si, kudy se vydat. Jak se ale promění život, když nám umělá inteligence každý den poradí nejen film, knihu, koncert, snídani či dárek, ale když bude schopna vybrat ideální náboženství, životního partnera, školu či politickou stranu ve volbách?

Vskutku těžká otázka. Musím ale říct, že člověk je rozhodně tvor svéhlavý, který ne vždy naslouchá dobrým radám, takže není jisté, že 100% "zaručené tipy" jej přimějí jednat rozumě a dle vůle umělé inteligence. Často lidé, kterým jsou předložena nečekaná fakta, vyvracející jejich přesvědčení, reagují naopak přimknutím se ke svým dosavadním "špatně podloženým" názorům. Může se tak stát, že chytré a dobromyslné hodinky, která Vám řeknou, že si máte jít zacvičit, už podruhé v jednom dni, mohou rychle skončit v šuplíku či v bazaru.

Chápu ale, že celý problém leží spíše jinde. Panuje oprávněná obava, že algoritmy umělé inteligence nebudou doporučovat nejlepší řešení pro zákazníka, ale řešení, která jsou krátkodobě uspokojivá ale výhodná pro majitele algoritmu. Tedy, že algoritmy upřednostní vždy zájmy majitele před zájmy zákazníka. Asi jako majitel baru, který má dilema, zda nalít podnapilému další skleničku, aby měl vyšší zisk na úkor bolesti hlavy a prázdnější kapsy jeho zákazníka.

V rozhovoru Mark Zuckerberg mimo jiné říká, že časy, kdy Facebook servíroval jedno virální video za druhým, aby udržel člověka u obrazovky co nejdéle, jsou již pryč. Může to být pravda, ale upřímně, neumím si představit, jak by Zuckerberg obhajoval takovou strategii v širším měřítku před svými akcionáři (zeptejte se sami sebe: chcete, aby součástí Vašeho důchodového investičního spoření byly akcie firmy, která je altruistická a má cenu 100, nebo se chcete mít v důchodu lépe raději a dáte přednost sobečtější firmě s cenovkou 500, díky níž získáte 5x víc?)

"Co když nás algoritmy budou znát lépe, než všichni ostatní, a dokonce lépe, než my sami?" ptá se Harari? Osobně bych se této otázky nebál.

Jak se to říká o ohni: "Dobrý sluha, ale zlý pán".

Pokud mi počítač na střední škole poradí, že se mám dát na dráhu zvěrolékaře, protože k tomu mám vhodné dispozice a protože lze předpokládat, že mě tento obor bude bavit více, než běžná medicína nebo farmacie, resp. že mám i šanci uspět u přijímacího řízení, pak je to myslím krok kupředu. Dokonce i pokud mě inteligentní počítač upozorní, že mnou plánované manželství se jeví jako problematické, resp. zda nechci zvážit třeba jinou variantu nebo ještě rok se sňatkem počkat, i to by mé životní obzory spíše rozšířilo než zúžilo. A pokud mě mobil či počítač upozorní, že se mě nějaká politická strana snaží reklamou obelstít, protože jsem neměl jednoduše čas přečíst si celý její volební program (zatímco algoritmus ano), pak je to přece rada k nezaplacení. 

Dávejme tedy v prvé řadě pozor na to, kdo umělou inteligenci "zaměstná" a v čí prospěch bude pracovat. Bylo by zbytečné nevyužít jejího potenciálu jen proto, že vyžaduje nějaká bezpečnostní opatření (regulaci, zaškolení, kontrolu). Nože, sirky, pistole i jaderné reaktory mohou být prospěšné, pokud se s nimi zachází dostatečně obezřetně. Internet, Facebook, Google či umělá inteligence jsou pak pouze další nástroje, se kterými se lidstvo musí naučit dobře zacházet.