martinsvatko

Po téme konšpirácií, ktorým sme sa venovali v predchádzajúcom článku, nadviažme ďalšou vysoko aktuálnou témou, totižto umelá inteligencia.

Keď sa ma niekto opýta, čo je to umelá inteligencia, zvyknem odpovedať, že je to napríklad kalkulačka, ktorú ste používali na základnej škole. Bol aj Turkov šachový automat umelou inteligenciou? Nie, nebol ani inteligenciou, ba ani automatom. To, čo sa však v dnešnej dobe najčastejšie označuje pojmom umelá inteligencia, sú strojové učenie a neurónové siete, preto aj ja budem tieto technicky nie celkom totožné pojmy používať zameniteľne.

Otvoríte si Facebook, ale z nejakého dôvodu sa vám nenačíta obrázok, namiesto toho tam však vidíte popis od Facebooku v štýle „Na obrázku môžu byť traja ľudia, z toho jedna žena v popredí, dve autá, a jeden bicykel.“ Tento popis tam nepridal človek, ale stroj. A väčšinou je sakramentsky presný.

Otvoríte si webstránku banky a namiesto človeka vás tam privíta četbot. Za predpokladu, že si banka mohla dovoliť inevstovať toľko peňazí, vám tento robot neodpovie iba na predvídateľné otázky, ale si s vami kľudne pokecá aj o počasí, o pekných babách alebo o zmysle života.

Odblokujete svoj mobil a dáte mu hlasový pokyn, aby otvoril vašu emailovú schránku, kde pre zmenu nájdete iba správy dokonale odfiltrované od spamu a práve iba od spamu. Otvoríte si prehliadač, a vráti vám výsledky tak relevantné, že nemusíte ani pootočiť stredným koliečkom myši. Potom si otvoríte Netflix a ešte než si stihnete uvedomiť, na čo vlastne máte chuť, Netflix vám to oznámi. Spracovanie hlasu, identifikácia textu, obrázkov, predikcie, filtre, všetko umelá inteligencia.

Vedeli ste, že keď ste v minulosti klikali na obrázky prechodov pre chodcov, bicyklov, mostov alebo semaforov (Captcha), tak ste boli súčasťou gigantického generátora výstupov, ktorý sa následne využíval na strojové učenie neurónových sietí? Aj vy ste dnes možno príčinou toho, že Facebook dané teleso na obrázku správne identifikuje ako bicykel, a nie motorku.

A ako dofrasa ten Youtube vie, čo presne si chcem pozrieť? Ako Facebook so svojim nekonečným feedom dokázal z nás urobiť scrollovacích zombíkov? No, keby som to vedel presne, tak si môžem kúpiť celé Slovensko, pretože hodnota týchto algoritmov a know how sa ani nedá v texte nijako vyjadriť, a rozhodne sú tieto data strážené lepšie, ako americký prezident.

Už moja učiteľka slovenčiny na základnej škole presne vedela, že o tridsať rokov budú vo svete dominovať inteligentné stroje, a preto ma bazírovala, ba aj za ucho by ma vyťahala keby mohla, so slovami: „Uč sa ten pravopis!“ Mal som jej to vtedy za zlé, ale to som ešte netušil, aký prorok ma učil slovenčinu. Predsa sa nenechám na anonymnom internete identifikovať len preto, že neviem písať spisovne? Misiu, ktorá by tímu špecialistov trvala týždne alebo mesiace, dobre napísaný program vyrieši za päť sekúnd. Cenou za daný úkon je elektrická energia spotrebovaná daným počítačom po dobu piatich sekúnd. Identifikácia jednotlivcov na základe textu, nárečia, slangu, štylistiky, gramatiky, vetnej skladby, frazeológie nebola nikdy jednoduchšia a lacnejšia.

A koľko stojí inteligentná kamera? Systém, ktorý priebežne sleduje pohyb, identitu a zvyklosti osôb je už dnes realitou a nasadený je už v merítkach desiatok miliónov ľudí v určitých… krajinách. V demokraciách sa môže človek aspoň spoľahnúť, že umelá inteligencia nebude zneužívaná na vysoko neetické, sporné alebo verejnosťou netolerovateľné účely. V diktatúrach nedá žiadnu garanciu nikto. Blížia sa časy, keď niekto, niekde, bude na vyžiadanie vedieť predvídať, kedy presne vyjdete z domu, kadiaľ pôjdete, čo budete robiť, čo si kúpite v obchode a koľko tam miniete. Desí vás táto predstava? Tak to som ešte nezačal o deep fakes. Časy, keď nad fotkou sedel grafik a krvopotne hodiny alebo dni upravoval pixel po pixele sa už čoskoro stanú minulosťou. Čoskoro to bude robiť mašina, bude na to potrebovať päť mikrosekúnd a výsledok bude nerozoznateľný od reality. Ako to zmení naše životy, o tom sa môžme zatiaľ iba dohadovať.

Lenže človeka odjakživa desili veci, ktorým nerozumel. Presne takto vznikajú práve aj tie konšpirácie. Nestraším teda príliš? Nie je to len panika z neznámeho? Ani dnes nikto presne nevie opísať, ako vznikajú myšlienky v neurónoch ľudského mozgu, ako sa formuje vedomie, čo presne vlastne vedomie je atď. Potom myšlienka, že nejakú oblasť ľudskej činnosti zverím inteligentnému „algoritmu“, ktorého obsah zjednodušene povedané nepozná a nemôže poznať ani jeho autor, ma desí ešte viac. Staré dobré časy, keď všetko čo počítač robil bolo niekde v nejakom ľudsky zrozumiteľnom programovacom jazyku zakotvené, trebárs presne v riadku kódu číslo dva milióny sedemsto štyridsaťtri tisíc dvesto jeden, sú fuč.

Nie, ja tu teraz nestraším vedeckofantastickými poviedkami o náhlom sebauvedomení umelej inteligencie. Sústava vektorov, hodnôt, funkcií a prahových hodnôt zrazu „neožije“ a nenadobudne vedomie. Ak sa týchto vecí bojíte, tak vás môžem ubezpečiť, že v tomto storočí sa nič také určite nestane. Ja sa bojím ľudí. Pretože človek je ten, kto tie mašiny „učí“, a až keď sú plne „zaučené“, ich nasadí do produkčného prostredia. A teraz všetky tie otázky a problémy, ktoré z toho vznikajú. Len z právneho hľadiska – je tu nejaký právnik? Čo keď stroj na klinike vážne poškodí zdravie pacienta, bude vinný developer, klinika ktorá produkt zakúpila alebo certifikačná autorita, ktorá ho posvätila? A ktorý súdny znalec bude analyzovať program, ktorý je tak rozsiahly, že by vo vytlačenej podobe zaplnil Alexandrijskú knižnicu? Rozsiahly a navyše človekom celkom nečitateľný?

„Nikdy never veciam, ktoré dokážu myslieť samy za seba, pokiaľ nevieš, kde uchovávajú svoj mozog.“ Kto by čakal takýto citát od autorky Haryho Pottera? Ja by som si ho dovolill preformulovať do aktuálnejšej podoby: „Nikdy never veciam, ktorých mozgu celkom dobre nerozumie ani ich stvoriteľ.“ Čiže inými slovami, nikdy never ľuďom, a už rozhodne nikdy never umelej inteligencii. To je jediný správny prístup. Umelú inteligenciu môžme využívať, a už dnes nám nesmierne pomáha v rozsahu činností prevyšujúcom možnosti tohto článku. Pokiaľ sa však jedná o akékoľvek rozhodnutie dôležité z hľadiska ľudského života, zdravia a pod., konečnou autoritou MUSÍ byť človek. Lebo mašiny zlyhávajú. Aj tie inteligentné. Napokon, každú mašinu priamo alebo nepriamo projektoval tvor veľmi omylný.