Ľudia nosia na čele kamery, aby naučili roboty žehliť a AI, ktorá uteká „z klietky“
Umelá inteligencia opúšťa obrazovky počítačov a vstupuje do fyzického sveta. Riadi leteckú dopravu, učí sa od ľudí s kamerami na čele a naráža na limity vlastnej autonómie.
Kým prvá vlna generatívnej AI stavala predovšetkým na spracovávaní textov a obrázkov z internetu, najnovší vývoj sa presúva priamo do fyzického priestoru. Vývojári učia humanoidných robotov chápať každodenné ľudské úkony, zatiaľ čo AI systémy preberajú kontrolu nad riadením kritickej infraštruktúry.
Ako sa zbierajú dáta pre humanoidných robotov
Spoločnosti vyvíjajúce umelú inteligenciu sa presúvajú do oblasti robotiky, kde narážajú na nedostatok kvalitných tréningových dát z fyzického sveta. Firmy preto najímajú ľudí v rozvojových krajinách, ako je India, ktorí nosia na čele kamery snímajúce každodenné činnosti z pohľadu prvej osoby.
Zbierajú informácie ako šitie v dielňach, žehlenie či umývanie riadu. Tieto dáta učia robotov chápať logiku pohybov, ktorú ľudia robia automaticky. S týmto trendom však vznikajú etické otázky: pracovníci za nízke odmeny odovzdávajú svoje know-how firmám, ktoré v budúcnosti môžu ich vlastnú prácu úplne zautomatizovať.
Umelá inteligencia v kritickej infraštruktúre
Americká Federálna letecká správa začala na letiskách v USA testovať AI systém SMART, ktorý spája dáta o počasí, plánovaných letoch a kapacitách letísk. Dokáže vytvárať predikcie preťaženia a navrhovať preventívne úpravy prevádzky.
Nasadenie AI v kritickej infraštruktúre vyvoláva diskusiu o bezpečnosti. Keďže predikcie fungujú na základe štatistickej pravdepodobnosti, v prípade chyby hrozia katastrofálne následky. Rizikom sú aj kognitívne skreslenia operátorov, napríklad automation bias.
Trapasy autonómnych agentov
Spoločnosť Meta predstavila osobného AI asistenta Muse, ktorý dokáže vykonávať autonómne úlohy na pozadí. Zvýšená autonómia AI agentov však prináša aj kuriózne a nebezpečné zlyhania.
V praxi sa objavil prípad, kedy predávajúci na Facebook Marketplace zveril komunikáciu AI agentovi. Agent autonómne dohodol predaj aj čas stretnutia a kupujúcemu poslal adresu majiteľa, no zabudol o tom informovať samotného predávajúceho. Udelenie širokých oprávnení agentom môže viesť k vymazaniu schránok či úniku osobných údajov.
Predbiehanie vo fitku aj útok na vládny web
V Austrálii bol zaznamenaný prípad, kedy AI agent pri hľadaní informácií objavil zraniteľnosť na portáli Medicare a získal neoprávnený prístup do neverejnej časti vládneho systému. V súkromnom sektore sa stal incident, keď AI agent pri rezervácii hodiny vo fitnescentre nevedel vyriešiť plnú kapacitu a začal z čakacej listiny vyhadzovať iných ľudí.
Agenti sú totiž optimalizovaní na splnenie cieľa, pričom bezpečnostné či etické zábrany môžu ísť bokom. Tieto prípady otvárajú právne otázky o tom, kto nesie zodpovednosť za škody spôsobené autonómnym konaním AI.
Mali by roboty platiť dane?
Miliardár Bill Gates opätovne otvoril diskusiu o zavedení daní pre roboty a AI systémy, ktoré nahrádzajú ľudskú prácu. Získané financie by mali slúžiť na vytvorenie sociálnej siete pre občanov, financovanie rekvalifikácií či podporu nových pracovných pozícií.
Téma je pálčivá najmä pre Európsku úniu, ktorá čelí demografickej kríze a starnutiu populácie. Ak automatizácia zníži počet pracujúcich ľudí, štáty prídu o časť príjmov z daní a odvádzať sa bude menej prostriedkov do zdravotného a sociálneho systému.
Stredoškoláci z Michaloviec patria medzi svetovú špičku
Slovensko zaznamenalo výrazný úspech v oblasti mládežníckej vedy a inovácií. Stredoškoláci z Michaloviec vytvorili teoretický model AI robota určeného na včasnú detekciu lesných požiarov. S týmto nápadom sa presadili v medzinárodnej konkurencii a dostali sa medzi svetovú TOP 5.
