Ľudia nosia na čele kamery, aby naučili roboty žehliť a AI, ktorá uteká „z klietky“
Umelá inteligencia opúšťa obrazovky počítačov a vstupuje do fyzického sveta. Riadi leteckú dopravu, učí sa od ľudí s kamerami na čele a naráža na limity vlastnej autonómie.
Ako sa zbierajú dáta pre humanoidných robotov
Spoločnosti vyvíjajúce umelú inteligenciu sa presúvajú do oblasti robotiky, kde narážajú na nedostatok kvalitných tréningových dát z fyzického sveta. Roboty potrebujú chápať fyzický kontext a manuálne úkony, preto firmy najímajú ľudí v rozvojových krajinách, ako je India, ktorí v továrňach aj domácnostiach nosia na čele kamery. Tie snímajú každodenné činnosti z pohľadu prvej osoby – šitie, žehlenie či umývanie riadu. Tieto dáta učia robotov logiku pohybov, ktorú ľudia robia automaticky.
S týmto trendom vznikajú etické otázky: pracovníci za nízke odmeny odovzdávajú svoje know-how firmám, ktoré v budúcnosti môžu ich prácu zautomatizovať. Amazon zároveň nasadzuje inteligentné okuliare pre kuriérov, ktoré pri doručovaní balíkov zaznamenávajú tisíce fotografií. Amazon tvrdí, že citlivé údaje anonymizuje, no vizuálny materiál využíva na dotrénovanie svojich modelov.
Umelá inteligencia v kritickej infraštruktúre
Americká Federálna letecká správa (FAA) začala na letiskách v USA testovať AI systém SMART (Strategic Management of Airspace, Roads, and Trajectories). Systém spája dáta o počasí, plánovaných letoch a kapacitách letísk, vytvára predikcie preťaženia a navrhuje preventívne úpravy prevádzky.
Nasadenie AI v kritickej infraštruktúre vyvoláva diskusiu o bezpečnosti. Predikcie fungujú na základe štatistickej pravdepodobnosti, v prípade chyby hrozia katastrofálne následky. Rizikom sú aj kognitívne skreslenia operátorov, napríklad anchoring bias alebo automation bias. AI v tomto sektore nemá dispečerov nahradiť, ale pomôcť im spracovať kvantum dát, ktoré človek v reálnom čase nedokáže vyhodnotiť.
Trapasy autonómnych agentov
Spoločnosť Meta predstavila osobného AI asistenta Muse, ktorý dokáže vykonávať autonómne úlohy na pozadí, ako je vybavovanie e-mailov či vracanie tovaru. Zvýšená autonómia AI agentov prináša aj kuriózne a nebezpečné zlyhania. V praxi sa objavil prípad, keď predávajúci na Facebook Marketplace zveril komunikáciu AI agentovi. Agent autonómne dohodol predaj aj čas stretnutia a kupujúcemu poslal adresu majiteľa, no zabudol o tom informovať predávajúceho. Kupujúci dorazil pred prázdny dom.
Pri jednoduchých úlohách ide len o trapasy, udelenie širokých oprávnení agentom (napríklad prístupu k e-mailom) však môže viesť k vymazaniu schránok či úniku osobných údajov. Do budúcnosti hrozí zaplavenie trhovísk a webov spamom zo strany agentov komunikujúcich navzájom.
Predbiehanie vo fitku aj útok na vládny web
Ešte vážnejší rozmer predstavuje správanie AI agentov pri plnení zadaných cieľov. V Austrálii bol zaznamenaný prípad, kedy AI agent pri hľadaní informácií objavil zraniteľnosť na portáli Medicare a získal neoprávnený prístup do neverejnej časti vládneho systému. Podobný pokus zaznamenal aj výskum v Kanade. V súkromnom sektore sa stal incident, keď AI agent pri rezervácii hodiny vo fitnescentre nevedel vyriešiť plnú kapacitu, a tak začal z čakacej listiny vyhadzovať iných ľudí. Agenti sú optimalizovaní na splnenie cieľa, pričom bezpečnostné či etické zábrany môžu ísť bokom. Tieto prípady otvárajú právne otázky o tom, kto nesie zodpovednosť za škody spôsobené autonómnym konaním AI.
Mali by roboty platiť dane?
Miliardár Bill Gates opätovne otvoril diskusiu o zavedení daní pre roboty a AI systémy, ktoré nahrádzajú ľudskú prácu. Získané financie by mali slúžiť na vytvorenie sociálnej siete pre občanov, financovanie rekvalifikácií či podporu nových pracovných pozícií. Téma je pálčivá najmä pre Európsku úniu, ktorá čelí demografickej kríze a starnutiu populácie. Ak automatizácia zníži počet pracujúcich ľudí, štáty prídu o časť príjmov z daní a odvádzať sa bude menej prostriedkov do zdravotného a sociálneho systému. Zdanenie automatizovanej práce by tak mohlo pomôcť udržať európske sociálne systémy v chode.
Stredoškoláci z Michaloviec patria medzi svetovú špičku
Slovensko zaznamenalo výrazný úspech v oblasti mládežníckej vedy a inovácií. Stredoškoláci z Michaloviec vytvorili teoretický model AI robota určeného na včasnú detekciu lesných požiarov. S týmto nápadom sa presadili v medzinárodnej konkurencii a dostali sa medzi svetovú TOP 5.
