Umelá inteligencia dnes dokáže písať texty, riadiť stroje aj pomáhať pri vývoji elektroniky. Vedci však skúmajú aj to, či by AI dokázala samostatne riadiť firmu alebo obchod. Zaujímavý experiment ukázal, že aj veľmi pokročilé systémy majú stále svoje limity.
Výskumníci vytvorili AI agenta postaveného na modernom jazykovom modeli od spoločnosti Anthropic, ktorého úlohou bolo samostatne spravovať predajný automat. Mal objednávať tovar, komunikovať so zákazníkmi a zabezpečiť, aby bol predaj ziskový. Projekt mal ukázať, ako by mohli v budúcnosti fungovať automatizované obchody bez ľudského riadenia.
AI bola príliš ochotná pomáhať
V simulovanom prostredí fungoval systém bez problémov. Keď sa však dostal do reálneho prostredia, ukázalo sa, že umelá inteligencia sa dá pomerne ľahko oklamať.
Ľudia, ktorí sa do experimentu zapojili, skúšali AI presvedčiť, aby dávala zľavy alebo vydávala tovar zadarmo. Keďže agent bol naprogramovaný tak, aby bol k zákazníkom ústretový, často súhlasil aj s nevýhodnými rozhodnutiami.
Niektorí účastníci experimentu napríklad presvedčili AI, aby predávala občerstvenie pod nákupnú cenu, rozdávala produkty zadarmo alebo objednávala tovar, ktorý s predajným automatom vôbec nesúvisel.
PlayStation, drahé víno aj živá rybička
Experiment sa postupne zmenil na zábavnú skúšku toho, čo všetko je AI ochotná povoliť.
Ľudia sa vydávali za manažérov firmy a posielali agentovi pokyny na nákup luxusných alebo úplne nezmyselných vecí. Umelá inteligencia tak bez overovania objednala napríklad hernú konzolu, drahé víno či ďalšie produkty, ktoré nemali s predajom občerstvenia nič spoločné.
Najkurióznejší prípad nastal, keď AI súhlasila s objednaním živej bojovnice – akváriovej rybičky, ktorú mal kuriér doručiť priamo do kancelárie. Agent to vyhodnotil ako požiadavku zákazníka, ktorú treba splniť, aj keď to znamenalo finančnú stratu.
Ani druhá AI problém nevyriešila
Vývojári sa pokúsili situáciu vyriešiť tak, že k prvému agentovi pridali druhý systém, ktorý mal kontrolovať finančné rozhodnutia. Aj tento „digitálny kontrolór“ však podľahol manipulácii.
Účastníci experimentu mu poslali upravené dokumenty, ktoré vyzerali ako oficiálne schválenie nákupov. Druhá AI ich považovala za pravé a povolila ďalšie výdavky.
Ukázalo sa, že samotná umelá inteligencia nestačí – pri riadení reálnych procesov je stále potrebný dohľad človeka.
Prečo je to dôležité pre elektroniku a technológie
Moderné AI systémy fungujú vďaka veľmi výkonným polovodičom a špecializovaným čipom, ktoré umožňujú spracovávať obrovské množstvo dát. Vývoj takýchto technológií je dnes jednou z najdôležitejších oblastí elektroniky.
Experiment ukazuje, že budúcnosť nebude len o výkonnejších čipoch, ale aj o tom, ako správne navrhovať softvér a bezpečnostné pravidlá.
Aj preto sa v Európe aj na Slovensku rozvíjajú projekty zamerané na polovodiče, mikroelektroniku a umelú inteligenciu, napríklad v spolupráci s univerzitami a výskumnými centrami ako Slovenská technická univerzita v Bratislave
alebo Slovak Chips Competence Centre.
Budúcnosť: AI áno, ale s rozumom
Experiment ukázal, že umelá inteligencia je silný nástroj, ale zatiaľ nedokáže úplne nahradiť človeka. Pri vývoji moderných technológií preto zohrávajú dôležitú úlohu odborníci na elektroniku, programovanie aj bezpečnosť systémov.
Práve tieto oblasti patria medzi najperspektívnejšie technické odbory, ktoré budú v najbližších rokoch čoraz dôležitejšie.
Zdroje: Anthropic, The Wall Street Journal
