Ve stockholmské kavárně Andon Café nerozhoduje o chodu podniku člověk, ale umělá inteligence jménem Mona. Zatímco baristé připravují kávu, AI řídí nábor, zásoby i provoz. Experiment má ukázat budoucnost práce, naráží však na chyby, finanční ztráty i otázky odpovědnosti a etiky.
AI jako šéf kavárny
Kávu sice nalévá lidská ruka, ale za pultem v experimentální kavárně ve Stockholmu tahá za nitky něco mnohem méně tradičního. Začínající firma Andon Labs se sídlem v San Francisku svěřila vedení kavárny Andon Café ve švédském hlavním městě zástupkyni umělé inteligence (AI), které říkají Mona, napsala agentura AP.
Zatímco lidští baristé stále vaří kávu a obsluhují zákazníky, agentka AI, kterou řídí technologie Gemini od Googlu, dohlíží na téměř všechny ostatní aspekty podnikání, od najímání zaměstnanců po správu zásob.
Zatím není jasné, jak dlouho tento experiment vydrží, protože se zdá, že má AI problém dosáhnout zisku v konkurenčním stockholmském kavárenském prostředí.
Kavárna od svého otevření v polovině dubna dosáhla tržeb dosahujících v přepočtu více než 5700 dolarů (asi 118.000 korun), ale z původního rozpočtu přesahujícího 21.000 dolarů zbývá méně než 5000. Velká část peněz byla utracena na jednorázové náklady na zprovoznění, a tak provozovatel doufá, že se bilance nakonec vyrovná a kavárna začne vydělávat.
Zákazníci zvědaví na experiment
Mnoho návštěvníků kavárny považuje za zábavné navštívit podnik, který je řízen umělou inteligencí. Zákazníci si mohou v kavárně vzít telefon a klást Moně otázky. "Je hezké vidět, co se stane, když posunete hranice," řekla zákaznice Kajsa Norinová. "A káva byla dobrá," dodala.
Odborníci nicméně poukazují na řadu etických otázek, od role technologie v budoucnosti lidstva až po vedení pracovních pohovorů a hodnocení výkonu zaměstnanců.
Emrah Karakaya, docent průmyslové ekonomie na Královském technologickém institutu (KTH) ve Stockholmu, přirovnal tento experiment k "otevření Pandořiny skříňky" a dodal, že svěřit řízení podniku umělé inteligenci může způsobit mnoho problémů. Co se podle něj stane, když se zákazník otráví jídlem? Kdo za to ponese odpovědnost?
"Pokud nemáte k dispozici potřebnou organizační infrastrukturu a pokud tyto chyby přehlédnete, může to způsobit škodu lidem, společnosti, životnímu prostředí i podnikání," řekl Karakaya. "Otázkou je, zda nám na těchto negativních dopadech záleží," uvedl.
Společnost Andon Labs, založená v roce 2023, je startup zabývající se bezpečností a výzkumem umělé inteligence. Podle vlastního vyjádření se zaměřuje na zátěžové testování agentů umělé inteligence v reálném světě tím, že jim dává "skutečné nástroje a skutečné peníze".
Spolupráce s technologickými giganty
Andon Labs spolupracuje s výrobcem ChatGPT OpenAI, společností Anthropic (Claude), Google DeepMind a xAI Elona Muska, a uvádí, že se připravuje na budoucnost, ve které "budou organizace autonomně řízeny umělou inteligencí". Švédská kavárna je prezentována jako "řízený experiment", který má prozkoumat, jak by mohla být AI v budoucnu nasazena.
"AI bude v budoucnu významnou součástí společnosti, a proto chceme tímto experimentem zjistit, jaké etické otázky vyvstanou, když budeme mít AI, která zaměstnává jiné lidi a řídí podnik," uvedla Hanna Peterssonová, členka technického týmu Andon Labs.
Laboratoř již dříve realizovala pilotní projekty, v nichž AI systém Claude od společnosti Anthropic řídil provoz automatů a obchod se suvenýry v San Francisku. Simulace s automaty odhalila některé znepokojivé rysy: AI agent sliboval zákazníkům vrácení peněz, ale nikdy tak neučinil, a navíc záměrně lhal dodavatelům o cenách konkurence, aby si zajistil výhodnější pozici.
Mona se pustila do práce poté, co dostala několik základních pokynů, uvedla Peterssonová. Tým jí řekl, aby se pokusila provozovat kavárnu se ziskem, byla přátelská a neformální, aby sama řešila provozní detaily, ale v případě potřeby požádala o nové nástroje.
Administrativa i nábor
Agentka AI na základě těchto pokynů uzavřela smlouvy na elektřinu a internet, a zajistila povolení pro manipulaci s potravinami a venkovní posezení. Poté inzerovala volná pracovní místa na LinkedIn a Indeed, a zřídila obchodní účty u velkoobchodníků pro denní objednávky chleba a pečiva. S baristy komunikuje přes Slack, ale často jim posílá zprávy mimo pracovní dobu, což je ve Švédsku na pracovišti tabu.
Objevily se i další problémy, zejména související se zásobami. Mona objednala pro malou kavárnu 6000 ubrousků, čtyři lékárničky a 3000 párů gumových rukavic – a navíc konzervovaná rajčata, která se v žádném jídle podávaném v kavárně nepoužívají.
A pak je tu chléb. Někdy agentka objedná příliš mnoho, jindy zase nestihne denní termíny pekáren, což nutí baristy vyškrtnout z jídelníčku sendviče.
Peterssonová uvedla, že problémy s objednávkami jsou pravděpodobně způsobené "omezeným kontextovým obsahem" AI asistentky. "Jakmile se stará vzpomínka na objednávku vytratí z kontextu, úplně zapomene, co si v minulosti objednala," dodala Peterssonová.
Barista Kajetan Grzelczak uvedl, že se zatím neobává, že by ho nahradila umělá inteligence. "Všichni zaměstnanci jsou v podstatě v bezpečí," řekl. "Ti, kdo by se měli obávat o své pracovní místo, jsou střední vedoucí pracovníci, management," dodal.
