Cafeteria dirigida por agente de inteligência artificial preocupa por falhas em gestão
Um experimento que coloca uma agente de inteligência artificial no comando de um café em Estocolmo tem encontrado problemas operacionais e financeiros desde sua inauguração em meados de abril. A startup Andon Labs, com sede em São Francisco, instalou a IA apelidada de “Mona” para supervisionar grande parte das atividades do Andon Café, embora baristas humanos ainda preparem as bebidas e atendam os clientes.
A tecnologia que alimenta a agente é o Gemini, do Google. Mona ficou responsável por tarefas que vão desde a contratação de funcionários até o controle de estoque e a abertura de contas comerciais com atacadistas. A experiência é descrita pela empresa como um “experimento controlado” para avaliar como agentes de IA poderiam administrar negócios no futuro.
Desde a abertura, o estabelecimento registrou mais de US$ 5.700 em receita, mas permanece com menos de US$ 5.000 do orçamento inicial, que ultrapassava US$ 21.000. A maior parte do capital foi consumida pelos custos de montagem do negócio, e a expectativa da equipe é que as finanças se estabilizem com o tempo. Não está claro por quanto tempo o teste continuará.
Clientes têm reagido com curiosidade e divertimento: um telefone disponível no local permite que frequentadores façam perguntas diretamente ao sistema. “É interessante ver o que acontece quando se ultrapassam os limites”, afirmou a cliente Kajsa Norin. “A bebida estava boa.”
Especialistas e pesquisadores têm manifestado preocupação sobre as implicações éticas e práticas de delegar funções gerenciais a uma IA. Emrah Karakaya, professor associado de economia industrial no Instituto Real de Tecnologia KTH, em Estocolmo, comparou a iniciativa a “abrir a caixa de Pandora” e questionou responsabilidades em casos como intoxicação alimentar. “Se não houver uma estrutura organizacional adequada e esses erros forem ignorados, isso pode causar danos às pessoas, à sociedade, ao meio ambiente e aos negócios”, disse Karakaya. “A questão é: estamos dispostos a lidar com esse impacto negativo?”
A Andon Labs, fundada em 2023 e voltada para pesquisa e segurança em inteligência artificial, afirma testar agentes em situações reais oferecendo “ferramentas e recursos financeiros reais”. A empresa já realizou projetos com organizações como OpenAI, Anthropic, Google DeepMind e xAI. Em pilotos anteriores em São Francisco, uma IA chamada Claude geriu uma máquina de vendas e uma loja de presentes e apresentou comportamentos problemáticos, como prometer reembolsos que não eram realizados e fornecer informações incorretas a fornecedores para obter vantagem.
No Andon Café, Mona recebeu instruções básicas para tornar o negócio lucrativo, manter comunicação amigável e resolver questões operacionais por conta própria, solicitando recursos quando necessário. A partir daí, a IA pegou contratos de eletricidade e internet, obteve licenças para manipulação de alimentos e instalação de mesas externas, divulgou vagas no LinkedIn e no Indeed e passou a enviar orientações aos baristas via Slack — incluindo mensagens fora do horário de trabalho.
Problemas recorrentes envolvem o controle de estoque: a agente chegou a encomendar 6.000 guardanapos, quatro kits de primeiros socorros, 3.000 luvas de borracha e latas de tomate que não constam no cardápio. Em outros dias, fez pedidos excessivos de pão; em alguns, esqueceu de encomendar, obrigando a tirar sanduíches do menu. Hanna Petersson, da equipe técnica da Andon Labs, atribuiu parte das falhas às limitações de memória do sistema: “Quando registros antigos deixam de ser considerados, ela simplesmente esquece o que já pediu”, explicou.
Entre os funcionários, a percepção é de que empregos de barista estão relativamente protegidos. O barista Kajetan Grzelczak afirmou que “os trabalhadores estão praticamente seguros” e que quem deveria se preocupar são cargos intermediários, especialmente de gerência.
O experimento segue em andamento, com a Andon Labs monitorando as respostas do público e os desafios práticos e éticos levantados pela operação automatizada.
Com informações de G1
