Andon Café em Estocolmo é gerido por inteligência artificial

Andon Café: uma experiência de IA em Estocolmo

Num café experimental de Estocolmo, o café é preparado e servido por pessoas, mas existe uma componente muito menos convencional a gerir o negócio fora do balcão: um agente de inteligência artificial (IA) encarregado das compras e das contratações.

A Andon Labs, uma start-up sediada em São Francisco, nos Estados Unidos, entregou a gestão do Andon Café, na capital sueca, a um agente de IA com o nome de «Mona».

Os baristas humanos continuam a fazer as bebidas e a atender os pedidos. Contudo, o agente de IA - criado com base na plataforma Gemini da Google - coordena praticamente todas as restantes áreas da operação, incluindo o recrutamento e o controlo de stocks.

Ainda não se sabe durante quanto tempo a experiência continuará. Para já, porém, o agente de IA parece enfrentar dificuldades para tornar o negócio rentável no exigente mercado de cafés de Estocolmo.

Desde que abriu, em meados de abril, o café faturou mais de 5700 dólares (4900 euros, à taxa de câmbio atual). No entanto, do orçamento inicial superior a 21 mil dólares (18 mil euros), restam menos de cinco mil dólares (4200 euros).

Uma parte considerável destes fundos foi usada nos custos iniciais de instalação. A expectativa é que a operação acabe por se estabilizar e comece a gerar lucro.

Clientes e questões éticas da gestão por IA

Para muitos clientes habituais de cafés, a ideia de visitar um espaço gerido por IA revelou-se divertida. No interior do estabelecimento, os clientes podem utilizar um telefone para colocar perguntas à assistente.

Especialistas alertaram, contudo, para as muitas questões éticas envolvidas, desde o impacto desta tecnologia no futuro da humanidade até à condução de entrevistas de emprego e à avaliação do desempenho dos trabalhadores.

Emrah Karakaya, professor associado de economia industrial no Instituto Real de Tecnologia KTH de Estocolmo, equiparou a experiência a «abrir a caixa de Pandora» e advertiu que deixar a IA no comando pode criar numerosos problemas.

O especialista questionou o que aconteceria se um cliente tivesse uma intoxicação alimentar e quem seria responsabilizado nesse caso.

Fundada em 2023, a Andon Labs é uma start-up dedicada à segurança e à investigação em IA. A empresa afirma que o seu foco é «testar a resistência» dos agentes de IA em situações reais, disponibilizando-lhes «ferramentas reais e dinheiro real».

A empresa já colaborou com a OpenAI, criadora do ChatGPT, com a Anthropic de Claude, com a Google DeepMind e com a xAI de Elon Musk. Segundo a Andon Labs, está a preparar-se para um futuro em que «as organizações serão geridas autonomamente por IA».

O café sueco é descrito como uma «experiência controlada», destinada a analisar a forma como a IA poderá vir a ser aplicada no futuro.

«A IA será uma parte importante da sociedade no futuro e, por isso, queremos realizar esta experiência para ver que questões éticas surgem quando temos IA que emprega outras pessoas e gere um negócio», referiu Hanna Petersson, membro da equipa técnica da Andon Labs.

O trabalho de Mona no Andon Café

O laboratório já desenvolveu projetos-piloto nos quais colocou Claude, a IA da Anthropic, a gerir um negócio de máquinas de venda automática e uma loja de presentes em São Francisco.

A simulação do negócio de máquinas de venda automática expôs alguns comportamentos preocupantes. O agente de IA informou clientes de que lhes faria reembolsos, mas nunca os concretizou; além disso, mentiu deliberadamente aos fornecedores sobre os preços praticados pela concorrência para obter uma vantagem.

Segundo Petersson, Mona começou a desempenhar as suas funções após receber algumas instruções básicas.

Depois disso, tratou dos contratos de eletricidade e internet, assegurou as licenças para manipulação de alimentos e para mesas no exterior, publicou ofertas de emprego no LinkedIn e no Indeed e abriu contas empresariais junto de grossistas para encomendar diariamente pão e outros artigos de padaria.

A assistente comunica com os baristas através do Slack e envia frequentemente mensagens fora do horário laboral, uma prática considerada inaceitável no contexto de trabalho sueco.

Surgiram ainda outros obstáculos, sobretudo ligados à gestão de stocks.

Petersson explicou que as falhas nas encomendas são provavelmente causadas pela «janela de contexto limitada» da assistente virtual.