O ChatGPT é grátis para o usuário comum, que aproveita o bot para aperfeiçoar o perfil no Tinder ou redigir documentos, com os custos arcados pela Microsoft. E os gastos da big tech são altos. Por dia, a execução da inteligência artificial generativa da OpenAI pode custar até US$ 700 mil, cerca de 356 milhões de kwanza. Assim, a big tech busca reduzir o valor.

O principal motivo do alto custo de operação da IA são os servidores. Como o chatbot exige um poder de computação grande para responder aos usuários, a infraestrutura tecnológica é encarecida. 

O valor foi estimado por Dylan Patel, analista-chefe da SemiAnalysis, em entrevista ao site The Information. O gasto pode ser ainda maior, disse Patel, ao Business Insider, após o modelo de linguagem ser trocado pelo GPT-4, mais novo e mais potente.

Realizar o treinamento IAs como essas é bem caro e, ainda assim, a operação do ChatGPT consegue ser maior. Por isso, a Microsoft trabalha em um chip próprio, chamado Athena. O desenvolvimento do projeto já dura quatro anos, iniciado após o acordo bilionário com a OpenAI que exigia execução nos servidores Azure. 

Com os chips próprios, a big tech encontra uma alternativa mais barata, pois usa, atualmente, GPUs da Nvidia. Há ainda a concorrência com Google e Amazon, que também desenvolvem nos próprios componentes.

Mais de 300 funcionários da companhia trabalham no setor. Os dispositivos da Microsoft devem ser lançados já em 2024 para uso interno, tanto nos produtos da empresa como nos da OpenAI, incluindo o caríssimo chatbot.