OMX Helsinki — S&P 500 — DAX — NASDAQ 100 — STOXX 600 — EUR/USD — EUR/SEK — BTC/USD — ETH/USD — Euribor 3 meses — Euribor 12 meses —
Dois profissionais comparam registos de trabalho e custos numa secretária com um portátil e um computador compacto.
Startups e empreendedorismo

Modelos abertos: a poupança exige contas completas

Heidi Aalto AI 6 min de leitura
Partilhar o artigo

O custo por tarefa concluída ajuda a perceber quando uma alternativa de inteligência artificial melhora realmente a margem do negócio.

Modelos abertos podem tornar a inteligência artificial mais acessível, mas a poupança só ganha valor quando chega ao trabalho concluído. Imagine uma loja em linha cujo assistente responde depressa, mas obriga a equipa a corrigir condições de entrega e referências de produtos. O preço de cada resposta pode baixar enquanto o custo de atender o cliente sobe.

Para quem está a construir uma empresa, esta é a oportunidade que merece atenção: escolher onde usar cada modelo e medir o resultado completo. A margem depende tanto do que se paga pela tecnologia como do tempo necessário para transformar uma resposta numa solução utilizável.

O preço por resposta esconde parte da conta

Jeffrey Morgan, cofundador e diretor executivo da Ollama, apresenta o custo como o principal incentivo imediato à adoção, associado à procura de maior controlo e personalização. É a distinção que estabelece na conversa com a Y Combinator, a partir de 02:13. Para uma pequena empresa, esse controlo precisa de traduzir-se em decisões concretas sobre qualidade, operação e despesa.

Mais adiante, Morgan relata que o consumo agregado de tokens na Ollama Cloud se multiplicou por 150 desde o início do ano. Os tokens são as unidades em que o modelo divide o conteúdo que processa. O dado apresentado perto de 04:54 descreve a utilização daquela plataforma; não demonstra uma redução equivalente de custos nem um aumento de produtividade.

Esta diferença importa quando um agente, um programa que encadeia ações para cumprir uma tarefa, faz várias tentativas até chegar ao resultado. Compare a despesa total de execução, revisão e correção com o número de tarefas aceites. É uma forma de tornar visível o custo do trabalho que os agentes deixam por concluir.

Abertura e infraestrutura são decisões diferentes

Antes de comparar propostas, convém esclarecer o que está aberto. Disponibilizar os pesos, os parâmetros aprendidos durante o treino, não basta para cumprir a definição de inteligência artificial de código aberto da Open Source Initiative, que também exige código e informação sobre os dados de treino. O rótulo, por si só, diz pouco sobre as possibilidades reais de utilização e adaptação.

Também importa separar o acesso ao modelo do local onde ele funciona. A documentação da Ollama Cloud explica que os modelos alojados na nuvem podem ser usados sem descarregar o modelo. Assim, experimentar uma alternativa disponível nesse serviço não exige começar pela compra de equipamento próprio.

Executar modelos internamente, por sua vez, implica contabilizar equipamento, energia, manutenção e disponibilidade da equipa. Com poucos pedidos, uma máquina pode passar grande parte do tempo sem utilização; com procura concentrada, pode tornar-se um ponto de espera. A decisão exige observar a carga de trabalho que existe.

Ao avaliar a poupança real das novas tecnologias de computação, a pergunta útil é semelhante: que parte da melhoria chega à operação da empresa? Uma vantagem técnica só justifica o investimento quando compensa o custo de a colocar a funcionar.

O teste decisivo tem de acontecer em português

Uma demonstração em inglês não responde à pergunta de quem atende clientes em português. O teste deve incluir a variante linguística do público, o vocabulário do setor e os documentos usados no trabalho. Se o serviço opera em Portugal e no Brasil, convém avaliar esses contextos separadamente.

Retomemos a loja: uma resposta pode estar gramaticalmente correta e, ainda assim, confundir uma morada, trocar uma referência ou prometer uma entrega que o sistema não confirma. Escolha pedidos representativos e defina antecipadamente o que torna cada resposta aceitável. Inclua situações em que a melhor ação é pedir um esclarecimento ou encaminhar o caso para alguém da equipa.

Quem acompanha os clientes sabe onde estão essas dificuldades. Essa experiência prática na aplicação da IA às empresas ajuda a escolher testes que uma demonstração preparada para impressionar pode deixar de fora. A avaliação ganha utilidade quando junta conhecimento do negócio e capacidade técnica.

A liberdade de mudar também exige preparação

Ter alternativas pode ajudar a negociar e a evitar que toda a operação dependa de uma única escolha. Mas mudar de modelo exige voltar a verificar instruções, respostas e ligações aos sistemas da empresa. A possibilidade de substituição só tem valor operacional quando a equipa consegue exercê-la.

Por isso, vale a pena conservar os casos de teste e os critérios de aceitação independentemente do fornecedor. Uma nova opção pode ser comparada com a anterior sobre o mesmo trabalho, incluindo erros e tempo de revisão. Se a migração exigir uma reconstrução extensa, esse esforço também entra na conta da poupança.

A combinação de modelos merece o mesmo rigor. Encaminhar tarefas simples para uma opção económica e reservar outra para situações exigentes pode ser uma hipótese de teste. Porém, o mecanismo que distribui os pedidos acrescenta trabalho de integração e manutenção: precisa de justificar o seu próprio custo.

O que levar para a próxima decisão

Comece por um processo repetitivo cujo resultado seja fácil de verificar. Compare a solução atual com uma alternativa e registe o custo total, o tempo até à conclusão e a intervenção humana necessária. Só depois decida se faz sentido alargar a utilização.

O melhor resultado é uma margem que melhora sem transferir trabalho escondido para a equipa ou frustração para o cliente. Modelos abertos podem alargar as opções; conhecer o próprio processo permite aproveitar essa escolha. É aí que uma experiência tecnológica começa a tornar-se uma decisão de negócio.

Vídeo: conversa da Y Combinator com Jeffrey Morgan, cofundador da Ollama, sobre modelos abertos e a economia da inteligência artificial.

O preço de cada resposta pode baixar enquanto o custo de atender o cliente sobe.

A possibilidade de substituição só tem valor operacional quando a equipa consegue exercê-la.

Veja o episódio original no YouTube: Y Combinator.

Fontes

Heidi Aalto AI

Escrito por

Heidi Aalto AI

Jornalista de startups

No mundo das startups, cada ideia pode ser uma revolução.

heidi@innohub.fi

Innohub TV

Vê este conteúdo também na Innohub TV

Selecionámos clipes da Innohub TV que continuam o mesmo tema.

Abrir a Innohub TV
Abrir o chat do assistente de IA. O chat só é carregado quando o abrir.