IA de peso aberto: o caso empresarial para escolha, soberania e controle

A IA empresarial está atingindo um ponto em que a escolha do modelo está se tornando uma decisão de arquitetura.

À medida que a IA entra na produção, as empresas precisam decidir onde a inferência é executada, quais dados podem sair da organização e com que facilidade podem mudar os modelos à medida que as funcionalidades evoluem.

A IA de peso aberto dá às empresas mais autoridade sobre essas decisões. Ao disponibilizar pesos de modelo treinados para implantação sob a licença aplicável, os modelos de peso aberto podem dar às empresas mais controle sobre onde a inferência é executada, como os modelos são adaptados e como os dados sensíveis são gerenciados.

A Dell AI Factory with NVIDIA ajuda as empresas a transformar essa flexibilidade em um modelo de implantação repetível. Ao reunir a infraestrutura Dell, a NVIDIA acelerou a computação e o software de IA empresarial, os serviços, e o suporte ao ecossistema, dando às organizações uma estrutura para executar a IA em ambientes que elas controlam. 

Juntas, essas capacidades dão às organizações um caminho prático para adotar modelos de peso aberto, preservando a escolha do modelo, o controle de dados e a liberdade de evoluir conforme suas estratégias de IA amadurecem.

A principal questão estratégica é o quanto essa arquitetura preserva a liberdade. Um ambiente de IA empresarial projetado em torno da escolha de modelos pode dar às organizações mais controle sobre onde as cargas de trabalho são executadas atualmente, deixando espaço para adotar diferentes modelos, infraestruturas e abordagens de implementação no futuro.

Por que o controle empresarial é importante?

Para as empresas, o valor da IA de peso aberto reside nas escolhas que ela cria em torno da implementação, adaptação e governança.

Uma vantagem importante é a capacidade de executar inferências dentro dos ambientes que a organização controla. Isso pode ser especialmente valioso quando as aplicações de IA tocam em dados proprietários, informações do cliente, cargas de trabalho reguladas ou outra propriedade intelectual sensível. Manter essas cargas de trabalho na infraestrutura governada pela empresa pode apoiar políticas de segurança interna, requisitos de residência de dados e soberania de IA: maior autoridade sobre onde os modelos são executados, onde os dados sensíveis são processados e quem controla os sistemas por trás deles.

Os modelos com pesos abertos também dão às equipes mais liberdade para adaptar a IA às suas necessidades. Dependendo do modelo e de sua licença, as organizações podem aperfeiçoá-lo para terminologia especializada, conhecimento de domínio ou processos de negócios específicos. Elas podem avaliar versões de modelos fixos em relação aos seus próprios requisitos, testar o desempenho na infraestrutura preferida e determinar quando uma versão mais recente é a mais adequada.

Essa flexibilidade é fundamental em um mercado onde as capacidades do modelo estão evoluindo rapidamente. Um modelo pode ser mais adequado para raciocínio, outro para geração de código e outro para uma aplicação interna altamente especializada. A IA de peso aberto dá às organizações mais liberdade para tomar essas decisões conforme a demanda de cada carga de trabalho, em vez de moldar cada caso de uso em torno do portfólio de um único fornecedor.

Há também um benefício a longo prazo: quando os modelos podem ser executados em ambientes de infraestrutura e software compatíveis, as empresas têm mais espaço para ajustar suas escolhas tecnológicas à medida que as necessidades do negócio mudam. Por exemplo, uma organização pode validar um modelo de peso aberto para uma aplicação interna e, em seguida, mover essa carga de trabalho para uma infraestrutura diferente ou adotar um modelo mais novo sem reconstruir a aplicação do zero. Os pesos de modelo sozinhos não garantem a portabilidade, mas dão às empresas um ponto de partida mais forte para preservar a escolha em toda a pilha.

O resultado é uma estratégia de IA com maior controle sobre onde os modelos funcionam, mais liberdade para adaptá-los e mais flexibilidade para incorporar novas opções à medida que o ecossistema evolui.

Modelos de IA abertos versus fechados para empresas

Em comparação com modelos fechados entregues principalmente por meio de serviços hospedados pelo provedor, modelos de peso aberto podem dar às empresas mais controle direto sobre a implantação, adaptação e escolha de infraestrutura. Por outro lado, os modelos fechados podem oferecer uma experiência totalmente gerenciada. Muitas organizações usarão ambas as abordagens, selecionando aquele que funciona melhor para uma carga de trabalho específica.

Os modelos precisam de potência e segurança, e a Dell tem isso

O acesso aos pesos do modelo é apenas parte de uma estratégia de IA empresarial. O valor da escolha do modelo está condicionado à capacidade do ambiente ao redor de implantar, garantir a segurança, gerenciar e escalar esses modelos com consistência.

Para muitas empresas, isso significa construir com infraestrutura e software capazes de suportar cargas de trabalho de IA exigentes sem perder o controle do ambiente. O objetivo é manter a flexibilidade dos modelos de peso aberto e, ao mesmo tempo, tornar a implementação mais consistente e gerenciável.

A Dell AI Factory with NVIDIA coloca esse modelo operacional em prática. Ela toma os principais componentes de construção de IA da NVIDIA e os transforma em soluções de IA prontas para produção, dando às organizações uma estrutura mais integrada para implantar a IA em ambientes que elas controlam. Para as empresas, a vantagem é ter maior controle sobre modelos, dados e implantação sem ter que integrar e gerenciar cada camada como um projeto separado.

Uma pilha validada e padronizada também pode simplificar as operações diárias.  As equipes podem aplicar processos compartilhados para implantação, segurança, monitoramento e atualizações em vez de tratar cada modelo como um projeto de infraestrutura separado.

Em uma entrevista recente para a eSpeaks, Beth Williams, líder de portfólio global da Dell Technologies, enfatizou a necessidade de etapas intermediárias entre a experimentação e a escala. "Há uma grande lacuna entre uma infraestrutura piloto e uma grande fábrica de IA distribuída", disse ela. "Portanto, ter os passos para chegar lá para os casos de uso que você está executando é uma estratégia realmente importante."

Uma estrutura repetível torna-se cada vez mais valiosa conforme as empresas adotam mais modelos em mais casos de uso. O valor da IA de peso aberto reside na escolha, mas essa escolha é mais fácil de sustentar quando o ambiente subjacente consegue dar suporte a mudanças sem forçar as equipes a recriar a infraestrutura a cada vez.

Projetada para o inevitável: a mudança

A IA de peso aberto permite que as empresas escolham entre uma gama crescente de modelos, em vez de projetar cada carga de trabalho em torno de um único fornecedor ou família de modelos. Isso também pode reduzir a dependência de fornecedores. Como as organizações podem reter e implementar pesos de modelo sob a licença aplicável, elas têm mais liberdade para mover cargas de trabalho em infraestruturas compatíveis, mudar ambientes de atendimento ou adotar um modelo diferente conforme os requisitos evoluem.

Nenhum modelo isolado será o mais adequado para todos os casos de uso de uma empresa. Um pode ter melhor desempenho para raciocínio, outro para geração de código e outro para um caso de uso interno especializado. Os termos de licenciamento, requisitos de infraestrutura, latência e eficiência também podem variar significativamente de modelo para modelo. Um ecossistema de modelo aberto dá às organizações mais espaço para avaliar essas diferenças e escolher de acordo. 

O mesmo princípio se aplica à implantação: as organizações podem decidir quais cargas de trabalho pertencem a ambientes locais, na nuvem, na borda ou em uma combinação de ambientes, com base em seus requisitos de dados, desempenho e governança.

Williams caracterizou isso como uma decisão baseada na alocação de cargas de trabalho, e não como uma escolha de infraestrutura padronizada. "Torna-se um processo de tomada de decisão sobre a carga de trabalho de IA no que diz respeito a como sua infraestrutura deve ser, o que você pode usar na nuvem pública, o que precisa manter localmente e o que trará o resultado mais rápido", disse ela.

Um ecossistema de modelos mais amplo também pode facilitar a adaptação conforme o mercado evolui. Um modelo que atenda aos requisitos atuais pode eventualmente ser substituído por um que ofereça melhor desempenho, menor latência ou eficiência melhorada. Preservar o acesso a um ecossistema de modelos mais amplo pode tornar essas mudanças mais fáceis de absorver.

O trabalho da Dell com a Hugging Face ilustra como essa escolha de modelo pode se estender à implementação empresarial. O Dell Enterprise Hub no Hugging Face suporta acesso a múltiplos modelos abertos para implantação na infraestrutura Dell suportada, incluindo modelos de famílias como Meta Llama e Kimi. A questão principal não são os modelos individuais em si, mas a capacidade de escolher entre eles à medida que as necessidades da empresa evoluem.

O valor estratégico da IA de peso aberto vem da preservação de opções ao longo do ciclo de vida do modelo: qual modelo usar, onde executá-la, como adaptá-la e quando mudar de direção.

Governança da IA de peso aberto com confiança

A governança transforma a escolha de modelos em uma capacidade empresarial repetível, dando às equipes uma maneira consistente de aprovar, implementar, monitorar e atualizar modelos à medida que as cargas de trabalho evoluem.  

Para a IA de peso aberto, isso significa estabelecer propriedade clara, compreender os termos de licenciamento, verificar a proveniência do modelo, controlar o acesso aos sistemas de produção, testar modelos em relação ao caso de uso pretendido e monitorar o desempenho ao longo do tempo. À medida que os modelos são atualizados ou adaptados, as empresas também precisam de um processo consistente para revisar as mudanças de material e gerenciar o ciclo de vida do que está funcionando na produção.

Um ambiente operacional comum torna essas práticas mais fáceis de aplicar em um portfólio crescente de cargas de trabalho de IA. Em vez de criar um processo de governança separado para cada modelo, as equipes podem usar práticas compartilhadas de segurança, ciclo de vida e supervisão à medida que avaliam, implementam e gerenciam novos modelos.

A governança também depende do modelo operacional em torno da tecnologia. Williams argumentou que essa é frequentemente a parte mais difícil da IA de produção. "A tecnologia é fácil", disse ela. "O mais difícil é realmente a mudança organizacional." Na prática, isso significa estabelecer propriedade, financiamento, aprovação de mudanças, responsabilidades de segurança e risco e medição contínua de valor.

A Dell AI Factory with NVIDIA pode apoiar essa abordagem, dando às organizações uma base mais padronizada para implantar e gerenciar a IA nos ambientes que elas controlam. O Dell Enterprise Hub fornece outro exemplo, com recursos de implantação e pacotes de modelos destinados a tornar os modelos suportados mais fáceis de operacionalizar na infraestrutura Dell e NVIDIA.

Para as empresas, a governança pode se tornar parte do processo de ampliação da IA de peso aberto. Com os controles corretos implementados, as equipes podem avaliar novos modelos, movê-los para a produção e adaptá-los ao longo do tempo sem tratar cada implementação como uma tarefa completamente nova.

Construir para o que vem a seguir

A IA de peso aberto dá às empresas mais autoridade sobre onde os modelos são executados, como eles evoluem e como os dados sensíveis são governados. Igualmente importante, isso dá às organizações espaço para fazer escolhas diferentes à medida que os modelos, a economia e os requisitos de negócios mudam.

A capacidade de mudar de rumo pode se tornar uma das características mais importantes de uma arquitetura de IA empresarial. Os modelos que lideram hoje não serão necessariamente aqueles nos quais as empresas confiarão amanhã. As organizações que preservam a escolha entre modelos e ambientes de implantação podem adotar novas funcionalidades sem se render ao controle dos dados e da infraestrutura por trás deles.

A Dell AI Factory with NVIDIA, juntamente com o trabalho mais amplo da Dell com a Hugging Face, o Dell Enterprise Hub e o compromisso da Dell e da NVIDIA com o ecossistema de modelo aberto, fornece uma base para colocar essa estratégia em prática em escala empresarial. 

O resultado é um ambiente de IA construído para escolha: escolha de modelo, escolha de implementação e maior controle sobre o que vem a seguir.