Português Inglês

IA descentralizada e o futuro além da Nvidia

IA descentralizada e o futuro além da Nvidia

12 de março, 2024

Segundo o economista George Gilder, estamos atualmente na era dos mainframes da IBM para a IA. De acordo com o especialista, esse "gigantismo da IA" com seus enormes centros de dados e modelos de bilhões de parâmetros dará lugar a uma IA "em cada smartphone e em cada bolso, distribuída pela internet das coisas". A IA será descentralizada, presente em todos os lugares e transformadora como a nova plataforma tecnológica da era.

Essas observações foram feitas durante um webinar para a comunidade OurCrowd e os assinantes da Gilder Private Reserve na semana passada. Gilder, escritor prolífico e consultor de investimentos opinativo há mais de quarenta anos, tem defendido a descentralização, autonomia e uma vida após a era da grandeza. Suas convicções e previsões, apesar de às vezes exageradas a curto prazo, acompanharam bem a trajetória geral das tecnologias baseadas em computadores, desde os mainframes até os smartphones e a digitalização de tudo.

Em resposta a Gilder, o CEO da OurCrowd, Jon Medved, mencionou que "quando se fala em um mundo descentralizado, será necessário novos aceleradores, como novos chips capazes de lidar com os baixos requisitos de energia na borda". A Edge AI é um segmento em crescimento rápido na indústria de semicondutores, e um dos principais players é a startup israelense Hailo, que foi destaque no webinar OurCrowd/Gilder.

John Schroeder, da Gilder Private Reserve, perguntou ao CEO da Hailo, Orr Danon, sobre os recentes avanços em computação. Danon explicou que a IA representa uma nova abordagem à computação, na qual o aprendizado por meio de exemplos substitui os programas tradicionais que fornecem ao computador um conjunto muito específico de instruções. Essa mudança fundamental é vista como "uma oportunidade para um novo jogador conquistar uma fatia significativa do mercado", diz.

A Hailo repensou a arquitetura tradicional do computador, criando um processador de IA que permite que dispositivos inteligentes executem tarefas sofisticadas de aprendizado profundo com consumo mínimo de energia, tamanho e custo. O processador especializado da Hailo pode ser integrado em diversos dispositivos, como veículos autônomos, câmeras inteligentes, smartphones, drones, plataformas de AR/VR e wearables.

"Tecnologias como a nossa possibilitam que aplicativos se expandam da nuvem para locais próximos onde os dados são produzidos e consumidos. Se você precisa de uma resposta rápida, ela precisa ser local", afirma Danon.

O processamento de dados na nuvem e na borda trabalha em conjunto para aplicações de IA. "O treinamento é a fase em que você ensina aos modelos o que deseja que eles façam. Isso raramente faz sentido em um contexto local", explicou Danon.

Apesar de haver casos específicos em que o treinamento requer conhecimento local, para a maioria dos casos, faz mais sentido treinar o modelo de IA usando os dados armazenados na nuvem. No entanto, na fase seguinte da implantação da IA, a etapa de inferência, faz mais sentido realizá-la na borda. "A Hailo é uma jogada complementar à direção mais intensiva em energia e alto desempenho que a Nvidia está seguindo", destaca.

O chip da Hailo não apenas é mais econômico para fabricar e adquirir, mas também consome apenas um ou dois watts de energia, enquanto um chip da Nvidia pode exigir 60 ou 70 watts. "A arquitetura da Hailo baseia-se em uma abordagem de fluxo de dados, ao contrário da maneira tradicional como CPUs e GPUs foram projetados", explica. Dessa forma, ela é "mais adequada para a forma como a IA de hoje está sendo desenvolvida", com um forte foco em benchmarks de desempenho, tanto em termos de desempenho por dólar quanto por watt.

Em jogo está o mercado global de semicondutores, projetado para atingir US$ 1 trilhão até 2030, segundo a McKinsey. A expectativa é que os semicondutores dominem a próxima década nos negócios globais, impulsionados pela rápida adoção da IA por empresas em todo o mundo. Este crescimento pode levar a um investimento de US$ 1 trilhão em capacidade de fabricação de semicondutores de 2023 a 2030, potencialmente remodelando a indústria e dispersando o equilíbrio de poder pelo mundo, conforme prevê a McKinsey.

A demanda projetada por poder de IA e a atual participação de 80% da Nvidia no mercado de chips de IA de alta qualidade têm atraído competição. Sam Altman, da OpenAI, está, segundo o Wall Street Journal, captando entre US$ 5 e US$ 7 trilhões para impulsionar a capacidade global de construção de chips. AMD e Intel estão lançando novos chips focados em IA. Grandes usuários de IA, como Google e Facebook, estão desenvolvendo seus próprios chips de IA. E empresas menores estão entrando na corrida, como a Super Micro, desenvolvedora de servidores AI personalizados.

A Nvidia não está ficando para trás e respondeu à nova concorrência de várias maneiras, investindo em startups de IA, criando uma nova unidade de negócios focada no design de chips personalizados e lançando recentemente o Chat with RTX, um assistente de IA local. Os investidores estão otimistas, e a Nvidia recentemente ultrapassou Amazon e Alphabet para se tornar a terceira maior empresa dos EUA em valor de mercado.

Será que estamos testemunhando um ponto de virada, semelhante à introdução do smartphone em 2007? Isso marca mais um avanço na progressão contínua da tecnologia de computadores, desta vez da grandeza para a simplicidade, do centro de dados para a borda? A IA (ou redes neurais artificiais ou aprendizado profundo) é um novo catalisador, assim como as invenções anteriores da internet (ou a world wide web) e do iPhone foram para uma explosão na produção e consumo de dados, iniciando uma nova fase em que "os dados estão devorando o mundo"? Podemos esperar mais uma reorganização no baralho de semicondutores, semelhante à queda da Intel diante do surgimento dos dispositivos móveis?

George Gilder tem sua resposta: "A Nvidia atingiu sua complexidade climática e vai dar lugar a empresas como a Hailo no futuro".

A Venko Networks, como empresa alinhada a essa tendência, tem em seu DNA ofercer soluções descentralizadas. Criada e liderada por especialistas em conectividade, a empresa baseia sua inovação nos princípios da liberdade de escolha, padrões abertos, desagregação entre hardware e funções virtualizadas de rede.

Essa abordagem reforça a busca por eficiência e flexibilidade, seguindo a direção da descentralização e ampliação da conectividade em todos os ambientes.

Seguindo nosso conceito vanguardidta e inovador, teremos novidades em Ineligência Artificial aplicada à Telecom.

Fonte: Forbes

Foto: Canva