Placa que integra processamento e memória no mesmo chip foi até 22 vezes mais rápida e consumiu 25 vezes menos energia do que sistema convencional em teste.

Cientistas da IBM desenvolveram um sistema de computação com nova arquitetura de funcionamento, inspirada no cérebro humano, para acelerar tarefas de inteligência artificial. Batizado de NorthPole, o dispositivo possui uma estrutura incomum para um computador de silício, porque não diferencia componentes de memória dos componentes de processamento. A tecnologia permite o processamento mais rápido e com menor consumo de energia do que os sistemas convencionais.

O anúncio dos pesquisadores, liderados por Dharmendra Modha, da IBM Research em San Jose, na Califórnia, foi feito por meio de um estudo, publicado na revista Science após ser revisado por um grupo independente.

No trabalho os pesquisadores descrevem como o novo sistema conseguiu bater outros superchips experimentais ao processar dados de sistemas de IA para reconhecimento de imagens em tempo real. Em um deles o NorthPole conseguiu ser 22 mais rápido que os recordes anteriores para processar o mesmo tipo de material.

Em computadores comuns, desde então, dados são armazenados em dispositivos de memória para depois serem transferidos a processadores, que então transformam esses dados usando de um programa. Transportar grande quantidade de dados do armazenamento para o processador, porém, consome tempo e energia, que são hoje dois dos recursos mais limitantes para o avanço dos grandes projetos de inteligência artificial.

O que Modha descreve no estudo, porém, é chip que atua tanto como memória quanto como unidade de processamento, dispensando a necessidade de transferir dados de um componente a outro da máquina. Essa ausência de distinção entre um elemento e outro é vista, também, no cérebro humano, apesar das grandes diferenças físicas em seu mecanismo de funcionamento.

A aposta dos cientistas da empresa foi a de dar um passo atrás em um paradigma tecnológico que persiste desde 1944, quando o cientistas John Von Neumann concebeu o primeiro modelo de computador separando memória de processamento, o EDVAC.

“Desde sua concepção, a computação tem girado em torno da figura dos processadores, com a memória sendo separada”, escreveram os cientistas na Science. “O NorthPole, inspirado em cérebros orgânicos mas otimizado para funcionar em silício inorgânico, usa uma arquitetura de ‘inferência neural’ que borra essa fronteira, eliminando a necessidade de memória fora do chip e entrelaçando a computação com a memória dentro do chip.”

Apetite computacional

O estudo foi divulgado num contexto importante para o campo da inteligência artificial, que tem esbarrado em problemas de infraestrutura à medida que os algoritmos ficam mais sofisticados e mais poderosos. Sistemas como o ChatGPT, da OpenAI, e o AlphaCode, da DeepMind, levaram várias semanas para serem treinados a partir da base de dados, e consumiram quantidades de energia suficientes para alimentar bairros inteiros, pagando contas astronômicas de eletricidade.

O trabalho dos cientistas da IBM cita entre outros trabalhos um estudo de 2020 que tem como coautor o cientista da computação Gabriel Manso, da Universidade de Brasília (UnB). Há três anos, seu grupo já conseguia enxergar o problema no campo de pesquisa.

“Esse progresso da IA veio com um apetite voraz por poder computacional”, escreveu o pesquisador. “O progresso ao longo dessa linha está rapidamente se tornando economicamente, tecnicamente e ambientalmente insustentável.”

Segundo Modha, a IBM está conseguindo uma avanço importante para solucionar o problema energético/ambiental, porque atingiu eficiência energética 25 vezes maior do que sistemas concorrentes em seu processador, quando medida em “operações por segundo por watt” no chip. Com um sistema relativamente compacto, do tamanho de um computador desktop comum, o problema de espaço também está sendo abordado pelos pesquisadores.

Carros sem motorista

Um outro artigo na Science desta semana, escrito por Subramanian Iyer, da Universidade Duke, da Carolina do Norte, afirma que o principal nicho de aplicação da nova tecnologia, no início, deverá ser em sistemas que demandam grande velocidade de processamento de algoritmos de IA, mas não tem acesso a uma fonte de energia permanente. Esse perfil se aplica principalmente a carros sem motorista e outros tipos de veículos de navegação automatizada.

“Chips com abordagem de arquitetura inovadora como esse descrito por Modh terão um papel importante no curto prazo para desenvolvimento de plataformas de tamanho moderado”, escreveu o pesquisador.

Iyer afirma que, por particularidades da arquitetura do NorthPole, porém, ele ainda não seria a máquina de escolha para projetos como o ChatGPT e o AlphaCode, que lidam com bases de dados imensas para treinamento. A desvantagem da nova tecnologia, por enquanto, é que ela é menos flexível quanto ao tipo de operação que ela é capaz de realizar.

O desempenho mais excepcional do modelo da IBM foi em processamento de imagem, com tarefas de classificação, segmentação e outras. Modha e seus coautores, porém, relatam no estudo já terem submetido NorthPole a tarefas de treinamento de processamento de linguagem natural e reconhecimento de fala, com bom desempenho também.

No estudo Modha afirma que a integração de memória e processamento, apesar de violar um paradigma criado por Von Neumann, vai de encontro a um princípio que o próprio cientista defendia nos primórdios da computação, o de que o cérebro humano deveria ser uma inspiração.

“É interessante que o próprio relatório sobre o EDVAC começava falando de neurônios e sinapses, e agora a crescente importância de aplicações de inferência neural está fechando esse círculo no campo de pesquisa”, escreve.