John Hopfield e Geoffrey Hinton ganham o Prêmio Nobel de Física 2024 pelo aprendizado profundo

Se o seu queixo caiu ao ver o vídeo mais recente gerado por IA, se o seu saldo bancário foi protegido de golpistas por um sistema de deteção de fraude ou se a sua rotina ficou um pouco mais simples porque você conseguiu ditar uma mensagem enquanto corria, há um grande conjunto de cientistas, matemáticos e engenheiros por trás disso.

Entre tantas contribuições, dois nomes se destacam por terem lançado bases essenciais para o aprendizado profundo que viabiliza esse tipo de experiência: o físico John Hopfield, da Universidade de Princeton, e o cientista da computação Geoffrey Hinton, da Universidade de Toronto.

Em 8 de outubro de 2024, os dois pesquisadores receberam o Prêmio Nobel de Física pelo trabalho pioneiro com redes neurais artificiais.

Embora as redes neurais artificiais se inspirem em redes neurais biológicas, as ideias exploradas por ambos recorreram fortemente à física estatística - daí o reconhecimento na categoria de física.

Como um neurónio faz cálculos

As redes neurais artificiais nasceram a partir de estudos sobre neurónios em cérebros reais. Em 1943, o neurofisiologista Warren McCulloch e o lógico Walter Pitts apresentaram um modelo simples para descrever o funcionamento de um neurónio.

No modelo de McCulloch-Pitts, um neurónio liga-se aos neurónios vizinhos e recebe sinais deles. Em seguida, combina esses sinais e envia um novo sinal para outros neurónios.

O detalhe decisivo é que nem todos os sinais precisam ter a mesma importância: sinais vindos de vizinhos diferentes podem receber pesos diferentes. Pense numa situação em que você está a decidir se compra um novo telemóvel que virou best-seller. Você conversa com amigos e pede recomendações.

Uma abordagem básica seria reunir todas as opiniões e seguir o que a maioria indicar. Por exemplo, você pergunta a três amigos - Alice, Bob e Charlie - e eles respondem sim, sim e não, respetivamente. Nesse caso, a escolha seria comprar o telemóvel, pois há dois “sins” contra um “não”.

Mas é provável que você confie mais em certos amigos por eles entenderem muito de tecnologia. Aí, faz sentido atribuir mais peso às recomendações dessas pessoas.

Se Charlie for especialmente entendido no assunto, por exemplo, você pode contar o “não” dele como se valesse três. Assim, a decisão muda para não comprar: dois “sins” e três “nãos”.

E, se você tiver o azar de contar com um amigo em quem não confia nada quando o tema é gadget, pode até dar a ele um peso negativo. Nesse caso, o “sim” dele passa a valer como “não”, e o “não” passa a valer como “sim”.

Depois de formar a sua própria decisão sobre se o novo telemóvel é uma boa escolha, outros amigos ainda podem pedir a sua recomendação.

De forma análoga, em redes neurais artificiais e biológicas, os neurónios agregam sinais dos seus vizinhos e repassam um sinal a outros neurónios.

Essa capacidade leva a uma distinção central: existe um ciclo na rede? Por exemplo, se hoje eu consulto Alice, Bob e Charlie e amanhã Alice me pede a minha recomendação, então há um ciclo: de Alice para mim e de mim de volta para Alice.

Quando as ligações entre neurónios não formam ciclos, cientistas da computação chamam isso de rede neural de propagação direta. Nesse tipo de rede, é possível organizar os neurónios em camadas.

A primeira camada corresponde às entradas. A segunda recebe sinais da primeira, e assim sucessivamente. A última camada representa as saídas produzidas pela rede.

Já quando há um ciclo na rede, o termo usado é rede neural recorrente, e a forma de organizar os neurónios pode ser mais complexa do que nas redes de propagação direta.

Rede de Hopfield

A inspiração inicial das redes neurais artificiais veio da biologia, mas, pouco depois, outras áreas passaram a influenciar o rumo do campo - incluindo lógica, matemática e física.

O físico John Hopfield aplicou conceitos da física para investigar um tipo específico de rede neural recorrente, hoje conhecida como rede de Hopfield. Em particular, ele analisou a dinâmica dessas redes: como o comportamento da rede evolui ao longo do tempo.

Esse tipo de dinâmica também importa quando a informação se espalha em redes sociais. Basta lembrar como memes “viralizam” e como câmaras de eco se formam em plataformas online. São fenómenos coletivos que, no fundo, emergem de trocas simples de informação entre indivíduos conectados.

Hopfield foi um dos primeiros a empregar modelos da física - sobretudo os desenvolvidos para estudar magnetismo - para compreender a dinâmica de redes neurais recorrentes. Ele também demonstrou que essa dinâmica pode conferir a essas redes uma forma de memória.

Máquinas de Boltzmann e retropropagação

Na década de 1980, Geoffrey Hinton, o neurobiólogo computacional Terrence Sejnowski e outros pesquisadores ampliaram as ideias de Hopfield e criaram uma nova classe de modelos: as máquinas de Boltzmann, nomeadas em homenagem ao físico do século 19 Ludwig Boltzmann.

Como o próprio nome sugere, o desenho desses modelos está ancorado na física estatística consolidada por Boltzmann.

Diferentemente das redes de Hopfield, que podiam armazenar padrões e corrigir erros nesses padrões - tal como um corretor ortográfico faz - as máquinas de Boltzmann conseguiam gerar padrões novos, o que ajudou a lançar as bases da revolução moderna da IA generativa.

Hinton também esteve ligado a outro avanço decisivo dos anos 1980: a retropropagação. Para que redes neurais artificiais realizem tarefas relevantes, é preciso definir, de alguma forma, os pesos das ligações entre neurónios artificiais.

A retropropagação é um algoritmo essencial porque permite escolher esses pesos com base no desempenho da rede num conjunto de dados de treino. Ainda assim, treinar redes neurais artificiais com muitas camadas continuava a ser difícil.

Nos anos 2000, Hinton e os seus colaboradores usaram máquinas de Boltzmann de maneira engenhosa para treinar redes com múltiplas camadas: primeiro, faziam o pré-treinamento camada por camada; depois, aplicavam outro algoritmo de ajuste fino sobre a rede já pré-treinada para refinar ainda mais os pesos.

As redes com várias camadas passaram a ser chamadas de redes profundas - e a revolução do aprendizado profundo estava em curso.

Quando a IA retribui à física

O Prêmio Nobel de Física evidencia como ideias da física contribuíram para a ascensão do aprendizado profundo. Agora, o próprio aprendizado profundo começou a devolver esse contributo à física ao permitir simulações rápidas e precisas de sistemas que vão de moléculas e materiais até ao clima de todo o planeta Terra.

Ao conceder o Prêmio Nobel de Física a Hopfield e Hinton, o comité do prémio sinalizou a esperança no potencial da humanidade de usar esses avanços para promover o bem-estar humano e construir um mundo sustentável.

Ambuj Tewari, Professor de Estatística, Universidade de Michigan

Este artigo foi republicado de The Conversation sob uma licença Creative Commons. Leia o artigo original.