LLMs como Chat GPT não vão “sair do controle”, diz novo estudo

A ficção científica está cheia de histórias em que a inteligência artificial sai do controle e se volta contra os próprios criadores humanos. HAL-9000. Matrix. Skynet. GLaDOS. Cylons. Ao que tudo indica, a humanidade carrega um medo profundo de uma possível rebelião das máquinas.

Com o avanço de modelos de linguagem grande (LLMs) cada vez mais sofisticados, como o Chat GPT, a discussão sobre quais perigos a IA pode representar ficou ainda mais relevante.

O que o estudo conclui sobre LLMs como o Chat GPT

Agora, porém, surge uma notícia animadora. Um novo estudo liderado pelos cientistas da computação Iryna Gurevych, da Universidade Técnica de Darmstadt, na Alemanha, e Harish Tayyar Madabushi, da Universidade de Bath, no Reino Unido, indica que esses modelos não têm capacidade de “sair do controle”.

Segundo os autores, esses sistemas são, na prática, limitados pelo próprio funcionamento: não conseguem adquirir habilidades novas sem orientação e, por isso, permanecem sob controle humano.

Na prática, isso significa que, embora nós possamos usar os modelos para finalidades mal-intencionadas, os LLMs, por si só, podem ser desenvolvidos com segurança - sem o receio de uma autonomia perigosa.

"The fear has been that as models get bigger and bigger, they will be able to solve new problems that we cannot currently predict, which poses the threat that these larger models might acquire hazardous abilities including reasoning and planning," Tayyar Madabushi says.

"Our study shows that the fear that a model will go away and do something completely unexpected, innovative and potentially dangerous is not valid."

Por que os LLMs parecem tão “humanos”

Nos últimos dois anos, a evolução dos LLMs avançou de forma impressionante. Hoje, eles conseguem manter uma conversa por texto relativamente coerente, de um jeito que soa natural e próximo do modo humano de se expressar.

Apesar disso, eles estão longe de ser perfeitos - até porque não são, de fato, uma forma de inteligência. Em muitos casos, faltam capacidades críticas para separar informação boa de informação ruim. Mesmo assim, ainda conseguem transmitir informações incorretas de maneira bastante convincente.

As “habilidades emergentes” são reais?

Recentemente, alguns pesquisadores passaram a analisar a possibilidade de surgirem as chamadas habilidades emergentes: competências que os LLMs desenvolveriam por conta própria, em vez de terem sido programadas deliberadamente. Um exemplo citado é o de um LLM que conseguiu responder perguntas sobre situações sociais sem ter sido treinado explicitamente nesses cenários.

A ideia por trás dessa preocupação é que, conforme os LLMs aumentam de escala, eles se tornam mais fortes e executam mais tarefas. O que não estava claro era se esse crescimento também poderia trazer um risco de comportamento inesperado - algo para o qual não estaríamos preparados. Por isso, os pesquisadores decidiram investigar se esses casos eram realmente emergentes ou se eram apenas resultados complexos, mas ainda contidos, dentro dos limites do código.

Como os pesquisadores testaram o risco de “sair do script”

Para isso, eles realizaram experimentos com quatro modelos diferentes de LLMs, atribuindo tarefas que já haviam sido apontadas anteriormente como emergentes. Ao final, não encontraram evidências de desenvolvimento de pensamento diferenciado, nem sinais de que qualquer um dos modelos conseguisse atuar fora do que a programação permite.

Nos quatro modelos, características como capacidade de seguir instruções, memorização e proficiência linguística explicaram todas as habilidades demonstradas pelos LLMs. Não houve “desvio de rota”. Ou seja: não há motivo para temer os LLMs isoladamente.

O risco maior pode estar no uso humano da IA

Já as pessoas são outra história - e inspiram bem menos confiança. O nosso uso crescente de IA, que demanda mais energia e tensiona temas que vão de direitos autorais à confiança pública e a formas de reduzir a própria poluição digital, vem se tornando um problema real.

"Our results do not mean that AI is not a threat at all," Gurevych says.

"Rather, we show that the purported emergence of complex thinking skills associated with specific threats is not supported by evidence and that we can control the learning process of LLMs very well after all. Future research should therefore focus on other risks posed by the models, such as their potential to be used to generate fake news."

A pesquisa foi publicada como parte dos anais do 62nd Annual Meeting of the Association for Computational Linguistics.