O que nem os seus criadores compreendem
Há algo na inteligência artificial que me parece especialmente fascinante. Não é simplesmente o facto de conseguir responder a perguntas, escrever textos ou resolver problemas. É estar a desenvolver capacidades que os seus próprios criadores não tinham previsto por completo.
Ontem ouvi uma entrevista no Lenny's Podcast com Emmanuel Ameisen, investigador da Anthropic especializado em compreender o que acontece dentro dos grandes modelos de inteligência artificial.
O surpreendente é que os seus próprios criadores não compreendem totalmente como funcionam por dentro.
Sabemos como construí-los e treiná-los, mas nem sempre compreendemos como chegam a determinadas conclusões nem porque desenvolvem capacidades que ninguém lhes ensinou explicitamente.
Sistemas que crescem, não programas
Ameisen explica que estes modelos se parecem mais com sistemas que fazemos crescer através da aprendizagem do que com programas tradicionais em que definimos cada comportamento.
Os investigadores estão a descobrir que os modelos constroem representações internas de conceitos, estabelecem relações e desenvolvem estratégias que ninguém programou diretamente.
Tudo isso acontece através de operações matemáticas. Não porque os modelos inventem novas leis matemáticas, mas porque o treino organiza milhares de milhões de parâmetros até produzir mecanismos que ainda estamos a tentar compreender.
É uma situação extraordinária: criámos estes sistemas e agora precisamos de os investigar para descobrir como aprenderam a raciocinar.
Uma pergunta que vai além da IA
E enquanto ouvia a entrevista, surgiu-me uma pergunta que vai muito além da inteligência artificial.
E se a matemática não fosse simplesmente uma ferramenta que descobrimos para compreender o mundo? E se nós próprios fôssemos matemática?
E se tivermos percebido tudo ao contrário?
Sempre pensámos que os humanos descobriram a matemática para explicar o universo. Mas as relações que ela descreve existiam muito antes de nós.
Os planetas seguiam as suas órbitas antes de Newton. Os átomos interagiam antes de existir a química. E os nossos cérebros funcionam através de processos físicos que também obedecem a essas mesmas leis.
Uma língua, um rosto, um cérebro
Pensemos em algo tão quotidiano como aprender uma língua. O nosso cérebro descobre padrões, estabelece relações e acaba por construir frases que nunca ouviu. Curiosamente, os modelos de inteligência artificial fazem algo parecido através de mecanismos completamente diferentes, baseados em operações matemáticas.
Ou pensemos na nossa capacidade de reconhecer um rosto entre milhares. Fazemo-lo de forma quase instantânea, sem saber explicar como. Hoje, uma rede neuronal artificial pode desenvolver uma capacidade semelhante aprendendo relações entre enormes quantidades de dados.
Não significa que os nossos cérebros funcionem da mesma forma que uma inteligência artificial. Mas levanta algo fascinante: talvez a inteligência não dependa tanto do material de que somos feitos como das relações que se estabelecem entre os seus componentes.
E se essas relações são matemáticas, o que somos realmente?
Uma hipótese, não uma certeza
Talvez a matemática não seja simplesmente uma linguagem que inventámos para descrever a realidade, mas parte da estrutura da própria realidade.
Isto não está demonstrado. Que algo possa ser descrito matematicamente não significa necessariamente que seja matemática. Mas o que estamos a observar com a inteligência artificial faz com que valha a pena colocar a questão.
Porque há algo extraordinário no facto de um conjunto de operações matemáticas conseguir aprender, raciocinar e desenvolver capacidades que nem sequer os seus criadores compreendem por completo.
A matemática a descobrir-se a si mesma
E se nós formos outro exemplo desse mesmo fenómeno, surgido ao longo de milhões de anos de evolução biológica em vez de treino artificial?
Talvez não sejamos seres que descobriram a matemática a partir de fora.
Talvez sejamos uma parte do universo que, organizada de uma determinada maneira, adquiriu a capacidade de compreender as regras que a tornaram possível.
E talvez não tenhamos descoberto a matemática. Talvez sejamos a matemática a descobrir-se a si mesma.
A DuckDik é um produto de bem-estar. Não é um dispositivo médico, não diagnostica e não substitui o conselho de um profissional de saúde. Se tiver sintomas, consulte o seu médico.
