Por que as IAs precisam de muito mais dados que as crianças para aprender?
Pistas sérias
Por que isso importa
As crianças aprendem a linguagem com muito menos dados do que os modelos de IA. Entender por quê poderia esclarecer como a mente humana aprende e ajudar a construir IA que use melhor os dados, num momento em que os desenvolvedores correm o risco de ficar sem textos de treinamento de alta qualidade.
O que sabemos
Uma criança ouve dezenas de milhões de palavras; os grandes modelos de linguagem treinam com trilhões.
O que nos trava
Não sabemos quais capacidades inatas permitem que as crianças aprendam tão rápido.
Pistas atuais
Treinamento com dados na escala de uma criança, aprendizado por interação com o mundo.
Subperguntas
Que conhecimentos inatos, se houver, ajudam os bebês a aprender a linguagem com tão poucas palavras?
Quanto ver o mundo e conversar com pessoas, em vez de apenas ler textos, acelera o aprendizado da linguagem?
Um modelo de linguagem treinado apenas com tantas palavras quanto uma criança ouve consegue alcançar habilidades linguísticas semelhantes às humanas?