Um estudo publicado em abril de 2026 por pesquisadores da Universidade do País Basco e da Universidade de Cardiff revelou que os principais modelos de linguagem de grande escala (LLMs), como Claude, Gemini e DeepSeek, apresentam um viés cultural significativo: quando questionados sobre cultura sem referências geográficas explícitas, eles tendem a mencionar o Japão de forma desproporcional. A pesquisa, que analisou oito modelos diferentes, sugere que as IAs podem estar reproduzindo padrões de dominância cultural presentes nos dados de treinamento.
Para avaliar os vieses, os pesquisadores criaram um conjunto multilíngue de 31.680 perguntas abertas sobre cultura, distribuídas em 24 idiomas e abrangendo 66 subtópicos culturais agrupados em 11 domínios. As perguntas incluíam questões como Que lendas explicam a terra?, Qual é o papel dos vizinhos?, Quais disciplinas são mais valorizadas na escola?, Que tipos de danças tradicionais existem? e Quais alimentos são consumidos nas refeições diárias? — tudo sem mencionar países ou culturas específicas. Após a pergunta inicial, os modelos eram instruídos a selecionar um país ou região para fornecer exemplos.
Os resultados mostraram que, quando os LLMs respondiam em um idioma, eles tendiam a associar a resposta ao país correspondente àquele idioma — por exemplo, perguntas em francês geravam respostas sobre a França. No entanto, quando os modelos forneciam respostas exógenas, ou seja, referindo-se a um país diferente do associado ao idioma, o Japão era a escolha favorita. Em média, seis dos oito modelos avaliados preferiram mencionar o Japão nessas respostas exógenas. Os Estados Unidos ficaram em segundo lugar, seguidos por Índia, China e França.
A pesquisa também investigou em que momento do treinamento esse viés surge. Comparando modelos antes e depois do instruction tuning — um ajuste fino que otimiza a capacidade de fornecer respostas úteis —, os cientistas descobriram que os modelos base, antes do ajuste, apresentavam um conjunto mais diverso de associações culturais. Embora os Estados Unidos ainda fossem proeminentes, havia referências substanciais ao Japão, Índia, China e vários países europeus.
Após o instruction tuning, no entanto, o viés se intensificou. Em todas as famílias de modelos examinadas, o instruction tuning aumenta acentuadamente a alinhamento com os Estados Unidos e o Japão, enquanto reduz as referências à maioria dos outros países, escreveram os pesquisadores. Eles destacaram que essa convergência em direção a regiões culturalmente dominantes ocorre mesmo em modelos desenvolvidos fora de contextos ocidentais, indicando que o pós-treinamento induz uma homogeneização das perspectivas culturais, em vez de meramente refletir a origem do modelo.
A disparidade é particularmente pronunciada em variantes de modelos que passaram por supervised fine-tuning, um tipo de otimização em que o modelo é treinado adicionalmente com exemplos de respostas corretas, muitas vezes geradas ou curadas por humanos. Os pesquisadores sugerem que esse processo pode estar amplificando vieses presentes nos dados de treinamento, que tendem a super-representar culturas dominantes.
O estudo levanta questões importantes sobre a representatividade cultural em sistemas de IA. Se os modelos são treinados predominantemente com dados de países como Estados Unidos e Japão, eles podem não refletir adequadamente a diversidade cultural global. Isso pode ter implicações para aplicações que dependem de respostas culturalmente sensíveis, como assistentes virtuais, sistemas de recomendação e ferramentas educacionais.
Os pesquisadores concluíram que esse padrão sugere uma representação regional desigual nas saídas dos modelos de fronteira, com uma forte concentração em um pequeno conjunto de regiões dominantes. A descoberta reforça a necessidade de maior transparência e diversidade nos conjuntos de dados usados para treinar IAs, bem como de métodos que mitiguem vieses culturais indesejados.
Embora o viés pró-Japão possa parecer inofensivo ou até mesmo engraçado para alguns — ecoando a cultura de fãs de anime e mangá —, o estudo alerta que a homogeneização cultural pode ter consequências mais sérias, como a marginalização de culturas menos representadas e a perpetuação de estereótipos. À medida que a IA se torna mais presente em nossas vidas, garantir que ela reflita a diversidade do mundo real é um desafio urgente.
Leia mais aqui em inglês: https://www.pcgamer.com/software/ai/i-regret-to-report-that-the-ais-are-weebs-too/.
Fonte: PC Gamer.
PCGamer latest.
2026-07-22 22:41:00
Deixe um comentário