jjuliar/plndataset

LARI – Lightweight Adaptation for Response and Inquiry

Dataset Description

LARI is a native Question and Answer (QA) dataset in Brazilian Portuguese, composed of 464 context-question-answer trios validated by human experts. It was created to address the scarcity of native and educationally grounded benchmarks for Portuguese.

Unlike most QA resources available in Portuguese (derived from automatic translations of English datasets) LARI was built from content originally written in Portuguese, preserving linguistic authenticity and cultural relevance.

• Repo: jjuliar/plndataset
• Paper: LARI Dataset: A Native Portuguese Question Answering Dataset from Brasileiras em PLN — PROPOR 2026
• Contact: julia.junqueira(at)inf.ufrgs.br

---

Construção do Dataset

O LARI foi construído a partir de parágrafos extraídos do livro:

Processamento de Linguagem Natural: Conceitos, Técnicas e Aplicações em Português (2ª Edição) — Caseli & Nunes, 2023. Disponível em brasileiraspln.com/livro-pln.

O pipeline de construção do dataset envolveu quatro etapas:

1. Aquisição de Dados: Web scraping da versão digital do livro; parágrafos (<p>) extraídos como contextos.
2. Pré-processamento: Contextos com menos de 150 ou mais de 950 tokens foram removidos; elementos não-textuais (figuras, tabelas, notas de rodapé) foram excluídos.
3. Geração: Pares de QA gerados com o modelo Sabiá-7B, ajustado via QLoRA (NF4, quantização 4-bit) sobre o dataset Pirá. Apenas 3,89% dos parâmetros do modelo (262M de 6,7B) foram ajustados. Ao todo, 1.624 trios candidatos foram gerados.
4. Avaliação Humana: 39 especialistas de domínio (autores colaboradores do livro fonte) avaliaram os trios em escala Likert de 1 a 5, em três dimensões: contexto, pergunta e resposta. Trios com nota inferior a 3 ou marcados como inválidos foram removidos.

Estrutura do Dataset

Campo	Tipo	Descrição
capitulo	string (24 classes)	Capítulo do livro de origem do contexto
contexto	string (268–2.630 chars)	Parágrafo do livro usado como contexto de leitura
nota_contexto	int64 (1–5)	Nota atribuída pela anotadora/or ao contexto
pergunta	string (12–193 chars)	Pergunta gerada com base no contexto
nota_pergunta	int64 (1–5)	Nota atribuída pela anotadora/or à pergunta
resposta	string (6–700 chars)	Resposta curta e direta extraída do contexto
nota_resposta	int64 (1–5)	Nota atribuída pela anotadora/or à resposta
adequacao_geral	string	Julgamento geral do trio ("Sim" = adequado e coerente)
observacao	string (nullable)	Comentário qualitativo da anotadora/or sobre o trio

Nota sobre observacao: Este campo contém comentários livres das anotadoras e anotadores, como sugestões de melhoria, apontamentos sobre incompletude do contexto ou observações sobre a relação entre pergunta e resposta.

Estatísticas do Dataset

Característica	Quantidade
Total de trios avaliados	688
Total de trios validados	464
Vocabulário único (tokens)	6.795
Total de palavras	60.367
Média de palavras por contexto	125,34
Média de palavras por pergunta	10,82
Média de palavras por resposta	20,62
Intervalo de tamanho dos contextos	48–457 palavras

Scores Médios da Avaliação Humana (escala Likert 1–5)

Componente	Média
Contexto (nota_contexto)	4,58
Pergunta (nota_pergunta)	4,48
Resposta (nota_resposta)	4,37
Geral (média simples)	4,47

Usos Previstos

O LARI foi desenvolvido para apoiar pesquisas em:

• Compreensão de Leitura por Máquina (MRC) em português;
• Avaliação de sistemas RAG (Retrieval-Augmented Generation) em cenários de baixo recurso;
• Geração Automática de Perguntas (AQG) para o português;
• Benchmark de LLMs em português para extração factual;
• Fine-tuning de modelos de QA em domínios educacionais ou técnicos;

Limitações

• O dataset é derivado de uma única fonte bibliográfica, o que limita a diversidade temática.
• Capítulos com menos texto "cru" possuem menos trios validados.
• A qualidade da resposta apresentou correlação forte com a qualidade da pergunta; contextos insuficientes propagam erros ao longo do trio.
• Alguns contextos gerados referenciavam partes ausentes do capítulo (e.g., figuras, tabelas), comprometendo a auto-suficiência do trio.
• O campo adequacao_geral contém apenas "Sim" nos 464 trios finais (trios com "Não" foram removidos na pós-processamento -- posso compartilhá-los via email, caso precise para alguma tarefa :).

---

Citação

Se você usar o LARI em sua pesquisa, por favor cite:

@inproceedings{junqueira2026lari,
   title={LARI Dataset: A Native Portuguese Question Answering Dataset from Brasileiras em PLN},
  author={da Rocha Junqueira, J{\'u}lia and de Freitas, Larissa A and Corr{\^e}a, Ulisses Brisolara},
  booktitle={Proceedings of the 17th International Conference on Computational Processing of Portuguese (PROPOR 2026)-Vol. 1},
  pages={1055--1061},
  year={2026}
}

---

Agradecimentos

Este dataset foi validado por 39 especialistas de domínio, todos autores colaboradores do livro fonte. O estudo foi financiado pela CAPES (Código de Financiamento 001), CNPq, e FAPERGS (Acordo de Concessão 22/2551-0000598-5). O suporte de GPU foi fornecido pela NVIDIA Corporation (Titan X Pascal).