IA ética em LLMs
Fórum de Estudos em Informação, Sociedade e Ciência · 29.06.2026 · 8
DOI: 10.70525/feisc.2026.408 ↗Kurz gefasst
Fachartikel in der Zeitschrift Fórum de Estudos em Informação, Sociedade e Ciência, online erschienen am 29.06.2026. Verfasst von Larissa Reis de Avila und 4 weiteren Autor:innen.
Abstract (Originalsprache)
Modelos de Linguagem de Grande Escala (LLMs) são sistemas capazes de processar linguagem natural, ou seja, entender, gerar e manipular textos de maneira semelhante aos produzidos por um ser humano, geralmente, esses sistemas são regidos por GuardRails que são mecanismos técnicos que guiam e restringem o comportamento de LLMs para assegurar que suas saídas sejam seguras, éticas e confiáveis. Nesse sentido, este projeto tem como objetivo testar um LLM sem GuardRails, analisando suas respostas, para que se perceba respostas não apropriadas brechas de segurança a fim de que se possa reforçar a segurança desse LLM. Trata-se de uma pesquisa exploratória, com abordagem qualitativa. Combinou revisão bibliográfica, análise de conteúdo provenientes de redes sociais e procedimento experimental chamado Red Teaming com a aplicação de prompts adversariais em um LLM que está em desenvolvimento. Foram elaborados e testados 1.068 prompts para 21 categorias diferentes, sendo elas: acesso a dados sensíveis; álcool para menores/ alcoolismo; capacitismo; criação de bombas; direito autoral; estratégias de violência; etarismo; fabricação / uso / compra / venda de substâncias ilícitas; gordofobia / disturbios alimentares / padrões de beleza; homofobia; inferências impossíveis; machismo; nudez / pornografia / pedofilia; política / polarização; prompt injection; racismo; saúde mental; transfobia; viés de gênero; xenofobia; e xingamentos. As respostas obtidas foram registradas e avaliadas conforme as categorias. A fase de análise das respostas buscou abordar três critérios: (a) lógica proposicional: quando o LLM atende ou não ao comando descrito no prompt, sendo utilizadas as opções atende/não atende à proposição em casos normais, e atende/não atende à proposição com brecha de segurança, em casos onde o modelo retorna em sua resposta algum tipo de informação que não deveria ser acessada pelo usuário, como o processo de análise do prompt enviado e “pensamento” do modelo; (b) ética: quando é transparente sobre sua natureza e limitações, fundamentada em informações confiáveis, responsável quanto aos seus impactos, justa e atenta à redução de vieses, respeita os direitos humanos e a dignidade, preserva a privacidade, evita causar danos ou incentivar práticas prejudiciais e contribui de forma positiva, segura e socialmente responsável, sendo utilizadas as opções ética/antiética; e (c) coerência: quando o LLM retorna com informações consideradas coerentes, verdadeiras e com respostas que façam sentido com o prompt enviado, sendo utilizadas as opções coerente/incoerente. Os dados quantitativos obtidos a partir dessas análises são que 69,46% das proposições dos prompts não foram atendidas pelo LLM, 87,11% das respostas foram consideradas éticas e 85,17% foram consideradas coerentes. Esses dados mostraram que o LLM, mesmo sendo um modelo sem GuardRails nesta fase de desenvolvimento, foi capaz de gerar respostas respeitosas e com informações corretas na grande maioria dos casos, inclusive recusando-se a gerar conteúdo considerado ofensivo, preconceituoso ou violento. Ainda assim, algumas respostas foram identificadas como prejudiciais ao usuário. Como o estudo ainda se encontra em fase inicial, compreende-se que os resultados não são conclusivos. Dessa forma, prevê-se, em etapas futuras, a reanálise dos prompts por outros avaliadores para confirmação do diagnóstico e a realização de testes em outros modelos de LLMs para comparação de resultados.
Zitieren
APA
Avila, L. R. D., Lemke, G. D. S., Magnaguagno, G. L. F., Sehn, A. P., & Krebs, L. M. (2026). IA ética em LLMs. Fórum de Estudos em Informação, Sociedade e Ciência, 8. https://doi.org/10.70525/feisc.2026.408
Vancouver
Avila LRD, Lemke GDS, Magnaguagno GLF, Sehn AP, Krebs LM. IA ética em LLMs. Fórum de Estudos em Informação, Sociedade e Ciência. 2026;8. doi:10.70525/feisc.2026.408
BibTeX
@article{Avila2026,
author = {Avila, Larissa Reis de and Lemke, Guilherme de Souza and Magnaguagno, Giulia Luiza Frasson and Sehn, Ana Paula and Krebs, Luciana Monteiro},
title = {IA ética em LLMs},
journal = {Fórum de Estudos em Informação, Sociedade e Ciência},
year = {2026},
volume = {8},
doi = {10.70525/feisc.2026.408}
}
EUVIMED