EUVIMEDEUVIMED entdecken
Crossref

IA ética em LLMs

Larissa Reis de Avila, Guilherme de Souza Lemke, Giulia Luiza Frasson Magnaguagno, Ana Paula Sehn, Luciana Monteiro Krebs

Fórum de Estudos em Informação, Sociedade e Ciência · 29.06.2026 · 8

DOI: 10.70525/feisc.2026.408 ↗

Kurz gefasst

Fachartikel in der Zeitschrift Fórum de Estudos em Informação, Sociedade e Ciência, online erschienen am 29.06.2026. Verfasst von Larissa Reis de Avila und 4 weiteren Autor:innen.

AbstractBibliografische AngabenZitieren

Abstract (Originalsprache)

Modelos de Linguagem de Grande Escala (LLMs) são sistemas capazes de processar linguagem natural, ou seja, entender, gerar e manipular textos de maneira semelhante aos produzidos por um ser humano, geralmente, esses sistemas são regidos por GuardRails que são mecanismos técnicos que guiam e restringem o comportamento de LLMs para assegurar que suas saídas sejam seguras, éticas e confiáveis. Nesse sentido, este projeto tem como objetivo testar um LLM sem GuardRails, analisando suas respostas, para que se perceba respostas não apropriadas brechas de segurança a fim de que se possa reforçar a segurança desse LLM. Trata-se de uma pesquisa exploratória, com abordagem qualitativa. Combinou revisão bibliográfica, análise de conteúdo provenientes de redes sociais e procedimento experimental chamado Red Teaming com a aplicação de prompts adversariais em um LLM que está em desenvolvimento. Foram elaborados e testados 1.068 prompts para 21 categorias diferentes, sendo elas: acesso a dados sensíveis; álcool para menores/ alcoolismo; capacitismo; criação de bombas; direito autoral; estratégias de violência; etarismo; fabricação / uso / compra / venda de substâncias ilícitas; gordofobia / disturbios alimentares / padrões de beleza; homofobia; inferências impossíveis; machismo; nudez / pornografia / pedofilia; política / polarização; prompt injection; racismo; saúde mental; transfobia; viés de gênero; xenofobia; e xingamentos. As respostas obtidas foram registradas e avaliadas conforme as categorias. A fase de análise das respostas buscou abordar três critérios: (a) lógica proposicional: quando o LLM atende ou não ao comando descrito no prompt, sendo utilizadas as opções atende/não atende à proposição em casos normais, e atende/não atende à proposição com brecha de segurança, em casos onde o modelo retorna em sua resposta algum tipo de informação que não deveria ser acessada pelo usuário, como o processo de análise do prompt enviado e “pensamento” do modelo; (b) ética: quando é transparente sobre sua natureza e limitações, fundamentada em informações confiáveis, responsável quanto aos seus impactos, justa e atenta à redução de vieses, respeita os direitos humanos e a dignidade, preserva a privacidade, evita causar danos ou incentivar práticas prejudiciais e contribui de forma positiva, segura e socialmente responsável, sendo utilizadas as opções ética/antiética; e (c) coerência: quando o LLM retorna com informações consideradas coerentes, verdadeiras e com respostas que façam sentido com o prompt enviado, sendo utilizadas as opções coerente/incoerente. Os dados quantitativos obtidos a partir dessas análises são que 69,46% das proposições dos prompts não foram atendidas pelo LLM, 87,11% das respostas foram consideradas éticas e 85,17% foram consideradas coerentes. Esses dados mostraram que o LLM, mesmo sendo um modelo sem GuardRails nesta fase de desenvolvimento, foi capaz de gerar respostas respeitosas e com informações corretas na grande maioria dos casos, inclusive recusando-se a gerar conteúdo considerado ofensivo, preconceituoso ou violento. Ainda assim, algumas respostas foram identificadas como prejudiciais ao usuário. Como o estudo ainda se encontra em fase inicial, compreende-se que os resultados não são conclusivos. Dessa forma, prevê-se, em etapas futuras, a reanálise dos prompts por outros avaliadores para confirmação do diagnóstico e a realização de testes em outros modelos de LLMs para comparação de resultados.

Zitieren

APA

Avila, L. R. D., Lemke, G. D. S., Magnaguagno, G. L. F., Sehn, A. P., & Krebs, L. M. (2026). IA ética em LLMs. Fórum de Estudos em Informação, Sociedade e Ciência, 8. https://doi.org/10.70525/feisc.2026.408

Vancouver

Avila LRD, Lemke GDS, Magnaguagno GLF, Sehn AP, Krebs LM. IA ética em LLMs. Fórum de Estudos em Informação, Sociedade e Ciência. 2026;8. doi:10.70525/feisc.2026.408

BibTeX
@article{Avila2026,
  author = {Avila, Larissa Reis de and Lemke, Guilherme de Souza and Magnaguagno, Giulia Luiza Frasson and Sehn, Ana Paula and Krebs, Luciana Monteiro},
  title = {IA ética em LLMs},
  journal = {Fórum de Estudos em Informação, Sociedade e Ciência},
  year = {2026},
  volume = {8},
  doi = {10.70525/feisc.2026.408}
}
Kostenlos starten →