EUVIMEDEUVIMED entdecken
Open Access · CC BY 4.0

Alucinaciones en agentes autónomos de IA para ciberseguridad: riesgos operativos y mecanismos de control

Juan Rigoberto Castillo Serracín, Javier Miguel Gómez, Eric Enrrique Sánchez Herrera, Rafael Armando Díaz, Simón Hernán Navarro Buendía

Revista Veritas de Difusão Científica · 18.11.2026 · 7 (3) · 1689-1708

DOI: 10.61616/rvdc.v7i3.1944 ↗

Kurz gefasst

Fachartikel in der Zeitschrift Revista Veritas de Difusão Científica, online erschienen am 18.11.2026. Verfasst von Juan Rigoberto Castillo Serracín und 4 weiteren Autor:innen. Der Volltext ist frei zugänglich (Open Access, CC BY 4.0).

AbstractBibliografische AngabenZitierenVerwandte Studien

Abstract (Originalsprache)

El uso de agentes autónomos basados en modelos de lenguaje de gran tamaño en ciberseguridad plantea retos de confiabilidad, especialmente cuando información no verificada orienta decisiones o acciones automatizadas. Este estudio analizó las alucinaciones en estos agentes, su propagación mediante herramientas, sus posibles consecuencias operativas y los mecanismos de control descritos en la literatura. Se realizó una revisión narrativa con búsqueda estructurada en Scopus, IEEE Xplore y ACM Digital Library, complementada con Google Scholar y documentos técnicos de NIST y OWASP. Se incluyeron 21 fuentes publicadas entre 2020 y el 15 de septiembre de 2026, fecha de cierre de la búsqueda. La síntesis sugiere que el riesgo de una respuesta no fundamentada depende de su interacción con el grado de autonomía, los permisos concedidos y las herramientas disponibles. Además, los estudios suelen evaluar por separado la exactitud, la resistencia a ataques y el desempeño operativo, lo que dificulta valorar en conjunto las consecuencias de los errores. Se concluye que la confiabilidad requiere contrastar afirmaciones críticas con evidencia, limitar privilegios, registrar decisiones y llamadas a herramientas, y aplicar supervisión humana proporcional al impacto de cada acción. El aporte del artículo es integrar estas dimensiones y proponer criterios de evaluación y control; sin embargo, los resultados de los benchmarks no permiten inferir por sí solos el desempeño de los agentes en operaciones reales.

Zitieren

APA

Serracín, J. R. C., Gómez, J. M., Herrera, E. E. S., Díaz, R. A., & Buendía, S. H. N. (2026). Alucinaciones en agentes autónomos de IA para ciberseguridad: riesgos operativos y mecanismos de control. Revista Veritas de Difusão Científica, 7(3), 1689-1708. https://doi.org/10.61616/rvdc.v7i3.1944

Vancouver

Serracín JRC, Gómez JM, Herrera EES, Díaz RA, Buendía SHN. Alucinaciones en agentes autónomos de IA para ciberseguridad: riesgos operativos y mecanismos de control. Revista Veritas de Difusão Científica. 2026;7(3):1689-1708. doi:10.61616/rvdc.v7i3.1944

BibTeX
@article{Serracn2026,
  author = {Serracín, Juan Rigoberto Castillo and Gómez, Javier Miguel and Herrera, Eric Enrrique Sánchez and Díaz, Rafael Armando and Buendía, Simón Hernán Navarro},
  title = {Alucinaciones en agentes autónomos de IA para ciberseguridad: riesgos operativos y mecanismos de control},
  journal = {Revista Veritas de Difusão Científica},
  year = {2026},
  volume = {7},
  number = {3},
  pages = {1689--1708},
  doi = {10.61616/rvdc.v7i3.1944}
}
Kostenlos starten →