Especialistas advierten sobre filtraciones de información, decisiones automatizadas sin supervisión, costos inesperados y herramientas utilizadas fuera del control de las áreas de sistemas.
La inteligencia artificial se incorporó con rapidez a tareas como la redacción de documentos, el análisis de información, la revisión de contratos, la elaboración de propuestas comerciales y la automatización de procesos. En numerosas organizaciones, ese avance se produjo antes de definir qué datos podían compartirse y cuáles eran las aplicaciones autorizadas.
Facundo Balmaceda, especialista en Ciberseguridad de SONDA Argentina, señaló que empleados comenzaron a utilizar asistentes digitales antes de que intervinieran los equipos de sistemas. Esa práctica, denominada shadow AI, puede incluir la carga de contratos o bases de clientes en chatbots gratuitos y exponer información sensible fuera del entorno controlado por la compañía. El fenómeno prolonga los riesgos tradicionalmente asociados al shadow IT.
El desafío también alcanza la decisión de qué proyectos llevar a producción. Yamandú Giménez Wenzel, senior solutions director de Aditi Consulting, explicó que la sucesión de nuevos modelos, agentes autónomos y herramientas de automatización obliga a evaluar si una tecnología resulta conveniente para un proceso concreto. Aditi desarrolló AI Labs, un espacio de experimentación interna para detectar fallas, costos, limitaciones y necesidades de control antes de recomendar soluciones o aplicarlas en proyectos de clientes.
La IA puede reducir el trabajo necesario para modernizar sistemas legacy. En Aditi Consulting desarrollaron una herramienta que analiza código antiguo y genera documentación, una tarea que antes podía requerir meses de trabajo para comprender programas creados por profesionales que ya no trabajan en la organización. El sistema fue probado inicialmente en desarrollos internos y luego incorporado a proyectos de clientes, aunque Giménez Wenzel advirtió que un resultado satisfactorio en una prueba no garantiza que la solución esté lista para operar a gran escala.
Entre las amenazas señaladas figuran los permisos inadecuados, el acceso indebido a documentos y las inyecciones de prompt, que intentan modificar la conducta de una IA mediante instrucciones ocultas en los contenidos que procesa. Estas técnicas pueden afectar la selección de personal, el análisis de currículums y la evaluación de presupuestos. También existen riesgos en la aprobación de créditos, la administración de accesos y la elección de candidatos cuando no hay supervisión humana suficiente.
Balmaceda planteó que las empresas deben clasificar sus datos como críticos, sensibles o públicos antes de elegir una herramienta. Giménez Wenzel sumó la necesidad de controlar costos, asegurar la trazabilidad y verificar el cumplimiento normativo desde la etapa experimental. Ambos especialistas coincidieron en que la adopción debe incluir reglas sobre la información procesable, responsables para revisar las decisiones automatizadas y criterios para determinar cuándo un proyecto puede pasar a producción.