Un nuevo white paper de Salesforce describe las consideraciones clave para diseñar y utilizar agentes de IA, y cómo los responsables políticos globales pueden adoptar y liberar todo el potencial de la IA.

Santiago, mayo  de 2025.- La IA agéntica está aquí — y sistemas como Agentforce son prueba de que son  una poderosa herramienta para el crecimiento económico y el empoderamiento de los trabajadores humanos—. De hecho, para clientes como Wiley, Agentforce ayudó a aumentar la resolución de casos en un 40%, superando a su anterior chatbot y liberando a los empleados para que pudieran centrarse en casos más complejos. Pero la solución para aumentar la productividad y generar confianza no es tan sencilla como implantar agentes de IA de inmediato, según un nuevo white paper de Salesforce.

Para que los agentes autónomos de IA empresarial sean aceptados en los espacios de trabajo gubernamentales e industriales, deben operar dentro de unos límites definidos que garanticen una transferencia fluida de tareas a los humanos, basarse en datos empresariales fiables y cumplir las normas más estrictas de privacidad, seguridad y precisión de los datos.

«El desarrollo de agentes de IA representa una oportunidad transformadora para los gobiernos y organizaciones, permitiéndoles mejorar la eficiencia, personalizar servicios y responder de manera más ágil a las necesidades de la ciudadanía. Sin embargo, este avance sólo puede consolidarse si va de la mano con un marco regulatorio sólido, transparente y alineado con principios éticos claros”, señaló Marcelo Guajardo, Gerente de Asuntos Gubernamentales y Políticas Públicas de Salesforce para Cono Sur.

 

Consideraciones clave para los responsables de crear políticas en la era donde los agentes son protagonistas

Para equilibrar los riesgos y las oportunidades de los agentes de IA, el white paper expone las principales consideraciones de diseño que deben tener en cuenta los responsables de crear políticas, entre ellas:

 

  1. Humanos que trabajan con IA agéntica: Los empleados necesitarán nuevas habilidades para configurar, asignar tareas, gestionar y supervisar a los agentes de IA. Los agentes deberán ser fáciles de programar y utilizar en diversos contextos.
  2. Fiabilidad: Los agentes de IA deben estar cuidadosamente diseñados y equipados con limitaciones para garantizar el traspaso claro y fluido de proyectos y tareas a los humanos, así como para minimizar, señalar y corregir las alucinaciones. Para garantizar la precisión y fiabilidad de los agentes, se requiere una ingeniería cuidadosa y pruebas sólidas.
  3. Fluidez entre dominios: Los agentes de IA interactuarán con usuarios y terceros dentro y fuera de las organizaciones, recuperando, interpretando y actuando sobre diferentes tipos de información en estos dominios. Esto requiere una programación avanzada y una integración minuciosa de los procesos empresariales y los sistemas de datos.
  4. Transparencia y explicabilidad: Los usuarios necesitan saber cuándo están interactuando con un agente de IA en lugar de un humano. Los reguladores y el público también querrán saber cómo realizan su trabajo los agentes de IA para asegurarse de que lo hacen con precisión y de forma fiable. Por lo tanto, cualquier despliegue de IA agéntica requerirá sistemas que garanticen una transparencia y una explicabilidad totales.
  5. Responsabilidad: Para garantizar la rendición de cuentas, es importante definir claramente quién es responsable de que el agente funcione correctamente y ofrezca resultados fiables.
  6. Gestión de datos y privacidad: Los agentes de IA pueden necesitar acceder a datos personales u otros datos sensibles para completar las tareas que se les asignen. Para que los usuarios y las empresas confíen en los agentes de IA, tendrán que operar con altos estándares de privacidad y seguridad de los datos.
  7. Seguridad: Al igual que otras aplicaciones de IA, los agentes pueden ser vulnerables a ataques de adversarios, en los que se diseñan entradas maliciosas para engañar a la IA y hacer que produzca malos resultados. A medida que los agentes de IA asuman tareas cada vez más complejas, será esencial seguir las mejores prácticas de seguridad y control de calidad de la IA.
  8. Ética: Las empresas que utilizan agentes de IA deben establecer y seguir unas directrices de uso ético. Para ello habrá que desarrollar nuevos protocolos y normas para los sistemas autónomos de IA, fomentar la colaboración eficaz entre humanos e IA y, al mismo tiempo, crear consenso y confianza en los procesos de toma de decisiones.
  9. Interacciones entre agentes: Los protocolos y normas comunes serán importantes para infundir confianza y ayudar a garantizar un comportamiento controlado, predecible y responsable de los agentes. Para ello es fundamental contar con un entorno seguro de intercambio de información y, en su caso, con registros de auditoría de las interacciones entre agentes.

 

Políticas para fomentar un ecosistema adecuado para los agentes

Aunque los agentes de IA son el último avance tecnológico, los principios fundamentales de una política pública sólida en materia de IA que proteja a las personas y fomente la innovación permanecen inalterados: enfoques basados en el riesgo, con una clara delimitación de las diferentes funciones en el ecosistema, respaldados por sólidos límites de privacidad, transparencia y seguridad.

A medida que los responsables políticos miran hacia un futuro de amplia adopción de la IA de confianza en todos los sectores y geografías, es hora de pensar -más allá de regular- cómo se construye la IA. También deben dotar a los trabajadores de las habilidades necesarias para aprovechar el potencial de los agentes de IA.

«La actualización de nuestro white paper destaca el enorme potencial de los agentes de IA para impulsar la transformación digital y el desarrollo económico de los países”, considera Guajardo. “En Chile, puntualmente, vemos un gran avance por definir una gobernanza responsable en esta materia, y desde Salesforce reafirmamos nuestro compromiso de colaborar con autoridades, empresas y la sociedad civil para promover una IA segura, ética y centrada en las personas, que potencie el talento local y acelere el crecimiento sostenible”, finaliza.

 

 

Acerca de Salesforce

Salesforce ayuda a organizaciones de cualquier tamaño a reimaginar su negocio con IA. Agentforce, la primera solución de trabajo digital para empresas, se integra perfectamente con las aplicaciones de Customer 360, Data Cloud y Einstein AI para crear una fuerza laboral sin límites, uniendo a humanos y agentes en una sola plataforma confiable para potenciar el éxito del cliente. Para más información, visita https://www.salesforce.com/mx/.

 

Google News Portal Educa
Síguenos en Google Noticias

Equipo Prensa
Portal Educa