El mejor punto de partida para una función de IA es una tarea concreta. Cuéntame qué hace alguien hoy, qué parte le cuesta esfuerzo y cómo sería un resultado útil. Así podremos decidir dónde puede ayudar la IA y qué tiene que hacer el software que la rodea.
Para un equipo de soporte, esa tarea podría ser redactar un borrador de respuesta a partir de artículos de ayuda aprobados. El éxito sería un borrador útil que una persona del equipo pueda revisar rápido, con enlaces a la información que se usó. Es un objetivo más claro que añadir un chatbot abierto.
Define la entrada, la salida y la decisión
Describe qué información recibe la función, qué debe devolver y quién usa ese resultado. Incluye los casos en los que debería pedir aclaraciones o pasar la tarea a una persona. Una herramienta que sugiere una respuesta tiene responsabilidades distintas a una que la envía automáticamente.
Piensa también si unas reglas de software normales pueden resolver la tarea de forma fiable. Un cálculo fijo o una regla de aprobación conocida suele pertenecer a la lógica habitual de la aplicación. Podemos usar IA para una tarea de lenguaje incierta y mantener las reglas de negocio explícitas en el código.
Decide qué información puede usar
Haz una lista de las fuentes aprobadas y de los permisos asociados. En el ejemplo de soporte, una respuesta puede usar la documentación publicada y la información a la que tiene acceso la persona del equipo que la pide. No debe exponer los registros de otro cliente.
Antes de enviar información a un servicio externo, identifica qué datos son necesarios y revisa las condiciones actuales, los ajustes de retención y los controles disponibles del proveedor elegido. No prometas garantías de privacidad basándote solo en cómo se anuncia un producto. Los requisitos de datos hay que establecerlos para el flujo real.
Pon límites a las acciones
Trata por separado el permiso para sugerir una acción y el permiso para ejecutarla. Un borrador que explica un reembolso y una instrucción que mueve dinero necesitan controles distintos. En las acciones con consecuencias, decide dónde tiene que revisar y confirmar una persona el resultado concreto.
Los textos de clientes, documentos o páginas externas pueden contener instrucciones que contradicen la tarea prevista. Laguía de OWASP sobre prompt injection explica este riesgo. La función necesita controles sobre a qué puede acceder y qué puede hacer, no solo un prompt que le pida portarse bien.
Prepara ejemplos antes de juzgar el modelo
Reúne un conjunto representativo de tareas con ejemplos de resultados buenos e inaceptables. Incluye información incompleta, peticiones ambiguas, material de referencia desactualizado y peticiones que la función debería rechazar o escalar. Usa ejemplos anonimizados o sintéticos cuando haga falta.
¿La respuesta se apoya en la información aprobada?
¿Evita inventar detalles cuando falta la fuente?
¿Respeta el acceso del usuario y los límites de acción de la función?
¿Puede quien revisa entender y corregir el resultado?
¿El tiempo y el coste por resultado útil son aceptables para el flujo?
Acordemos esas comprobaciones antes de comparar enfoques. Una respuesta brillante en una demo demuestra poco; la evaluación tiene que cubrir todo el abanico de trabajo que hará la función.
Planifica la incertidumbre, las esperas y los fallos del servicio
Una respuesta de IA puede ser incorrecta o incompleta. Decide cómo muestra la interfaz en qué se basa una respuesta y cómo puede un usuario pedir ayuda. Si un servicio va lento o no está disponible, el resto del producto debería dar un resultado comprensible, como guardar la petición o dejar que alguien continúe a mano.
Mide el flujo completo, incluidas la revisión y las correcciones. Un borrador generado rápido puede crear trabajo extra si el equipo tiene que comprobar cada detalle sin referencias útiles a las fuentes. Elperfil de riesgos de IA generativa del NIST es una referencia más amplia para evaluar y gestionar los riesgos de estos sistemas.
Empieza con un lanzamiento acotado y un plan de revisión
Elige una tarea concreta, pruébala con usuarios representativos y revisa los resultados antes de ampliar lo que puede hacer la función. Ten una forma de desactivarla o de volver al flujo manual. Los cambios en el modelo, el material de referencia o las instrucciones deben volver a comprobarse con los ejemplos de evaluación.
La tarea en la que queremos ayuda es: …
La información aprobada que puede usar es: …
Un resultado útil se parece a: …
Un resultado inaceptable sería: …
Las acciones que requieren aprobación humana son: …
Mediremos el éxito por: …
Si tienes un flujo en mente,envíame un ejemplo de la tarea. Podemos valorar juntos la integración, la evaluación y el trabajo de producto, incluidos losservicios que influyen en su coste de funcionamiento.