Inteligencia artificial
Qué puede hacer, cómo revisar sus respuestas y dónde conviene mantener una decisión humana.
Divulgación · Tecnología desde la trincheraEntender antes
Entender antes
de delegar.
Me entusiasma entender cómo funcionan las cosas y encontrar una forma de contarlas. Quiero acercar la tecnología a quienes tienen curiosidad, aunque nunca hayan escrito una línea de código. Lo hago en charlas, columnas en programas de streaming y explicaciones como estas: distintas formas de empezar esa conversación.
Las preguntas
Tecnología y sociedad
Educación, privacidad, cultura digital y trabajo. Qué sabemos, qué discutimos y qué todavía no podemos anticipar.
Tecnología aplicada
Procesos, operaciones y PyMEs. Cómo elegir una prueba pequeña que resuelva un problema concreto.
Una tarea se repite.
¿Conviene automatizarla?
Imaginá un comercio que copia pedidos de WhatsApp a una planilla. La tarea es repetitiva, así que parece una candidata obvia. Pero antes de elegir una herramienta conviene mirar qué pasa en los pedidos que no son tan simples.
Ejemplo hipotético
Mi criterioUn cliente escribe «mandame lo mismo de la otra vez». Otro cambia la dirección. Un tercero pregunta por stock y todavía no compró. Si el sistema toma todo como un pedido confirmado, puede producir errores más rápido que una persona.
Empiezo por tres preguntas: ¿están claras las reglas?, ¿podemos detectar las excepciones?, ¿qué costo tiene equivocarse? Después reviso el tiempo que se ahorra, el mantenimiento que se agrega y quién se hace cargo de los casos que quedan afuera.
Una primera prueba podría cargar un borrador y pedir confirmación humana antes de registrar el pedido. Recién cuando conocemos los errores y sus consecuencias evaluamos ampliar la autonomía.
La prueba no se evalúa solamente por los pedidos correctos. También importa cuántos casos necesita revisar alguien, qué errores se escaparon y cuánto trabajo cuesta corregirlos.
Una automatización útil necesita un alcance claro y una forma de fallar que podamos manejar. Esa es mi regla de trabajo; no una garantía de resultado para cualquier proceso.
Cómo llevo este criterio a una PyME →Una IA responde con seguridad.
¿Eso alcanza para confiar?
Hecho documentado
Mi interpretaciónLos modelos de lenguaje pueden producir respuestas incorrectas o inventadas. NIST incluye la confabulación entre los riesgos de la IA generativa: una respuesta puede presentar contenido falso con apariencia de certeza.
Fuente: NIST · Generative Artificial Intelligence Profile (2024), apartado 2.2 ↗
La forma en que una respuesta está escrita no prueba que sea verdadera. Si vamos a usarla para decidir, la revisión tiene que alcanzar también a sus datos, sus supuestos y las fuentes que cita.
Ejemplo hipotético
Mi criterioLe pedís que resuma un informe y agrega una cifra que no estaba. El resumen puede seguir sonando razonable. Compararlo con el documento original es más útil que preguntarle si está seguro.
Para una lluvia de ideas puedo aceptar imprecisiones y corregir después. Para una decisión que afecta a otra persona, necesito una fuente verificable, un responsable de revisar y una salida cuando el sistema no tiene evidencia suficiente.
El nivel de revisión depende de las consecuencias del error. La confianza se construye con evidencia sobre una tarea concreta.
Curiosidad y nostalgiaA veces la curiosidad
A veces la curiosidad
termina en un experimento.
Extrañar Winamp, MSN e ICQ me llevó a jugar con sus interfaces. Son dos experimentos chicos de laboratorio, hechos por gusto y compartidos por si alguien más quiere probarlos.
Retro Messenger tiene su propio sitio. Allí están los detalles para quienes quieran volver por un rato a esa estética.
Visitar Retro Messenger ↗Cómo trabajo el contenidoDejo a la vista qué sé
Dejo a la vista qué sé
y qué estoy interpretando.
Los datos tienen fuente. Los ejemplos inventados se presentan como hipotéticos. Mis criterios y opiniones se identifican como tales. Una predicción necesita supuestos y margen de incertidumbre.
Si encontrás un error o tenés una experiencia que agrega otra perspectiva, me interesa conversarlo.
Acercar una pregunta o corrección →