Capítulo tres: El marco de la evidencia para la inteligencia artificial agrícola

Capítulo tres: El marco de la evidencia para la inteligencia artificial agrícola

El mensaje del capítulo: de la abundancia de fuentes al conocimiento fiable

La fuerza de un libro académico no reside en el número de referencias acumuladas en sus notas a pie de página, sino en su capacidad de determinar qué puede probar realmente cada referencia y dónde termina su autoridad epistémica. Una fuente no obtiene su valor de su mera presencia, sino de su adecuación a la afirmación que se invoca para sustentar. Esta cuestión se vuelve más compleja en un campo de rápida evolución como la inteligencia artificial agrícola: el autor puede tener ante sí un artículo científico revisado por pares, un informe oficial, una página de producto, un repositorio de código, una simulación informática, un reportaje periodístico y un testimonio que describe una experiencia de campo. Cada una de estas fuentes puede contener información exacta, pero no todas poseen el mismo grado de fiabilidad ni cumplen la misma función inferencial. Un artículo científico puede medir el rendimiento de un modelo en condiciones de datos y experimentación específicas, pero no prueba automáticamente su éxito en todos los cultivos ni en todas las regiones. Una autoridad reguladora es el organismo competente para registrar un plaguicida o determinar si su uso está autorizado, pero no es el organismo que mide la exactitud de un algoritmo. Una página de producto documenta lo que el proveedor afirma sobre su sistema en una fecha determinada, pero no sustituye a una evaluación independiente de su eficacia. En cuanto a un repositorio de código, puede acreditar la existencia de un componente en el código en el momento de la inspección sin acreditar que ese componente funcione en un servicio en producción, ni que produzca un impacto agrícola tangible en el campo. La tarea de este capítulo se deriva de esa distinción: explicar cómo pasó el libro de una diversidad de fuentes a juicios disciplinados, trazables y revisables. No presenta un catálogo abstracto de métodos de investigación, sino que revela el marco práctico empleado para distinguir un hecho documentado de un resultado ligado a su contexto, de una descripción atribuida a su fuente, de una cifra aún no plenamente verificada o de una propuesta editorial que no pretende ser un hallazgo experimental. El objetivo no es debilitar el argumento mediante una acumulación de salvedades, ni rodear el conocimiento de una valla permanente de duda; es construir una confianza asentada en una comprensión clara de su fundamento y de sus límites. La certeza científica no se produce con un tono categórico, sino con un recorrido que el lector pueda seguir: ¿de dónde procede la información? ¿Qué tipo de fuente es? ¿Qué prueba realmente esta fuente? ¿Y qué no estamos autorizados a inferir de ella?

1. La arquitectura de la base de evidencia: ¿cómo se construyó el fundamento de conocimiento del libro?

Por «corpus multilingüe de fuentes», el libro entiende el conjunto total de materiales reunidos y organizados durante las etapas de su preparación, sobre los que se construyeron después sus capítulos y análisis. Este corpus no se limitó a un único tipo de documento; incluyó estudios primarios, revisiones científicas, informes oficiales, documentos de trabajo, documentos institucionales, descripciones de productos, materiales técnicos y guías de implantación, junto con materiales auxiliares empleados para descubrir nombres y temas y para abrir líneas de indagación. Estos materiales llegaron en múltiples lenguas, porque la innovación agrícola no se publica íntegramente en inglés, y porque algunas aplicaciones, políticas y terminologías locales no revelan su significado pleno más que dentro de su propia lengua y contexto. Sin embargo, la pluralidad lingüística no significa contar una traducción y el original como dos fuentes independientes, ni otorga a un documento un rango académico superior por el mero hecho de aparecer en más de una versión. Por ello, las traducciones se vincularon a sus originales, se identificaron las versiones duplicadas o derivadas y se asignó a cada documento su lugar y su función precisos en la construcción del argumento. El trabajo comenzó con el inventario y la organización del material de partida, pero no se detuvo en la reunión de archivos. Pasó a construir registros editoriales separados para fuentes, afirmaciones, cifras y estudios de caso. La diferencia entre ambas etapas es fundamental: recoger un documento significa únicamente que un material ha quedado disponible para su inspección, mientras que aceptar una afirmación derivada de él exige otro nivel de verificación. Llegados a ese punto, las preguntas pasan a ser: ¿es esta fuente adecuada para fundamentar esta afirmación concreta? ¿Puede rastrearse la cifra hasta su ubicación original? ¿Y siguieron siendo visibles las condiciones y los límites del estudio cuando el resultado se trasladó al libro? También se creó un registro separado para la evidencia asociada al estudio de caso Aladdin Agri AI, a fin de impedir que se mezclaran las pruebas internas de implantación con las referencias científicas generales disponibles para el lector. La existencia de código, de una interfaz o de una vía de integración puede acreditar un estado de implantación concreto en una versión conocida, pero no se convierte por ello en un estudio independiente de eficacia, ni en evidencia de impacto agrícola en el campo. Esta separación protege el valor de ambos tipos de evidencia: no se hace soportar a la evidencia técnica más de lo que puede probar, mientras el lector puede seguir viendo con precisión qué es lo que sí acredita. Cuando se reorganizaron los archivos y sus rutas, las referencias no quedaron rehenes de ubicaciones obsoletas ni de nombres mutables; en su lugar, se restableció el registro de referencia de rutas de archivo y huellas digitales. El propósito no era puramente técnico, sino también editorial y epistémico: garantizar que toda afirmación importante siguiera vinculada al material en el que se basaba, y que mover los archivos o cambiar sus nombres no rompiera la cadena de verificación. ¿Por qué se describe este trabajo como una revisión narrativa estructurada e informada por la evidencia? Este libro adopta la forma de una revisión narrativa estructurada e informada por la evidencia: reúne materiales heterogéneos, los clasifica, los compara y construye después a partir de ellos una interpretación coherente del campo, haciendo visibles al mismo tiempo el tipo de cada elemento de prueba y los límites de lo que permite inferir. Se eligió este método porque se ajusta a la amplia pregunta que plantea el libro: ¿cómo pasa la inteligencia artificial del laboratorio y del producto a la toma de decisiones agrícolas, la economía, el trabajo, la gobernanza y el campo? Una revisión sistemática, en el sentido científico preciso, cumple un propósito distinto y se apoya en un marco metodológico más específico. Suele comenzar con una pregunta más estrecha, un protocolo de búsqueda preespecificado, bases de datos definidas, cadenas de búsqueda reutilizables, criterios claros de inclusión y exclusión y un registro completo de los resultados de la búsqueda, de la eliminación de duplicados y de las etapas de cribado. Estos elementos permiten a otro investigador repetir el proceso y comparar los hallazgos con los de los autores de la revisión. La diferencia de clasificación no significa que un tipo sea riguroso y el otro lo sea menos; significa que cada uno tiene una función epistémica distinta. Una revisión sistemática resulta adecuada para responder a una pregunta concreta dentro de un protocolo repetible, mientras que una revisión narrativa estructurada puede conectar ámbitos que no están unidos por un único diseño experimental: algoritmos, agricultura, economía, inocuidad de los alimentos, trabajo, derechos sobre los datos, estructura institucional y diferencias regionales. La fuerza de este libro reside en hacer rigurosas esas conexiones sin borrar las diferencias entre los tipos de evidencia ni presentarlos como iguales en naturaleza y en fuerza probatoria. Recuentos heredados de borradores anteriores: cuando la precisión importa más que el atractivo de la cifra Algunos borradores de una edición anterior de este libro afirmaban que se habían examinado más de 150 documentos en múltiples bases de datos y fuentes. Sin embargo, esta edición no conservó esa cifra por el mero hecho de que apareciera en la versión anterior: no iba acompañada de un registro lo bastante completo como para reproducir las cadenas de búsqueda, las fechas, los resultados, el cribado, las exclusiones y la eliminación de duplicados que se requieren para tratarla como un recuento metodológico definitivo. La opción más cómoda habría sido trasladar el recuento a la nueva edición; es una cifra grande, clara y atractiva. La opción académica, en cambio, fue separar el conocimiento útil que podía verificarse de una afirmación numérica cuya vía documental seguía incompleta. Por ello, la cifra histórica no se utilizó como prueba de la exhaustividad de la revisión, y los materiales y las afirmaciones se reevaluaron conforme a los registros y los límites declarados de esta edición. Esto no significa que el conocimiento que pasó por los borradores anteriores se desperdiciara o se anulara. Se conservaron los nombres, las ideas y las vías de investigación que podían rastrearse, y las afirmaciones se reexaminaron antes de ser adoptadas. En cuanto a cualquier cifra o resultado que no pudiera rastrearse hasta una fuente apropiada, no se presentó al lector como un hecho plenamente establecido. Así, la revisión editorial se convirtió en una herramienta para depurar el conocimiento, no para borrarlo; en un medio para elevar la fiabilidad del libro, no para disminuirla. Una revisión sistemática publicada como [SRC004] puede contribuir a cartografiar una parte del campo y puede ofrecer un ejemplo de protocolo de búsqueda documentado dentro de su propia pregunta específica. Sin embargo, su carácter sistemático pertenece al trabajo realizado por sus autores y no pasa automáticamente a este libro por el mero hecho de citarla. De igual modo, una colección amplia de documentos no se convierte en una revisión sistemática por la mera virtud del número de sus archivos o del orden de sus capítulos. La precisión empieza por nombrar el trabajo por lo que efectivamente ha logrado, y exigirle después rigurosamente cuentas conforme a las demandas de ese nombre. En este sentido, el método no es una disculpa del libro, sino una declaración de su fuerza: el libro optó por construir un argumento amplio y trazable, por declarar su naturaleza con claridad y por dar a cada fuente el lugar que le corresponde sin elevarla por encima de su fuerza probatoria real. Conclusión metodológica: la confianza no se construye con el mero número de documentos, sino con la claridad del camino que vincula cada afirmación con su fuente y especifica con precisión qué prueba esa fuente y qué queda fuera de sus límites.

2. La unidad de verificación es la afirmación, no el párrafo

Un párrafo en la página puede parecer una unidad única y coherente, y sin embargo contener varias afirmaciones que difieren radicalmente en naturaleza y en el tipo de evidencia necesaria para establecer cada una. Una frase que acredita la existencia de un sistema no está al mismo nivel que una frase que describe una de sus propiedades, y ninguna de las dos basta para probar su exactitud ni su impacto en la vida de los agricultores. Consideremos un ejemplo simplificado de un párrafo que trata de un producto agrícola digital. El párrafo puede incluir cuatro niveles distintos de afirmación:

• Una afirmación de identidad o existencia: «Existe una plataforma o herramienta que lleva este nombre».
• Una afirmación de propiedad: «Su proveedor declara que utiliza visión por computador para detectar síntomas de enfermedad».
• Una afirmación de rendimiento: «Alcanzó un 95% de exactitud en una tarea específica».
• Una afirmación de impacto: «Redujo las pérdidas de los agricultores o mejoró sus ingresos en condiciones reales de funcionamiento».

La página de un proveedor puede documentar que el producto se ofrece con ese nombre y que la empresa lo describe como un sistema que emplea visión por computador. Pero, en tal caso, documenta únicamente lo que el proveedor dice de su producto en una fecha determinada. La página por sí sola no aporta una verificación independiente de que la función opere según se describe, ni de que el sistema alcanzara un determinado nivel de exactitud, ni de que su uso condujera de hecho a una reducción de las pérdidas. En cuanto a la cifra de rendimiento, exige una fuente que especifique los datos con los que se probó el modelo, cómo se dividieron los datos, la definición de la métrica empleada, la línea de base con la que se comparó el resultado y los límites de su generalización más allá del entorno del estudio. Aun cuando se acredite que el modelo alcanzó una exactitud del 95% en una prueba concreta, ese resultado no prueba automáticamente un impacto económico o agrícola. Probar una reducción de las pérdidas exige un diseño que mida lo que ocurrió en el campo, compare el resultado con lo que habría ocurrido en ausencia del sistema y tenga en cuenta los costes, los riesgos y otros factores que podrían explicar la mejora. Tres preguntas gobiernan el examen de toda afirmación Por ello, el método del libro trata la afirmación verificable como unidad básica de examen. Esto significa descomponer el enunciado compuesto en unidades claras y plantear después tres preguntas a cada unidad:

1. ¿De qué tipo de afirmación se trata?

¿Es una afirmación de identidad, de propiedad, de rendimiento o de impacto?

2. ¿Cuál es la fuente apropiada para probarla?

¿Requiere un documento oficial, un estudio de rendimiento, una evaluación de campo o material técnico?

3. ¿Cuáles son los límites de la formulación que permite la fuente?

¿Qué puede decirse con confianza y qué constituiría una generalización que excede la evidencia?

Tras el examen, las afirmaciones no se agrupan todas en una única categoría, sino que se clasifican conforme a grados claros:

• Verificada: respaldada por material adecuado, y su cadena de prueba puede rastrearse.
• Verificada dentro de unos límites: establecida en un estudio o contexto específico, y no generalizable más allá de él.
• Descripción atribuida: expresa lo que una entidad o empresa dice de su producto, no una evaluación independiente del mismo.
• A la espera de verificación: existe un indicio o una referencia inicial, pero la cadena de prueba está incompleta.
• Inutilizable: no pudo identificarse ninguna fuente coincidente, o se comprobó que la fuente no fundamentaba la afirmación que se le atribuía.

Así pues, si el nombre del producto y su ámbito de uso están acreditados, mientras que su nivel de rendimiento no lo está, no es necesario retirar el producto del mapa del campo; pero, al mismo tiempo, la cifra no puede publicarse como si fuera un hecho completo. El nombre y la descripción de la tarea se conservan dentro de los límites que pudieron documentarse, mientras que la cifra de rendimiento queda temporalmente aislada del texto principal hasta que aparezca una fuente apropiada para ella. Cuarentena científica: proteger la conclusión antes de que la evidencia esté completa Esto es lo que se entiende por cuarentena científica en este libro. No es un juicio de que la idea sea falsa, ni una acusación contra la fuente o el producto, sino una decisión editorial que impide que una afirmación incompleta opere dentro del texto como un hecho. Una afirmación puede reabrirse si aparece una fuente primaria coincidente o una verificación independiente suficiente, y puede permanecer fuera de la conclusión si no se cumplen las condiciones para establecerla. De este modo, la cuarentena científica se convierte en un mecanismo para proteger el conocimiento de la precipitación, no en una herramienta para excluir ideas. Sobre esta base, un control riguroso de la evidencia no empobrece el contenido, del mismo modo que el deseo de presentar un libro de amplio alcance no se convierte en una justificación para confundir grados de certeza. El libro puede conservar un mapa rico de aplicaciones, productos e investigación y, al mismo tiempo, trazar una línea clara entre:

• lo que sabemos sobre la base de una evidencia apropiada;
• lo que sabemos dentro de condiciones y contextos especificados;
• lo que la parte dice de sí misma;
• y lo que aún espera una fundamentación suficiente.

El rigor científico no hace el conocimiento menos amplio; más bien, hace más claras sus fronteras. Cuando el lector sabe de dónde procede un enunciado, qué lo respalda y dónde termina su alcance, la cautela deja de parecer un signo de debilidad y se convierte en el fundamento que da su sentido a la confianza.

3. De la exactitud del modelo a la calidad de la toma de decisiones agrícolas

Un modelo de inteligencia artificial puede obtener resultados elevados en las pruebas, sobre todo cuando se evalúa con datos limpios y completos que se asemejan a los datos con los que fue entrenado. Sin embargo, este éxito técnico por sí solo no garantiza que vaya a cambiar una decisión agrícola en la práctica. El modelo puede resultar imposible de ejecutar en el teléfono o el dispositivo disponible en el campo, puede exigir una conexión constante a internet, puede emitir su alerta solo después de que haya pasado la oportunidad de salvar el cultivo, o puede ofrecer una recomendación confiada aunque la imagen no sea nítida o los datos estén incompletos. En tales casos, el resultado numérico sigue siendo impresionante, pero su valor práctico es limitado. A la inversa, otro modelo puede registrar un rendimiento algo inferior en las pruebas y, aun así, ser más ligero de ejecutar, más capaz de operar en condiciones de campo y más franco acerca de los límites de su conocimiento. Si los datos son insuficientes, se abstiene de emitir una recomendación categórica y pide una imagen o una medición adicional, o deriva el caso a un ingeniero agrónomo. Si detecta un riesgo, emite una advertencia temprana que da al agricultor tiempo suficiente para inspeccionar y actuar antes de que se cierre la ventana de intervención; es decir, el periodo durante el cual el tratamiento o la prevención siguen siendo posibles y eficaces. Este modelo puede resultar, por tanto, más útil, aunque no tenga la puntuación más alta en los resultados de las pruebas. Considérese un ejemplo práctico: un modelo para diagnosticar una enfermedad vegetal puede identificar la infección con alta exactitud y, sin embargo, detectarla solo después de que los síntomas se hagan evidentes y la enfermedad se haya extendido ya por una amplia superficie. En la práctica, puede verse superado por un modelo algo menos exacto que capta las señales tempranas, declara su nivel de confianza y distingue un caso que puede vigilarse de otro que requiere examen humano urgente. El primero describe bien el problema una vez que ya ha ocurrido; el segundo ayuda a las personas a decidir mientras la decisión aún puede afectar al resultado. Esto no significa menospreciar la importancia de la exactitud ni aceptar un modelo débil con el pretexto de que es fácil de operar. El rendimiento técnico sigue siendo una condición esencial, sobre todo en decisiones que pueden afectar a la seguridad de los cultivos, de los animales o de las personas. Pero el valor agrícola no lo produce una sola cifra; lo produce un sistema integrado que combina una exactitud aceptable y fundamentada, datos apropiados al contexto, un funcionamiento fiable, una advertencia oportuna, una recomendación comprensible y ejecutable, y una abstención responsable cuando la evidencia es insuficiente. El mejor modelo, entonces, no es siempre el que más sabe dentro del laboratorio, sino el que ayuda a las personas a tomar una decisión más sólida en el lugar y el momento en que esa decisión aún puede cambiar el resultado. Por esta razón, deben distinguirse cinco niveles de éxito:

Estos niveles no son nombres distintos del mismo éxito, sino eslabones de una única cadena. Un modelo puede ser exacto y, aun así, no adecuarse al entorno local; puede adecuarse a ese entorno y fallar el servicio; el servicio puede funcionar y la recomendación llegar demasiado tarde o seguir siendo vaga; y el agricultor puede tomar una decisión mejor sin que su beneficio llegue a hacerse visible en una campaña excepcional. Por tanto, ningún juicio sobre la tecnología está completo si no se recorre todo el camino: desde la corrección de la predicción, a su adecuación a la explotación, a su llegada oportuna, después a la decisión que cambió y, por último, al efecto que tuvo en el campo y en las cuentas del agricultor. La cadena de evidencia puede representarse así: Datos válidos ↓ Un modelo apropiado ↓ Verificación independiente ↓ Operación fiable ↓ Una recomendación comprensible ↓ Una acción viable y oportuna ↓ Un resultado agrícola ↓ Impacto económico, ambiental y social Una afirmación no está autorizada a saltarse un eslabón que falta. Si la evidencia disponible se refiere al rendimiento del modelo, la conclusión se enmarca dentro de esos límites. Si la evidencia es un ensayo de campo breve, no se presenta como operación estable a lo largo de las campañas. Y si el rendimiento cambia, el cambio no se atribuye al sistema antes de considerar la meteorología, la superficie, los insumos y la línea de base.

4. Métricas distintas para tareas distintas: ¿qué significa la cifra que se comunica?

Los estudios y las páginas de producto están llenos de expresiones como «alta exactitud», «rendimiento avanzado» y «resultados que superan a los modelos anteriores». Sin embargo, una cifra, por deslumbrante que parezca, no se explica a sí misma. Antes de preguntar ¿cuán alta fue la exactitud?, deberíamos plantear una pregunta anterior: ¿qué tarea se estaba midiendo y qué tipo de error puede producirse en ella? La inteligencia artificial puede emplearse para responder a preguntas completamente distintas:

• ¿Está la planta infectada o sana?
• ¿Dónde se encuentra el fruto o el insecto dentro de la imagen?
• ¿Cuál es la superficie de la parte afectada de la hoja?
• ¿Cuál es el rendimiento esperado al final de la campaña?
• ¿Puede el robot recoger el fruto sin dañarlo?
• ¿Redujo realmente el sistema de riego el consumo de agua?

Estas tareas no pueden medirse todas con el mismo rasero. Tampoco es admisible colocar sus cifras en una única tabla y ordenar las aplicaciones de mayor a menor como si compitieran en una sola prueba. Cada métrica ilumina un aspecto del rendimiento y deja otros aspectos en la sombra. El lector no necesita memorizar las ecuaciones matemáticas que hay detrás de estas métricas. Lo que importa es comprender tres cosas: a qué pregunta responde la métrica, qué error puede ocultar y cómo se relaciona con la decisión agrícola. Primero: cuando la tarea consiste en clasificar un estado: ¿está la planta enferma o sana? Supongamos que una aplicación recibe la imagen de la hoja de una planta y la clasifica en uno de dos estados: «enferma» o «sana». Esto puede parecer sencillo, pero el modelo puede producir cuatro resultados distintos:

Estos cuatro resultados son la base de la que se derivan la mayoría de las métricas de clasificación. Las diferencias entre las métricas no son un lujo estadístico; cada una de ellas atiende a un aspecto distinto del error. Exactitud global: ¿cuántas respuestas acertó el modelo? La exactitud global es la proporción del total de predicciones que son correctas, ya se trate de casos enfermos detectados correctamente o de casos sanos correctamente excluidos. Si el modelo examina cien imágenes y acierta noventa de ellas, su exactitud global es del 90%. Esta cifra parece clara, pero puede volverse engañosa cuando una clase es mucho más numerosa que la otra. Supongamos, por ejemplo, que tenemos cien imágenes: noventa y cinco que muestran plantas sanas y solo cinco que muestran plantas enfermas. Si un modelo débil declara que todas las imágenes están sanas, acertará en noventa y cinco casos, lo que arroja una exactitud global del 95%. Y, sin embargo, no habrá detectado ni una sola de las cinco infecciones. Así pues, la exactitud global responde a la pregunta: ¿Con qué frecuencia acertó el modelo en conjunto? Pero no responde por sí sola a la pregunta más importante en este ejemplo: ¿Cuántas infecciones reales fue capaz de detectar el modelo? Exhaustividad/sensibilidad, o la capacidad de detectar los casos enfermos La exhaustividad, también conocida como sensibilidad, mide la proporción del total de casos genuinamente enfermos que el modelo detectó con éxito. En el lenguaje del agricultor, la pregunta es: Si la enfermedad está realmente presente, ¿qué probabilidad hay de que el sistema la detecte en lugar de dejarla pasar sin alerta? La exhaustividad es especialmente importante cuando pasar por alto un caso enfermo resulta muy peligroso: por ejemplo, con una enfermedad de rápida propagación, un signo temprano de un trastorno de salud en un rebaño o una plaga que puede contenerse si se detecta a tiempo. Una exhaustividad alta significa que el modelo pasa por alto menos casos enfermos. Pero no significa necesariamente que toda alerta que emite sea correcta; el sistema puede aumentar la exhaustividad emitiendo muchas alertas, unas verdaderas y otras falsas. Especificidad, o la capacidad de excluir los casos sanos La especificidad mide la proporción de casos sanos que el modelo identificó correctamente como sanos. La pregunta aquí es: Si la planta está sana, ¿cuál es la probabilidad de que el sistema no la clasifique erróneamente como enferma? La especificidad importa cuando las falsas alarmas conllevan un coste elevado, como enviar equipos de inspección, interrumpir operaciones de producción, tomar muestras de laboratorio o plantearse un tratamiento innecesario. Pero una especificidad alta por sí sola no garantiza que el modelo detecte los casos enfermos. Puede ser muy conservador a la hora de emitir alertas, reduciendo así el número de falsas alarmas, pero a costa de pasar por alto infecciones reales. Precisión: ¿cuántas alertas positivas fueron correctas? En árabe, esta métrica se traduce a veces como iḥkām («exactitud»), pero ese término puede no resultar claro para los lectores. Su significado práctico es más sencillo de lo que sugiere la etiqueta: De todos los casos que el sistema declaró enfermos, ¿cuántos lo estaban realmente? Si el sistema emite diez alertas y la inspección muestra que solo seis son correctas, entonces su precisión no es perfecta: cuatro alertas fueron falsas. Esta métrica importa cuando dar seguimiento a una alerta resulta costoso o puede conducir a una intervención sensible. Si cada alerta exige un análisis de laboratorio, la visita de un especialista o la parada de una parte de la línea de producción, no basta con que el sistema capte la mayoría de los casos enfermos; también debe evitar ahogar al usuario en falsas alarmas. Aquí se hace evidente la diferencia entre precisión y exhaustividad:

• La exhaustividad pregunta: de los casos que estaban realmente enfermos, ¿cuántos detectó el modelo?
• La precisión pregunta: de los casos que el modelo declaró enfermos, ¿cuántas alertas fueron correctas?

Un modelo puede ser sólido en un aspecto y débil en el otro; por tanto, la elección de la métrica debe vincularse a las consecuencias reales del error en el contexto agrícola. Puntuación F1: ¿equilibra el modelo la detección de la infección con la corrección de sus alertas? La puntuación F1 combina la exhaustividad y la precisión en un único valor. Se eleva cuando el modelo logra dos cosas a la vez:

• Detectar una buena proporción de los casos enfermos.
• Evitar la emisión de un gran número de alertas falsas. Puede verse como una puntuación concisa del equilibrio entre no pasar por alto la infección y no exagerar las advertencias sobre ella. Si el modelo detecta todas las infecciones pero emite muchas alertas falsas, su puntuación F1 no será tan alta como debiera. Lo mismo ocurre si sus escasas alertas son correctas pero pasa por alto muchas infecciones. Ahora bien, combinar ambas dimensiones en una sola cifra tiene un precio: puede ocultar el hecho de que un tipo de error es más peligroso que el otro. En una enfermedad epidémica de rápida propagación, pasar por alto una sola infección puede resultar más dañino que enviar a inspección varios casos sanos. En cambio, en una intervención de alto coste o de alto riesgo, la propia falsa alarma puede convertirse en un problema grave. Por tanto, la puntuación F1 no dice que el modelo sea automáticamente «seguro» o «adecuado»; dice únicamente que ha alcanzado cierto grado de equilibrio matemático entre dos tipos de rendimiento. El equilibrio que se requiere en la agricultura lo determinan las consecuencias del error y la naturaleza de la decisión.

La matriz de confusión: una tabla que muestra dónde acertó el modelo y dónde se equivocó Pese a su nombre desconcertante, la matriz de confusión no es un acertijo matemático ni un indicador único como la exactitud global. Es, sencillamente, una tabla que reúne los cuatro resultados anteriores:

• Casos enfermos detectados correctamente.
• Casos enfermos que el modelo pasó por alto.
• Casos sanos correctamente excluidos.
• Casos sanos clasificados erróneamente como enfermos. El valor de la matriz de confusión reside en que no oculta los errores tras una cifra agregada. Dos modelos pueden alcanzar la misma exactitud global y, sin embargo, uno pasa por alto enfermedades peligrosas mientras el otro emite muchas alertas falsas. La cifra agregada puede hacerlos parecer similares, pero la tabla de errores revela la diferencia que importa al agricultor. De ahí el nombre más sencillo que puede acompañar al término:

Matriz de confusión: una tabla que muestra los tipos de respuestas correctas e incorrectas. ¿Cómo elegimos el indicador adecuado en el diagnóstico? No existe un único indicador que sea el mejor en todos los casos. La elección depende de la pregunta agrícola y de la consecuencia de cada tipo de error.

• Si pasar por alto la enfermedad pudiera provocar una propagación extensa o pérdidas difíciles de revertir, la sensibilidad (Recall) se convierte en una prioridad alta.
• Si responder a cada alerta resulta costoso o puede llevar a una intervención innecesaria, la precisión (Precision) y la especificidad (Specificity) cobran mayor importancia.
• Si las clases están desequilibradas, la exactitud global por sí sola no basta.
• Si queremos una cifra comparativa que resuma el equilibrio entre la detección de casos y la corrección de las alertas, podemos usar F1, remitiéndonos siempre al detalle de los errores.
• Si queremos saber exactamente dónde se equivocó el modelo, acudimos a la matriz de confusión.

La aplicación no debe pasar del reconocimiento inicial a una recomendación de tratamiento sensible basándose únicamente en esta evaluación. El éxito de un modelo al distinguir una imagen sospechosa no establece, por sí solo, la corrección del diagnóstico causal ni la idoneidad de la intervención propuesta. Puede seguir siendo necesaria la inspección de campo, el análisis de laboratorio, la revisión de un especialista y la consulta de la etiqueta oficial y de la normativa local. Segundo: cuando la tarea consiste en determinar la ubicación de un objeto o trazar sus límites La clasificación suele responder a una pregunta del tipo: «¿Hay un insecto en la imagen?». Pero algunas aplicaciones requieren información más precisa:

• ¿Dónde se encuentra exactamente el insecto?
• ¿Cuántos frutos aparecieron en la imagen?
• ¿Cuál es la posición de la mala hierba entre las líneas del cultivo?
• ¿Qué superficie de la hoja está afectada?
• ¿Dónde termina la parte sana y empieza el tejido dañado? Aquí pasamos de la clasificación a dos tareas visuales más detalladas:

1. Detección: el sistema identifica la ubicación del objeto dentro de un recuadro o un área aproximada, como dibujar un recuadro alrededor de cada fruto.
2. Segmentación: el sistema traza los límites precisos del objeto o de la región, como identificar con mayor detalle el área de una mancha de enfermedad en la hoja. Dado que la pregunta ya no es meramente «¿Está presente el objeto?», necesitamos medidas que comparen la ubicación y los límites del objeto con la ubicación correcta determinada por expertos en las imágenes de referencia.

Intersección sobre unión (IoU): ¿en qué medida coincidió la región predicha con la región correcta? Supongamos que un experto trazó los límites correctos de una mancha de enfermedad en una hoja y que, a continuación, el modelo dibujó una región que predijo que representaba esa misma mancha. La medida de intersección sobre unión compara ambas áreas:

• la parte compartida entre lo que identificó el experto y lo que identificó el modelo.
• el área total cubierta por ambas regiones en conjunto. Cuanto mayor es el solapamiento verdadero y menor la parte sobrante o ausente, más alto es el valor de la medida. Puede entenderse visualmente así:
• un solapamiento completo entre ambas regiones significa un rendimiento ideal en la determinación de los límites.
• un solapamiento parcial significa que el modelo acertó en una parte y se equivocó en otra.
• la ausencia de solapamiento significa que el modelo identificó una ubicación completamente distinta. Pero un valor alto en esta medida no responde a la pregunta de si la región se identificó con precisión suficiente para llevar a cabo una tarea agrícola concreta. Puede ser adecuada para estimar la extensión del área afectada y, aun así, insuficiente para guiar un brazo robótico que exige una mayor precisión espacial.

Coeficiente de Dice: ¿qué grado de similitud hay entre ambas áreas? El coeficiente de Dice también mide el grado de similitud entre la región identificada por el modelo y la región de referencia identificada por el experto. Es conceptualmente próximo a la intersección sobre unión, aunque el método de cálculo difiera. El lector no necesita memorizar la diferencia matemática entre ambas medidas. Lo que importa es que las dos intentan responder a la pregunta: ¿En qué medida trazó el modelo la región correcta, sin dejar fuera partes importantes ni añadir áreas que no le corresponden? El coeficiente de Dice aparece con frecuencia en las tareas de segmentación de imágenes, incluida la identificación de tejidos, hojas, frutos o áreas afectadas. Pero sigue siendo una medida de similitud visual, no una prueba completa del éxito de la decisión agrícola que se construirá sobre esa segmentación. Precisión media promediada (mAP): ¿cómo se comportó el sistema al encontrar objetos y determinar sus ubicaciones? La mAP se utiliza a menudo al evaluar sistemas de detección de objetos en imágenes, como la detección de frutos, insectos, malas hierbas o animales. Es una medida compuesta que resume la calidad de la detección a través de múltiples clases o condiciones de evaluación. En lugar de entrar en su fórmula de cálculo, su función puede entenderse así: ¿Encontró el sistema los objetos requeridos, evitó detectar objetos que no están ahí y determinó sus ubicaciones con un grado aceptable de solapamiento con las ubicaciones correctas? El valor de mAP no debe leerse como una «tasa de éxito agrícola» directa. Si un modelo alcanza una cifra elevada al detectar frutos dentro de un conjunto de imágenes, eso no significa que el robot vaya a recolectar con éxito la misma proporción de frutos. El sistema de visión puede ver bien el fruto, y luego el brazo puede fallar al alcanzarlo, o asirlo con demasiada fuerza, o emplear un tiempo antieconómico, o ser incapaz de trabajar con la iluminación, el polvo y el movimiento de las ramas en el campo. En un sistema robótico, la visión es solo un primer eslabón, seguido de otros eslabones: ver el objetivo ← determinar su posición ← planificar el movimiento ← alcanzarlo ← ejecutar la acción ← evitar daños ← completar la tarea dentro de un tiempo y un coste aceptables. Por esta razón, debe distinguirse la exactitud de la visión del éxito de la operación agrícola completa. Tercero: cuando la tarea consiste en predecir un número: rendimiento, precio o demanda En algunas aplicaciones, el modelo no clasifica la planta como «infectada» o «sana», ni busca un fruto dentro de una imagen; más bien predice un valor numérico, como:

• la cantidad de rendimiento esperada.
• la necesidad hídrica del cultivo.
• el precio esperado en un periodo determinado.
• el volumen de demanda de un producto.
• la vida útil restante en almacenamiento.
• la cantidad de pienso o de energía necesaria. En estos casos, necesitamos conocer el tamaño de la diferencia entre el número predicho por el modelo y el número que se dio realmente. Existen varias formas de calcular esta diferencia, porque cada método revela un aspecto distinto.

Error absoluto medio (MAE): ¿cuánto se equivoca el modelo por término medio, en una unidad que el agricultor entiende? Si el modelo predijo un rendimiento de 5.5 toneladas por hectárea, mientras que el rendimiento real fue de 6 toneladas, el error en este caso es de media tonelada por hectárea. El error absoluto medio suma las magnitudes de estos errores en todos los casos, sin atender a si el modelo sobrestimó o subestimó, y luego calcula su promedio. Su principal ventaja es que se expresa en la unidad de la propia variable:

• toneladas por hectárea al predecir el rendimiento.
• lira por kilogramo al predecir el precio.
• metros cúbicos al predecir el consumo de agua.
• días al predecir la vida útil en almacenamiento. Por eso es uno de los indicadores que más fácilmente se traducen en una pregunta práctica:

Si confío en este modelo, ¿a qué distancia de la realidad estará su predicción por término medio? Pero el promedio puede ocultar unos pocos casos en los que el modelo cometió errores muy grandes; ahí es donde se necesita otro indicador, uno que dé mayor peso a esos errores. Raíz del error cuadrático medio (RMSE): ¿hay errores grandes que el promedio no debería ocultar? El RMSE también mide el error de predicción, pero penaliza los errores grandes más que los pequeños. Si la mayoría de las predicciones del modelo se aproximan a la realidad, pero falla gravemente en algunas campañas o regiones, el efecto de esos fallos aparecerá con mayor claridad en esta medida. Su idea práctica es: No queremos conocer solo el error medio; queremos también que los errores grandes no pasen como si fueran casos ordinarios. Esto adquiere mayor importancia cuando un salto grande en el error afecta a la decisión. Un error limitado al predecir el rendimiento puede ser manejable, pero una desviación grande puede conducir a un contrato de venta inadecuado, a una capacidad de almacenamiento insuficiente o a una estimación errónea del transporte y la financiación. Al igual que el MAE, el RMSE se expresa en la unidad de la propia variable, pero su valor se ve afectado en mayor grado por los casos con errores grandes. Error porcentual absoluto medio (MAPE): ¿qué error porcentual hay respecto al valor real? El MAPE convierte el error en un porcentaje, lo que lo hace atractivo y fácil de presentar. La frase «el error medio alcanzó tal o cual porcentaje» parece más inteligible que una cifra en una unidad que puede diferir entre cultivos y regiones. Pero esta medida puede volverse engañosa cuando el valor real es muy pequeño o cercano a cero. Un error numérico sencillo puede, al dividirse por un valor pequeño, convertirse en un porcentaje enorme que no refleja la importancia práctica del caso. Por tanto, antes de confiar en él, deberíamos preguntar:

• ¿Pueden los valores reales aproximarse a cero?
• ¿Es realmente el porcentaje la forma más adecuada de entender el error?
• ¿Se informó también de la magnitud del error en la unidad original?
• ¿Oculta el porcentaje diferencias importantes entre cultivos, regiones o campañas? La facilidad de lectura del porcentaje no significa que sea siempre adecuado.

El coeficiente de determinación (R²): ¿qué parte de la variación de los resultados fue capaz de explicar el modelo? El coeficiente de determinación mide en qué medida el modelo, dentro de los datos y el método de evaluación empleados, es capaz de explicar la variación de los valores observados. Supongamos que el rendimiento varía entre parcelas y campañas debido a múltiples factores. El modelo intenta explicar parte de esta variación a partir de los datos que se le suministran, como la meteorología, el suelo, la variedad y las prácticas agrícolas. El coeficiente de determinación muestra qué parte de la varianza fue capaz de representar el modelo en comparación con una línea de base estadística dentro del marco de las pruebas. Pero este indicador se malinterpreta con frecuencia. Si un estudio informa de que el R² alcanzó 0.92 en el entorno de evaluación que utilizó [SRC006], no es válido convertir eso en la afirmación: «El sistema tiene una exactitud del 92%». Ambas afirmaciones no significan lo mismo. Un valor de R² no nos dice directamente:

• En cuántas toneladas o kilogramos se equivocó el modelo.
• Si los errores eran económicamente aceptables.
• Si tuvo éxito en una campaña de sequía o en una ola de calor.
• Si mantiene su rendimiento en otra región.
• Si la predicción llegó a tiempo para permitir cambiar la decisión.
• Si fue mejor que una media histórica o que una regla más simple y menos costosa. Por esta razón, es preferible leer el coeficiente de determinación junto a un indicador que muestre la magnitud del error en una unidad inteligible, como el MAE o el RMSE, y junto a una descripción clara de los datos, el lugar, la campaña y el método de prueba.

Un resumen práctico de los indicadores

El número correcto no basta si no es apto para la decisión Tras comprender el indicador, queda la pregunta más importante: ¿midió la evaluación el atributo que el agricultor necesita realmente? Una predicción de rendimiento puede aproximarse a la realidad y, sin embargo, llegar después de que haya pasado el momento de comprar insumos o de concertar los contratos de almacenamiento y comercialización. Un modelo de visión puede detectar una plaga con eficacia y, aun así, no distinguir entre un caso que exige seguimiento y otro que requiere una intervención urgente. Un sistema automatizado puede determinar con exactitud la posición del fruto y, sin embargo, su brazo puede ser incapaz de alcanzarlo sin dañar las ramas. Un sistema de riego puede reducir la cantidad de agua utilizada por kilogramo de rendimiento sin reducir la extracción total de la fuente de agua. Por esta razón, tras leer cualquier indicador técnico, deberían plantearse las siguientes preguntas:

1. ¿Qué tarea midió exactamente el número?

¿Midió la clasificación de imágenes, la localización de objetos, la predicción de cantidades o el éxito de una operación agrícola completa?

2. ¿Con qué datos y en qué entorno se realizó la prueba?

¿Y representan el cultivo, la región, la campaña y los equipos en los que se utilizará el sistema?

3. ¿Qué tipos de errores oculta la cifra agregada?

¿Y es más grave pasar por alto el caso, dar una falsa alarma o retrasar la recomendación?

4. ¿Llegó el resultado antes de que se cerrara la ventana de intervención?

Una predicción correcta después de que haya pasado el momento del riego, del control o de la cosecha es conocimiento tardío, no una decisión útil.

5. ¿Se comportó el sistema mejor que una alternativa más simple?

Como la inspección rutinaria, una regla agronómica clara, una media histórica o un servicio de asesoramiento de menor coste.

6. ¿Pudo el agricultor comprender la recomendación y llevarla a cabo?

La exactitud técnica no se convierte en beneficio si la recomendación es vaga, exige recursos no disponibles o ignora las restricciones locales.

7. ¿Persistió el beneficio tras contabilizar el coste y el riesgo?

Incluidos el precio de los dispositivos, la conectividad, el mantenimiento, la suscripción, la introducción de datos, la formación y los posibles errores.

En suma, los indicadores no son fórmulas arcanas que el lector deba memorizar, ni medallas que otorguen a la tecnología una legitimidad automática. Son herramientas para responder a preguntas concretas. Un lector perspicaz no se deslumbra ante una cifra elevada antes de preguntar qué se midió, qué se omitió, quién soporta el coste del error y si ese rendimiento podría salvar la distancia entre la pantalla de la prueba y una decisión útil en el campo.

5. La escalera de la madurez: de una funcionalidad afirmada al impacto agrícola demostrado

La escritura técnica reduce a veces el estado de un producto a dos palabras: «presente» o «ausente». Pero entre la idea y el impacto agrícola median muchos niveles, y cada nivel tiene su evidencia apropiada. Este libro propone una escalera editorial para entender la madurez. No es una norma reguladora formal, sino una herramienta que ayuda al lector a impedir un salto desde la existencia de una funcionalidad hasta una afirmación de impacto.

No es justo exigir a un modelo de investigación una evidencia operativa comercial que no reivindica, del mismo modo que no es aceptable que un producto comercial utilice el resultado de un modelo prototipo como prueba de impacto en el campo. Un sistema puede estar avanzado en un nivel y rezagado en otro. Su arquitectura de software puede ser madura, mientras que la evidencia agrícola sigue siendo preliminar. Un ensayo de campo puede tener éxito, mientras que los derechos sobre los datos o el plan de mantenimiento siguen sin madurar. Por tanto, la preparación no es reducible a una única puntuación cuando sus dimensiones difieren. Tres preguntas revelan el salto ilegítimo Al leer cualquier descripción de una aplicación, pregunte:

1. ¿Cuál es el nivel más alto que la evidencia ha establecido realmente?
2. ¿A qué nivel salta la declaración de marketing?
3. ¿Cuál es el eslabón que falta entre ambos?

Si la fuente establece la existencia de un componente mientras la declaración habla de reducir pérdidas, lo que se requiere no es mejorar la redacción, sino evidencia que cubra la distancia que aún no se ha establecido.

6. Límites de transferibilidad regional: trasladar modelos entre entornos agrícolas

Restringir el resultado de un modelo agrícola de inteligencia artificial a las condiciones de prueba en las que se produjo puede parecer excesivamente cauteloso, pero la importancia de esa cautela se hace evidente cuando uno se plantea la pregunta práctica: ¿Mantendrá el algoritmo su rendimiento cuando abandone el entorno de entrenamiento y de prueba y se utilice en un campo que difiere en clima, suelo, cultivos y prácticas agrícolas? El modelo no aprende «agricultura» en abstracto; más bien aprende relaciones estadísticas dentro de unos datos que procedían de suelos, climas, variedades, dispositivos y métodos de medición específicos. Cuando uno de estos elementos cambia, el modelo no fracasa necesariamente, pero su rendimiento anterior pierde su validez como promesa directa y vuelve a ser una hipótesis que exige una nueva verificación.

Esta tabla no debe leerse como una lista de prohibiciones, sino como un plan de pruebas. Cuanto mayor sea la brecha entre el entorno de entrenamiento y el entorno de uso, mayor será la necesidad de un ensayo local limitado antes de una adopción generalizada. Plan de verificación local previo a la adopción El plan puede incluir:

1. Seleccionar una muestra que represente las parcelas, las variedades y las condiciones de destino.
2. Probar con los dispositivos y las redes que la gente utilizará realmente.
3. Comparar el sistema con la práctica actual o con una regla simple apropiada.
4. Examinar el rendimiento en clases raras y en casos poco familiares.
5. Proporcionar una clase «desconocido» o un mecanismo de abstención.
6. Definir los casos que requieren revisión de un especialista.
7. Vigilar el cambio del rendimiento a lo largo de la campaña.
8. Registrar las interrupciones, las lecturas corruptas y las intervenciones humanas.
9. Medir el resultado agrícola, no solo el indicador técnico.
10. Reevaluar si cambian la variedad, el dispositivo, la fuente de datos o el entorno regulador.

Exigir una verificación local no significa que la tecnología carezca de valor fuera de su lugar de desarrollo; significa que su valor debe demostrarse allí donde las personas y la tierra soportarán las consecuencias de la decisión.

7. El error no es un número único: ¿quién paga la decisión equivocada?

Los errores de la inteligencia artificial no son iguales en significado ni en consecuencia. Dos sistemas pueden equivocarse en la misma proporción y, sin embargo, uno causa un inconveniente limitado que puede subsanarse, mientras que el otro abre la puerta a la pérdida de cosecha, al desperdicio de recursos o a riesgos para los alimentos, los animales o los trabajadores. Por tanto, no basta con preguntar: ¿Cuántas veces se equivocó el modelo? También deberíamos preguntar: ¿En qué dirección se equivocó, cuándo se equivocó, qué decisión vino después y quién soportó el coste? En el laboratorio, un error no es más que un caso dentro de una tabla. En la explotación, puede convertirse en agua aplicada en el lugar equivocado, una enfermedad que queda sin detectar, un cultivo tratado sin necesidad, un envío cuya refrigeración se retrasó o un trabajador que recibió una alerta después de que se cerrara la ventana de intervención. El riesgo, por tanto, no se mide por el número de errores por sí solo, sino por el peso de sus consecuencias. Dos modelos pueden parecer próximos en exactitud global y diferir radicalmente en valor práctico. El primero puede emitir alertas en exceso y, sin embargo, pasar por alto rara vez un caso peligroso; el segundo puede resultar menos molesto y, no obstante, permanecer a veces en silencio cuando el silencio resulta costoso. ¿Cuál es mejor? La cifra agregada no puede responder por sí sola; la respuesta depende de la naturaleza de la tarea, del coste de la inspección, del peligro del retraso, de la reversibilidad de la decisión y de la capacidad humana de intervenir. El error puede surgir en el modelo o ser producido por el sistema circundante Resulta fácil atribuir todo el error al «algoritmo», pero el sistema agrícola digital es una cadena interconectada: Sensor o imagen ← datos transmitidos ← el modelo los analiza ← alerta o recomendación ← el usuario la interpreta ← se ejecuta la acción ← el resultado aparece en el campo. El algoritmo puede ser correcto mientras la lectura del sensor es antigua o defectuosa. El análisis puede ser correcto, pero la aplicación lo muestra en una unidad de medida equivocada. La recomendación apropiada puede llegar al teléfono del agricultor después de que se haya cerrado la ventana de intervención. El usuario puede entender la alerta como una orden definitiva, cuando solo era una señal preliminar que requería inspección. De hecho, el error puede producirse después de que el modelo haya salido por completo de escena. El sistema puede enviar una orden correcta al dispositivo de riego, pero un fallo en la conexión provoca que la orden se repita. La cantidad puede registrarse en litros por hectárea, mientras otro programa la interpreta en una unidad distinta. El sistema puede basarse en una lectura de humedad de un sensor que no se ha calibrado desde hace tiempo y construir así una inferencia lógica sobre una información incorrecta. Por esta razón, deben distinguirse tres niveles:

• Error del modelo: se equivocó en la clasificación, la estimación o la predicción.
• Error de decisión: la información era insuficiente, o se interpretó de un modo que no se ajustaba al caso.
• Error del sistema: fallaron los datos, el software, el hardware, los módulos o las vías de ejecución, convirtiendo un resultado correcto o aceptable en una acción errónea. Esta distinción es necesaria porque cada nivel exige un remedio distinto. Mejorar el modelo no arregla un sensor defectuoso, añadir más datos no subsana una interfaz ambigua y elevar la exactitud no impide que una instrucción se ejecute dos veces por un fallo del software.

Falso positivo: una alerta de que existe un problema cuando no existe Un falso positivo se produce cuando el sistema declara la presencia de una enfermedad, una plaga, un fallo o un riesgo cuando la condición no está realmente presente. Dicho de forma más sencilla: el sistema emitió una alerta, pero la inspección posterior no halló tal problema. La consecuencia de este error puede ser limitada. Si, por ejemplo, la aplicación sugiere que el agricultor visite una parte cercana del campo para verificar una mancha sospechosa, y la inspección es rápida, segura y de bajo coste, el daño puede no pasar de algo de tiempo y esfuerzo. En ese caso, cierto grado de exceso de alertas puede ser aceptable si ayuda a evitar que se pasen por alto casos graves. Pero una alerta falsa no siempre sigue siendo algo sencillo. Su consecuencia se agrava cuanto más se aproxima a la ejecución automatizada o cuanto mayor es el coste de responder a ella. Algunos ejemplos son:

• un modelo visual interpreta los síntomas de una carencia de nutrientes como una enfermedad fúngica, lo que lleva al usuario a plantearse un tratamiento que no aborda la causa real.
• un sistema de riego interpreta una lectura inexacta como estrés hídrico y recomienda regar un suelo que todavía contiene humedad suficiente.
• un sistema de vigilancia animal emite alertas repetidas sobre una condición de salud inexistente, consumiendo el tiempo del trabajador o del veterinario y llevando al aislamiento innecesario de un animal.
• un sistema de cadena de frío interpreta una lectura anómala de un sensor defectuoso como una subida real de temperatura, lo que provoca una inspección, una parada o una intervención operativa costosa.
• un sistema de visión detecta una mala hierba en una sombra o entre restos vegetales y envía después su ubicación a una máquina de eliminación o a una unidad de pulverización localizada. La consecuencia de una misma alerta varía, por tanto, según lo que venga después. Si solo conduce a una inspección humana, puede ser tolerable. Pero si activa directamente una bomba, cambia el clima de un invernadero, aplica un producto químico o excluye un envío, entonces la alerta falsa se convierte en una fuente potencial de daño económico, ambiental o relacionado con la seguridad. Su perjuicio tampoco se limita a cada incidente individual. Las alertas falsas repetidas generan lo que se denomina fatiga de alerta: el usuario se acostumbra a oír la alerta y empieza entonces a aplazarla o a ignorarla. En ese punto, el sistema puede perder credibilidad antes de que llegue el momento en que su alerta sea correcta e importante.

Falso negativo: un problema real que el sistema no vio Se produce un falso negativo cuando el problema existe, pero el sistema no lo detecta o clasifica el caso como normal. Dicho directamente: había un problema que merecía atención, pero el sistema permaneció en silencio. Este error puede ser más peligroso que una alerta falsa, sobre todo cuando las pérdidas crecen con el tiempo. Algunos ejemplos:

• una infección temprana de la planta que la aplicación no logró detectar, de modo que continuó hasta extenderse de un número limitado de plantas a una superficie mayor.
• una plaga que no apareció con claridad en la imagen o que no estaba representada en los datos de entrenamiento del modelo, de manera que el sistema la clasificó como una condición normal.
• el inicio de un estrés hídrico que el sistema no logró detectar, de modo que la planta rebasó una etapa en la que la situación podría haberse corregido con un impacto limitado.
• un cambio anómalo en el comportamiento de un animal que el sistema de monitorización no captó, lo que retrasó el examen veterinario.
• un aumento real de la temperatura de un envío que el sistema no registró por un fallo del sensor o una interrupción en la transmisión de datos, de modo que el envío avanzó a una etapa posterior de la cadena sin revisión.
• un fallo en desarrollo dentro de una bomba o una unidad de refrigeración que el sistema de mantenimiento predictivo no detectó, de manera que el funcionamiento continuó hasta que se produjo una parada más grave. El peligro de este tipo reside en que el usuario puede no saber que el sistema se ha equivocado. Una alerta falsa llama la atención sobre sí misma, pero el caso que el modelo pasó por alto puede permanecer oculto hasta que aparezcan sus efectos. Por esta razón, la detectabilidad del error forma parte de la evaluación del riesgo, y no solo la probabilidad de que ocurra. En aplicaciones en las que un caso no detectado es muy peligroso, el sistema puede ajustarse para ser más sensible, es decir, más inclinado a derivar los casos sospechosos a inspección, aunque ello conduzca a un aumento de las alertas falsas. Pero esta opción no es automáticamente correcta; hay que verificar que la capacidad humana de inspección pueda absorber el número de alertas, pues de lo contrario una sensibilidad elevada se convierte en una congestión que despoja al sistema de su utilidad.

Error de oportunidad temporal: una respuesta correcta que llegó después de que se cerrara la ventana de decisión El modelo puede acertar en el tipo y la magnitud del problema, pero su recomendación llega en un momento en el que actuar ya no es posible ni merece la pena. Esto es el error de oportunidad temporal: el problema no reside únicamente en si la información es correcta, sino en dónde se sitúa dentro del calendario agrícola. Las decisiones agrícolas operan dentro de una ventana de intervención: un periodo limitado durante el cual la acción puede alterar el resultado. Una vez cerrada esta ventana, incluso las mejores recomendaciones pueden convertirse en una descripción de lo ocurrido en lugar de un medio para cambiarlo. Algunos ejemplos:

• pronosticar la lluvia después de que el riego se haya completado, cuando el pronóstico ya no puede ahorrar agua ni energía.
• detectar una infección después de que haya rebasado la etapa en la que podía contenerse mediante inspección local o una intervención limitada.
• enviar una alerta de helada después de que las temperaturas hayan entrado ya en el rango crítico, pese a que las medidas de protección requieren tiempo para prepararse y activarse.
• predecir la maduración del fruto después de que se haya perdido la oportunidad de organizar la mano de obra, el envasado o el transporte.
• detectar un fallo de refrigeración después de que el envío haya salido de un punto en el que el fallo podría haberse reparado o la ruta modificado.
• proporcionar una previsión de precios después de que se haya cerrado el contrato de venta o se hayan cerrado las opciones disponibles de almacenamiento y comercialización. Por esta razón, no basta con que un estudio de evaluación pregunte: «¿Fue correcto el pronóstico?». También debería preguntar: «¿Con cuánta antelación al suceso llegó? ¿Y fue ese margen suficiente para llevar a cabo la acción?». Un modelo algo menos exacto puede tener más valor si proporciona un aviso temprano sobre el que se puede actuar que un modelo más exacto que llega después de que haya pasado la oportunidad de actuar.

Error de magnitud: la acción es correcta, pero su cantidad es inapropiada En algunos casos, el sistema reconoce la necesidad correcta pero se equivoca en la magnitud de la respuesta. Puede reconocer que el cultivo necesita riego, pero estimar una cantidad mayor o menor de la requerida. Puede determinar que la ventilación o la refrigeración son necesarias, pero recomendar un grado o una duración que no se ajustan a las condiciones reales. Esto es el error de magnitud: la dirección de la decisión es correcta, mientras que su cantidad, su intensidad o su duración son incorrectas. La gravedad de este error se manifiesta en numerosas aplicaciones:

• Riego: un exceso puede desperdiciar agua y energía y aumentar el lavado o la asfixia radicular; un defecto puede dejar el estrés sin resolver pese a haberse aplicado el riego.
• Fertilización: el nutriente sugerido puede ser el adecuado, pero la cantidad o el momento de aplicación pueden no ajustarse al suelo o a la etapa del cultivo.
• Invernaderos: la necesidad de refrigeración puede ser real, pero un cambio brusco o prolongado puede crear otra forma de estrés o aumentar el consumo de energía.
• Alimentación animal: ajustar la ración puede estar justificado, pero la magnitud del ajuste no debería considerarse al margen del estado productivo, del estado sanitario y de la composición completa de la ración.
• Almacenamiento y secado: puede ser necesario reducir la humedad o la temperatura, pero un tiempo de funcionamiento excesivo o insuficiente puede afectar a la calidad y al coste. Lo que está en juego es mayor cuando entran en la decisión productos químicos, medicamentos veterinarios o plazos de espera. En estos ámbitos, las estimaciones del modelo por sí solas no deben convertirse en una dosis ni en una orden de ejecución. Debe recurrirse a la etiqueta oficial, al registro local, a las instrucciones de la autoridad competente y a un especialista cualificado, respetando las dosis, los plazos de seguridad previos a la cosecha, los periodos de reentrada y demás requisitos de seguridad vinculantes.

Error de contexto: información que es correcta en un lugar y errónea en otro No todo error resulta de un modelo débil. A veces la información es correcta en el entorno en el que se produjo, pero se transfiere a un usuario cuyas condiciones difieren de un modo que la hace inaplicable. La decisión puede cambiar por diferencias en:

• la variedad, la raza o la etapa de desarrollo.
• el tipo de suelo, su salinidad y su capacidad de retención de agua.
• el clima local, la intensidad de la radiación, la humedad y los vientos.
• la presión de plagas y enfermedades y su propagación en la región.
• el sistema de riego, los equipos disponibles y la exactitud de los sensores.
• la forma y la escala de la explotación, y la disponibilidad de mano de obra y de experiencia técnica.
• los precios de los insumos y de la energía, y el coste de las alternativas.
• los productos legalmente registrados, los plazos de seguridad y las restricciones regulatorias.
• la lengua en la que el usuario comprende la alerta y su capacidad para actuar en consecuencia. Un estudio académico puede describir la respuesta de un cultivo en unas condiciones experimentales específicas, y el resultado puede después convertirse dentro de una aplicación en una recomendación general para todas las regiones. Un asistente inteligente puede citar el nombre de una sustancia o de una práctica a partir de una fuente extranjera, aunque su registro o sus condiciones de uso difieran en el país del usuario. Un modelo de enfermedades puede funcionar bien con imágenes tomadas con buena iluminación para un híbrido concreto, y después debilitarse ante otra variedad, la cámara de otro teléfono o síntomas que se solapan con una deficiencia de nutrientes. La validez científica no significa aquí negarse a transferir conocimiento entre entornos; significa declarar los límites de la transferibilidad y ponerlos a prueba. La pregunta no es solo: «¿Es correcta la información?», sino también: «¿Correcta para quién, dónde, en qué campaña y bajo qué condiciones?».

Error de datos e integración: cuando el algoritmo es inocente y la decisión es errónea En los sistemas agrícolas digitales, el modelo en sí puede ser sólido, pero los datos que le llegaron, o la forma en que se transmitió su resultado, pueden ser defectuosos. Esta es una categoría importante porque se produce en la interfaz entre la agricultura, el software y el hardware. Algunos ejemplos:

• una lectura de sensor que no se actualizó, pero que la aplicación muestra como si fuera en tiempo real.
• un sensor de humedad sin calibrar que envía lecturas consistentes pero, aun así, incorrectas.
• una confusión entre unidades de superficie, volumen o masa cuando los datos pasan de un sistema a otro.
• el uso de una hora o de un huso horario incorrectos, de modo que la alerta queda asociada a una hora o a un día inadecuados.
• se pierden registros durante un corte de comunicaciones, y el cálculo se realiza después sobre datos incompletos sin avisar al usuario.
• una orden de funcionamiento se repite por un reintento del software, aunque el dispositivo ya haya ejecutado la primera orden.
• un registro de parcela o de cultivo se vincula a otro registro con un nombre similar.
• el sistema sigue utilizando un modelo o una recomendación antiguos después de que hayan cambiado la variedad, la campaña o el plan de producción.
• se muestra una puntuación de confianza alta en la interfaz de usuario de un modo que sugiere certeza, aunque el modelo no haya sido probado en este entorno. Estos errores no se resuelven reentrenando el modelo por sí solo. Requieren verificación de unidades, marcas de tiempo claras, calibración de los sensores, detección de datos ausentes, prevención de órdenes duplicadas, registros de auditoría y pruebas de integración entre el software y el hardware.

Error individual y error a gran escala La consecuencia de un error está ligada no solo a su tipo, sino también a la escala de su propagación. Una recomendación errónea que un ingeniero agrónomo ve y después rechaza es distinta de esa misma orden cuando la ejecuta un sistema automatizado en cientos de válvulas o en miles de hectáreas. La automatización confiere al error dos poderes contradictorios:

• puede ejecutar la decisión correcta con rapidez, de forma consistente y a gran escala.
• puede igualmente repetir el mismo error con rapidez, de forma consistente y a esa misma escala. Cuanto más amplio sea el alcance de la ejecución y menor la intervención humana, mayor será la necesidad de límites operativos, pruebas previas, despliegue gradual, posibilidad de parada manual, un registro que muestre lo ocurrido y un mecanismo que devuelva el sistema a un estado seguro cuando se pierdan los datos o las comunicaciones. El problema no es que la máquina pueda equivocarse una vez; es que un único error de software puede convertirse en una práctica repetida antes de que nadie lo advierta.

El umbral es una decisión profesional, no meramente una cifra estadística Los modelos no dicen siempre, por sí mismos, «infectado» o «sano». Muchos de ellos producen una puntuación que expresa la fuerza de la señal o la confianza del modelo, y los diseñadores del sistema fijan después un umbral a partir del cual la salida pasa de la monitorización silenciosa a la emisión de una alerta. Si el umbral se rebaja, el sistema se vuelve más rápido en sospechar:

• Suele detectar un número mayor de casos verdaderos.
• Pero también puede enviar un número mayor de falsas alarmas. Si el umbral se eleva, se vuelve más conservador:
• el número de falsas alarmas disminuye.
• Pero puede pasar por alto casos verdaderos cuya señal no supera el umbral más alto. No existe un umbral ideal adecuado para todas las aplicaciones. La elección depende de lo que ocurre después de la alerta. Si la aplicación ordena imágenes para determinar cuáles merecen ser examinadas primero por el ingeniero agrónomo, y si ese examen es rápido, barato y seguro, entonces puede ser aceptable rebajar el umbral y derivar un número mayor de casos sospechosos. Pero si el cruce del umbral conduce directamente a poner en marcha una máquina, cambiar el ambiente de un invernadero, excluir un envío o plantear un tratamiento químico, entonces el error adicional puede acarrear un coste que no cabe ignorar. Tampoco debe entenderse la «puntuación de confianza del modelo» como certeza. Si el sistema muestra una puntuación alta, esto no significa necesariamente que la probabilidad real de que la decisión sea correcta equivalga a esa puntuación, a menos que el modelo haya sido sometido a una calibración adecuada y se haya comprobado su significado en el entorno de destino. La interfaz debería, por tanto, explicar los límites de la puntuación, no adornar la recomendación con una cifra que sugiera un grado de certeza del que carece.

¿Cómo cambia el umbral según la decisión?

El riesgo no se mide solo por la probabilidad de error Un error puede ser raro y sin embargo catastrófico, o frecuente y sin embargo de efecto limitado. La evaluación del riesgo exige, por tanto, atender a varias dimensiones a la vez:

1. Probabilidad de ocurrencia: ¿con qué frecuencia se espera que ocurra este error?
2. Gravedad de la consecuencia: ¿causa una molestia limitada, una pérdida económica, un daño ambiental o un riesgo para la seguridad?
3. Escala de exposición: ¿afecta a una sola planta, a una parcela entera, a un rebaño o a una cadena de suministro?
4. Rapidez de progresión del daño: ¿hay horas o días disponibles para intervenir, o el error se vuelve rápidamente irreparable?
5. Detectabilidad del error: ¿lo ve el usuario de inmediato, o permanece oculto hasta que aparece la pérdida?
6. Reversibilidad: ¿puede deshacerse la decisión con facilidad, o su efecto no puede revertirse una vez ejecutada?
7. Grado de automatización: ¿el sistema propone y deja la decisión a la persona, o ejecuta la acción directamente?
8. Partes afectadas: ¿quién obtiene el beneficio y quién soporta el daño si el sistema se equivoca? Por esa razón, una alerta errónea en una pantalla puede ser menos peligrosa que una orden aparentemente correcta ejecutada automáticamente con la unidad de medida equivocada. Y un pequeño error repetido en la estimación del riego puede tener mayores consecuencias a lo largo de toda una campaña que un gran error que ocurrió una vez y se detectó rápidamente.

Antes de adoptar el umbral o de permitir la ejecución El programador no debería elegir el umbral por sí solo; conoce el comportamiento del modelo, pero puede no conocer las consecuencias completas de la decisión agrícola. Tampoco debería determinarlo el especialista agrícola sin datos sobre los tipos de error y sobre la capacidad del sistema para expresar la incertidumbre. Es un punto de encuentro entre el conocimiento agrícola, la ingeniería de software, la economía, la seguridad y la regulación. Por esta razón, las siguientes preguntas deberían responderse con claridad:

• ¿Cuál es la condición que el sistema intenta detectar o predecir?
• ¿En qué datos se basa, y cómo sabemos que son actuales y correctos?
• ¿Qué es más perjudicial en este uso: la falsa alarma o el caso que pasó sin detectarse?
• ¿Quién recibe la alerta, y comprende su significado y sus límites?
• ¿Qué acción se espera después de la alerta?
• ¿Es la acción una mera inspección, o una intervención física, química o financiera?
• ¿Cuál es el coste de llevar a cabo la acción si la alerta es errónea?
• ¿Cuál es el daño si el sistema no emite una alerta pese a que el problema existe?
• ¿Llega la alerta antes de que se agote el tiempo disponible para intervenir?
• ¿Puede revertirse la acción una vez ejecutada?
• ¿Cuántos casos puede revisar el equipo humano sin agotarse?
• ¿Qué hace el sistema cuando los datos son incompletos o contradictorios?
• ¿Puede abstenerse de emitir una recomendación y declarar que no dispone de información suficiente?
• ¿Existe una alternativa manual segura cuando fallan la conexión, el sensor o el servicio?
• ¿Mantiene el sistema un registro que muestre los datos, la recomendación, la acción y quién la aprobó?
• ¿Requiere la decisión la revisión de un especialista o de una autoridad legal o profesional?
• ¿Se probó el sistema completo, desde la recogida de datos hasta la ejecución de la acción, o se probó únicamente el modelo?

El diseño responsable no promete eliminar el error; impide que el error se convierta en daño No hay modelo libre de error, igual que ninguna decisión humana lo está. El objetivo realista no es afirmar la eliminación de la incertidumbre, sino diseñar un sistema que sepa dónde puede equivocarse, detecte el error pronto, limite la propagación de sus efectos y dé al operador humano una oportunidad clara de intervenir. Esto se logra, según el nivel de riesgo, mediante medios como:

• Mostrar el grado de confianza y sus límites en un lenguaje claro.
• Solicitar una imagen o una lectura adicional cuando los datos son insuficientes.
• Abstenerse de emitir una recomendación definitiva en casos no habituales.
• Separar la alerta inicial del diagnóstico o de la decisión final.
• Derivar los casos sensibles a un especialista.
• Utilizar más de una fuente de datos en lugar de depender de un único sensor.
• Fijar límites seguros a las órdenes que pueden ejecutarse automáticamente.
• Exigir aprobación humana antes de las decisiones de alto impacto.
• Proporcionar una parada manual y un modo de funcionamiento seguro en caso de fallo.
• Registrar datos, recomendaciones y órdenes para que la investigación y la revisión sean posibles.
• Vigilar los cambios de rendimiento entre campañas, lugares y variedades.
• Probar las interrupciones, los datos obsoletos, los conflictos de unidades y las órdenes duplicadas, en lugar de probar el modelo únicamente en condiciones ideales. El modelo no decide por sí mismo qué errores pueden tolerarse; esa es una contrapartida agrícola, económica, ética y de seguridad en la que tienen un papel tanto la experiencia humana como el conocimiento técnico. La verdadera medida de la madurez de un sistema no es meramente que se equivoque pocas veces, sino que sepa cómo comportarse ante la duda, cómo detenerse cuando los datos son insuficientes y cómo impedir que un error limitado se convierta en un daño generalizado que no puede revertirse.

8. ¿Cómo comparamos dos aplicaciones, y no dos cifras?

No basta con comparar la cifra más alta con la más baja, porque las aplicaciones pueden diferir en tarea, datos, contexto, madurez y modo de funcionamiento. Una comparación rigurosa comienza por normalizar la pregunta antes de comparar la respuesta. Una ficha de evaluación para una aplicación agrícola

Un campo para el que no se dispone de información no se rellena con conjeturas ni con una media tomada de otro producto; se escribe con claridad: «Desconocido». La información ausente forma parte del resultado de la evaluación, no es un defecto formal que deba ocultarse. Un ejemplo ilustrativo: ¿97% u 89%? Supongamos que existen dos aplicaciones para clasificar imágenes de enfermedades de las plantas:

• La primera aplicación afirma una exactitud del 97% dentro de una base de datos de imágenes seleccionada de una única fuente.
• La segunda aplicación afirma un 89% en una prueba que incluyó distintas explotaciones y dispositivos, ofrece una categoría de «desconocido», se abstiene cuando la calidad de la imagen es deficiente y deriva los casos sensibles a un especialista.

No cabe declarar superior la segunda aplicación por el mero hecho de que su descripción parezca más responsable, del mismo modo que no cabe elegir la primera porque su cifra sea más alta. La comparación exige conocer la tarea, la distribución, el tipo de error, la línea de base, el coste y las condiciones de funcionamiento. Pero el ejemplo revela una regla básica: la cifra más alta no compensa la ausencia de evidencia sobre transferibilidad, seguridad y operación. Una aplicación con la métrica global más baja puede resultar más adecuada para una tarea concreta si se conoce el patrón de sus errores, se declaran sus límites y su vía de escalado es operativamente viable. La comparación correcta no pregunta cuál de las dos cifras es mayor. Pregunta qué sistema, en este contexto, respalda la decisión más útil y menos arriesgada con la evidencia más apropiada.

9. ¿Qué es lo que no aparece en la demostración ni en la página del producto?

La demostración es importante; muestra que el sistema fue capaz de realizar una tarea en determinadas condiciones. Pero la demostración no suele escoger el peor día de la campaña, la conexión más débil, la imagen más ambigua ni el usuario con menos experiencia. Puede faltar información crucial en la demostración o en el resumen, por ejemplo:

• Los casos excluidos antes de las pruebas.

• Las imágenes de mala calidad o las clases poco frecuentes.
• El número de interrupciones de la conexión.
• El tiempo necesario para la limpieza y la preparación de los datos.
• El grado de intervención humana que participó en la producción del resultado.
• El número de falsas alarmas.
• Los casos en que el usuario se abstuvo de aplicar la recomendación.
• El coste de la calibración y del mantenimiento.
• Los fallos que aparecieron después de terminar el ensayo.
• La diferencia entre el mejor emplazamiento y la media del conjunto de emplazamientos.
• El efecto de los cambios de campaña, de dispositivo o de fuente de datos.
• El número de usuarios que dejaron de utilizar el sistema.
• El coste de llevar el sistema de un prototipo a un servicio estable.

Puede decirse que el sistema «redujo el consumo de agua», sin declarar:

• ¿Comparado con qué práctica?
• ¿Disminuyó el uso de agua por hectárea o por tonelada?
• ¿Disminuyó la extracción total de agua de la fuente?
• ¿Se mantuvieron la productividad y la calidad?
• ¿Fue la campaña más lluviosa?
• ¿Se amplió la superficie cultivada?
• ¿Qué ocurrió con el consumo de energía?
• ¿Cuál es el coste del sistema comparado con el valor del ahorro?

También puede decirse que una aplicación «funciona con inteligencia artificial», cuando en realidad el algoritmo es solo una pequeña parte de un servicio cuyo éxito depende de la calidad de la medición, de la conectividad, del soporte, del mantenimiento y de la respuesta del usuario. Señales que justifican detenerse El juicio debería volverse más cauteloso cuando aparecen uno o varios de los siguientes patrones:

• Un porcentaje sin denominador ni definición.
• Exactitud sin descripción del conjunto de prueba.
• Una comparación con un sistema débil o con la ausencia total de intervención.
• Imágenes de éxito sin presentación de los errores.
• Un ensayo breve presentado como si fuera una operación sostenida.
• Un resultado de modelo presentado como si fuera un impacto económico.
• Una descripción del proveedor presentada como si fuera una evaluación independiente.
• La palabra «ahorro» sin informar del consumo total.
• La palabra «instantáneo» sin un tiempo de respuesta medido.
• «Multilingüe» sin probar la comprensión del usuario.
• «Interpretable» sin declarar qué se explica y a quién.
• «Seguro» sin definir el estado seguro o el plan de respuesta ante fallos.

Una demostración prueba que el sistema fue capaz de funcionar una vez en condiciones seleccionadas. Un servicio agrícola, en cambio, prueba que puede funcionar cuando no es él quien elige las condiciones.

10. La evidencia exigida es proporcional al riesgo de la decisión

No toda función digital requiere el mismo grado de prueba. Recordar a un usuario la fecha de inspección de un cultivo no acarrea las consecuencias de una recomendación química o de una decisión crediticia. Pero el bajo coste de la aplicación no reduce las consecuencias de un error si la decisión es sensible.

Nota: Aquí, línea de base significa la referencia con la que se compara el rendimiento del sistema de inteligencia artificial para determinar si aportó un beneficio real. No basta con decir que el sistema «funcionó bien» si no sabemos: ¿bien comparado con qué? La línea de base puede ser uno o varios de los siguientes elementos:

• La práctica actual antes de usar el sistema: como el método habitual del agricultor para estimar el momento del riego o para clasificar la cosecha.
• Los resultados de una campaña o un periodo anteriores: como el rendimiento medio de la parcela en campañas previas, teniendo en cuenta las condiciones distintas.
• Un método simple sin inteligencia artificial: como un calendario fijo de riego, una regla agronómica clara o una media histórica.
• Una estimación de un experto humano: como la previsión de rendimiento del ingeniero agrónomo o el resultado de la clasificación manual.
• Un modelo convencional ya existente: si el proyecto sustituye a un sistema o modelo que ya está en uso.

Ejemplo: predicción del rendimiento Si un modelo de inteligencia artificial predice el rendimiento del cultivo, no basta con decir que su predicción se aproximó al resultado real. Debería compararse, por ejemplo, con el rendimiento medio de la parcela en años anteriores o con el método de estimación que utiliza actualmente el ingeniero agrónomo. Si el modelo no es mejor que esta línea de base simple, o no proporciona su predicción en un momento más adecuado, su utilidad puede no justificar el coste de la recogida de datos y de la operación del sistema. Ejemplo: programación del riego Si el sistema recomienda el momento y la cantidad de riego, la línea de base es el calendario de riego habitual, o la decisión del agricultor basada en la inspección y la experiencia, o una regla de orientación aprobada. Después se comparan los resultados: ¿redujo el sistema el consumo total de agua y de energía? ¿Preservó el rendimiento y la calidad? ¿Redujo el estrés hídrico? ¿Y se mantuvo el beneficio una vez contabilizado el coste de los sensores, la conectividad y el mantenimiento? Ejemplo: clasificación de la cosecha La línea de base puede ser el proceso actual de clasificación manual. La comparación no se limita a la velocidad del sistema; incluye también la proporción de productos clasificados incorrectamente, la consistencia de la calidad, el alcance de los daños, el coste de operación y la capacidad del trabajador para revisar los casos ambiguos. Ejemplo: mantenimiento Si el sistema emite alertas tempranas sobre fallos en bombas o unidades de refrigeración, la línea de base puede ser el calendario de mantenimiento rutinario o el número de fallos y paradas antes de instalarse el sistema. El objetivo es determinar si las alertas redujeron realmente el tiempo de parada y las pérdidas, no simplemente saber cuántas alertas generó la aplicación. Así pues, la línea de base no es un umbral mínimo de aceptación, ni un punto de partida de programación; es más bien una imagen documentada de lo que ocurría antes del sistema, o de lo que puede lograr una alternativa más simple. Sin ella, podemos atribuir a la inteligencia artificial una mejora causada por la meteorología, los cambios de precios, la experiencia del trabajador o las diferencias entre campañas. Si se conserva el término técnico en la tabla, la formulación más clara es: Verificación local, comparación frente a una línea de base clara —es decir, frente a la práctica actual o a una alternativa simple—, monitorización continua durante la operación y provisión de un recurso manual seguro. Funciones de bajo riesgo Puede aceptarse un mayor grado de flexibilidad si el error es fácil de detectar y revertir, y la herramienta no ejecuta una acción dañina. Pero incluso aquí, la plataforma no debería ocultar sus límites ni recoger datos que no necesita. Funciones de riesgo medio Estas requieren comparación frente a una línea de base realista, pruebas con datos locales y en condiciones locales, y comprender qué ocurre si el sistema falla o la conexión se interrumpe. La recomendación puede no ser peligrosa en sí misma, pero puede resultar costosa si se utiliza en una superficie extensa. Funciones de alto riesgo Estas no deberían pasar directamente de la predicción del modelo a la ejecución. Requieren:

• identificar a la persona autorizada para aprobar.
• mostrar la fuente y los límites.
• impedir una respuesta cuando los datos son insuficientes.
• registrar la recomendación y la intervención humana.
• proporcionar una vía de escalado.
• probar el modo seguro.
• separar la información general del juicio profesional o jurídico.

Funciones reguladas por ley El algoritmo no debe sustituir a la etiqueta oficial, a la autoridad competente, al veterinario ni al ingeniero autorizado. Puede ayudar a recopilar información, recuperar documentos y señalar incoherencias, pero no puede conferir un registro legal ni una autoridad profesional de la que carece. La regla que rige este ámbito es que el grado de verificación y de supervisión debe aumentar con la consecuencia del error y con la dificultad de revertirlo.

11. Tres estudios de caso sobre la lectura de la evidencia

Los casos siguientes son ejemplos analíticos con finalidad didáctica, no resultados de nuevos experimentos. Su propósito es mostrar cómo aplicar el método de este capítulo. Caso primero: una aplicación de teléfono para clasificar una enfermedad vegetal La aplicación muestra una imagen de la hoja y devuelve el nombre de una posible enfermedad y una puntuación de confianza. Una lectura rápida diría: la aplicación diagnostica la enfermedad. Una lectura disciplinada, en cambio, descompone la afirmación:

1. ¿Reconoce el modelo un patrón visual dentro de unas clases determinadas, o proporciona un diagnóstico causal completo?
2. ¿Es el conjunto de imágenes representativo de las variedades y del entorno de destino?
3. ¿Se probó con imágenes de teléfono tomadas en campo?
4. ¿Puede detectar que el caso queda fuera de las clases de entrenamiento?
5. ¿Pide información sobre la edad de la planta, su ubicación y la propagación de los síntomas?
6. ¿Qué hace cuando la confianza es baja?
7. ¿Muestra fuentes oficiales?
8. ¿Propone un tratamiento, y quién lo aprueba?
9. ¿Distingue entre el nombre de la enfermedad, su gravedad y la etapa de su propagación?
10. ¿Puede el usuario corregir el resultado y enviarlo para su revisión?

La aplicación puede resultar muy útil para clasificar imágenes por prioridad e identificar los casos que merecen inspección, sin ser un sustituto del diagnóstico profesional. Describir la función con precisión no reduce su valor; al contrario, impide su uso en un contexto para el que no fue diseñada. Caso segundo: un sistema que afirma un ahorro del 30% en agua de riego Supongamos, a efectos del análisis, que una plataforma afirma una reducción del 30% en agua de riego. Antes de aceptar la afirmación, debemos preguntar:

• ¿Es el porcentaje por hectárea, por tonelada o para el conjunto de la explotación?
• ¿Cuál es la línea de base: un calendario fijo, la práctica del agricultor u otro sistema?
• ¿Se mantuvo constante la superficie?
• ¿Fue la campaña comparable en precipitación y temperatura?
• ¿Se mantuvieron sin cambios la productividad y la calidad?
• ¿Se desplazó el consumo de agua a otra etapa?
• ¿Qué ocurrió con la energía de bombeo?
• ¿Incluía el resultado los días de interrupción?
• ¿Cuánto costaron los sensores, la conectividad y el mantenimiento?
• ¿Persistió el ahorro durante más de una campaña?

Si el uso de agua por tonelada disminuye a medida que se amplía la superficie cultivada, la extracción total puede aumentar. Si el uso de agua descendió porque la campaña fue más lluviosa, el resultado no es atribuible por completo al sistema. Y si el ahorro se logró con un descenso importante de la calidad, el resultado puede ser económicamente inaceptable. El porcentaje no debe descartarse, pero está incompleto sin su denominador, su línea de base y los resultados que lo acompañan. Caso tercero: un asistente generativo de asesoramiento agrícola El asistente responde, en lenguaje natural, a una pregunta relativa a enfermedades, riego o fertilización. Su éxito no se mide solo por la elegancia de la frase. Debe examinarse lo siguiente:

• ¿Comprendió el cultivo, la región y la etapa?
• ¿Recuperó una referencia reciente de una fuente fiable?
• ¿Transmitió con precisión las condiciones de la fuente?
• ¿Confundió dos países o dos registros legales?
• ¿Distinguió entre probabilidad y diagnóstico?
• ¿Se abstuvo de inventar la dosis o el plazo de seguridad previo a la cosecha?
• ¿Pidió la información que faltaba?
• ¿Derivó el caso a un especialista cuando fue necesario?
• ¿Permanecieron protegidos los datos de la explotación?
• ¿Puede el usuario ver la fuente, objetar la respuesta y corregirla?

El asistente puede ser excelente a la hora de explicar probabilidades, reunir preguntas y organizar la evidencia, y sin embargo resultar peligroso cuando ofrece una cifra sensible con una confianza que no puede justificar. Aquí la madurez no significa responder a todo; significa saber cuándo una respuesta es útil y cuándo la derivación es la respuesta responsable.

12. El protocolo del lector antes de confiar en una afirmación agrícola digital

Las preguntas siguientes pueden emplearse al leer un estudio, la presentación de un producto o un capítulo de este libro:

1. ¿Cuál es la tarea agrícola concreta?

¿Se trata de detección, clasificación, predicción, recomendación, control o ejecución?

2. ¿De qué tipo de afirmación se trata?

¿Se refiere a la existencia del producto, a una funcionalidad, al rendimiento técnico o al impacto agrícola y económico?

3. ¿Quién emitió la afirmación y quién la evaluó?

¿Es el emisor el desarrollador, un organismo independiente, investigadores o usuarios?

4. ¿Cuál es la fuente de los datos?

¿Y cuáles son el cultivo, la región, la campaña, el dispositivo y la unidad de muestreo?

5. ¿Cuál es la línea de base?

¿Se comparó el sistema con la práctica actual, con un experto, con una regla sencilla o con la ausencia de intervención?

6. ¿Cuál es la métrica?

¿Qué mide, qué no mide y resulta adecuada a la consecuencia del error?

7. ¿Hubo validación independiente o local?

¿O sigue el resultado confinado a los datos del desarrollador o al estudio original?

8. ¿Qué tipo de error es más peligroso?

¿Y quién soporta su coste o su daño?

9. ¿Llega el resultado a tiempo?

¿Y puede el usuario actuar realmente a partir de él?

10. ¿Qué ocurre cuando se produce un fallo?

¿Qué ocurre si cae la red, falla el sensor o aparece un caso desconocido?

11. ¿Mejoró el resultado final?

¿Después de tener en cuenta el rendimiento, la calidad, el agua, la energía, la mano de obra, el coste y el riesgo?

12. ¿Qué requiere validación local antes de confiar en ello?

¿Y qué límites de uso deben declararse?

Tras responder, la afirmación puede situarse en uno de cuatro estados:

• Respaldada dentro de un contexto conocido: apta para el uso dentro de los límites declarados.
• Prometedora y necesitada de validación local: existe buena evidencia, pero no se ha demostrado su transferibilidad.
• Descrita por su proveedor: sabemos lo que el proveedor afirma, pero aún no disponemos de una evaluación independiente suficiente.
• Insuficiente para respaldar la decisión: la evidencia es incompleta, inadecuada o desproporcionada respecto al riesgo de uso.

El cuarto estado no significa que la tecnología carezca de valor; más bien significa que aún no se ha cerrado la distancia entre el potencial y una confianza justificada.

Resumen del capítulo

El conocimiento no se vuelve digno de confianza porque su fuente lleve un nombre famoso, ni una aplicación se vuelve madura porque su modelo haya obtenido una puntuación alta. La confianza se construye cuando sabemos qué se midió, con qué datos, frente a qué comparador y en qué condiciones; y después trazamos el camino desde el rendimiento del modelo hasta la operación del sistema, desde la recomendación hasta la acción, y desde la acción hasta sus efectos en el campo, en la economía y en el bienestar humano.

Una cifra puede ser correcta dentro de su estudio, el producto puede existir en el mercado y el algoritmo puede ser avanzado en su diseño, y sin embargo ninguna de estas cosas constituye evidencia suficiente de que la decisión haya mejorado en una explotación concreta. Aquí el método cumple su propósito: no atenuar la promesa de la tecnología, sino convertirla de fascinación rápida en conocimiento verificable, y del conocimiento en una decisión defendible. El rigor científico no pide a cada aplicación que lo demuestre todo desde su primer día. Le pide que declare lo que de hecho ha demostrado, que distinga entre el nivel que ha alcanzado y el nivel al que aspira, y que aumente el grado de validación siempre que se eleve la consecuencia del error. Cuando el lector aprende a preguntar por la tarea, la métrica, el contexto, el error, la madurez, la transferibilidad y el impacto, deja de estar cautivo de la cifra más alta o de la presentación más vistosa. Pasa a ser capaz de distinguir entre un modelo que tuvo éxito en las pruebas, un sistema que fue capaz de operar, una aplicación que cambió la decisión y una tecnología que demostró merecer su lugar en la agricultura.

Notas sobre la evidencia

las secciones primera y segunda describen cómo se construyó el libro y cómo se disciplinaron sus afirmaciones. [SRC004] se utilizó como ejemplo de revisión sistemática publicada, no para conferir su estatus metodológico a esta obra. [SRC006] se utilizó para aclarar que el coeficiente de determinación se limita al diseño del estudio y no debe convertirse en un «porcentaje de exactitud» general, y [SRC012] como ejemplo de la necesidad de circunscribir los resultados computacionales a los experimentos de los que proceden y de no convertirlos en una garantía comercial o de campo. La discusión sobre el riesgo, la supervisión y el ciclo operativo se guía por el Marco de Gestión de Riesgos de la IA [SRC033]. La escala de madurez, las fichas de evaluación, los niveles de riesgo y los estudios de caso constituyen una síntesis editorial con fines didácticos destinada a ayudar al lector a evaluar la evidencia; no son ni una norma reguladora oficial ni los resultados de nuevos experimentos realizados para este libro.