Las operaciones a escala múltiple requieren un dispositivo, como un dron B o una estación de control en tierra, que debe cumplir los requisitos una y otra vez y en diferentes condiciones. Esto es inimaginable sin la inteligencia artificial (IA) y el aprendizaje automático. Sin embargo, todavía no existe un diseño de algoritmo perfecto para todos los requisitos mencionados. Ahora bien, ¿cómo puede un operador, un analista y un líder estar seguros de que un algoritmo determinado hará el trabajo en las condiciones locales? Y si hay limitaciones, ¿cómo pueden los humanos ver los umbrales para ser más críticos con los resultados?

El desafío es construir procesos efectivos de aprendizaje automático (MLOps) en equipos. A diferencia de otras áreas técnicas, como la ciberseguridad tradicional, el proceso organizativo para reclutar talentos, crear equipos efectivos, desarrollar, probar e implementar modelos es un área nueva. Muchas empresas tienen problemas con esto.

Como resultado, los modelos a menudo se desarrollan en grupos de trabajo aislados. La prueba se personaliza en función de la experiencia subjetiva de las personas. La entrega de modelos entre científicos de datos e ingenieros de DevSecOpps a menudo es complicada y la responsabilidad es baja. Como resultado, los sistemas se vuelven más vulnerables a fallas cuando cambian las condiciones y los usuarios tienen menos confianza en la IA y su aplicabilidad. La falta de pruebas claras, codificadas y efectivas de algoritmos también socava la amplia aceptación social de las nuevas tecnologías.

Los visitantes de Eurosatory pueden ver cómo sería una solución en Calypso AI, una empresa con sede en Silicon Valley. Su equipo dedicado de científicos de datos, ingenieros y diseñadores ha desarrollado nuevas formas de desarrollar una IA transparente, interpretable y confiable. Trabajando en estrecha colaboración con algunos de los mejores equipos de IA del mundo de los sectores público y privado, Calypso AI ha desarrollado una definición concisa de IA segura, así como nuevas formas de desarrollarla y aplicarla.

El resultado es AI Test Suite «VESPR Validate». Este conjunto de pruebas permite a los usuarios cargar directamente una muestra de sus propios datos y ver cómo funcionan los algoritmos en una serie de pruebas. Descrito con un ejemplo: una organización desarrolló un algoritmo de detección de objetos para identificar barcos de superficie y también quería saber si este algoritmo también podría identificar con éxito barcos submarinos. VESPR Validate probó los algoritmos utilizando imágenes de ejemplo. El modelo de TensorFlow con una precisión del 90 % en la clasificación de barcos logró menos del 40 % de precisión en la misma embarcación submarina.

La prueba del modelo se realiza en cinco niveles diferentes de intensidad, con precisión medida en cada nivel. El éxito o el fracaso es posible en cada uno de estos niveles.

Calipso IA

Agujero 5A -K800

www.calypsoai.com