Esta semana contamos en la sección de la invitada experta a Carolina Pinart, Directora de Producto en Nestle, que nos viene a hablar de los retos de escalar en la inteligencia artificial Tenéis la bio y datos de contacto al final del artículo:

El objetivo de Nestle es su estrategia global de Inteligencia Artificial es convertirse en una compañía cognitiva en 2025. Un reto muy ambicioso, ya que persigue IA a escala para generar más ingresos, reducir costes o reducir riesgos. Suena fantástico, ¿no? Porque lo es. Pero, ay, si los modelos que ponemos en producción no cubren casos críticos, no están bien entrenados para el objetivo que persiguen, y no hay mecanismos de mitigación en el caso de que la IA se comporte de manera inesperada, pueden causar desastres.

Los proyectos de IA son complejos, y combinan negocio e ingeniería, como los proyectos de tecnologías de la información (TI) de toda la vida, si bien la gran diferencia es que lo que se pone en producción no es determinista. Según los expertos, hay cinco motivos que hacen la IA compleja:

1. El performance técnico, ya que se requiere muchos datos y es intensiva en computación,

2. El volumen y veracidad de los datos, que son clave para entrenar bien los modelos,

3. Los procesos y personas, ya que la IA complementa y forma parte de procesos existentes y da apoyo a personas, que tienen que aprender a colaborar con ella,

4. Los comportamientos inesperados, que ocurren cuando una vez en producción la IA “ve” casos para los que no fue entrenada,

5. La seguridad y gobierno de los datos, por motivos obvios.

Mi motivo favorito es el riesgo (o casi diría probabilidad) de que haya comportamientos inesperados. Acordémonos por ejemplo del modelo que Amazon puso en producción para clasificar currículums que discriminaba a las mujeres, o sea, que “era” sexista. Y pensaréis… Una empresa como Amazon, que tiene tantos recursos y tantos modelos de machine learning en producción, ¿cómo pudo equivocarse tanto?

Pues por una cadena de factores. Los algoritmos no están sesgados, básicamente porque no tienen moral, ni los datos están sesgados, porque son solo datos. Quien está sesgado es el equipo humano que selecciona los datos y decide qué modelos de IA aplicar en cada caso. Dicho sesgo no tiene por qué ser moral, sino que más bien tiene que ver con los objetivos que tienen que conseguir, los recursos que tienen al alcance para realizar el proyecto de IA, y las decisiones que toman para desarrollar y poner la IA en producción.

¿Y no hay problemas éticos? Claro que sí, si bien depende del caso de uso. La IA es un espejo moral de sus diseñadores y de lo que hay en los datos que se han usado para entrenarla. Incluso a nivel matemático, no hay una sola sino muchas definiciones de justicia (“fairness”). Vais viendo que es complejo…

En fin, la IA es como un desarrollo y lanzamiento de TI toda la vida, pero con el añadido que lo que se pone en producción no se va a comportar siempre igual, y tal vez no se comporte como esperamos. Vamos a necesitar tiempo, como ha pasado siempre, para encontrar la manera de escalar la IA de forma que sus ventajas superen con creces sus riesgos.

Acerca de nuestro invitado experto:

Carolina es la responsable de uno de los pilares de la estrategia global de Inteligencia Artificial (IA) de Nestlé. Global Product Director en Nestle desde 2017. Anteriormente ha desarrollado su carrera profesional en startups en EE.UU de movilidad como ZabCab. Además, Ha trabajado construyendo producto digital en multinacionales como Telefónica, y realizó el doctorado en la UPC. Formada como Ingeniera de Telecomunicaciones por la UPC y transformandose hacia el mundo del negocio a través de London Business School y NYU.

Twitter: @CarolinaPinart
LinkedIn: https://www.linkedin.com/in/cpinart/

Para recibir el resumen de noticias por mail todas las mañanas y ser en compartirlo con tus amigos subscríbete aquí:

Por favor, deja este campo vacío

Comprueba tu bandeja de entrada o de spam ahora para confirmar tu suscripción.