Avenida de la Innovación: IA Generativa

En nuestro primer tema, analizamos la Inteligencia Artificial Generativa (IA). Si hay algún término de moda relacionado con la IA, sin duda es ChatGPT o su equivalente en imágenes, por ejemplo, Difusión Estable, Dall-E o MidJourney.

¿Quién no recuerda el arresto de Donald Trump o al Papa con la chaqueta de invierno Balenciaga Drip?

La IA generativa es una tecnología que aprende de ejemplos existentes para crear contenido nuevo y realista a gran escala. Puede crear elementos como imágenes, vídeos, música, voz, texto, código de software y diseños de productos originales, pero inspirados en lo aprendido.

Esta tecnología utiliza técnicas avanzadas en constante mejora. Un método importante consiste en entrenar grandes modelos de IA con grandes cantidades de datos sin etiquetas y luego ajustarlos para tareas específicas. Crear estos modelos requiere cálculos matemáticos complejos y una gran potencia informática, pero básicamente predicen lo que viene después.

Actualmente, la IA generativa suele generar resultados cuando se le pide en lenguaje normal, sin necesidad de programar. Pero las empresas pueden usarla para muchas cosas, como inventar nuevos medicamentos, diseñar chips de computadora y desarrollar nuevos materiales.

En general, si bien la IA generativa posee un inmenso potencial de innovación y creatividad, su mala reputación se debe a preocupaciones legítimas sobre sus implicaciones éticas, sociales y legales. Abordar estas preocupaciones requiere un esfuerzo colaborativo de investigadores, legisladores, actores del sector y la sociedad civil para desarrollar salvaguardias sólidas, promover prácticas responsables y mitigar los riesgos asociados a las tecnologías de IA. En 2016, Cathy O'Neil escribió un libro muy recomendable titulado " Armas de Destrucción Matemática" .

“Armas de Destrucción Matemática” explora los impactos negativos de los sistemas algorítmicos de toma de decisiones, a los que se refiere como “modelos matemáticos opacos, desregulados y destructivos”. Existen varias similitudes entre las cuestiones planteadas en el libro de O'Neil y la atención negativa que rodea a la IA Generativa.

Opacidad y falta de transparencia

Tanto los sistemas algorítmicos como los modelos de IA generativa pueden operar de forma opaca y poco transparente, lo que dificulta que los usuarios comprendan cómo se toman las decisiones o se genera el contenido. Esta falta de transparencia puede generar inquietudes sobre la rendición de cuentas, la imparcialidad y la parcialidad en ambos casos.

Amplificación del sesgo y la desigualdad

O'Neil destaca cómo los modelos algorítmicos pueden perpetuar y amplificar los sesgos presentes en los datos utilizados para entrenarlos, lo que genera resultados injustos o discriminatorios, especialmente para las comunidades marginadas. De igual manera, los modelos de IA generativa pueden heredar y propagar los sesgos presentes en los datos de entrenamiento, lo que resulta en la generación de contenido sesgado o inapropiado.

Impacto en los individuos y la sociedad

Tanto "Armas de Destrucción Matemática" como las preocupaciones sobre la IA generativa enfatizan los posibles impactos negativos en las personas y la sociedad. O'Neil analiza cómo los sistemas algorítmicos pueden perjudicar a las personas al negarles oportunidades o reforzar las desigualdades sociales. De igual manera, los modelos de IA generativa pueden producir contenido dañino, como videos deepfake o desinformación, que puede tener graves consecuencias para las personas y la sociedad en general.

Falta de regulación y supervisión

O'Neil destaca la falta de regulación y supervisión en torno a los sistemas algorítmicos de toma de decisiones, lo que permite que prácticas perjudiciales pasen desapercibidas. De igual manera, el rápido desarrollo e implementación de modelos de IA generativa ha superado los marcos regulatorios y las directrices éticas, lo que genera inquietud sobre el uso responsable y el posible uso indebido de la tecnología.

Necesidad de consideraciones éticas

Tanto los debates sobre sistemas algorítmicos como la IA generativa enfatizan la importancia de las consideraciones éticas y las prácticas responsables. O'Neil aboga por una mayor transparencia, rendición de cuentas y equidad en la toma de decisiones algorítmica, mientras que los defensores de la IA generativa enfatizan la importancia del diseño ético, la mitigación de sesgos y el cumplimiento de las directrices éticas en la generación de contenido.

En resumen, las preocupaciones planteadas en “Armas de Destrucción Matemática” comparten similitudes con la atención negativa que rodea a la IA generativa, en particular en lo que respecta a cuestiones de opacidad, sesgo, impacto social, supervisión regulatoria y consideraciones éticas. Ambas resaltan la necesidad de una mayor concienciación, rendición de cuentas y gestión ética en el desarrollo e implementación de sistemas algorítmicos y tecnologías de IA.

Entonces, con todas estas críticas negativas en torno a esta tecnología, ¿qué se debe y qué no se debe hacer en su negocio? En esta publicación, analizamos algunos consejos.

• Comprenda cuáles son las necesidades de su negocio.
• No subestime la importancia de la privacidad de los datos.

Comprenda las necesidades de su negocio y cómo la IA generativa puede abordarlas.

En general, la IA generativa tiene el potencial de revolucionar diversos aspectos de las operaciones de fabricación, permitiendo a las empresas innovar, optimizar y adaptarse a las dinámicas cambiantes del mercado con mayor eficacia. Al aprovechar las capacidades de la IA generativa, las empresas pueden obtener una ventaja competitiva e impulsar un crecimiento sostenible en el cambiante panorama empresarial actual.

Patrick Strauss aborda las posibilidades de la IA generativa para crear gemelos digitales. Un gemelo digital es la representación digital de un activo físico. Utiliza datos reales (tanto en tiempo real como históricos) combinados con modelos de ingeniería, simulación o aprendizaje automático (ML) para optimizar las operaciones y facilitar la toma de decisiones.

La IA generativa revolucionará los entornos digitales y los gemelos digitales, transformándolos en «entornos inteligentes» y «gemelos inteligentes». Esta integración será posible gracias a la ampliación de la fuerza laboral humana mediante la IA generativa, que incluso puede habilitar gemelos y entornos digitales autónomos.

Algunos ejemplos de áreas en las que la IA generativa puede ser beneficiosa son:

• Diseño y creación de prototipos de productos
• Optimización del proceso de fabricación
• Optimización de la cadena de suministro.

Diseño de productos y creación de prototipos

El diseño generativo busca crear nuevas formas, incluyendo formas en las que quizá nunca hubieras pensado, formas que ofrecen una ventaja de peso sobre las tradicionales, colocando eficientemente el material donde se necesita y retirándolo donde no. El VW Microbus atrajo a un flujo constante de visitantes tras ser promocionado desde el escenario principal.

Los algoritmos de IA generativa pueden ayudar en el diseño y prototipado de nuevos productos mediante la generación de conceptos de diseño diversos e innovadores basados ​​en parámetros y restricciones específicos. Las empresas pueden utilizar la IA generativa para explorar una amplia gama de posibilidades de diseño de forma rápida y eficiente, lo que permite una rápida iteración y optimización de los diseños de productos.

Procesos de fabricación optimizados

La IA generativa puede analizar datos de producción e identificar oportunidades para optimizar los procesos de fabricación, como mejorar la eficiencia de la producción, reducir los desperdicios y minimizar los tiempos de inactividad. La IA generativa puede ayudar a optimizar el uso de materiales y la asignación de recursos en el proceso de fabricación.

Al analizar las propiedades de los materiales y las limitaciones de producción, los algoritmos de IA generativa pueden sugerir modificaciones de diseño y sustituciones de materiales para minimizar el desperdicio, reducir los costos de producción y mejorar la sostenibilidad. Al aprovechar los algoritmos de IA generativa, las empresas manufactureras pueden descubrir parámetros y configuraciones de proceso óptimos que maximizan la productividad y minimizan los costos.

Optimización de la cadena de suministro

La IA generativa puede ayudar a optimizar las operaciones de la cadena de suministro mediante la previsión de la demanda, la identificación de posibles cuellos de botella y la optimización de los niveles de inventario. Al analizar datos históricos e información en tiempo real, los algoritmos de IA generativa pueden proporcionar información valiosa sobre la dinámica de la cadena de suministro, lo que permite a las empresas tomar decisiones informadas y mejorar la eficiencia general.

No subestime la importancia de la privacidad de los datos y las consideraciones éticas con la IA generativa

Probablemente su personal ya esté experimentando con ChatGPT para facilitar sus tareas laborales. En lugar de prohibirlo por completo, Gartner sugiere crear una política clara para evitar el uso oculto y garantizar el cumplimiento normativo.

Define la política de forma clara. Podría ser tan simple como tres cosas que no debes hacer y dos que sí, especialmente si usas herramientas como ChatGPT o modelos similares disponibles comercialmente:

• No ingrese ninguna información personal.
• No ingrese ningún dato confidencial.
• No ingrese ningún secreto de la empresa ni propiedad intelectual.
• Recuerde deshabilitar el historial si utiliza herramientas externas (como ChatGPT) que ofrecen esa opción.
• Vigila de cerca los resultados. A veces, pueden contener errores sutiles, inexactitudes o declaraciones sesgadas.

Todo comienza con la concientización.

Para evitar el ingreso de información personal en plataformas como ChatGPT o modelos de IA generativa similares, informe a los usuarios sobre la importancia de proteger la información personal y los posibles riesgos asociados al ingreso de datos sensibles en plataformas basadas en IA. Proporcione directrices claras y ejemplos de los tipos de información que no deben compartirse. Indique claramente qué tipos de información se consideran confidenciales o sensibles y no deben ingresarse en la plataforma.

Incentive a los usuarios a anonimizar o generalizar los datos introducidos al interactuar con plataformas de IA generativa. En lugar de usar nombres reales, direcciones u otros identificadores personales, invítelos a usar marcadores de posición genéricos o ejemplos ficticios.

Además de la formación y capacitación mencionadas anteriormente, se pueden implementar controles de acceso y permisos para restringir quién puede interactuar con ChatGPT dentro de su organización. Si se accede a herramientas como ChatGPT a través de un servicio proxy, por ejemplo, API de Infor OS ION .

Se pueden realizar revisiones y análisis periódicos de las interacciones y los resultados generados por su personal. Busque patrones o anomalías que puedan indicar un uso indebido o problemas de cumplimiento.

Charles Korthout

Arquitecto de soluciones en partners 2 innovate

¡Únase a nosotros en LinkedIn para disfrutar de un lugar en primera fila para la innovación, donde las ideas toman vuelo y las conexiones generan grandeza!