Episodio #96: Entendiendo la IA (II) – Oportunidades y riesgos para empresas y la sociedad

¿Por qué la IA nos atrae y nos da “miedo” a la vez? ¿qué podemos esperar de bueno de la IA a nivel individual y de la sociedad? ¿qué aspectos menos positivos o riesgos presenta la IA? ¿Qué actividades y empleos están en mayor riesgo? ¿Y qué empleos o tareas se ven beneficiados? ¿Se eliminan empleos o solo tareas con la IA? ¿De verdad la IA es una tecnología tan transformadora? ¿Dónde están los riesgos para la empresa tanto de adoptarlo como no adoptarlo? ¿A qué llamamos alineación de una IA? De todos estos temas charlamos con Ariadna Font de Alinia.ai y con Sergi Ortiz de Shimoku

Nuestra serie reciente dedicada a entender la IA continúa con un nuevo episodio dedicado a comprender mejor las oportunidades y riesgos que presenta esta tecnología para empresas, sociedad y para el individuo en general.

Nos ha animado aún más si cabe la sensacional acogida del primer episodio de esta miniserie, el episodio #93 (conceptos básicos) que es ya el más escuchado de la historia de nuestro podcast. Muchas gracias por hacerlo posible y esperamos que este nuevo episodio os interese tanto o más que el anterior.

Contamos con dos expertos que han compartido su tiempo  y conocimiento con nosotros.

Por un lado, Sergi Ortíz, CEO de Shimoku, que repite presencia en el podcast.

Y le acompaña otra invitada de lujo, y experta en la materia: Ariadna Font Llitjós, CEO y Founder de alinia.ai, una startup especializada en procesos de alineamiento de la IA para empresas. Ariadna fue una de las máximas responsables de IA en Twitter (etapa pre-Elon Musk), y anteriormente en IBM en la iniciativa de IA Watson.

Estos dos verdaderos pesos pesados de la IA en España nos explican en una conversación absolutamente apasionante qué podemos esperar de bueno y de no tan bueno si no se toman medidas tanto a nivel individual, como de empresa y de la sociedad en su conjunto.

El episodio está pensado para profesionales no técnicos y como podrás escuchar va orientado a que puedas reflexionar sobre cómo va a impactar a cada nivel mencionado.

Si eres un profesional o tienes curiosidad por entender mejor las Oportunidades y los Riesgos de la IA, este episodio te ayudará mucho.

Material complementario y otros enlaces útiles:

• Episodio #93 de la Miniserie “Entendiendo la IA (I) – Conceptos básicos”
• Curso introductorio en Coursera de Andrew Ng: https://www.coursera.org/learn/generative-ai-for-everyone
• Más material para poder introducirse en los Conceptos Clave de la IA
•  https://www.linkedin.com/feed/update/urn:li:activity:7237325564468994048/

Ideas destacadas del episodio:

• El sector automovilístico debe equilibrar el emocionante potencial de la IA con responsabilidades y riesgos éticos, lo que requiere coordinación global, supervisión humana e integración responsable para garantizar que se materialicen sus beneficios mientras se abordan preocupaciones como la pérdida de empleos y la privacidad.
• La creciente potencia de la IA requiere responsabilidad para garantizar que empodere y mejore la vida humana, no la reemplace, según Ariadna Font, CEO de alinea.ai.
• Los sistemas de IA carecen de ética y valores, están sesgados hacia los datos con los que fueron entrenados, y pueden cometer errores inaceptables.
• La IA transformará industrias como el desarrollo de software, servicio al cliente y marketing, pero las decisiones deben ser tomadas por humanos, no por máquinas, según Sergi y Ariadna.
• Los modelos de IA son propensos a alucinaciones donde inventan falsedades obvias debido a su naturaleza probabilística y falta de comprensión, lo que puede tener graves consecuencias si se confía en ellos.
• Las empresas deben implementar barreras de protección (controles o filtros) para evitar que los sistemas de IA generen respuestas no deseadas, como un chatbot centrado en ventas de coches que no discuta política o consejos médicos.
• La ingeniería de prompts es un aspecto clave de la adopción de IA, ya que permite a los profesionales adaptar los sistemas de IA a tareas e industrias específicas proporcionando indicaciones y orientación relevantes.
• La adopción de IA conducirá a una significativa desigualdad y disparidades de acceso en industrias y geografías, con aquellos que carecen de acceso a herramientas de IA en una desventaja significativa.
• Los sistemas de IA pueden perpetuar estereotipos y sesgos si no se entrenan y monitorean adecuadamente, por lo que es importante dar forma activamente al futuro proporcionando respuestas diversas y no aceptando simplemente la primera respuesta.

Segmentos destacados del episodio:

• 00:00 El podcast destaca el equilibrio crítico de aprovechar el potencial de la IA en el sector automovilístico mientras aborda responsabilidades éticas .
  • Controlar la inteligencia artificial para reflejar las preferencias humanas es esencial y representa un nuevo derecho humano.La inteligencia artificial se está volviendo cada vez más poderosa y debería usarse para empoderar y mejorar las capacidades humanas.
  • La importancia de la responsabilidad algorítmica y las consideraciones éticas en el desarrollo del aprendizaje automático se enfatiza para las empresas que participan en esta tecnología.
• 06:33 La IA presenta tanto oportunidades emocionantes como riesgos significativos, lo que requiere una coordinación global para garantizar un desarrollo responsable y abordar preocupaciones como la pérdida de empleos y la privacidad.
  • La IA genera tanto entusiasmo como miedo debido a su potencial para mejorar la eficiencia y la innovación, mientras plantea preocupaciones sobre su impacto en la relevancia humana.
  • El miedo a la IA se debe principalmente a la pérdida de empleo y a las preocupaciones sobre la privacidad y el control, que requieren soluciones de diseño reflexivas y consideraciones macroeconómicas.
  • La coordinación global entre gobiernos y organizaciones es esencial para garantizar que la inteligencia artificial se desarrolle y utilice de manera responsable, equilibrando sus posibles beneficios y riesgos.
  • El impacto de la IA en la humanidad se asemeja al efecto transformador de la electricidad, pero su adopción e influencia ocurrirán a un ritmo mucho más rápido.
• 13:14 Las empresas y los trabajadores deben adaptarse a la IA identificando tareas que puedan ser automatizadas y aprovechando estas herramientas para mejorar los resultados profesionales, al mismo tiempo que garantizan que la toma de decisiones siga siendo impulsada por humanos.
  • La inteligencia artificial mejora la velocidad de toma de decisiones, la eficiencia operativa, la personalización a gran escala y la innovación en productos y servicios, lo que permite a las empresas lograr más con menos.
  • Gestionar el talento y diseñar procesos de RRHH con inteligencia artificial puede reducir los prejuicios, pero debe abordarse con cautela debido a las clasificaciones de alto riesgo bajo la legislación europea.
  • La IA automatiza principalmente tareas en lugar de trabajos.
  • La Inteligencia Artificial mejora la eficacia de las ventas al automatizar tareas repetitivas y mejorar la preparación, lo que permite a los trabajadores centrarse en interacciones de mayor valor.
  • La Inteligencia Artificial debería empoderar a los usuarios y estar controlada por ellos, en lugar de llevar a la automatización que disminuye el compromiso significativo y el pensamiento crítico.
• 22:17 Los sistemas de inteligencia artificial necesitan una alineación ética y eficiencia para mitigar sesgos y riesgos mientras abordan tareas comerciales específicas de manera efectiva.
  • Los sistemas de inteligencia artificial carecen de ética y valores, reflejando sesgos de sus datos de entrenamiento, y requieren un proceso de alineación largo y costoso para incorporar las preferencias humanas.
  • Alinear potentes modelos de IA con valores humanos es crucial pero desafiante, y su alto consumo de energía plantea preocupaciones medioambientales, lo que genera la necesidad de modelos más eficientes y específicos para cada tarea.
  • Los modelos de IA conllevan riesgos de daño a la reputación y pérdida de la confianza del cliente si proporcionan resultados inexactos o poco éticos, lo que destaca la necesidad de un desarrollo y uso responsable de estas tecnologías.
• 27:51 Los modelos de IA avanzan en razonamiento pero todavía luchan con la comprensión, necesitando supervisión humana en la toma de decisiones y precaución contra la confianza en sus resultados.
  • Un estudio reciente de investigadores de Apple destaca que los modelos de IA luchan con la información irrelevante en la resolución de problemas, lo que indica problemas con el razonamiento y la alineación.
  • Los modelos de IA están mejorando rápidamente pero todavía luchan por comprender el mundo, lo que lleva a errores persistentes a pesar de los avances.
  • Los sistemas inteligentes carecen de una comprensión real y no deben confiarse para el pensamiento crítico o la toma de decisiones, sirviendo en su lugar como herramientas para generar borradores iniciales que requieren revisión humana.
  • Siempre toma tus propias decisiones y ten cuidado con los modelos de IA que pueden generar información inexacta, especialmente con respecto a datos como los precios.
  • Entender los modelos de inteligencia artificial es crucial, ya que sus resultados dependen del contexto y los datos utilizados, distinguiendo entre la recuperación de datos fácticos y la creación de texto generativo.
• 33:57 La precaución en el uso de la IA es crucial, especialmente en áreas sensibles como la atención médica y la fijación de precios, lo que requiere datos organizados y un diseño de sistema robusto para una toma de decisiones precisa.
  • Los sistemas de inteligencia artificial requieren una combinación de modelos, mecanismos de recuperación y barandillas de seguridad para procesar información de manera efectiva y guiar la toma de decisiones.
  • El uso efectivo de la IA requiere datos limpios, organizados y orientación clara sobre la información relevante para evitar la confusión y garantizar resultados precisos.
• 37:48 Los profesionales deben explorar e integrar activamente las herramientas de inteligencia artificial mientras implementan una ingeniería de instrucciones efectiva y barreras de seguridad para mantenerse relevantes y mitigar los riesgos en un panorama en constante evolución.
  • El uso efectivo de la ingeniería de prompts puede mejorar tareas como la escritura, la síntesis y el análisis, fomentando la exploración de herramientas de inteligencia artificial con una perspectiva crítica.
  • Los profesionales deben adoptar la inteligencia artificial para seguir siendo relevantes, ya que aquellos que no lo hagan se quedarán atrás, a pesar de tener acceso variable a herramientas y recursos.
  • La alineación efectiva en las empresas, al igual que la ciberseguridad, requiere múltiples capas para reducir el riesgo en lugar de eliminarlo.
  • La ingeniería efectiva de las solicitudes y la implementación de barreras de seguridad son esenciales para que las empresas aseguren que los sistemas de inteligencia artificial se centren en temas deseados mientras evitan discusiones no deseadas.
• 44:19 Incorporar la aportación humana en la IA es vital para la calidad y la alineación, mientras que las opiniones sobre el impacto de la IA varían, enfatizando la necesidad de un uso responsable, una regulación equitativa y la preparación para aplicaciones futuras, especialmente en la industria automovilística.
  • Incorporar la entrada humana o de expertos en los sistemas de inteligencia artificial es crucial para garantizar la calidad, la eficiencia y la alineación con los valores de la empresa en los procesos de toma de decisiones.
  • Las opiniones sobre el impacto de la IA están polarizadas, con algunos expresando un pesimismo extremo sobre la capacidad de la humanidad para adaptarse, mientras que otros mantienen una visión más optimista del progreso.