Seminario Interdisciplinar
Enfoque crítico de la IA Generativa
Introducción
La reciente apertura al público de herramientas o aplicaciones de Inteligencia Artificial Generativa (IAG), es un fenómeno particular que se distingue de otros modelos de IA, por su capacidad de generar información en versiones similares a las que generan los seres humanos, haciéndolo cada vez más difícil de distinguir. Ante esto, surgen preguntas que este seminario pretende enunciar y, además, proponer reflexiones que permitan profundizar en los elementos que componen el fenómeno y sus implicaciones.
Organizadores:
Otro Diseño es Posible, grupo interdisciplinar de investigación
Las reconversiones neoliberales del cuerpo humano, PI interdepartamental
Temas
- Aclaración de términos y noción de inteligencia artificial
- Nuestra relación con la tecnología: cosmotécnica
- Ética de la tecnología y debates sobre la IA generativa
- Implicaciones de la IA generativa en la educación y las profesiones
- Iniciativas regulatorias y prevención de usos negativos
Sesión 1
10 de julio 2023
Aclaración de términos relacionados con IAG. Materiales de consulta:
Introduction to large language models
McKinsey & Co. (2023). What is AI?. McKinsey Global Publishing.
Frankish, K. (2014). The Cambridge Handbook of artificial intelligence. Cambridge University Press.
Resumen de la sesión 1
Alcances del seminario:
3 sesiones durante agosto y cierre participando en la mesa “La IA a debate, desafíos y oportunidades” del evento IA Ibero (29 al 31 de agosto, 2023).
Posible publicación de ensayos como resultado de lo discutido en el seminario. (p.e. Sopa de Wuhan)
Revisión de los temas propuestos para el seminario.
¿Qué conceptos teóricos, y autores, consideras importantes para analizar el fenómeno de la IAG?
Mapa mental
Sesión 2
11 de agosto 2023
Materiales sugeridos para la segunda sesión:
Méndez, G. (2023). Filosofía y análisis crítico de la Inteligencia Artificial. Este País
Hui, Y. (2020). SOBRE COSMOTÉCNICA: UNA NUEVA RELACIÓN ENTRE TECNOLOGIA Y NATURALEZA EN EL ANTROPOCENO. Cosmotherios, vol.1 número 1.
Serie The Age of IA (9 episodios)
Frankish, Keith (The Cambridge Handbook of Artificial Intelligence) el capítulo “History, motivations, and core themes” (pp. 15-32)
Chrisley, Ronald (Artificial Intelligence- Critical Concepts in Cognitive Science- Volume 4. Capítulo 76: “CREATIVITY AND ARTIFICIAL INTELLIGENCE” (pp. 271-280)
Chrisley, Ronald (Artificial Intelligence- Critical Concepts in Cognitive Science- Volume 4. Capítulo 77: “ETHICS, MIND AND ARTIFICE” (pp. 285-301)
Resumen de la sesión 2
Primera parte (plenaria): Propuesta para conformar, a partir de lo asentado en el mapa mental y los cuestionarios, ejes temáticos que darán pie a eventuales textos. Se sugiere privilegiar categorías, conceptos, tipologías o fenómenos que tengan que ver más con las implicaciones y efectos de la IAG.
Segunda parte (plenaria): Revisión y discusión de lecturas y conceptos clave de la bibliografía con los ejes temáticos como horizonte.
Tercera parte (por ejes temáticos): Discusión por eje temático sobre las categorías, conceptos, tipologías o fenómenos relevantes para el eje.
¿Qué conceptos, categorías o tipologías ya tratados son relevantes para nuestro eje?
¿Qué nuevos fenómenos u objetos de estudio emergen en nuestro eje temático a partir de las afectaciones de la IA generativa?
¿Qué conceptos, categorías o tipologías novedosas podemos proponer dentro de nuestro eje?
¿Qué preguntas de investigación u objetos/fenómenos de estudios son relevantes para nuestro eje?
Mapas mentales
Sesión 3
18 de agosto 2023
Materiales sugeridos para la tercera sesión:
Nota breve sobre IAG y la generación de réplicas humanas en biografías y bots póstumos.
Ethics of Artificial Intelligence and Robotics, main debates
Chrisley, Ronald (Artificial Intelligence- Critical Concepts in Cognitive Science- Volume 4. Capítulo 76: “CREATIVITY AND ARTIFICIAL INTELLIGENCE” (pp. 271-280)
Chrisley, Ronald (Artificial Intelligence- Critical Concepts in Cognitive Science- Volume 4. Capítulo 77: “ETHICS, MIND AND ARTIFICE” (pp. 285-301)
Resumen de la sesión 3
Plenaria: Discusión de los avances de cada eje temático: ¿Qué preguntas o temas de investigación fueron perfilados?
Ejemplo de trabajo por Eje temático: IA y la noción de verdad
Discusión: ¿Qué conceptos, objeto de estudio o problemáticas resultan comunes a todos los ejes? ¿Qué autores y textos atienden estos aspectos?
Momentos clave de la IA
Mapas mentales
Sesión 4
25 de agosto 2023
Materiales sugeridos para la tercera sesión:
Ethics of Artificial Intelligence and Robotics, main debates
Chrisley, Ronald (Artificial Intelligence- Critical Concepts in Cognitive Science- Volume 4. Capítulo 76: “CREATIVITY AND ARTIFICIAL INTELLIGENCE” (pp. 271-280)
Chrisley, Ronald (Artificial Intelligence- Critical Concepts in Cognitive Science- Volume 4. Capítulo 77: “ETHICS, MIND AND ARTIFICE” (pp. 285-301)
Resumen de la sesión 4
Trabajo por ejes temáticos
Desarrollo de mapas mentales
Propuesta de participación en mesa de debate del evento IA Ibero
Mapas mentales
La IA a debate, desafíos y oportunidades
30 de agosto 2023
Integrantes de la mesa:
José Sols Lucia: Doctor en Teología, Depto ciencias religiosas
Seminario Enfoque Crítico de la IA, representantes:
Marisol Ochoa: Doctora en Historia, Posdoctorada en el IIS-UNAM.
Joshua Haase: Maestro en Ciencia de Datos
Miguel Rubio: representante del proyecto de investigación interdepartamental “Las reconversiones neoliberales del cuerpo humano”; Doctor en Estudios Audiovisuales; Postdoctorado en Comunicación Ibero CDMX.
Edward Bermúdez: en representación del grupo interdisciplinar de investigación “Otro diseño es posible”; Doctor en Diseño e investigador sobre la relación entre diseño y tecnología con enfoque ontológico.
Agente IA Generativa (Chat GPT, MidJourney)
Explicación de la dinámica:
Se formularon preguntas detonadoras y se abrió espacio para que los integrantes de la mesa inicien la discusión compartiendo sus opiniones y argumentos.
Participación del agente IA, proyectado en el fondo, con respuesta breve a cada pregunta y una secuencia de imágenes generadas a partir de los conceptos implícitos.
Preguntas detonadoras:
¿Cuál es el imaginario colectivo que existe en este momento sobre la Inteligencia Artificial?, ¿qué manifiesta sobre nosotros los humanos?, ¿qué tan acertada resulta esta visión?
La inteligencia artificial utiliza sistemas de decisión, al ser la tecnología algo diseñado, inevitablemente carga una serie de valores humanos que se manifiestan en sesgos de decisión. ¿Cómo la inteligencia artificial puede ser útil para manipular nuestro comportamiento, y qué debe suceder para que contrarrestar, o reducir, este riesgo?
Si en la inteligencia artificial está implícita la evolución del sistema, por cuenta de características como la capacidad de aprendizaje, la mejora continua y la adaptabilidad, entre más complejo resulta un sistema menos posible es entender cómo logra generar sus resultados; es una caja negra. En ese sentido, ¿cómo y a quien podemos asignar grados de responsabilidad, y cómo podemos asegurar que ese conjunto de responsabilidades no promueve injusticias?
Utilizando las cuatro leyes de los medios formuladas por McLuhan, y en su sentido original de no ser exclusivas de los medios de comunicación,
¿Qué es lo que la IA extiende, intensifica, acelera o hace posible?,
cuando una tecnología extiende o potencia un aspecto, simultáneamente se atrofia o desaparece un aspecto de la anterior, ¿qué está reduciendo o haciendo obsoleto el desarrollo actual de la IA?. ¿Qué de lo anteriormente obsoleto o anticuado es recuperado por la IA?
Cuando la nueva forma de medio es llevada hasta su límite en sus potencialidades, tiende a producir una reversión. ¿Cuál es ese retorno a situaciones previas provocado por una IA en el nivel aún hipotético de Superinteligencia Artificial, o se trataría de un no retorno, singularidad acaso?
