Estrategia de enseñanza con énfasis en las humanidades para el análisis crítico de algoritmos de inteligencia artificial

Por favor, use este identificador para citar o enlazar este ítem: https://www.innovacioneducativa.unam.mx:8443/jspui/handle/123456789/7666

Título :	Estrategia de enseñanza con énfasis en las humanidades para el análisis crítico de algoritmos de inteligencia artificial
Autor :	FLORES GARRIDO, MARISOL
Fecha de publicación :	2020
Resumen :	La incorporación de algoritmos de inteligencia artificial (IA) en la vida diaria se ha visto como promesa de una mejor calidad de vida para la sociedad. Sin embargo, de la mano de avances sorprendentes en el área ha llegado preocupación en torno a los efectos no previstos que la automatización de procesos y de decisiones podría tener. Con frecuencia se exhiben casos como los de bots racistas, sistemas de reconocimiento facial que fallan en minorías étnicas, prácticas comerciales poco éticas en redes sociales o escándalos sobre manipulación de voto como el de Cambridge Analytica. El tema se ha vuelto tan relevante que ha generado la creación de institutos como el AI Now y de lineas de trabajo orientadas a la justicia algorítmica (v.gr. al interior del MIT Media Lab o de prácticamente todas las grandes empresas de software). Se ha propuesto incluso un juramento hipocrático para la comunidad de IA. Aunque queda claro que el desarrollo de IA debería estar acompañado de ejercicios prospectivos desde diferentes disciplinas para garantizar el bienestar de la sociedad y el respeto a los derechos humanos, existe el obstáculo no trivial de establecer puentes entre las personas que desarrollan algoritmos y aquellos que tienen una formación en humanidades. La licenciatura en Tecnologías para la Información en Ciencias está fuertemente orientada al uso de IA, pero su plan de estudios presenta serias deficiencias en cuanto a las herramientas conceptuales del área de humanidades que se brinda a los estudiantes. Nuestro proyecto propone (1) la reorientación del contenido de una de las materias de la LTIC para abordar discusiones relevantes actuales en torno al desarrollo de IA, (2) el desarrollo de instrumentos didácticos que permitan vincular humanidades y ciencias computacionales en torno a actividades de investigación y (3) la creación de un grupo de trabajo interdisciplinario enfocado en el impacto social de la IA.
URI :	https://www.innovacioneducativa.unam.mx:8443/jspui/handle/123456789/7666
metadata.dc.contributor.responsible:	FLORES GARRIDO, MARISOL
metadata.dcterms.callforproject:	2020
metadata.dc.coverage.temporal:	2020-2021
metadata.dcterms.educationLevel:	nivel superior
metadata.dcterms.educationLevel.SEP:	Licenciatura
metadata.dc.description.objective:	Objetivo general: Reorientar el abordaje que se hace de las humanidades en la Licenciatura en Tecnologías para la Información en Ciencias (LTIC), de manera que nociones generales del campo de filosofía de la ciencia y la tecnología puedan aterrizarse al área específica de los algoritmos y que, de esta manera, los estudiantes tengan los elementos necesarios para participar con una visión crítica en la discusión global en torno al impacto de la inteligencia artificial. Objetivos específicos: "1. Crear un espacio de diálogo interdisciplinario en torno al impacto social del desarrollo de inteligencia artificial (IA) para revisar el estado del arte, los principales problemas detectados y las corrientes de pensamiento en el tema. 2. A partir de la discusión anterior, reorientar el contenido de la materia de LTIC Ciencia, tecnología y sociedad en forma tal que los estudiantes puedan establecer la correspondencia entre temas generales de disciplinas fuera de las ciencias computacionales, como filosofía de la ciencia y la tecnología, derecho, antropología, sociología e historia, y casos concretos registrados en la literatura y los medios de comunicación sobre áreas de riesgo en IA, especialmente sesgo algorítmico. El resultado de esta labor quedará registrado en una propuesta concreta elaborada en torno al temario de la materia, y en un reporte detallado que, hasta donde sabemos, sería el primero de este tipo en México. 3. Crear recursos electrónicos de trabajo, en forma de laboratorios, que permitan conectar el material teórico con tareas activas de corte investigativo en torno a algoritmos. 4. Generar material de divulgación en forma de artículos y presentaciones en eventos académicos (al menos tres productos), a fin de dar a conocer hallazgos y contribuir a la formación de un grupo de estudio en México en torno a este tema fundamental para el desarrollo de IA."
metadata.dc.description.strategies:	1. Crear un espacio de diálogo interdisciplinario en torno al impacto social del desarrollo de inteligencia artificial (IA). 1.1 Establecer un seminario con participación de académicos de distintas disciplinas en humanidades y ciencias computacionales, que se reuna de manera periódica. La organización de contenidos inicial se propondrá con base en la revisión de documentos que han tenido impacto a nivel global en la discusión, por ejemplo, aquellos mencionados en la sección "Justificación académica" pero también reportes generados como [1-4]. 1.2 El seminario estará abierto para estudiantes en general, pero se promoverá especialmente la participación de aquellos en semestres avanzados de la LTIC porque (1) están en posición de comprender mejor la problemática, aportar a la discusión y entender cosas desde las herramientas que han adquirido a través de su formación, y (2) están cerca de egresar y es más apremiante la necesidad de complementar lo que han aprendido. Así, el seminario servirá también para subsanar una deficiencia del plan de estudios. 1.3 Además de la propuesta que se describe en el siguiente punto, se espera que el seminario resulte en nuevas líneas de colaboración y en reflexiones originales en torno al caso específico de la IA en México. Estos resultados conformarán un reporte y se presentarán en foros académicos pertinentes. 2. Reorientar el contenido de la materia de la LTIC 0060: Ciencia, tecnología y sociedad, en forma tal que puedan establecerse correspondencia entre temas generales de disciplinas fuera de las ciencias computacionales, como filosofía de la ciencia y la tecnología, derecho, antropología, sociología e historia, y casos concretos registrados en la literatura y los medios de comunicación sobre áreas de riesgo en IA, especialmente sesgo algorítmico. 2.1 La propuesta: (a) será planteado desde un diálogo interdisciplinario entre los académicos de la LTIC y académicos del área de humanidades (b) considerará la dimensión política, cultural y social de los datos y de los algoritmos (c) se diseñará de acuerdo al perfil de especialistas en ciencia de datos (d) será bifocal en el sentido de brindar elementos para entender la discusión a nivel global, pero también para problematizar el entorno local en una forma que permita analizar lo que se ha denominado "colonialismo algorítmico" [5] (e) no será un temario nuevo, sino una adaptación concreta de la propuesta original al perfil de la licenciatura. 2.2 La propuesta se presentará ante el comité académico de la LTIC, a fin de recibir retroalimentación y presentar una versión con cambios incoporados al cuerpo académico de la licenciatura. 3. Crear recursos electrónicos de trabajo, en forma de laboratorios, que permitan conectar el material teórico con tareas activas de corte investigativo en torno a algoritmos. Los algoritmos pueden entenderse como sistemas sociotécnicos complejos sujetos a error humano, más allá de cuestiones técnicas. Autores como Rahwan y Seaver proponen que el estudio de algoritmos podría extenderse mediante una metodología que incorpore elementos de la antropología [6,7]. Desde otro ángulo, existe también una corriente orientada al trabajo periodístico relacionado con algoritmos y datos. Proponemos: 3.1 Revisar el estado del arte en las corrientes antes mencionadas. 3.2 Reproducir investigaciones que han sido relevantes en el tema de algoritmos, como la de ProPublica en el sistema de tarifas de Amazon, y en el tema de datos, como algunas descritas por Set Stephens [7,8]. 3.3 Con base en el trabajo anterior, proponer una metodología para el desarrollo de investigaciones en torno a algoritmos y datos. 3.4 Crear hojas de trabajo electrónicas, usando Jupyter Notebooks o herramientas similares, que incorporen la metodología propuesta en el inciso anterior. Estas hojas incluirán la comunicación de resultados mediante el uso de bibliotecas que permiten una exploración dinámica de datos, como Bokeh y Dash, de Python. Consideramos que estas hojas de trabajo permitirán conectar (1) un proceso investigativo que requiere hablidades en programación y (2) nociones adquiridas en el aula que generen las preguntas mismas de la investigación. De esta manera se conseguirá desarrollar un aprendizaje situado que permita una interacción directa y estimule a los estudiantes en la fundamentación, sistematización y evaluación de algoritmos. 3.5 El material didáctico, apropiadamente documentado, se pondrá a disposición de la comunidad a través de la página de la LTIC y de la RUA. 4. Generar material de divulgación en forma de artículos y presentaciones en eventos académicos (3+) para dar a conocer hallazgos y contribuir a la formación de un grupo de estudio en México en torno a este tema fundamental para el desarrollo de IA. Se considera presentar resultados en foros relevantes para la comunidad de IA en México, como el MICAI.
metadata.dc.description.goals:	Todas las metas de este proyecto se plantean para un año, es decir, consideramos que al término del año deberán contarse con: 1. Un grupo de trabajo interdisciplinario establecido a través del seminario propuesto en este proyecto. 2. El reporte de hallazgos y posibles lineas de trabajo colaborativo generados a través del seminario. 3. La propuesta de reorientación de la materia con clave 0060 en la LTIC, de manera que el enfoque particular sea el estudio de algoritmos y desarrollo de IA. Esta propuesta contará con el visto bueno del comité académico de la Licenciatura en Tecnologías para la Información en Ciencias. 4. Hojas de trabajo electrónicas que incorporen la metodología para trabajos de investigación cuyo objeto de estudio son los datos y los algoritmos. 5. Al menos tres trabajos de divulgación en forma de artículos, ponencias o participación en eventos académicos nacionales de la comunidad de inteligencia artificial.
metadata.dc.description.selfAssessment:	Consideramos que el proyecto fue exitoso. Este papime permitió la creación de grupos y líneas de trabajo que trascenderán las metas que se contemplaron. Por ejemplo, (1) tres de los académicos que participamos en el proyecto estaremos en el Festival de las Matemáticas 2021 hablando específicamente del tema del impacto de las métricas en la sociedad - abordando puntos discutidos en nuestro seminario-, y tenemos pensado continuar con sesiones para discutir ejes analíticos para el manejo de datos; (2) dos de los becarios de este proyecto han decidido iniciar un trabajo de tesis en temas que iniciaron en el papime. Paola González quiere trabajar el tema del sexismo en representaciones vectoriales específicamente en español, incorporando elementos de epistemologías feministas y justicia de datos que se trataron en nuestro seminario. Javier Navarro quiere continuar con el desarrollo de un modelo de ML que permita identificar factores de riesgo delictivo en ciudades mexicanas; (3) el temario que surgió como producto del proyecto se presentará ante el comité académico de la licenciatura en Tecnologías para la Información en Ciencias, buscando que pueda iniciarse el proceso para incorporarlo como una materia optativa en el plan de estudios de la licenciatura; (4) las notas que se presentan en el reporte, aunque aparecen de manera esquemática, constituyen un punto de partida para reflexiones que consideramos importantes (el contrato social de la ciencia y la tecnología en México, el impacto de datos locales en temas de salud o culturales, el establecimiento de prácticas estandarizadas que permitan a los practicantes de ciencia de datos incorporar una reflexión sobre los datos y mitigar riesgos en el impacto social de la tecnología) y que seguramente continuaremos trabajando dentro y fuera del aula. Además, se consiguió un nivel importante de participación entre los estudiantes y ha sido absolutamente satisfactorio escuchar la forma en que incorporan herramientas analíticas discutidas en el seminario a sus reflexiones en torno a casos de estudio concretos. A pesar de que hubo algunos retrasos en el calendario del seminario, el espacio funcionó de manera efectiva para crear una discusión sobre los datos en la producción de conocimiento, desplazando incluso la atención al tema de la localidad de los datos (que no se tenía previsto) y abriendo nuevas preguntas. Poniendo todo en una balanza - y a pesar de que 2020 fue un año inusualmente complicado - consideramos que el proyecto fue exitoso.
metadata.dc.description.goalsAchieved:	Consideramos que todas las metas se alcanzaron. 1. Se creó un grupo de trabajo interdisciplinario para reflexionar en torno al análisis crítico de IA, particularmente en el contexto de aprendizaje automático y de la importancia que los datos tienen en este paradigma. El grupo se organizó tomando como eje el seminario del proyecto. Se contó con la participación de académicos con distinto perfil, aunque en el caso de los estudiantes predominó la participación de la Licenciatura en Tecnologías para la Información en Ciencias. Las notas que se entregan, generadas a partir del trabajo en el seminario, dan cuenta de la reflexión que se tuvo en el grupo, mayormente centrada en el tema de epistemología de los datos. 2. Se elaboraron notas a partir del trabajo realizado en el seminario. Esas notas sintetizan prácticamente todas las metas de este proyecto, y describen tanto los hallazgos y proyectos trabajados en el año, como recursos didácticos que consideramos una aportación. 3. Se elaboró la propuesta de una materia enfocada en la filosofía del big data, dirigida específicamente a estudiantes con orientación a ciencias de la computación. La materia se propone con formato de un seminario e incluye casos de estudio en Python. 4. Se desarrollaron dos hojas de trabajo en Jupyter, utilizando Python. Ambas representan casos de estudio, con datos reales, que se sugieren como parte del temario propuesto para la del punto anterior. En los dos casos, fueron estudiantes (auxiliados por profesores participantes) quienes estuvieron a cargo de desarrollar el material. 5. Los estudiantes trabajaron en un total de seis mini-proyectos - todos reportados en las notas del seminario; los resultados se presentaron en un coloquio organizado como parte de este papime al interior de la ENES-Morelia. Adicionalmente, se incluyen como productos de este proyecto: - Una hoja de trabajo enfocada en el procesamiento del lenguaje natural en relación con la localidad de los datos. - Dos conjuntos de datos creados por participantes del proyecto como parte de la reflexión sobre la IA en México - Ideas, ejemplos específicos y guías metodológicas que se identificaron, mediante el seminario, en la literatura. Consideramos que todo esto puede servir de apoyo para docentes buscando abordar el tema del análisis crítico de algoritmos de aprendizaje automático. Este material está contenido en las notas del seminario.
metadata.dcterms.provenance:	Escuela Nacional de Estudios Superiores Unidad Morelia (ENES Morelia)
metadata.dc.subject.DGAPA:	Ciencias de la computación
metadata.dc.type:	Proyecto PAPIME
Aparece en las colecciones:	1. Área de las Ciencias Físico Matemáticas y de las Ingenierías

Ficheros en este ítem:

No hay ficheros asociados a este ítem.

Mostrar el registro Dublin Core completo del ítem