Clases de ética para quienes trabajan con la tecnología
Es para que los nuevos graduados adviertan a tiempo los posibles efectos negativos que traerían sus creaciones.
Las principales universidades de los Estados Unidos, como Harvard, Stanford o el MIT, ya están dictando clases de ética para formar a los estudiantes de Ciencias de la Computación. Quieren dotar a la carrera de una “moralidad” parecida a la que tiene la medicina. Y que las próximas generaciones de tecnólogos consideren las consecuencias para la humanidad que pueden provocar sus innovaciones. Esta tendencia se consolida después del escándalo de las noticias falsas (“fake news”) que circulan sin freno por las redes sociales. Y que llegan a provocar crisis políticas de alto impacto.
La medicina tiene una ética: ante todo, no provoques daño. Silicon Valley tiene un sistema de valores: crea primero y pide perdón después.
Ahora, tras el auge de las noticias falsas y otros problemas que están padeciendo las empresas tecnológicas, las universidades de donde egresaron algunos de los mejores tecnólogos de Silicon Valley se están dando prisa para llevar a las Ciencias de la Computación una moralidad parecida a la que tiene la medicina.
Este semestre la Universidad de Harvard y el Instituto Tecnológico de Massachusetts (MIT) están dando juntas un nuevo curso en ética y regulación de la inteligencia artificial. La Universidad de Texas en Austin acaba de agregar la asignatura Fundamentos Éticos de las Ciencias de la Computación, con la idea de que con el tiempo esté en todas las licenciaturas de Ciencias de la Computación.
En la Universidad de Stanford, el corazón académico de la industria, tres profesores y un investigador adjunto están desarrollando un curso de ética de las ciencias de la computación para el próximo año; esperan que se inscriban cientos de alumnos.
La idea es capacitar a las próximas generaciones de tecnólogos y legisladores para que consideren las con- secuencias de las innovaciones — como las armas autónomas o los vehículos inteligentes— antes de que los productos salgan a la venta.
“El objetivo es identificar los problemas a los que se enfrentarán los estudiantes que se gradúen en dos, tres, cinco o diez años”, afirmó Mehran Sahami, profesor de Ciencias de la Computación de Stanford que está colaborando en el desarrollo del curso. “La tecnología no es neutral - aseguró-. Por lo tanto, las decisiones que se toman al momento de crear tecnología generan consecuencias sociales”.
Los cursos están surgiendo mientras las grandes empresas tecnológicas tienen problemas para manejar los efectos secundarios que conlleva la mentalidad de “crear primero”: las noticias falsas en Facebook, los seguidores falsos en Twitter, videos lascivos de niños en YouTube. Son un desafío abierto a una actitud común de Silicon Valley que por lo general ha desestimado la ética, al percibirla como un obstáculo.
“Necesitamos al menos enseñar que la idea de hacer las cosas rápido y romperlas tiene un lado oscuro”, señaló Laura Norén, una becaria posdoctoral del Centro de Ciencias de Datos de la Universidad de Nueva York, quien este semestre comenzó a dar un nuevo curso de ética de la ciencia de datos. “Se puede corregir el software, pero no se puede corregir a una persona si dañas su reputación”.
Los programas de Ciencias de la Computación deben garantizar que los estudiantes comprendan los problemas éticos de ese campo para que los avale el ABET, un grupo mundial de acreditación para programas de ciencia e ingeniería a nivel universi- tario. Algunos departamentos de Ciencias de la Computación han desdoblado el tema a una asignatura más amplia y otros tienen cursos independientes.
Sin embargo, recién hace poco que la ética pareció relevante para muchos alumnos. “En comparación con choferes o médicos, tu interacción diaria con los daños físicos, la muerte o el dolor es mucho menor si estás escribiendo el programa informático para una aplicación”, señaló Joi Ito, director del MIT Media Lab.
Una razón para que las universidades estén impulsando la ética de la tecnología en este momento es la po- pularización de herramientas poderosas como el aprendizaje automático: algoritmos de computadora que pueden aprender tareas de forma automática tras analizar grandes cantidades de información. Debido a que esas herramientas básicamente podrían alterar la sociedad humana, las universidades se están apurando para ayudar a los estudiantes a entender las consecuencias potenciales, comentó Ito, quien también está impartiendo el curso de ética de Harvard y el MIT.
“Debido a que empezamos a ver cosas —como los vehículos autónomos— que claramente tienen la capacidad de salvar a la gente, pero también de provocar daños, creo que las personas se están sumando cada vez más para construir un sistema ético”, explicó .
En otoño pasado, la Universidad Cornell presentó una asignatura de ciencia de datos en la que los estudiantes aprendieron a enfrentarse con desafíos éticos, como conjuntos de datos sesgados que incluyen a muy poca gente de bajos recursos como para ser representativos de la población general. Los alumnos también debatieron sobre el uso de los algoritmos en la toma de decisiones automatizadas cruciales que están relacionadas con la vida de las personas, como las contrataciones en los trabajos o las admisiones a las universidades.
“En realidad, el curso se centró en intentar ayudarlos a comprender qué es lo más probable que van a enfrentar en su práctica diaria como científicos de datos y a ayudarles a analizar en detalle esos desafíos de una forma más sistemática”, afirmó Solon Barocas, un profesor adjunto de Ciencias de la Información que dio el curso.
En otra asignatura que se imparte en Cornell, Karen Levy, quien también es profesora adjunta de Ciencias de la Información, enseña a sus estudiantes a enfocarse más en la ética de las empresas tecnológicas.
“Muchas de las decisiones que toma una empresa tienen una carga ética: qué productos decidieron desarrollar, qué políticas adoptaron en torno a los datos de los usuarios”, mencionó Levy. “Si enseñar ética de la ciencia de datos se centra por completo en la responsabilidad individual de cada científico, se corre el riesgo de omitir el papel que tiene la empresa en general”. ■
Tras la polémica por las noticias falsas en las redes, aprenderán de moral como los médicos.
La tecnología no es neutral. Al crearla, las decisiones que se toman generan consecuencias sociales.” Mehran Sahami Profesor de Computación de la Universidad de Stanford
Hacer las cosas rápido tiene un lado oscuro. Un software se puede corregir, pero no el daño a la reputación de una persona.” Laura Norén Profesora de Ética en Nueva York