Blog

Jun 04, 2023

De “quién puede pensar” a “qué puede pensar”: descubriendo la IA a través de la historia

Es posible que haya oído hablar de la advertencia de Elon Musk a la humanidad sobre los peligros de

Es posible que ya haya oído hablar de la advertencia de Elon Musk a la humanidad sobre los peligros de la inteligencia artificial. Independientemente de las diferentes reservas individuales hacia el gigante de Silicon Valley, es innegable que nuestra construcción de la realidad ahora es más inestable que nunca. A medida que los desarrollos tecnológicos se desarrollan a un ritmo tan incontrolable e irreversible, es necesario reflexionar sobre las numerosas advertencias proféticas que los académicos han emitido en las últimas décadas.

La noción de que las máquinas pueden realizar lo que se pensaba que estaba exclusivamente dentro de la capacidad de la mente humana se remonta al experimento de 1950 del matemático Alan Turing, denominado Prueba de Turing. En el experimento de Turing, los participantes adivinaron si el remitente de los mensajes que recibían en una terminal de computadora era un humano o una máquina. Turín afirmó que si las máquinas pueden imitar y actuar como enormes almacenes de conciencia humana, de hecho pueden convertirse en seres humanos; la posterior fusión de la máquina y la inteligencia humana crea el "cyborg". En palabras de la crítica literaria estadounidense Katherine Hayles: "Tú eres el cyborg y el cyborg eres tú". En consecuencia, el sujeto liberal, ampliamente considerado como "lo humano" desde la Ilustración, ahora se convierte en "lo posthumano".

Décadas después del experimento de Turing y el argumento de Hayles, el iPhone moderno crea y recuerda cientos de contraseñas complicadas para ti. Tu iPad almacena tus notas para la clase y responde a tu voz. Su Apple Watch mide su ritmo cardíaco y realiza un seguimiento de sus calorías. Estos recursos de fácil acceso hacen que no puedas imaginar una vida sin dispositivos electrónicos. Esta confianza, si bien es positiva en muchos aspectos, se vuelve espeluznante cuando imaginas que existen dos versiones de ti mismo: una compuesta de sangre y carne y otra en forma de signos y símbolos en un entorno completamente digital. Cuando ahora se necesita una cuestión de segundos para llegar a los robots que pueden crear instantáneamente ensayos complejos y bien pensados, parece seguro concluir que la tecnología ya no puede separarse significativamente del sujeto humano.

En este nuevo paradigma posthumano donde la información escapa a la carne y la materialidad se vuelve obsoleta, parece integral pecar de cauteloso al aprovechar las creaciones de Silicon Valley. Es importante investigar activamente tanto los hechos científicos que revelan los impactos tangibles de la IA como los textos literarios que revelan los complejos problemas sociales, culturales y políticos que enfrenta la humanidad como consecuencia del desarrollo tecnológico.

¿Significa esta nueva revelación que los humanos ahora pueden tratar sus cuerpos como meros accesorios de moda? No necesariamente. En su libro de 1999 "Cómo nos convertimos en posthumanos", Hayles describe un mundo posthumano ideal como uno que "abraza las posibilidades de las tecnologías de la información sin dejarse seducir por fantasías de poder ilimitado e inmortalidad incorpórea". Además, Hayles también señala que este mundo debería "reconocer y celebrar la finitud como condición del ser humano". Esta visión parece haberse manifestado en la realidad, ya que las organizaciones donde el poder está más concentrado parecen presumir de sus sofisticadas tecnologías y virtualidad; el Pentágono, por ejemplo, actualmente se ve a sí mismo como un "teatro sin precedentes" en el que se libran guerras. Dicho esto, las preocupaciones planteadas por los estudiosos contemporáneos hacen que la visión de Hayles sea aún más difícil de lograr.

Dos décadas después de la publicación de la profética intervención poshumanista de Hayles, la socióloga y profesora de la Universidad de Princeton, Ruha Benjamin, acuñó el término "el Nuevo Código Jim". Esta idea se refiere a una gama de diseños discriminatorios en tecnología que trabajan explícitamente para amplificar las jerarquías y replicar las divisiones sociales. En pocas palabras, la tecnología que impregna casi todas las grietas de la experiencia humana contemporánea puede replicar y exacerbar las desigualdades sistémicas, a veces poniendo una fachada engañosa y agradable que parece promover lo contrario. Como señaló correctamente Benjamin, hay una plétora de nuevas aplicaciones que incorporan este código en el statu quo.

Beauty AI, una iniciativa desarrollada por una variedad de organizaciones de bienestar y salud personal en Australia y Hong Kong, se promocionó como el primer concurso de belleza juzgado por robots. La aplicación requiere que los concursantes se tomen una selfie y que las fotos sean examinadas por un jurado robot, que luego selecciona un rey y una reina. Si bien los jueces de robots estaban programados para evaluar a los concursantes en función de las arrugas, la simetría de la cara, el color de la piel, el género, la edad y el origen étnico, los creadores de Beauty AI expresaron que a sus "robots no les gustaban las personas con piel oscura" en 2016. Todos excepto seis de los 44 ganadores fueron White, lo que respalda la creciente preocupación de que los algoritmos estén sesgados debido a los "sesgos profundamente arraigados" de los humanos que crearon tales máquinas.

Si bien uno puede preguntarse por qué un estudio de caso de una aplicación de belleza tiene serias implicaciones para el futuro de la humanidad, la realidad es que el impacto de estos esfuerzos internacionales ha llegado a las oficinas de los capos de Silicon Valley. Por un lado, la tendencia de las empresas tecnológicas a absorber selectivamente los aspectos "aceptables" de la cultura negra y abandonar los remanentes por completo genera preocupaciones sobre cómo los humanos sesgados finalmente crean máquinas sesgadas. En su libro, Benjamin recuerda una anécdota de un ex empleado de Apple que describe su experiencia en el desarrollo del reconocimiento de voz para la asistente virtual Siri en la empresa. Si bien su equipo desarrolló diferentes dialectos del inglés, como el inglés australiano, singapurense e indio, Apple no trabajó en el dialecto del inglés vernáculo afroamericano, ya que su jefe afirmó que "los productos de Apple son para el mercado premium". Irónicamente, esto sucedió en 2015, solo un año después de que Apple comprara Beats by Dr. Dre, la marca de auriculares del rapero afroamericano Dr. Dre, por mil millones de dólares. La anécdota de Benjamin parece enfatizar la tendencia de las empresas poderosas a devaluar y valorar de alguna manera a la negritud simultáneamente, un rasgo que se transmite directamente a las máquinas desarrolladas enormemente más inteligentes que los humanos.

Cuando la tecnología etiqueta a las personas basándose únicamente en las implicaciones étnicas de sus nombres, no es difícil imaginar formas similares de tecnología que afecten a las personas en todos los aspectos de la vida. Desde evaluaciones en aeropuertos hasta préstamos para vivienda, solicitudes de empleo y compras en línea, la tecnología impacta a los usuarios y su calidad de vida. Bajo tales circunstancias, el argumento posthumanista solo se refuerza aún más y el mundo posthumano ideal se socava aún más. Si bien puede parecer demasiado pronto para reflexionar sobre una "extinción masiva" o "la destrucción de la civilización", las intervenciones realizadas por académicos una y otra vez nos advierten sobre los resultados intrincados e irrevocablemente extensos que la humanidad podría obtener a medida que la tecnología se cruza con la carne.

De Seúl, Corea del Sur, So Jin Jung es una columnista de opinión apasionada por la política y el periodismo. Puede comunicarse con ella en [email protected].

Considere donar a The Michigan Daily