La inteligencia químico provoca una eterna inquietud. ¿Se rebelará contra sus creadores, como el ordenador HAL de 2001: una odisea en el espacio o los sistemas inteligentes de Terminator ? La pregunta queda poco relativizada al conocer que una imagen pornográfica de Playboy , convenientemente recortada, ha sido la más utilizada en la historia de la ciencia computacional. “En cada nueva tecnología vemos los viejos dioses. El código morse se usó al aparecer para remitir mensajes a los muertos y las primeras técnicas fotográficas para capturar fantasmas”, señala la académica Kate Crawford recordando cómo la semana pasada un ingeniero de Google afirmó que su inteligencia químico LaMDA es sintiente. “LaMDA es una gran conversadora, enseñada con millones de diálogos de internet. ¿Por qué el ingeniero cae y piensa que es inteligente sabiendo cómo está hecha? Las nuevas tecnologías siempre han sido asociadas con lo sobrenatural, su combinación de embeleso y realismo les dan una cualidad casi teológica”, explica frente a el conocido del Sónar+D, el certamen de arte y tecnología que acompaña al musical.
Lo que a ella y al comediante Trevor Paglen, que la acompaña en el marco, les preocupa es con qué luceros humanos, con qué sesgos de clase, índole y raza se crean estas inteligencias artificiales, con qué bases de datos sacadas de un internet en el que abunda el odio –Facebook, explican, valora con cinco puntos el enfado y con uno solo la sonrisa– y la polarización.
“Los sistemas de machine learning (de educación de la inteligencia químico) no son solo un objeto técnico, sino un profundo sistema político. No reflejan tanto el mundo, como lo esculpen”, aseguran. Para entenderlo, Paglen, fotógrafo que ha mapeado los mecanismos de la sociedad de la vigilancia contemporáneo, y Crawford, autora del Atlas de la inteligencia químico , repasan historias que muestran los sesgos de la disciplina. Hasta el punto de que, breviario, “el humano en serie de la inteligencia químico original fueron una pin up , un funcionario y un preso”.
Los primeros proyectos militares de examen facial en EE.UU. buscaron el rostro en serie midiendo las cabezas de los hombres del laboratorio siguiendo viejas ideas de la frenología de finales del XIX. Ya en los setenta un ingeniero, Alexander Sawchuck, indagación una imagen para una conferencia. Aparece un colega con la revista Playboy y escanea la inicio de la maniquí central, Lena Söderberg, que se convertirá en “la imagen más usada en la historia de la ciencia computacional, tanto para transmitir algoritmos visuales como para técnicas de compresión de imagen. En una industria hostil a las mujeres, una imagen pornográfica fue la ideal que eligieron para trabajar”, señala Crawford. Más tarde se usaron los retratos de detenidos y acusados que poseía la policía. “La visión de los ordenadores comienza con Playboy , presos y personal de bases militares”, señalan, reproduciendo los sesgos del poder.
Para entrenar a sistemas de inteligencia químico en examen del discurso se usaron medio millón de correos electrónicos de la empresa Enron hechos públicos tras su monumental fraude y cargados de idioma machista, racista y delictivo. Y es que ya antiguamente Robert Mercer, cuando estaba en IBM, antiguamente de Cambridge Analytics, de apoyar a Trump y el Brexit, decidió, como se hace hoy, que lo importante para que puedan educarse los sistemas de inteligencia químico son datos y más datos, reduciendo a ellos el significado. Hoy se alimenta estos sistemas con los datos infinitos de un internet repleto de odio y división, llenando de sesgos las inteligencias artificiales que deciden puestos de trabajo o buscan terroristas. Una desarrollo que va haciendo que los humanos se conviertan en lo que los modelos dicen. Crawford concluye que no importa qué traducción veamos de la inteligencia químico, sino que sepamos “a través de qué luceros está mirando”.
Publicar un comentario