Ulises Cortés, catedrático de Universidad e Investigador de la Universitat Politècnica de Catalunya (UPC), ha pronunciando en el SIE la conferencia Inteligencia Artificial: ¿una bendición o una maldición potencial?. Ha aasegurado que influye y es influenciada por nuestros sistemas sociales, depende de nosotros, porque el diseño no es neutral en cuanto a valkores. La sociedad moldea y es moldeada por el diseño. Conocer la ética no es ser ético. Y ha cumplido que la IA es demasiado importante como para dejarla en manos de cinco o seis empresas que, además, ponen sus gobernantes.
El propósito es aumentar el interés por la IA y no por el marketing y se ha preguntado si la tecnología basada en la Inteligencia artificial es algo bueno o malo, además de inquirir si pueden los sistemas basados en la IA ser éticos. "La respuesta es no. Los que seremos éticos o no somos los que la manejamos... Cuando utilizo una herramienta para una acción debo valorar el resultado y ser responsable del resultado"
Ha asegurado que las tecnologías disruptivas pueden romper cosas. "Toda innovación técnica es ambivalente por ser tan destructiva como creadora. En efecto, hace caer en desuso los artefactos que reemplaza y margina a quienes no pueden adaptarse a la novedad, al punto de eliminar profesiones íntegras". Ha puesto como ejemplo los artesanos o los carteros.
Si nadie sabe cuál será el efecto de la IA, "tiene un impacto terrible en muchos puestos de trabajo". Como premisa, los inventos han reemplazado la mano de obra humana durante siglos y han llevado a un crecimiento del empleo.
Otra premisa es que la automatización basada en la IA de trabajos más manuales y repetitivas delimitará algunos trabajos existentes, pero también permite que algunos trabajadores se concentren en un trabajo de mayor valor agregado, más gratificante y creativa, eliminando la monotonía de nuestras labores diarias.
Nos enfrentamos, ha agregado, a una tecnología transparente, ubicua y persistente. La IA "se puede utilizar de mil maneras, con toneladas de datos".
Ha aludido a las mejoras artificiales de la humanidad como la fuerza, la velocidad, la visión, la audición y el cálculo con el tractor, el automóvil, los telescopios, la amplificación no electrónica y electrónica y la supercomputación.
La IA se ha convertido en una de las palabras de moda, pero se utiliza como herramienta política para moldear la opinión pública, y h puesto como ejemplo a Trump. "Está llemo de misterio y los conceptos erróneos se propagan más rápida que la realidad". Por eso ha insistido en el carácter transparente, ubicua y persistente.
Ulises Cortés ha estimado que, frente a la IA estrecha o fuerte, la Súper IA "nunca llegará, porque habría que eliminar a todos los humanos que hacen estas labores".
La IA es un programa ubicado en ese mundo y es capaz de mejorar la capacidad del entorno para mejorar o cambiar las acciones. La legislación ha de marcar qie quien crea la máquina sea responsable de sus resultados.
Según la OCDE y la UNCTAD, la IA es la capacidad de las máquinas y sistemas para adquirir y aplicar conocimientos y para llevar a cabo coportamientos inteligentes. "La mala noticia es que China no esté". Hay una definición que considera que la IA es como el petróleo, pero Cortés estima que debiera ser como el agua, "que es transparente".
Ha estimado que los sistemas más poderosos de la IA propician accidentes, y por tanto son más difíciles de controlar y predecir, por lo que son más destructivas. Hay, además, un desplazamiento laboral, y además existen preocupaciones por la seguridad y privacidad. Ha preguntado por quién tiene quitada la ubicación en los móviles, porque se están regalando datos. Se suman las facilidades para los hackers y genera una fractura en la seguridad y la intimidad en datos clínicos y de otro tipo.
Se derivan efectos como la manipulación y el mal uso por criminales, estados canallas, extremistas ideológicos o grupos de interés como Amazon, Alphabet, Alibaba, ,Meta, Nvidia o X. Google invierte el triple en IA que toda la UE, como sucede con Microsoft. "Hay una concentración de poder en manos de un oligopolio", ha añadido. Sirvan para expresar el control de la tecnología las explosiones de más de quinientos móviles en manos de posibles terroristas por parte del Mossad.
Ha expresado gráficamente en la plaza de Barrio Sésamo el cerca y el lejos. Cerca la asistencia en la conducción, lejos el coche autónomo. Cerca las armas semiautomáticas, lejos las automáticas letales. Ya el reconocimiento clínico por la imagen, lejos el diagnóstico basado en tal tecnología.
Ha seguido con Barrio Sésamo pero con lo que es bueno y malo. La autenticación biométrica es buena para instalaciones críticas como hospitales, pero está prohibido por ley en la UE, los sistemas de transparencia automática en la toma de decisiones son adecuadas, malas las opacas. Y los robots de compañía en trabajos peligrosos y pésimos como armas letales autónomas o ciberataques.
Ulises Cortés ha aludido al dilema de Collingridge: cuando una tecnología es nueva, sus impactos son difíciles de evaluar, y cuando es ampliamente utilizada es demasiado tarde para controlarla regularla. Un problema es que, "si la tecnología no es perceptible porque es transparente y ubicua, vives con sus impactos y nadie intenta controlarla".
Por tanto, no es una entidad independiente, sino que la sociedad ha de plantearse cómo deberíamos gobernarla y quién. Cada vez que una máquina toma una decisión sobre el medio ambiente o las personas, alguien debe supervisarlo. "Hay un montón de elementos muy bien fiscalizados", como sucede con un coche. "¿Por qué dejamos que cualquier persona maneje Chat GPT desde el principio sin un aprendizaje". Faltan a la verdad en Open AI cuando dicen que "alucinan, lo que es falso. Pero suena mejor que decir que tiene un 15 % de errores. ¿Qué maquina usaríamos con el 15 %". A los niños, ha agregado, no se debieran dejar, como no les dejamos pistolas. Ha recordado los problemas con la pornografía infantil. Es "inacción del gobierno y analfabetismo tecnológico de la sociedad".
Ha asegurado que cuando una gran compañía dice que le venden algo ético, "es una milonga. Tienen que ser legales y hay que aplicarlo a toda tecnología". "¿De qué ética hablamos, de la europea, la sintoísta de China, la budista de India, la africana, son los mismos sesgos los mismos que en EEUU?"
Otro concepto es el de la robustez. "Ustedes no pagan por el uso, no han pagado por una licencia, y descargan la responsabilidad en el adulto que la usa".
Respecto al enfoque antropocéntrico europeo, debe pasar por leerse los derechos humanos. "Tiene un desconocimiento increíble de las leyes, de la ética y de la moral. Y les dan la responsabilidad de crear la legislación". "Soy de los que cree que cada derecho mana de una obligación", y hay que cumplirla
Be data (rich), my friend, ha iniciado sus conclusiones. "Estamos yendo hacia una economía basada en la explotación extensiva de los datos". La pregunta es por qué no nos han repartido parte de la ganancia, porque "los datos son nuestros".