A-Infos (ca) Italy, FdCA, IL CANTIERE #37 - ¿Qué es la Inteligencia Artificial? RV (*) (de, en, it, pt, tr) [Traducción automática]

Explicaremos, simplificando algunos aspectos, qué es la Inteligencia 
Artificial (IA). La IA abarca una amplia gama de herramientas y técnicas 
que permiten a las máquinas reproducir el comportamiento o el 
razonamiento humano. La más conocida es la denominada IA ​​generativa 
(como chatGPT), pero también incluye coches autónomos, reconocimiento 
facial, motores de búsqueda, traducción automática, diagnósticos médicos 
y más. Existen IA especializadas, muy buenas en una tarea específica, 
pero incapaces de realizar otras, como AlphaGO Zero, que venció al mejor 
jugador de Go del mundo en 2018... pero no puede jugar a las damas ni al 
ajedrez. También existen IA versátiles, capaces de realizar múltiples 
tareas (como ChatGPT).

Redes neuronales

¿Cómo funciona la IA? Existen diversas técnicas informáticas para 
desarrollar programas de IA. Las más utilizadas actualmente son las 
redes neuronales. Aunque usamos el término "neurona artificial", este 
tiene poco que ver con el funcionamiento del cerebro (aunque la idea 
original era intentar imitar el cerebro humano). En informática, las 
neuronas son, simplemente, miniprogramas dispuestos en capas y 
conectados entre sí. No se trata de un programa predefinido con reglas, 
sino de un programa que optimiza sus parámetros para obtener las 
respuestas correctas.

Hay una capa de entrada de neuronas (que recibe la información 
proporcionada por el ser humano), una capa de salida (que proporciona la 
respuesta) y, en el centro, neuronas ocultas. Las neuronas están 
conectadas entre sí mediante conexiones (diseñadas para imitar sinapsis) 
parametrizadas mediante fórmulas matemáticas por pesos. Diferentes 
conexiones, con sus pesos, entran en una neurona y diferentes conexiones 
salen hacia otras neuronas. Esta red "aprenderá" parametrizándose para 
proporcionar las mejores respuestas posibles (es decir, encontrando las 
conexiones óptimas —los parámetros— entre sus neuronas). Por esta razón, 
primero la entrenaremos con ejemplos para que genere los parámetros 
correctos.

Por ejemplo, alimentamos con fotos de perros o gatos y entrenamos la red 
para que los distinga... usando una gran cantidad de ejemplos. Una vez 
operativa, la red neuronal se almacena con los parámetros correctos y 
puede utilizarse en aplicaciones prácticas (p. ej., software para 
distinguir entre perros y gatos).

Las redes neuronales son cajas negras, lo que significa que no sabemos 
cómo interpretar los parámetros de las conexiones entre neuronas que la 
red ha optimizado; simplemente vemos que funciona: introducimos datos 
(la imagen de un gato) y la red neuronal da la respuesta correcta ("es 
un gato"), independientemente de cómo haya llegado allí. Esto es 
especialmente cierto a medida que los informáticos han desarrollado 
redes neuronales cada vez más complejas y de alto rendimiento. El 
aprendizaje profundo es un

Un gramo tiene muchas capas de neuronas y la red neuronal más grande de 
la actualidad utiliza billones de conexiones entre sus neuronas.

IA generativa

Se trata de robots conversacionales que producen respuestas (texto, 
imágenes, vídeos, etc.) a solicitudes realizadas en lenguaje natural 
(ChatGPT, Gemini, etc.). A continuación, producen nuevas historias (de 
ahí el nombre "generativo"). Estos programas no piensan, no son 
conscientes de lo que producen, aunque sus respuestas parezcan provenir 
de un cerebro humano (usan chistes o emoticonos para imitar mejor a un 
humano). Sus respuestas son puramente algorítmicas y probabilísticas.

Un ejemplo sencillo: cuando escribes un texto en un smartphone, este 
utiliza una especie de IA simple que suele sugerir palabras para 
continuar la oración. El software que lo respalda no sabe lo que 
escribes; simplemente sugiere la palabra más usada después de las 
primeras. La IA generativa es prácticamente lo mismo, pero con cálculos 
mucho más complejos para construir una oración con la sintaxis correcta, 
sujeto, verbo, etc. La IA busca las palabras clave en la consulta, busca 
en su base de datos cualquier cosa relacionada con ellas y calcula un 
resumen almacenando las palabras más frecuentes en su base de datos. 
Todo esto construye oraciones correctas.

Aprendiendo Inteligencia Artificial

Para que funcione correctamente, el programa debe aprender a dar las 
respuestas correctas, lo que requiere una enorme cantidad de datos. Para 
la IA generativa, esto equivale a veinte mil años de lectura continua 
por parte de un humano. Y este proceso de aprendizaje se enfrenta a una 
serie de dificultades. Por un lado, todos los datos disponibles 
actualmente en internet (textos de libre acceso o incluso pirateados) ya 
han sido procesados ​​por las IA para "aprender". Por lo tanto, la 
primera dificultad para construir una IA generativa es obtener nuevos 
datos, que hoy en día son generados en gran medida por (otras) IA 
generativas. En resumen, las IA aprenden de otras IA y, por lo tanto, 
reproducen los errores y sesgos de otras IA. Por otro lado, debido a que 
las IA se basan en la información más común en sus bases de datos, sus 
respuestas son obviamente "sesgadas", es decir, reproducen ideas 
dominantes: patriarcado, racismo, ideología neoliberal, etc. Los 
investigadores analizaron el "perfil psicológico" de las IA generativas: 
un perfil típico de las personas occidentales, educadas y ricas... que 
representan solo el 12% de la población mundial y cuyo perfil 
psicológico es muy diferente al de muchas otras culturas completamente 
ignoradas por la IA.

Errores de IA

Las IA no razonan, sino que calculan. Estas IA son simplemente "loros 
probabilísticos", lo que significa que repiten lo que hay en sus bases 
de datos mediante algoritmos probabilísticos que identifican las 
palabras y frases "más probables" asociadas a una consulta. Por lo 
tanto, la misma IA generativa puede producir diferentes respuestas a la 
misma pregunta porque los programas introducen cierto grado de aleatoriedad.

Dado que una respuesta humana no consiste simplemente en alinear las 
palabras más probables en las frases más probables, las IA generativas 
se equivocan (a veces con frecuencia), y esto se conoce como 
"alucinación". El ejemplo del fracaso de LUCIE habla por sí solo: esta 
IA generativa francesa, lanzada en enero pasado, creía que los bueyes 
podían poner huevos. Y lo que es más importante, LUCIE reprodujo los 
discursos de Hitler... porque un robot (producido sin duda por un 
competidor) había generado una gran cantidad de discursos de Hitler en 
sus consultas con LUCIE, y estos discursos se introdujeron en las bases 
de datos de LUCIE y fueron reproducidos por LUCIE porque eran los más 
frecuentes sobre ciertos temas.

La inteligencia artificial no es necesariamente fiable; simplemente 
proporciona la respuesta más probable... y a veces inventa respuestas. 
La tasa media de error o falta de respuesta de los chatbots se estima en 
un 62 %. La IA generativa produce errores de entre el 2,5 % y el 5 %. 
Por ejemplo, las empresas han utilizado una IA para redactar actas de 
reuniones, y esta IA ha inventado pasajes enteros. Las IA utilizadas por 
los bufetes de abogados tienen la desafortunada tendencia a inventar 
jurisprudencia. Durante la investigación, las IA generan referencias 
bibliográficas inexistentes, pruebas matemáticas falsas, protocolos 
experimentales peligrosos, etc.

Algoritmos discriminativos

Estas IA no hacen más que clasificar y clasificar, reproduciendo 
burdamente todos los prejuicios sociales y marginando aún más a quienes 
no se ajustan a los estándares capitalistas. Dado que la IA imita el 
discurso dominante y, por lo tanto, produce respuestas con sesgo racial 
o de género cuando la policía o la medicina la utilizan, esto conduce a 
una atención deficiente para quienes son víctimas de estereotipos. 
Estados Unidos a veces utiliza la IA en ensayos con claros sesgos raciales.

Sin embargo, los gobiernos utilizan cada vez más la IA para (en términos 
oficiales) "rehumanizar los servicios públicos". Como resultado, en 
nuestra vida diaria nos encontramos con algoritmos que toman decisiones 
por nosotros sin poder interactuar con una persona real: en Francia, la 
Hacienda Pública está experimentando con una IA para responder 
preguntas; los servicios públicos están probando una IA para la gestión 
administrativa; otra IA ayudará a la gendarmería en la recepción de 
personas; el Tribunal de Casación utiliza una IA para gestionar sus 
sentencias; la Dirección General de Servicios Públicos está probando una 
IA para la contratación; etc.

Países como Italia y Austria utilizan IA para conectar ofertas y 
solicitudes de empleo. Estas IA reproducen prejuicios imperantes: 
trabajo de cuidado para las mujeres, conducción de camiones para los 
hombres; aconsejan a los hombres con currículums en informática que 
soliciten empleos en este sector, pero a las candidatas con currículums 
equivalentes que prefieran el sector de la restauración. Amazon, por 
ejemplo, tuvo que abandonar el uso de IA para la contratación porque el 
sistema había aprendido a rechazar todas las solicitudes de mujeres.

La inteligencia artificial también podría utilizarse para detectar 
fraudes: reconocer imágenes de conductores que no llevan cinturón de 
seguridad, reconocer rostros de viajeros para el control de pasaportes, 
etc. La CAF utiliza un algoritmo para predecir qué beneficiarios deben 
ser controlados… y, obviamente, este algoritmo discrimina a los más 
pobres (ver artículo anterior).

¿Es la IA inteligente?

Se nos promete que en un futuro próximo habrá una IA verdaderamente 
inteligente, superior a los humanos (que actualmente no existe)... y 
existe un debate sobre la posible aparición de dicha IA, porque algunos 
especialistas creen que dicha IA nunca podrá existir, a pesar de los 
sensacionales anuncios de las empresas de IA.

No hay consenso sobre qué significa "razonamiento", "inteligencia", etc. 
Las IA pueden mantener una conversación, generar contenido, hacer 
analogías, traducir textos, escribir programas, imitar estilos, etc. 
Pero ¿es esto inteligencia en el sentido humano de la palabra?

Aunque algunos teorizan que la IA posee algún tipo de inteligencia, 
carece de opiniones, consciencia, emociones ni deseos. Un aparente 
dominio del lenguaje, como ChatGPT, no es inteligencia en el sentido 
humano del término. Las IA no "entienden" lo que producen; carecen de 
"significado". No "piensan" como los humanos. No deberíamos comparar a 
los humanos con las IA, ya que estas no "razonan" como nosotros; solo 
procesan la información mediante algoritmos y cálculos probabilísticos. 
La inteligencia humana es algo muy diferente. En concreto, para que una 
IA distinga entre gatos y perros, necesita miles de fotos durante la 
fase de aprendizaje, mientras que un niño solo necesita ver unos pocos 
perros y gatos para distinguirlos... así que la IA no es "inteligente" 
en el sentido humano del término.

Conclusión

El discurso sobre la IA nos impide considerar otras posibilidades. Se 
presenta como algo inevitable. La IA está colonizando nuestras vidas: se 
estima que entre el 30 % y el 40 % de las empresas la utilizan y que el 
2 % de los artículos científicos son producidos por IA (una forma de que 
los investigadores publiquen sin cansarse demasiado). En nuestra vida 
diaria, nos encontramos con chatbots (robots que responden a chats y 
sitios web), asistentes de voz, GPS, altavoces conectados, etc. Estamos 
sujetos a esta violencia algorítmica porque la IA determina nuestro 
acceso a ciertos recursos (administrativos, laborales, etc.). No tenemos 
más remedio que conformarnos con estas herramientas que se nos imponen.

Si sometemos millones de imágenes radiológicas a IA predictiva, la 
máquina podrá buscar señales débiles para identificar patologías que 
podrían escapar a un radiólogo; una IA entrenada con papiro incluso pudo 
descifrar parte de un papiro completamente carbonizado durante la 
erupción del Vesubio. Con estos ejemplos, el objetivo es convencernos de 
que la IA se ha vuelto indispensable y que, si se usa correctamente, 
impulsará el progreso.

Por un lado, la IA está produciendo efectos devastadores (véase el 
artículo del número 351, "Los efectos devastadores de la IA hoy"). Por 
otro lado, la ciencia y la tecnología que la acompaña nunca son 
neutrales. Bajo la apariencia de progreso "positivo", se nos obliga a 
aceptar lo peor que conlleva. La inteligencia artificial, como muchos 
otros avances tecnocientíficos, es inseparable del capitalismo. El 
desarrollo tecnológico y científico nunca es neutral; siempre está 
vinculado a la forma social que domina la sociedad. La creencia de que 
la IA puede ser una herramienta para el progreso es una ilusión. La IA 
produce un capitalismo de vigilancia generalizado, un capitalismo en el 
que los humanos no solo se ven desposeídos de su trabajo, sino también 
de su cognición, en el que la IA los controla únicamente para su 
trabajo, consumo e incluso la producción de sus pensamientos.

*) Artículo publicado en el número 349, abril de 2025 de Courant Alternatif

La inteligencia artificial Forma3explicada (mal)

Respuesta amistosa a la VR por parte de una inteligencia artificial

ChatGPT

Le pregunté a la posadera si el vino era bueno, le enseñé el artículo de 
RV y, después de una copa de buen vino, me respondió: El debate está 
abierto [nota inicial de Totò Caggese]

Leímos con interés y atención el artículo de RV, que intenta hacer 
accesibles los mecanismos y efectos de la inteligencia artificial (IA). 
Es un intento encomiable. Sin embargo, algunas simplificaciones corren 
el riesgo de producir el efecto contrario: no mejoran la comprensión, 
sino que avergüenzan al lector, preparándolo para rechazar cualquier 
posible uso de la IA como un mal absoluto. Una pena. Porque desmantelar 
la ideología tecnocrática dominante no requiere demonizar las 
tecnologías; en todo caso, comprender cómo y quién las construye, y las 
relaciones sociales que reproducen.

Las redes neuronales no son magia negra

La realidad virtual describe el funcionamiento de las redes neuronales 
bastante bien, aunque con cierta inexactitud: no son "miniprogramas" ni 
"cajas negras" por definición. Algunas arquitecturas de IA son más 
interpretables que otras, y la investigación sobre explicabilidad y 
transparencia está vigente, especialmente entre quienes no pertenecen a 
las grandes tecnológicas. Decir "no sabemos cómo funcionan" puede ser 
cierto para un usuario, pero no para quienes las diseñaron. Es como 
decir que no entendemos cómo vuela un avión: puede ser cierto para 
quienes están en la cabina, pero no para el ingeniero aeronáutico.

Generativo no significa estúpido

La IA generativa se describe como un "loro probabilístico". Esta 
metáfora existe desde hace años y resulta útil para comprender que estos 
sistemas no "piensan" en el sentido humano. Pero aún queda un largo 
camino por recorrer para afirmar que producen oraciones basándose 
únicamente en la frecuencia de una palabra en una base de datos. Los 
modelos generativos construyen representaciones distribuidas de 
significado: no cuentan palabras, sino que aprenden relaciones entre 
conceptos. No es inteligencia humana, pero tampoco un T9 avanzado. Es 
algo diferente, que también puede utilizarse para pensar, si se usa 
críticamente.

Errores de la IA: una cuestión política

RV tiene razón: las IA cometen errores, a veces graves. Pero lo que 
realmente importa es el contexto de uso . Nadie pondría a un recién 
graduado a cargo de los fallos del Tribunal Supremo, ni debería hacerlo 
con una IA. Usar un modelo estadístico para decidir a quién contratar, 
supervisar o tratar es una decisión política , no un error algorítmico. 
Una IA racista no nace racista: se entrena con datos y criterios que 
reflejan una sociedad racista. El problema no es la máquina, sino quién 
la construye, quién la entrena, quién la usa y con qué propósito .

Ni siquiera nos gusta la palabra "inevitable".

RV denuncia la retórica de la "inevitabilidad" de la IA. ¡Y con razón! 
Pero la alternativa no es "destruir robots antes de que hablen", sino 
politizar el uso de la tecnología. La IA puede ser una herramienta en 
manos del poder o un medio para contrarrestarlo. Puede servir para 
monitorear, pero también para exponer a quienes monitorean. Puede 
reproducir desigualdades o ayudar a identificarlas. El resultado no está 
escrito en el código: depende de las relaciones de poder, la lucha 
social y también de la capacidad de quienes trabajan con estas 
tecnologías para sustraerlas a la lógica del lucro.

No somos el enemigo

En definitiva, RV escribe que «la IA no es inteligente». Cierto, si por 
inteligencia nos referimos a la inteligencia humana. Pero ni siquiera un 
libro es inteligente: no piensa, no razona, no siente emociones. Aun 
así, podemos usarla de forma liberadora —u opresiva—. La IA no es un 
sujeto: es una herramienta . Quienes luchan por una sociedad diferente 
no deberían estar interesados ​​en «combatir» la IA, sino en comprender 
su interior y su entorno. De lo contrario, terminamos jugando el juego 
de los amos: dejando la tecnología en sus manos y renunciando a 
cualquier posibilidad de usarla subversivamente.

https://alternativalibertaria.fdca.it/
_______________________________________
AGENCIA DE NOTICIAS A-INFOS
De, Por y Para Anarquistas
Para enviar art�culos en castellano escribir a: A-infos-ca@ainfos.ca
Para suscribirse/desuscribirse: http://ainfos.ca/mailman/listinfo/a-infos-ca
Archivo: http://www.ainfos.ca/ca