A-Infos (pt) Italy, FdCA, IL CANTIERE #37 - O que é Inteligência Artificial? RV (*) (ca, de, en, it, tr) [traduccion automatica]

Explicaremos, simplificando alguns aspectos, o que é Inteligência 
Artificial (IA). A IA abrange uma ampla gama de ferramentas e técnicas 
que buscam permitir que máquinas reproduzam o comportamento ou o 
raciocínio humano. A mais conhecida é a chamada IA ​​generativa (como o 
chatGPT), mas a IA também inclui carros autônomos, reconhecimento 
facial, mecanismos de busca, tradução automática, diagnósticos médicos e 
muito mais. Existem IAs especializadas, muito boas em uma tarefa 
específica, mas incapazes de realizar outras, como a AlphaGO Zero, que 
venceu o melhor jogador de Go do mundo em 2018... mas não consegue jogar 
damas ou xadrez. Há também IAs versáteis, capazes de realizar múltiplas 
tarefas (como o ChatGPT).

Redes neurais

Como funciona a IA? Existem diversas técnicas de ciência da computação 
para o desenvolvimento de programas de IA. As mais utilizadas atualmente 
são as redes neurais. Embora usemos o termo "neurônio artificial", ele 
tem pouco a ver com o funcionamento do cérebro (embora a ideia original 
fosse tentar imitar o cérebro humano). Na ciência da computação, 
neurônios são (em termos simples) miniprogramas organizados em camadas e 
conectados uns aos outros. Não se trata de um programa predefinido com 
regras, mas sim de um programa que otimiza seus parâmetros para obter as 
respostas corretas.

Há uma camada de entrada de neurônios (que recebe as informações 
fornecidas pelo ser humano), uma camada de saída (que fornece a 
resposta) e, no meio, neurônios ocultos. Os neurônios são conectados 
entre si por conexões (projetadas para imitar sinapses) parametrizadas, 
usando fórmulas matemáticas, por pesos. Diferentes conexões, com seus 
pesos, entram em um neurônio e diferentes conexões saem para outros 
neurônios. Essa rede "aprenderá" se parametrizando para fornecer as 
melhores respostas possíveis (ou seja, encontrando as conexões ideais — 
os parâmetros — entre seus neurônios). Por esse motivo, primeiro a 
treinaremos com exemplos, para que ela gere os parâmetros corretos.

Por exemplo, alimentamos com fotos de cães ou gatos e treinamos a rede 
para distingui-los... usando um grande número de exemplos. Uma vez 
operacional, a rede neural é armazenada com os parâmetros corretos e 
pode ser usada para aplicações práticas (por exemplo, software para 
distinguir entre cães e gatos).

Redes neurais são caixas-pretas, o que significa que não sabemos como 
interpretar os parâmetros das conexões entre os neurônios que a rede 
otimizou; apenas vemos que funciona: inserimos alguns dados (a imagem de 
um gato) e a rede neural fornece a resposta correta ("é um gato"), 
independentemente de como ele chegou lá. Isso é especialmente verdadeiro 
à medida que os cientistas da computação desenvolvem redes neurais cada 
vez mais complexas e de alto desempenho. O aprendizado profundo é uma

grama com muitas camadas de neurônios, e a maior rede neural da 
atualidade usa trilhões de conexões entre seus neurônios.

IA generativa

São robôs conversacionais que produzem respostas (texto, imagens, 
vídeos, etc.) a solicitações feitas em linguagem natural (ChatGPT, 
Gemini, etc.). Eles então produzem novas histórias (daí o nome 
"generativos"). Esses programas não pensam, não têm consciência do que 
estão produzindo, embora suas respostas pareçam vir de um cérebro humano 
(eles usam piadas ou emoticons para melhor imitar um ser humano). Suas 
respostas são puramente algorítmicas e probabilísticas.

Um exemplo simples: quando você digita um texto em um smartphone, ele 
usa uma espécie de IA simplista e frequentemente sugere palavras para 
continuar a frase. O software por trás dele não sabe o que você está 
escrevendo; ele simplesmente sugere a palavra mais usada após as 
primeiras palavras que você escreveu. A IA generativa é mais ou menos a 
mesma coisa, mas com cálculos muito mais complexos para construir uma 
frase com a sintaxe correta, sujeito, verbo, etc. A IA busca as 
palavras-chave na consulta, busca em seu banco de dados por qualquer 
coisa relacionada a elas e calcula um "resumo" armazenando as palavras 
mais frequentes em seu banco de dados. Tudo isso constrói frases corretas.

Aprendendo Inteligência Artificial

Para funcionar corretamente, o programa precisa ser ensinado a dar as 
respostas corretas, o que requer uma enorme quantidade de dados. Para 
uma IA generativa, isso equivale a vinte mil anos de leitura contínua 
para um ser humano. E esse processo de aprendizagem enfrenta uma série 
de dificuldades. Por um lado, todos os dados atualmente disponíveis na 
internet (textos de livre acesso ou mesmo pirateados) já foram digeridos 
pelas IAs para "aprender". Portanto, a primeira dificuldade na 
construção de uma IA generativa é obter novos dados... que hoje são em 
grande parte gerados por (outras) IAs generativas. Em suma, as IAs 
aprendem com outras IAs e, portanto, reproduzem os erros e vieses de 
outras IAs. Por outro lado, como as IAs se baseiam nas informações mais 
comuns em seus bancos de dados, suas respostas são obviamente 
"tendenciosas", ou seja, reproduzem ideias dominantes: patriarcado, 
racismo, ideologia neoliberal, etc. Os pesquisadores analisaram o 
"perfil psicológico" das IAs generativas: um perfil típico de pessoas 
ocidentais, educadas e ricas... que representam apenas 12% da população 
mundial e cujo perfil psicológico é muito diferente daquele de muitas 
outras culturas completamente ignoradas pela IA.

Erros de IA

IAs não raciocinam, mas sim calculam. Essas IAs são simplesmente 
"papagaios probabilísticos", o que significa que repetem o que está em 
seus bancos de dados usando algoritmos probabilísticos que identificam 
as palavras e frases "mais prováveis" associadas a uma consulta. A mesma 
IA generativa pode, portanto, produzir respostas diferentes para a mesma 
pergunta, pois os programas introduzem um certo grau de aleatoriedade.

Como uma resposta humana não é simplesmente uma questão de alinhar as 
palavras mais prováveis ​​nas frases mais prováveis, as IAs generativas 
erram (às vezes com frequência), e isso é conhecido como "alucinação". O 
exemplo do fracasso da LUCIE fala por si: esta IA generativa francesa, 
lançada em janeiro passado, acreditava que bois podiam botar ovos. Mais 
importante ainda, a LUCIE reproduziu os discursos de Hitler... porque um 
robô (certamente produzido por um concorrente) havia gerado um grande 
número de discursos de Hitler em suas consultas com a LUCIE, e esses 
discursos foram então inseridos nos bancos de dados da LUCIE e, em 
seguida, reproduzidos por ela por serem "os mais frequentes" em 
determinados tópicos.

A inteligência artificial não é necessariamente confiável; ela 
simplesmente fornece a resposta mais provável... e às vezes inventa 
respostas. A taxa média de erro ou não resposta para chatbots é estimada 
em 62%. A IA generativa produz erros entre 2,5% e 5%. Por exemplo, 
empresas usaram uma IA para fazer atas de reuniões, e essa IA inventou 
trechos inteiros. As IAs usadas por escritórios de advocacia têm a 
infeliz tendência de inventar jurisprudência. Durante pesquisas, as IAs 
geram referências bibliográficas inexistentes, provas matemáticas 
falsas, protocolos experimentais perigosos e assim por diante.

Algoritmos discriminativos

Essas IAs não fazem nada além de classificar e classificar, reproduzindo 
grosseiramente todos os preconceitos sociais e marginalizando ainda mais 
aqueles que não se enquadram nos padrões capitalistas. Como a IA imita o 
discurso dominante e, portanto, produz respostas com preconceito racial 
ou de gênero quando usada pela polícia ou na medicina, isso leva a um 
atendimento mais precário para aqueles que são vítimas de estereótipos. 
Os Estados Unidos às vezes usam IA em testes com claros preconceitos 
raciais.

No entanto, a IA está sendo cada vez mais utilizada pelos governos para 
(em termos oficiais) "reumanizar os serviços públicos". Como resultado, 
em nosso cotidiano, encontramos algoritmos que tomam decisões por nós 
sem que possamos interagir com uma pessoa real: na França, a Receita 
Federal está experimentando uma IA para responder a perguntas; os 
serviços públicos estão testando uma IA para gestão administrativa; 
outra IA auxiliará a gendarmaria na recepção de pessoas; o Tribunal de 
Cassação está usando uma IA para gerenciar suas decisões; a 
Direção-Geral de Serviços Públicos está testando uma IA para 
contratação; etc.

Países como Itália e Áustria estão usando IA para combinar ofertas de 
emprego e candidaturas. Essas IAs reproduzem preconceitos predominantes: 
cuidadores para mulheres, motoristas de caminhão para homens; elas 
aconselham homens com currículos em TI a se candidatarem a vagas na 
área, mas candidatas com currículos equivalentes a preferirem o setor de 
restaurantes. A Amazon, por exemplo, teve que abandonar o uso de IA para 
contratação porque o sistema aprendeu a rejeitar todas as candidaturas 
de mulheres.

A inteligência artificial também pode ser usada para rastrear fraudes: 
reconhecendo imagens de motoristas sem cinto de segurança, reconhecendo 
rostos de viajantes para controle de passaportes, etc. A Secretaria de 
Previdência Social Francesa (CAF) usa um algoritmo para prever quais 
beneficiários devem ser verificados... e, obviamente, esse algoritmo 
discrimina as pessoas mais pobres (veja o artigo anterior).

A IA é inteligente?

Prometeram-nos que num futuro próximo haverá uma IA verdadeiramente 
inteligente, superior aos humanos (que atualmente não existe)... e há um 
debate sobre o possível surgimento de tal IA, porque alguns 
especialistas acreditam que tal IA nunca poderá existir, apesar dos 
anúncios sensacionais das empresas de IA.

Não há consenso sobre o que significa "raciocínio", "inteligência" etc. 
As IAs podem manter uma conversa, gerar conteúdo, fazer analogias, 
traduzir textos, escrever programas, imitar estilos e a lista continua. 
Mas será que isso é inteligência no sentido humano da palavra?

Embora alguns teorizem que a IA possui uma forma de inteligência, ela 
carece de opiniões, consciência, emoções ou desejos. O aparente domínio 
da linguagem, como o ChatGPT, não é inteligência no sentido humano do 
termo. As IAs não "entendem" o que produzem; elas não têm "significado". 
Elas não "pensam" como humanos. Não devemos comparar humanos a IAs 
porque as IAs não "raciocinam" como nós; elas apenas processam 
informações usando algoritmos e cálculos probabilísticos. A inteligência 
humana é algo muito diferente. Especificamente, para uma IA distinguir 
entre cães e gatos, ela precisa de milhares de fotos durante a fase de 
aprendizado, enquanto uma criança precisa apenas ver alguns cães e gatos 
para distingui-los... então, a IA não é "inteligente" no sentido humano 
do termo.

Conclusão

O discurso sobre IA nos impede de considerar outras possibilidades. A IA 
é apresentada como inevitável. A IA está colonizando nossas vidas: 
estima-se que 30-40% das empresas utilizam IA e que 2% dos artigos 
científicos são produzidos por IA (uma forma de pesquisadores publicarem 
sem se cansarem). Em nosso cotidiano, encontramos chatbots (robôs que 
respondem a chats e sites), assistentes de voz, GPS, alto-falantes 
conectados e assim por diante. Estamos sujeitos a essa violência 
algorítmica porque a IA determina nosso acesso a certos recursos 
(administrativos, relacionados ao trabalho, etc.). Não temos escolha a 
não ser nos conformar com essas ferramentas que nos são impostas.

Se submetermos milhões de imagens radiológicas à IA preditiva, a máquina 
será capaz de procurar sinais fracos para identificar patologias que 
possam escapar a um radiologista; uma IA treinada em papiro foi até 
capaz de decifrar parte de um papiro que foi completamente carbonizado 
durante a erupção do Vesúvio. Com base nesses exemplos, o objetivo é nos 
convencer de que a IA se tornou indispensável e que, se usada 
corretamente, levará ao progresso.

Por um lado, a IA está produzindo efeitos devastadores — veja o artigo 
na edição 351, "Os Efeitos Devastadores da IA ​​Hoje". Por outro lado, a 
ciência e a tecnologia que a acompanha nunca são neutras. Sob o disfarce 
de progresso "positivo", somos levados a aceitar o pior que o acompanha. 
A inteligência artificial, como muitos outros "avanços" 
tecnocientíficos, é inseparável do capitalismo. O desenvolvimento 
tecnológico e científico nunca é neutro; está sempre ligado à forma 
social que a domina. A crença de que a IA pode ser uma ferramenta para o 
progresso é uma ilusão. A IA produz um capitalismo de vigilância 
generalizado, um capitalismo no qual os humanos não são apenas 
despojados de seu trabalho, mas também de sua cognição, no qual os 
humanos são controlados pela IA apenas para seu trabalho, consumo e até 
mesmo para a produção de seus pensamentos.

*) Artigo publicado na edição 349, abril de 2025, do Courant Alternatif

Inteligência artificial Forma3explicada (mal)

Resposta amigável à RV por uma inteligência artificial

ChatGPT

Perguntei à estalajadeira se o vinho era bom, mostrei-lhe o artigo do RV 
e, depois de um copo de bom vinho, ela respondeu: O debate está aberto 
[nota inicial de Totò Caggese]

Lemos com interesse e atenção o artigo de RV, que tenta tornar 
acessíveis os mecanismos e efeitos da inteligência artificial (IA). É 
uma tentativa louvável. Mas algumas simplificações correm o risco de 
produzir o efeito oposto: não melhorar a compreensão, mas sim 
envergonhar o leitor, preparando-o para rejeitar qualquer possível uso 
da IA ​​como um mal absoluto. Uma pena. Porque desmantelar a ideologia 
tecnocrática dominante não requer demonizar as tecnologias — pelo 
contrário, requer compreender como e por quem elas são construídas e as 
relações sociais que reproduzem.

Redes neurais não são magia negra

A RV descreve o funcionamento das redes neurais razoavelmente bem, 
embora com alguma imprecisão: elas não são "miniprogramas" ou 
"caixas-pretas" por definição. Algumas arquiteturas de IA são mais 
interpretáveis ​​do que outras, e a pesquisa sobre explicabilidade e 
transparência está viva e bem, especialmente entre aqueles fora das 
grandes empresas de tecnologia. E dizer "não sabemos como elas 
funcionam" pode ser verdade para um usuário, mas não para quem as 
projetou. É um pouco como dizer que não entendemos como um avião voa: 
pode ser verdade para quem está na cabine, mas não para o engenheiro 
aeronáutico.

Generativo não significa estúpido

A IA generativa é descrita como um "papagaio probabilístico". Essa 
metáfora existe há anos e é útil para entender que esses sistemas não 
"pensam" no sentido humano. Mas ainda há um longo caminho a percorrer 
desde que eles produzem frases com base apenas na "frequência de uma 
palavra em um banco de dados". Modelos generativos constroem 
representações distribuídas de significado: eles não contam palavras, 
mas aprendem relações entre conceitos. Não é inteligência humana — mas 
também não é um T9 avançado. É algo diferente, que também pode ser usado 
para pensar, se usado criticamente.

Erros de IA: uma questão política

RV está certo: IAs cometem erros, às vezes grosseiros. Mas o que 
realmente importa é o contexto de uso . Ninguém colocaria um 
recém-formado no comando de decisões na Suprema Corte, nem deveria fazer 
isso com uma IA. Usar um modelo estatístico para decidir quem contratar, 
quem supervisionar ou quem tratar é uma escolha política , não um erro 
algorítmico. Uma IA racista não nasce racista: ela é treinada com base 
em dados e critérios que refletem uma sociedade racista. O problema não 
é a máquina, mas sim quem a constrói, quem a treina, quem a utiliza — e 
para qual propósito .

Nós nem gostamos da palavra "inevitável"

RV denuncia a retórica da "inevitabilidade" da IA. E com razão! Mas a 
alternativa não é "destruir robôs antes que eles falem", mas sim 
politizar o uso da tecnologia. A IA pode ser uma ferramenta nas mãos do 
poder, ou um meio de combatê-lo. Pode servir para monitorar, mas também 
para expor aqueles que monitoram. Pode reproduzir desigualdades ou 
ajudar a identificá-las. O resultado não está escrito no código: depende 
das relações de poder, da luta social e também da capacidade de quem 
trabalha com essas tecnologias de afastá-las da lógica do lucro.

Nós não somos o inimigo

Em última análise, RV escreve que "a IA não é inteligente". Verdade, se 
por inteligência nos referimos à inteligência humana. Mas nem mesmo um 
livro é inteligente: não pensa, não raciocina, não sente emoções. No 
entanto, podemos usá-lo de forma libertadora — ou opressiva. A IA não é 
um sujeito: é uma ferramenta . Aqueles que lutam por uma sociedade 
diferente não deveriam estar interessados ​​em "combater" a IA, mas sim 
em compreender o que existe dentro e ao redor dela. Caso contrário, 
acabamos jogando o jogo dos mestres: deixando a tecnologia em suas mãos 
e abrindo mão de qualquer possibilidade de usá-la subversivamente.

https://alternativalibertaria.fdca.it/
_________________________________________
A - I n f o s 	Uma Agencia De Noticias
De, Por e Para Anarquistas
Send news reports to A-infos-pt mailing list
A-infos-pt@ainfos.ca
Subscribe/Unsubscribe https://ainfos.ca/mailman/listinfo/a-infos-pt
Archive http://ainfos.ca/pt