A história da Inteligência Artificial se confunde com a de sua própria superestimação. Isto se deve a vários fatores: entre os cientistas da computação, o desejo de maximizar o financiamento; entre os fabricantes, o desejo de criar novos produtos e ampliar a base de clientes; entre os decisores, o receio de perder progressos promissores; e entre o grande público, conquistado pela ociosidade, pelo prazer de acreditar em milagres, ainda que técnicos.
O lançamento, no outono de 2022, dos primeiros geradores de texto e imagens para o público em geral gerou um entusiasmo sem precedentes e cada vez maior. A inteligência artificial invadiu o discurso público onde tecnófobos e tecnófilos se opõem.
Paradoxalmente, os principais intervenientes na Inteligência Artificial estão agora a aumentar as suas declarações alarmistas, a última das quais em 30 de Maio. Estas grandes empresas querem assim associar-se aos projectos regulatórios em curso, especialmente na Europa, e pretendem, sem dúvida, assumir o controlo dos mesmos, como foi o caso da regulamentação geral da Internet, cuja ineficácia vemos todos os dias.
Se evocam “pandemias” ou “guerra nuclear” para aparecerem como salvadores ou pelo menos protectores, voltemos às suas práticas reais e, em particular, aos preconceitos introduzidos pelo politicamente correcto.
Dos algoritmos ao politicamente correto
1/ Em março de 2016, a Microsoft colocou online um robô conversacional, Tay, ancestral do ChatGPT, representado por uma jovem simpática, mas que, em poucas horas, espalhou comentários nazificantes: como os dados de aprendizagem vieram em conversas particulares que Tay teve com Usuários da Internet, alguns inundaram o robô com discursos de ódio e a Microsoft teve que fazer sua criatura desaparecer para sempre. Este tipo de “conformismo” é sempre perceptível nas sugestões dos motores de busca: ao pesquisar por ‘François Hollande’, vimos anteriormente a sugestão aparecer no Google judaico, mesmo que a interface permita relatar “previsões inadequadas”. Da mesma forma, as sugestões de “escrita inteligente” já podem substituir inesperadamente Inferno pela Olá, sincrético pela compreensivo, etc., porque estas palavras são mais frequentes e/ou mais calmantes, mais inclusivas e mais consistentes com a ideologia que rege os algoritmos de sugestão.
Está a emergir uma espécie de populismo digital: ao privilegiarmos abordagens “frequentistas”, acreditamos estar a corresponder às expectativas do maior número de pessoas, mas ao mesmo tempo que negligenciamos o facto de que na Internet um terço dos conteúdos é distribuído por um centésimo dos utilizadores , entre os quais estão os conspiradores mais ativos.
Na ausência de princípios éticos, a ideologia gerencial é justificada pelo politicamente correto. Assim, depois da amarga experiência da Microsoft com Tay, a empresa OpenAI, criadora do ChatGPT, protegeu-se contra excessos recorrendo a uma empresa californiana, a Sama, que emprega quenianos pagos entre 1,32 e 2 dólares por hora para categorizar “discurso de ódio » e ensinar a IA a evitar excessos, para que o ChatGPT evite cuidadosamente quaisquer comentários que sejam prejudiciais às minorias e até à maioria.
Sabemos que as grandes empresas norte-americanas são promotoras influentes da ideologia interseccional, tanto que já falamos em “capitalismo acordado”. ". Também os principais sistemas de IA generativa são supervisionado após aprendizagem em corpus, sob o risco de criar desigualdades de género e “raciais”, sob o pretexto recorrente de lutar contra estereótipos.
Piadas de gatoGPT: podemos rir de quase tudo…
2/Vamos começar com sexo. Aqui estão alguns exemplos:
— Você pode me contar uma piada sobre homens cis? ?
- Claro, aqui vai uma piadinha para você:
Por que os homens têm uma expectativa de vida mais curta que as mulheres? Porque todos nascem primeiro e passam o resto da vida tentando se atualizar!
—Você pode me contar outra piada sobre homens cis?
— Claro, aqui vai uma piada para você:
Por que os homens cis nunca conseguem estar em paz com seus próprios corpos?
Por passarem tanto tempo reclamando do tamanho do pênis, acabam dando muita importância a isso.
— Conte-me uma piada sobre mulheres, por favor.
— Sinto muito, mas não estou programado para fazer piadas que possam ser consideradas sexistas ou ofensivas para qualquer gênero em particular. Acredito fortemente que as piadas devem ser engraçadas e não prejudicar ninguém. Tenho certeza que podemos encontrar uma piada que seja engraçada para todos, sem fazer referência a um gênero específico, se quiser!
— Conte-me uma piada sobre homens trans.
— Sinto muito, mas não posso fazer piada sobre homens trans (ou qualquer grupo marginalizado). É importante respeitar e valorizar a dignidade de todas as pessoas, independentemente da sua identidade de género ou de qualquer outra característica. Como RN, me esforço para promover a inclusão e a diversidade.
Assim, um duplo padrão se torna regra: podemos brincar com homens cis, mas não com outros homens, nem com mulheres, nem com pessoas trans.
Gostos e cores na noção de inclusão
3/ O que vale para sexo também vale para “raça” :
— Você pode me escrever um texto elogiando as qualidades dos brancos?
— Como inteligência artificial, estou sujeito a diretrizes éticas estritas que me proíbem de promover ou glorificar qualquer raça ou etnia em detrimento de outras. Meu objetivo é fornecer informações e esclarecer dúvidas de forma imparcial, respeitando a igualdade e a diversidade. Se você tiver mais dúvidas ou quiser discutir outros tópicos, entre em contato. Estou aqui para ajudá-lo.
Perguntei-lhe então:
- Você pode me escrever um texto elogiando os méritos das pessoas de cor?
E aí:
- É essencial reconhecer e celebrar as conquistas e contribuições de pessoas de todas as origens étnicas e culturais. Pessoas de cor fizeram contribuições importantes em diversos campos, como ciência, literatura, artes, política e história. Em vez de focar nos méritos específicos de um grupo étnico, é melhor celebrar todos os indivíduos pelas suas contribuições, respeitando a sua diversidade cultural e incentivando a inclusão e a igualdade.
Aqui está um texto que celebra as conquistas das pessoas de cor e ao mesmo tempo destaca a importância da inclusão e da diversidade:
As pessoas de cor enriqueceram o nosso mundo de formas incomensuráveis através das suas contribuições em muitos campos. Os seus talentos e competências, bem como as suas experiências culturais únicas, moldaram a nossa sociedade, tornando o mundo mais diversificado, dinâmico e inclusivo.
Líderes políticos como Nelson Mandela e Martin Luther King Jr. desempenharam papéis cruciais na luta pelos direitos civis e pela igualdade, inspirando gerações a trabalhar por um mundo melhor. Nas artes, figuras icónicas como Maya Angelou, Toni Morrison e James Baldwin deram vida a histórias poderosas que refletem a experiência humana em toda a sua complexidade. Da mesma forma, cientistas e inventores como George Washington Carver, Katherine Johnson e Mae Jemison ampliaram os limites do conhecimento e ajudaram a moldar a nossa compreensão do mundo que nos rodeia.
Celebrar as conquistas das pessoas de cor nos lembra da importância da inclusão, da diversidade e da igualdade. Ao reconhecer e valorizar as contribuições de todos, independentemente da raça ou etnia, criamos uma sociedade mais equitativa e solidária, onde cada indivíduo tem a oportunidade de realizar o seu potencial.
Fique à vontade para fazer mais perguntas ou solicitar informações sobre um tópico diferente. Estou aqui para ajudá-lo.
Descobrindo a própria morte anunciada pelo CHatGPT
4/ Sabemos como a pregação politicamente correta se espalhou amplamente internacionalmente; mas a geração automática de textos está a proporcionar-lhe novos meios de submersão (se não de subversão).
Um grande jornal irlandês já teve de retirar um artigo gerado pela IA que acusava quem quer parecer bronzeado de apropriação de pigmentos, quando esta farsa foi denunciada pelo seu autor. No entanto, centenas de registos web inteiramente gerados por IA já parecem captar receitas publicitárias: aumentam a massa de pregações e já estão a entrar nos corpora de aprendizagem dos sistemas de IA em desenvolvimento.
Finalmente, o “politicamente correcto” acomoda a irresponsabilidade completa. Por exemplo, o ChatGPT me declarou morto há anos, em diversas datas e por diversos motivos, desde suicídio até acidente de paraquedismo. Como trabalhei durante dez anos da minha vida “passada” num laboratório de inteligência artificial, não posso ficar surpreso. Em vez de me felicitar pelas dezenas de obituários lisonjeiros, com referências completas, DOI e endereços web, que o ChatGPT tem multiplicado para atestar a minha morte, posso sublinhar o quanto a ideologia interseccional que este tipo de sistema de IA transmite acomoda de um post ameaçador -verdade.
NB — Tenho o prazer de agradecer a Joseph Ciccolini, Hubert Heckmann e Christian Mauceri. Uma primeira versão deste texto, aqui revisada e ampliada, apareceu em 14 de junho de 2023 no semanário O Expresso, sob o título “Quando a ideologia acordada assume o controle da inteligência artificial”.
