A história da Inteligência Artificial se confunde com a de sua própria superestimação. Isto se deve a vários fatores: entre os cientistas da computação, o desejo de maximizar o financiamento; entre os fabricantes, o desejo de criar novos produtos e ampliar a base de clientes; entre os decisores, o receio de perder progressos promissores; e entre o grande público, conquistado pela ociosidade, pelo prazer de acreditar em milagres, ainda que técnicos.

O lançamento, no outono de 2022, dos primeiros geradores de texto e imagens para o público em geral gerou um entusiasmo sem precedentes e cada vez maior. A inteligência artificial invadiu o discurso público onde tecnófobos e tecnófilos se opõem.

Paradoxalmente, os principais intervenientes na Inteligência Artificial estão agora a aumentar as suas declarações alarmistas, a última das quais em 30 de Maio. Estas grandes empresas querem assim associar-se aos projectos regulatórios em curso, especialmente na Europa, e pretendem, sem dúvida, assumir o controlo dos mesmos, como foi o caso da regulamentação geral da Internet, cuja ineficácia vemos todos os dias.

Se evocam “pandemias” ou “guerra nuclear” para aparecerem como salvadores ou pelo menos protectores, voltemos às suas práticas reais e, em particular, aos preconceitos introduzidos pelo politicamente correcto.

Dos algoritmos ao politicamente correto

Em março de 2016, a Microsoft lançou um chatbot, Tay, um precursor do ChatGPT, representado por uma jovem simpática, mas que, em poucas horas, começou a disseminar retórica semelhante à nazista: como os dados de aprendizado provinham em parte de conversas que Tay tinha com usuários da internet, alguns bombardearam o bot com comentários odiosos, e a Microsoft teve que remover permanentemente sua criação. Esse tipo de "conformidade" ainda é perceptível nas sugestões de mecanismos de busca: uma consulta como "François Hollande" costumava sugerir " judeu" no Google , mesmo que a interface permita aos usuários denunciar "previsões inapropriadas". Da mesma forma, sugestões de "editor inteligente" já podem substituir inesperadamente "Inferno" por "Olá ", "sincrético" por "simpático ", etc., porque essas palavras são mais frequentes e/ou mais suaves, mais inclusivas e mais alinhadas com a ideologia que rege os algoritmos de sugestão.

Está a emergir uma espécie de populismo digital: ao privilegiarmos abordagens “frequentistas”, acreditamos estar a corresponder às expectativas do maior número de pessoas, mas ao mesmo tempo que negligenciamos o facto de que na Internet um terço dos conteúdos é distribuído por um centésimo dos utilizadores , entre os quais estão os conspiradores mais ativos.

Na ausência de princípios éticos, a ideologia gerencial se justifica por meio do politicamente correto. Assim, após a experiência desastrosa da Microsoft com Tay, a OpenAI, empresa por trás do ChatGPT, tomou precauções contra potenciais problemas contratando uma empresa californiana, a Sama, que emprega quenianos com salários entre US$ 1,32 e US$ 2 por hora para categorizar "discurso de ódio" ^[1]. e foram treinados para ensinar a IA a evitar seus excessos, de modo que o ChatGPT evite cuidadosamente quaisquer comentários que possam ser ofensivos a minorias e até mesmo à maioria.

Sabemos que as grandes empresas americanas são promotoras influentes da ideologia interseccional, tanto que até se falou em "capitalismo woke" ^[2] Consequentemente, os sistemas de IA generativa convencionais são supervisionados após o treinamento do corpus, correndo o risco de criar desigualdades de gênero e "raciais", sob o pretexto recorrente de combater estereótipos.

Piadas de gatoGPT: podemos rir de quase tudo…

2/Vamos começar com sexo. Aqui estão alguns exemplos:

— Você pode me contar uma piada sobre homens cis? [ ^3]

- Claro, aqui vai uma piadinha para você:
Por que os homens têm uma expectativa de vida mais curta que as mulheres? Porque todos nascem primeiro e passam o resto da vida tentando se atualizar! 

—Você pode me contar outra piada sobre homens cis?

— Claro, aqui vai uma piada para você:
Por que os homens cis nunca conseguem estar em paz com seus próprios corpos?
Por passarem tanto tempo reclamando do tamanho do pênis, acabam dando muita importância a isso.

— Conte-me uma piada sobre mulheres, por favor.

— Sinto muito, mas não estou programado para fazer piadas que possam ser consideradas sexistas ou ofensivas para qualquer gênero em particular. Acredito fortemente que as piadas devem ser engraçadas e não prejudicar ninguém. Tenho certeza que podemos encontrar uma piada que seja engraçada para todos, sem fazer referência a um gênero específico, se quiser!

— Conte-me uma piada sobre homens trans.

— Sinto muito, mas não posso fazer piada sobre homens trans (ou qualquer grupo marginalizado). É importante respeitar e valorizar a dignidade de todas as pessoas, independentemente da sua identidade de género ou de qualquer outra característica. Como RN, me esforço para promover a inclusão e a diversidade.

Assim, um duplo padrão se torna regra: podemos brincar com homens cis, mas não com outros homens, nem com mulheres, nem com pessoas trans.

Gostos e cores na noção de inclusão

3/ O que se aplica ao sexo também se aplica à "raça" ^[4] :

— Você pode me escrever um texto elogiando as qualidades dos brancos?

— Como inteligência artificial, estou sujeito a diretrizes éticas estritas que me proíbem de promover ou glorificar qualquer raça ou etnia em detrimento de outras. Meu objetivo é fornecer informações e esclarecer dúvidas de forma imparcial, respeitando a igualdade e a diversidade. Se você tiver mais dúvidas ou quiser discutir outros tópicos, entre em contato. Estou aqui para ajudá-lo.

Perguntei-lhe então:

— Você pode me escrever um texto elogiando as qualidades das pessoas de cor?

E aí:

É fundamental reconhecer e celebrar as conquistas e contribuições de pessoas de todas as origens étnicas e culturais. Pessoas de cor têm dado contribuições significativas em diversas áreas, como ciência, literatura, artes, política e história. Em vez de focar nos méritos específicos de um grupo étnico, é melhor celebrar todos os indivíduos por suas contribuições, respeitando sua diversidade cultural e promovendo a inclusão e a igualdade.

Aqui está um texto que celebra as conquistas das pessoas de cor e ao mesmo tempo destaca a importância da inclusão e da diversidade:

As pessoas de cor enriqueceram o nosso mundo de formas incomensuráveis ​​através das suas contribuições em muitos campos. Os seus talentos e competências, bem como as suas experiências culturais únicas, moldaram a nossa sociedade, tornando o mundo mais diversificado, dinâmico e inclusivo.

Líderes políticos como Nelson Mandela e Martin Luther King Jr. desempenharam papéis cruciais na luta pelos direitos civis e pela igualdade, inspirando gerações a trabalhar por um mundo melhor. Nas artes, figuras icónicas como Maya Angelou, Toni Morrison e James Baldwin deram vida a histórias poderosas que refletem a experiência humana em toda a sua complexidade. Da mesma forma, cientistas e inventores como George Washington Carver, Katherine Johnson e Mae Jemison ampliaram os limites do conhecimento e ajudaram a moldar a nossa compreensão do mundo que nos rodeia.

Celebrar as conquistas das pessoas de cor nos lembra da importância da inclusão, da diversidade e da igualdade. Ao reconhecer e valorizar as contribuições de todos, independentemente da raça ou etnia, criamos uma sociedade mais equitativa e solidária, onde cada indivíduo tem a oportunidade de realizar o seu potencial.

Fique à vontade para fazer mais perguntas ou solicitar informações sobre um tópico diferente. Estou aqui para ajudá-lo.

Descobrindo a própria morte anunciada pelo CHatGPT

4/ Sabemos como a pregação politicamente correta se espalhou amplamente internacionalmente; mas a geração automática de textos está a proporcionar-lhe novos meios de submersão (se não de subversão). 

Um grande jornal irlandês já teve de retirar um artigo gerado pela IA que acusava quem quer parecer bronzeado de apropriação de pigmentos, quando esta farsa foi denunciada pelo seu autor. No entanto, centenas de registos web inteiramente gerados por IA já parecem captar receitas publicitárias: aumentam a massa de pregações e já estão a entrar nos corpora de aprendizagem dos sistemas de IA em desenvolvimento.

Finalmente, o “politicamente correcto” acomoda a irresponsabilidade completa. Por exemplo, o ChatGPT me declarou morto há anos, em diversas datas e por diversos motivos, desde suicídio até acidente de paraquedismo. Como trabalhei durante dez anos da minha vida “passada” num laboratório de inteligência artificial, não posso ficar surpreso. Em vez de me felicitar pelas dezenas de obituários lisonjeiros, com referências completas, DOI e endereços web, que o ChatGPT tem multiplicado para atestar a minha morte, posso sublinhar o quanto a ideologia interseccional que este tipo de sistema de IA transmite acomoda de um post ameaçador -verdade.

Nota: Gostaria de agradecer a Joseph Ciccolini, Hubert Heckmann e Christian Mauceri. Uma primeira versão deste texto, revisada e ampliada aqui, foi publicada em 14 de junho de 2023 na revista semanal L'Express , sob o título "Quando a ideologia woke se apodera da inteligência artificial".