Se nós continuarmos a fazer as coisas como sempre, as capacidades de IA serão usadas para obtenção de lucro e poder, mesmo isso que destrua as fundações da nossa sociedade
Imagine que você está embarcando em um avião e metade dos engenheiros que o construíram lhe diz que há 10% de chance da aeronave cair, matando você e todos os demais a bordo. Você embarcaria mesmo assim?
Em 2022, mais de 700 dos principais acadêmicos e pesquisadores por trás das maiores empresas de inteligência artificial foram questionados em uma sondagem a respeito do risco futuro da IA.
Metade dos entrevistados declarou que existe uma chance de 10% ou maior de extinção da humanidade (ou alguma insegurança similarmente permanente e grave) provocada por sistemas de IA. As empresas de tecnologia que constroem os maiores modelos de linguagem de hoje estão tomadas por uma corrida para colocar toda a humanidade nesse avião.
Necessidade de regulação
Empresas farmacêuticas não podem vender novos medicamentos para as pessoas sem antes submeter seus produtos a rigorosos testes de segurança. Laboratórios de biotecnologia não podem lançar novos vírus à esfera pública para impressionar acionistas com sua feitiçaria. Igualmente, sistemas de inteligência artificial com o poder do GPT-4 e além não deveriam ser emaranhados às vidas de bilhões de pessoas a um ritmo mais veloz do que as culturas sejam capazes de absorvê-los com segurança. A corrida pelo domínio do mercado não deveria determinar a velocidade do acionamento da tecnologia mais consequencial da humanidade. Nós devemos nos mover a qualquer velocidade que nos possibilite fazer isso direito.
O espectro da inteligência artificial assombra a humanidade desde meados do século 20, mas até recentemente não passava de um projeto distante, algo que pertence mais à ficção científica do que ao debate científico e político sério. É difícil para as nossas mentes humanas captar e compreender as novas capacidades do GPT-4 e outras ferramentas similares, e é ainda mais difícil dar conta da velocidade exponencial na qual essas ferramentas estão desenvolvendo capacidades mais avançadas e poderosas. Mas a maioria das capacidades principais se resume a uma coisa: manipular e gerar linguagem, seja com palavras, sons ou imagens.
No princípio era o verbo. A linguagem é o sistema operacional da cultura humana. Da linguagem emergem o mito e o direito, os deuses e o dinheiro, a arte e a ciência, as amizades, as nações e os códigos computacionais. O novo domínio da linguagem por parte da inteligência artificial significa que ela é capaz agora de invadir e manipular o sistema operacional da civilização. Ao ganhar domínio da linguagem, a IA está se apoderando da chave-mestra da civilização, de cofres de bancos a santos sepulcros.
Controle sobre a linguagem
O que significaria para os humanos viver em um mundo no qual uma grande porcentagem das narrativas, melodias, imagens, leis, políticas e ferramentas é moldada por inteligência não humana, que sabe como explorar com eficiência sobre-humana fraquezas, vieses e vícios da mente humana — ao mesmo tempo que sabe formar relações íntimas com os seres humanos? Em jogos como xadrez, nenhum humano chega perto de superar um computador. O que acontece quando o mesmo suceder na arte, na política ou na religião?
A inteligência artificial poderia devorar rapidamente toda a cultura humana, tudo o que produzimos ao longo de milhares de anos, digerir e começar a jorrar uma torrente de novos artefatos culturais. Não apenas trabalhos escolares, mas também discursos políticos, manifestos ideológicos e livros sagrados para novos cultos. Até 2028, a corrida presidencial dos Estados Unidos poderia não ser mais protagonizada por humanos.
Os humanos com frequência não possuem acesso direto à realidade. Nós somos encapsulados pela cultura, experimentando a realidade através de um prisma cultural. Nossas visões políticas são forjadas por reportagens de jornalistas e anedotas de amigos. Nossas preferências sexuais são ajustadas em função de arte e religião. Essa cápsula cultural tem sido, até aqui, tecida por outros humanos. Como será experimentar a realidade através de um prisma produzido por inteligência não humana?
Por milhares de anos, nós, humanos, vivemos dentro de sonhos de outros humanos. Nós adoramos deuses, perseguimos ideais de beleza e dedicamos as nossas vidas a causas que se originaram na imaginação de algum profeta, poeta ou político. Logo nós também viveremos dentro de alucinações de inteligência não humana.
Simplesmente obtendo domínio da linguagem, a IA teria tudo o que precisa para nos envolver em um mundo de ilusões à la Matrix, sem atirar em ninguém nem implantar nenhum chip em nossos cérebros. Se tiros forem necessários, a IA fará humanos puxarem o gatilho simplesmente contando-nos a história certa
Ilusões controladas por máquinas
A franquia “O exterminador do futuro” retratou robôs correndo nas ruas e atirando em pessoas. “Matrix” assumiu que, para impor controle total sobre a sociedade humana, a inteligência artificial teria primeiro que controlar fisicamente nossos cérebros e conectá-los a uma rede computacional. Mas simplesmente obtendo domínio da linguagem a IA teria tudo o que precisa para nos envolver em um mundo de ilusões à la Matrix, sem atirar em ninguém nem implantar nenhum chip em nossos cérebros. Se tiros forem necessários, a IA fará humanos puxarem o gatilho simplesmente contando-nos a história certa.
O espectro de ficar preso em um mundo de ilusões assombra a humanidade há muito mais tempo do que o espectro da inteligência artificial. Nós logo estaremos finalmente diante do gênio maligno de Descartes, da caverna de Platão e da maya budista. Uma cortina de ilusões poderia desprender-se sobre toda a humanidade, e nós poderemos jamais ser capazes de rasgá-la — ou até mesmo perceber sua presença.
O alerta das redes sociais
As redes sociais foram o primeiro contato entre a inteligência artificial e a humanidade, e a humanidade perdeu. O primeiro contato nos deixa um sabor amargo do que está por vir. Nas redes sociais, IA primitiva foi usada não para criar conteúdo, mas para curar conteúdo gerado pelos usuários. A IA por trás dos nossos feeds de notícias ainda está escolhendo quais palavras, sons e imagens chegam às nossas retinas e tímpanos com base na seleção das postagens que obtêm mais viralidade, mais reações e mais engajamento.
Ainda que muito primitiva, a inteligência artificial por trás das redes sociais foi suficiente para criar uma cortina de ilusões que elevou a polarização social, minou nossa saúde mental e desgastou a democracia. Milhões de pessoas confundiram essas ilusões com a realidade. Os EUA têm a melhor tecnologia da informação na história, mas os cidadãos americanos não conseguem mais concordar sobre quem venceu as eleições. Apesar de todos estarem agora cientes dos problemas das redes sociais, eles ainda não foram solucionados porque tantas de nossas instituições sociais, econômicas e políticas estão emaranhadas.
Os grandes modelos de linguagem são nosso segundo contato com a inteligência artificial. Nós não podemos nos dar ao luxo de perder novamente. Mas sobre quais bases nós deveríamos acreditar que a humanidade é capaz de alinhar essas novas formas de IA para nosso benefício? Se nós continuarmos a fazer as coisas como sempre, as novas capacidades de IA serão usadas novamente para obtenção de lucro e poder, mesmo isso que destrua inadvertidamente as fundações da nossa sociedade.
Ainda que muito primitiva, a inteligência artificial por trás das redes sociais foi suficiente para criar uma cortina de ilusões que elevou a polarização social, minou nossa saúde mental e desgastou a democracia
Benefícios x Riscos
A inteligência artificial tem potencial para nos ajudar a derrotar o câncer, descobrir drogas que salvam vidas e inventar soluções para nossas crises climáticas e energéticas. Há inumeráveis outros benefícios que nem conseguimos imaginar. Mas o tamanho do monte de benefícios da IA não importa se sua base ruir.
A hora do acerto de contas com a inteligência artificial é antes da nossa política, nossa economia e nossa vida cotidiana se tornarem dependentes dela. Democracia é diálogo, diálogos têm base em linguagem, e quando a própria linguagem é hackeada, o diálogo acaba, e a democracia fica insustentável. Se esperarmos o caos se abater, será tarde demais para remediá-lo.
Mas uma dúvida pode persistir em nossas mentes: se nós não nos movimentarmos o mais rápido possível o Ocidente não arrisca perder para a China? Não. O acionamento e envolvimento descontrolado de inteligência artificial na sociedade, desprendendo poderes divinos desvencilhados de responsabilidade, poderia ser a razão da derrota do Ocidente para a China.
Uma cortina de ilusões poderia desprender-se sobre toda a humanidade, e nós poderemos jamais ser capazes de rasgá-la — ou até mesmo perceber sua presença.
Que futuro queremos?
Nós ainda podemos escolher qual futuro queremos com a inteligência artificial. Quando os poderes divinos vierem acompanhados de responsabilidades e controles proporcionais nós poderemos concretizar os benefícios prometidos pela IA.
Nós invocamos uma inteligência alienígena. Nós não sabemos muita coisa sobre ela, a não ser que é extremamente poderosa e nos oferece presentes deslumbrantes, mas também poderia invadir as fundações da nossa sociedade. Nós conclamamos os líderes a responder a este momento à altura do desafio que ele apresenta. A primeira coisa é ganhar tempo para modernizar nossas instituições do século 19 para um mundo com inteligência artificial — e aprender a dominá-la antes que ela nos domine.
O Estado de São Paulo, Yuval Harari, Tristan Harris e Aza Raskin (no The New York Times)
Yuval Noah Harari é historiador; autor de “Sapiens”, “Homo Deus” e “Implacáveis”; e um dos fundadores da empresa de impacto social Sapienship. Tristan Harris e Aza Raskin são fundadores do Centro para Tecnologia Humana e apresentam o podcast “Your Undivided Attention”
