Por Julio Cesar Marcellino Jr., doutor em Direito, professor e advogado.
A inteligência artificial (IA) já está entre nós e se impõe como irreversível. O avanço tecnológico dos últimos tempos tem sido célere e, até certo ponto, opaco, difícil de ser compreendido em sua plenitude.
A sensação é de que estamos diante de um fenômeno incontrolável e que se difunde sem sabermos ao certo a origem, as intenções e para onde vai nos levar. Apenas sentimos de perto essa mudança quando as ferramentas tecnológicas vão ganhando mercado e se tornando acessíveis ao grande público.
Poderíamos chamar esse avanço tecnológico, que simplesmente nos captura, de “onda”, tal e qual fazem Mustafa Suleyman e Michel Bhaskar em seu livro “A próxima Onda: inteligência artificial, poder e o maior dilema do século XXI”, pela Editora Record.
A metáfora é utilizada recorrendo ao mito da inundação que permeia nosso imaginário desde os tempos antigos, a exemplo do dilúvio na epopeia de Gilgamesh, em que os humanos foram tomados pelas águas de modo irresistível, incontrolável e avassalador.
A tecnologia tem avançado ao longo da história e impactado a vida humana de diferentes modos. Algumas invenções, em especial, têm seu impacto potencializado por razões arbitrárias.
Estas ondas são chamadas por Suleyman e Bhaskar de ondas de propósito geral, referindo-se a mudanças pontuais no avanço tecnológico com invenções que se desdobram em outras utilidades e que têm a capacidade de reconfigurar o modo de viver. Vejamos o impacto das inovações ao longo da história.
O manejo do fogo em tempos pré-históricos se tornou arma útil contra predadores, tanto quanto permitiu a arte de cozinhar, transformando o modo de vida do homo sapiens.
A revolução agrícola na antiguidade, com a domesticação de plantas e animais, impôs a transição da vida nômade para a sedentária, tendo sido sofisticada pelo surgimento da escrita, que viabilizou o registro e controle dos excedentes produzidos, armazenados e negociados.
A invenção da prensa no medievo permitiu que o conhecimento pudesse ser difundido por meio de livros e reconfigurou o poder político estabelecido pelo Igreja, especialmente pelo alcance da reforma protestante.
Na era moderna, mais especificamente no século XVIII, surge o motor a vapor que impulsiona a criação de um inédito sistema fabril e ferroviário, inaugurando o que mais tarde foi chamado de Revolução Industrial.
No século seguinte, a onda de avanço tecnológico continua com o surgimento do motor de combustão interna e, a partir dele, avanços em relação à engenharia química, ao voo motorizado e à eletricidade.
Neste período já se percebe que as inovações tecnológicas de grande impacto ocorrem em décadas e não mais em séculos ou milênios como antes.
Finalmente chegamos ao século XX, com a ampla proliferação do motor de combustão interna – que revolucionou o transporte de longa distância – e as invenções como a televisão e o telefone também de grande impacto em nossa sociedade.
Mas nada foi tão impactante em tão curto espaço de tempo como o surgimento dos computadores e transistores. O primeiro computador surge na década de 1940 por ocasião da Segunda Guerra Mundial com o objetivo de decifração de códigos.
No início da década 1970 já eram mais de meio milhão de computadores, e de lá para cá, os transistores por chip aumentaram em 10 milhões de vezes.
No início da década de 1980, tínhamos 562 computadores conectados em rede-internet. Hoje estima-se que 14 bilhões de computadores, smartphones e dispositivos eletrônicos estejam conectados em rede.
A partir da virada do século XXI já se tem um novo ecossistema de inovação, com a difusão da internet e de suas utilidades derivativas em escala inimaginável. Para se ter uma ideia, 18 milhões de gigabytes de dados são acrescentados à soma global por minuto.
A diferença em relação aos avanços anteriores é que nesse estágio da tecnologia, ou como preferem Suleyman e Bhaskar, nessa onda, a vida e as relações humanas são totalmente pautadas pela estrutura de inovação que nos rodeia. Bilhões de horas da vida humana são consumidas, modeladas e ditadas por essas tecnologias. Todos os aspectos da vida são afetados.
Dentre essas novas tecnologias, o que mais nos desafia, com certeza, são os avanços relacionados à inteligência artificial e à biologia sintética. Tudo que se viu construir no passado, tais como cidades, prédios, literatura, riquezas, arte, praticamente tudo, foi decorrente da habilidade da inteligência humana.
O que se pretendeu a partir de 2010 foi desenvolver uma ferramenta que pudesse imitar a inteligência, copiando e reproduzindo as habilidades do ser humano. Por isso se chamou de inteligência “artificial”, em contraponto a “natural”.
A questão é que a inteligência artificial não parou por aí. Hoje, por meio dessa ferramenta, pode-se não somente copiar habilidades humanas, mas também avançar em relação a elas. Ou seja, chegamos ao ponto em que a IA pode superar o potencial da racionalidade humana.
Através dela pode-se reconhecer faces e objetos, fazer e traduzir textos, compor músicas, dirigir veículos, produzir imagens e vozes com realismo, fazer planejamento administrativo e tantas outras tarefas complexas. A IA está nas notícias, no celular, nos websites, na medicina, nos negócios, nas novas indústrias.
No âmbito das redes sociais, ela já é amplamente utilizada para a definição de nossos perfis, coleta de dados, pautando de maneira invisível o que assistimos e lemos.
Dos negócios ao lazer, estamos inteiramente sob as coordenadas da IA. Por meio dela, nossa capacidade de tomada de decisão está seriamente abalada. Nossas escolhas estão submetidas à lógica dos algoritmos.
Em paralelo temos os avanços da biologia sintética, pouco ou quase nada debatida em sociedade. Trata-se da possibilidade de sintetizar ou fabricar DNA´s. Os sintetizadores que podem imprimir cadeias inteiras de DNA sob medida, estão com seus custos em queda e em franca proliferação.
Em breve, qualquer um bem treinado poderá interferir e manipular material genético, podendo, por exemplo, fabricar patógenos muito mais transmissíveis e letais do que qualquer coisa similar encontrada na natureza. Por meio de manipulações, esses patógenos sintéticos poderiam resistir a tratamentos conhecidos e serem imunes aos antídotos disponíveis em sociedade.
A IA e a biologia sintética, em conjunto, trazem oportunidades sem precedentes tanto quanto oferecem riscos imprevisíveis. Por conta disso, Suleyman e Bhaskar usam seu livro para fazer um alerta: essas tecnologias precisam ser contidas e geridas em relação aos seus resultados futuros.
Observam que essas novas tecnologias podem gerar invasões de privacidade em massa, explosão de desinformação, desemprego em larga escala e guerras cibernéticas altamente letais. O mundo em rede estaria, segundo os autores, seriamente ameaçado por essas tecnologias.
Esse seria o meta-problema ou dilema ético do século XXI. As novas tecnologias poderão ter efeito distópico, e sua contenção seria um desafio pois as inovações tecnológicas se proliferam num “processo caótico de catalizações cruzadas”. Ou seja, o progresso em uma área acelera o progresso em outras áreas de maneira arbitrária.
No caso da IA e da biologia sintética, os referidos autores temem que talvez não estejamos diante de mais uma onda de inovação como já ocorrida em tempos passados, mas que estejamos diante de um verdadeiro tsunami.
As preocupações se justificam quando pensamos que as novas tecnologias têm potencial para afetar as relações de poder em sociedade. Os pilares do Estado-Nação estariam sob risco. Com guerras cibernéticas, desinformação em massa e possíveis pandemias artificiais, poderíamos estar diante de uma possível distopia tecno-autoritária.
A ordem política mundial certamente não terá ferramentas para enfrentar esse novo fenômeno. Não se trata, por óbvio, de abdicar dos avanços tecnológicos que festejamos por nos trazerem conforto, bem-estar, longevidade e segurança.
Mas o avanço da nova onda de inovação merece atenção, cuidado e monitoramento. Que levemos a sério os alertas de Suleyman e Bhaskar.
