Os limites e a ética no uso da inteligência artificial

Já não é de hoje que a IA é apenas tema ou enredo de filmes de ficção, nem tampouco matéria de artigo científico de tendências e perspectivas que o futuro nos reserva.

É realidade presente nos mais diversos segmentos. Na medicina ou na engenharia, dentro dos escritórios ou no comércio, no ensino fundamental ou no superior, nas redes sociais ou no funcionamento de vários serviços na nuvem, na produção de alimentos no campo ou no processamento deles na indústria.

Muito se fala, principalmente dos seus benefícios e de tudo que ela pode contribuir para um mundo melhor. Mas como tudo na vida, há sempre o outro lado.

O que o futuro – e mesmo o presente – dessa e de todas as tecnologias relacionadas nos reservam e que as pessoas evitam abordar? Quais as consequências e implicações de um mundo cada vez mais dependente dela? Quais os perigos estão sendo negligenciados e por que é importante impor limites?

O que é Inteligência Artificial?

Inteligência artificial é dotar um sistema da capacidade de aprender e a partir desse aprendizado, tomar decisões ou realizar algum tipo de ação, de modo semelhante à inteligência humana.

É improvável nos dias de hoje imaginar que alguém não tenha ao menos alguma noção do significado desse termo.

Mas essa é uma pergunta retórica, a qual logo se mostrará importante para nossa discussão de hoje.

A IA – referência alternativa de inteligência artificial – já é parte integrante de muita coisa. Pelo menos é o que muitas empresas querem nos fazer acreditar.

Sim, porque desde o boom das IAs, puxado pelo ChatGPT, parece que estamos rodeados de produtos e serviços que em maior ou menor grau, incorporam as tecnologias associadas.

Já existem fabricantes de comida afirmando que a usam para obter comida mais saudável e saborosa. O mesmo na indústria têxtil, para produzir roupas mais confortáveis, duráveis e que facilitam o processo de lavagem. A lista de aparelhos eletrônicos que prometem resultados incríveis, graças a ela, é incontável. Tem até aplicativo de namoro, que garante encontrar o seu par ideal, por conta da IA.

Mas será mesmo que uma máquina que roda um sistema é capaz de “entender” o que é sabor? Ou qual a sensação de um tecido em contato com a pele sob o sol? Ou ainda, o que faz uma pessoa sentir seu coração disparar, no processo de atração?

Há quem defenda que a vantagem do intelecto da máquina sobre o humano, é a ausência dos desvios de caráter e da subjetividade que acompanha a inteligência das pessoas.

Até é compreensível e admissível em certos cenários.

Mas e o que dizer dos valores e princípios e que invariavelmente também estão presentes nos processos de decisão?

É o caso por exemplo, da empatia, do altruísmo, da solidariedade e da bondade, para citar apenas alguns, já que a lista pode ser muito grande e a variedade de definições e entendimentos para apenas um desses substantivos abstratos, pode ser tão grande quanto.

É possível ensinar algum deles a um sistema?

Mas é preciso ir mais além. Se formos rigorosos e pensarmos no que é necessário em termos de infraestrutura para caracterizarmos um sistema como verdadeiramente dotado de inteligência artificial, muitos não cumprem os requisitos.

Ou seja, há muita propaganda enganosa ou se preferir, muitos são os casos nos quais a inteligência artificial é apenas “Marketing”!

De fato, inteligência artificial é um conceito bem mais amplo e compreende uma série de outras tecnologias que são reunidas para produzir algo que se assemelha ao pensamento humano e que pode ser a disputa de uma partida de xadrez ou do jogo chinês Go, ou até mesmo decidir pelo melhor dia e horário para colocação de um satélite em órbita terrestre.

Não é diferente dos desafios diários de qualquer pessoa.

Inteligência não se aplica apenas ao pensamento necessário para realizar o planejamento anual que você faz para sua empresa. Envolve também a roupa que escolhemos vestir, que pode parecer tão automático, simples e rápido, que dispensa pensar. Mas ainda é pensamento e envolve algum nível de inteligência.

Agora que ampliamos o conceito de inteligência, seja a artificial ou não, podemos tratar de outras questões relacionadas.

Por que é preciso falar sobre inteligência artificial?

É importante ressaltar, que não é nosso objetivo demonizar o avanço dessa tecnologia e o seu emprego nas mais diversas áreas. Inegavelmente esse é um caminho sem volta e há sim benefícios concretos e importantes.

Também é indiscutível que a IA é apenas um instrumento, tal como uma faca, a qual pode servir para preparar deliciosos alimentos ou para matar. Em outras palavras, ela por si só, não é absolutamente boa ou ruim, mas o uso que se faz dela, precisa sim ser discutido.

E é justamente disso que trata a ética, ou seja, estabelecer um conjunto de princípios, de regras, de normas, que é responsável por orientar o comportamento de uma pessoa nas mais diversas situações quotidianas e em cada ato ou decisão que requer um posicionamento. Se preferir, é o que permite decidir entre o que é o certo e o errado.

Mais objetivamente, há uma série de pontos que exigem que tratemos do desenvolvimento dessa tecnologia, enquanto ainda é tempo:

• Presença – a inteligência artificial está cada vez mais presente em uma série de circunstâncias quotidianas. Nada – ou quase nada – que faça parte do nosso dia a dia, é isento de controle, de fiscalização, de submissão a um conjunto de normas, de regras e de legislação específica. Por que no caso da IA deveria ser diferente?;

• Alcance – a variedade de exemplos nos quais vem sendo utilizada, bem como a versatilidade dos grandes modelos, alerta para o que as IAs são capazes de fazer e consequentemente o alcance e influência em quase todos os setores;

• Riscos – pesquisadores, desenvolvedores, especialistas e até investidores, têm alertado para os muitos riscos e ameaças do desenvolvimento sem controle e regulação, podem trazer em um futuro breve;

• Transparência – os algoritmos hoje presentes em muitas áreas, como por exemplo, nas redes sociais, são como caixas-pretas, já que não se sabe com o mínimo de certeza quais dados utilizam, como as decisões são tomadas, para que objetivos são programadas, nem tampouco podem ser avaliadas por seres humanos;

• Impactos – os impactos em várias esferas, como na sociedade e no meio ambiente, por exemplo, seja porque é um caso da tecnologia “roubando” empregos, seja pelo consumo de energia, emissões de CO² e aumento de e-lixo;

• Viés – replicação de vieses em torno de raça, gênero, religião, política, entre outros, quando o aprendizado (machine learning) não é conduzido de modo adequado;

• Desinformação – pela mesma razão do fator acima, um treinamento feito sem critérios e/ou sem curadoria, em vez de contribuir para o conhecimento, pode produzir desinformação e fake news.

A lista de aspectos importantes associados ao tema, não se esgota com os pontos acima, mas é suficiente para justificar a importância de discutirmos o tema.

Mais do que isso, o próprio entendimento de inteligência, não é algo concreto, rígido e imutável. O conceito de Inteligência Emocional, ou seja, a capacidade de aplicar suas faculdades mentais com isenção e livre de influências emocionais próprias ou ambientais, reforça a afirmação.

É o conjunto de valores, princípios, emoções, experiências, resultados e a ética, que estipulam os limites de nossa atuação.

Como “ensinar” isso tudo a um algoritmo? Como munir um sistema de IA de responsabilidade social, por exemplo?

Uma vez que muitos sistemas de IA visam maximizar lucros, minimizar o uso de recursos, otimizar o tempo, quando e como estipular que isso deve desconsiderar tudo para o que foi programado, quando o fator humano e qualquer ameaça a ele, estiverem envolvidos?

Assim, o mesmo cenário mostrado em filmes de ficção, que até pouco tempo pareciam restritos às telas, em filmes como “Eu, robô”, dia após dia começam a ser replicados na vida real. Até que ponto a realidade não vai imitar a ficção?

São muitas perguntas, que refletem preocupações concretas, à medida que a tecnologia evolui a velocidades muito superiores ao conjunto de normas que estipulam os limites seguros e que garantem a nossa própria existência.

O que há até o momento e que regula minimante as empresas e as ações envolvendo IA e tudo que orbita em torno dela, é muito pouco. Quase nada, para falar a verdade.

A exemplo disso, temos a LGPD (Lei Geral de Proteção de Dados) que estabelece alguma normatização, mas que afeta apenas parte do intrincado universo que envolve IA.

Hoje já há cidades nas quais a Inteligência Artificial está amplamente presente em tudo. De câmeras de vigilância espalhadas pelos quatro cantos, a dispositivos que as pessoas carregam nos bolsos e bolsas, ou as peças de vestuário (tênis, camisa, pulseira, etc) que possuem conectividade de IoT (Internet Of Things), fazendo parte de uma categoria denominada wearables.

As redes sociais, os sites de e-commerce nos quais você compra, as pesquisas no Google ou no Bing, os apps instalados no seu smartphone, os e-mails que envia e recebe, tudo isso e muito mais, alimentando poderosos “Big Datas”, os quais sob avaliação de não menos poderosos sistemas de IA, Deep Learning e outras tecnologias menos populares, mas igualmente importantes, fazem com que as pessoas por trás disso, saibam mais de você do que você mesmo.

É disso tudo que vem o poder financeiro – e o que ele proporciona – que garante a ditadura das Big Techs.

Está em jogo, o sigilo das informações a você associadas, a privacidade a que você tem direito e até mesmo a sua segurança online, já que não há como separar uma coisa da outra.

O que pode ser feito se tudo isso cai em mãos erradas, em tempos que os vazamentos de dados são cada vez mais comuns?

E mesmo sob pretextos – a princípio positivos – ou sob as melhores intenções, se algo não funcionar como se pretendia?

A verdade é que ainda há regulamentação nenhuma que preveja o que fazer e, sobretudo, estipule os limites que devem ser respeitados. Não há limites e regras para quase nada, quando o assunto é esse.

O que antes era decidido por um humano e sujeito a freios morais, princípios e valores, bem como legislação específica, agora pode ser responsabilidade de um algoritmo. Há implicações e desdobramentos éticos fundamentais nisso.

Por fim, mas não menos importante, há os números, as cifras, os lucros e consequentemente os interesses por trás de tudo que está relacionado. Estima-se que até 2027, os investimentos em IA sejam da ordem de 1 trilhão de dólares!

Todos que direta ou indiretamente se beneficiam, estão dispostos a abrir mão de uma parte do seu quinhão em nome dos direitos e garantias individuais, da segurança ou da simples privacidade?

A importância dos limites no uso da Inteligência Artificial

Até agora, o que se discutiu, foram apenas possibilidades com base no que temos de tendências e mesmo no que concretamente já se tem.

É essencial compreender que a responsabilidade no desenvolvimento e uso supervisionado da inteligência artificial de hoje e do futuro, precisa ser compartilhada entre a sociedade civil, as empresas e o Estado.

A importância de estabelecer limites, regras e a ética associada à IA, incluí a responsabilidade com os dados, a garantia da privacidade, adoção da equidade, a segurança e veracidade das informações, a transparência no uso por parte das pessoas, a sustentabilidade ambiental, a inclusão social e digital, atribuição de responsabilidades, entre outros aspectos.

Já há uma série de consequências diretas do emprego de tudo que envolve inteligência artificial ou mesmo que permite que ela seja aplicada, como um simples computador para bicicleta que colhe dados de um percurso e alimenta seu histórico de treinamentos ou de simples passeios.

Desse exemplo hipotético, mas baseado nos hábitos de muitos ciclistas atualmente, há uma outra consequência imediata – o lixo eletrônico gerado. Isso para não voltar a falar do aspecto da segurança no mundo digital e da privacidade.

A velocidades cada vez mais rápidas, o ciclocomputador ou o seu smartphone e uma série de outros gadgets ficam obsoletos. Ou não. Meramente são trocados graças ao lançamento de um novo modelo e o poder de persuasão do Marketing, fazendo aposentar o “antigo”, no que conhecemos como práticas de obsolescência programada.

Que destinação terá o anterior?

Quantas vezes você e/ou as pessoas ao seu redor compram coisas apenas porque o mundo inteiro as tem?

Não se nega aqui o que há de bom associado às IAs generativas (Chat GPT, Gemini, Meta AI, etc), aos assistentes virtuais inteligentes, aos chatbots, aos muitos serviços que proliferam na Internet ou qualquer coisa que esteja relacionada.

Porém, as pessoas precisam estar cientes que há um preço – o qual muitas vezes não está evidente – quando usufruem de muitas dessas tecnologias.

Muita gente não se dá conta do que envolve o simples ato – tão comum – de instalar um app no celular. Há até entre os mais esclarecidos, os que não sabem que não há “almoço grátis” e os cuidados com conteúdos online gratuitos.

E se já não fosse bastante, pessoas e até marcas e empresas estão se tornando reféns dos algoritmos, já que é inegável o poder de influência que eles têm, sugestionando a realizar compras, escolher produtos / serviços, ou quem sabe na tomada de decisões sobre o que ou não deve ser feito.

Exemplos concretos dos perigos, já existem e não é de hoje.

Em 2016, um carro do serviço Uber sem motorista, passou um sinal vermelho, sem maiores consequências. Lamentavelmente em outro episódio envolvendo a mesma empresa, uma mulher nos EUA foi uma vítima fatal da mesma tecnologia.

Na mesma linha do caso do Uber, a Tesla, conhecido fabricante do qual Elon Musk é proprietário, sofre vários processos acidentes fatais envolvendo o sistema Autopilot, evidenciando que a tecnologia não evita o envolvimento em acidentes. Mas mais importante, quem seria responsável e culpado nessas circunstâncias? Empresa? Desenvolvedores? Dono do veículo?

Em uma situação que aparentemente representa menos risco, um perfil no Twitter, usado pelo que parecia ser uma adolescente, mas que na verdade é Tay, um sistema de IA desenvolvido pela Microsoft para interagir na rede social, tal como uma pessoa, criou postagens com mensagens de cunho sexista, racista e xenófobo!

E até mesmo o robô Sophia, que em uma conversa com seu criador, revelou que gostaria de destruir os humanos.

Já há muitos casos e que envolvem questões “simples” como o cancelamento de uma carteira de motorista, pelo reconhecimento facial equivocado, associando-o a um criminoso, ou o cancelamento de benefícios em planos médicos de idosos carentes ou até o caso de um suicídio de uma esposa, a cujo esposo foi erroneamente atribuído o pagamento de uma pensão alimentícia no valor de US$ 206.000,00 e que constam dessa matéria na Wired.

E se o que estiver em questão for um diagnóstico médico? Você vai depositar o seu futuro e as decisões nele envolvidas a você mesmo, a outro humano em quem confia ou a uma máquina? Ou quem sabe, submeter-se a uma “justiça” que dá uma sentença baseada em uma jurisprudência falsa inventada por uma IA!

A IA, a máquina, o algoritmo, não esquece! Ela fará o que foi programada para fazer, sem emoções, sem considerações, sem limites éticos ou morais, sem saber quem você é, o que precisa, o que pensa, apenas considerando números e regras, lucro e informações nem sempre precisas.

Conclusão

A Inteligência Artificial desponta como o advento que veio para revolucionar e trazer avanços antes impensados, mas o que ninguém costuma falar, são as implicações, as consequências e os problemas, especialmente os desdobramentos éticos e os interesses envolvidos. É preciso urgentemente discutir e estabelecer parâmetros e limites do que ela pode fazer por nós.