A ascensão de inteligência artificial (IA) levanta questões não apenas para a tecnologia e a infinidade de possibilidades que ela traz, mas também para a moralidade, a ética e a filosofia. O lançamento desta nova tecnologia traz implicações para a saúde, o direito, as forças armadas, a natureza do trabalho, a política e até mesmo as nossas próprias identidades – o que nos torna humanos e como alcançamos o nosso sentido de identidade.
“Moralidade da IA” (Oxford University Press, 2024), editado pelo filósofo britânico David Edmondsé uma coleção de ensaios de uma “força-tarefa filosófica” que explora como a IA revolucionará nossas vidas e os dilemas morais que ela desencadeará, pintando um quadro envolvente dos motivos para estar alegre e dos motivos para se preocupar. Neste trecho, Muriel Leuenbergerpesquisador de pós-doutorado em ética da tecnologia e IA na Universidade de Zurique, concentra-se em como a IA já está moldando nossas identidades.
Seu ensaio, intitulado “Você deveria deixar a IA dizer quem você é e o que você deve fazer?” explica como os algoritmos de aprendizado de máquina que dominam as plataformas digitais atuais — das mídias sociais aos aplicativos de namoro — podem saber mais sobre nós do que nós mesmos. Mas, ela postula, podemos confiar neles para tomar as melhores decisões para nós, e o que isso significa para a nossa agência?
Seu telefone e seus aplicativos sabem muito sobre você. Com quem você está conversando e com quem passa o tempo, onde você vai, quais músicas, jogos e filmes você gosta, como você se parece, quais artigos de notícias você lê, quem você acha atraente, o que você compra com seu cartão de crédito e quantos passos que você dá. Esta informação já está a ser explorada para nos vender produtos, serviços ou políticos. Os rastreamentos on-line permitem que empresas como o Google ou o Facebook infiram suas opiniões políticas, preferências de consumo, se você é um caçador de emoções, um amante de animais de estimação ou um pequeno empregador, qual é a probabilidade de você se tornar pai em breve, ou mesmo se você provavelmente sofrerão de depressão ou insônia.
Com o uso da inteligência artificial e a maior digitalização das vidas humanas, já não é impensável que a IA venha a conhecê-lo melhor do que você mesmo. Os perfis pessoais de usuário gerados pelos sistemas de IA podem se tornar mais precisos na descrição de seus valores, interesses, traços de caráter, preconceitos ou transtornos mentais do que os próprios usuários. A tecnologia já pode fornecer informações pessoais que os indivíduos não conhecem sobre si mesmos. Yuval Harari exagera, mas faz uma afirmação semelhante quando afirma que se tornará racional e natural escolher os parceiros, amigos, empregos, festas e casas sugeridos pela IA. A IA será capaz de combinar a vasta informação pessoal sobre você com informações gerais sobre psicologia, relacionamentos, emprego, política e geografia, e será melhor na simulação de possíveis cenários em relação a essas escolhas.
Portanto, pode parecer que uma IA que lhe permita saber quem você é e o que deve fazer seria excelente, não apenas em casos extremos, à la Harari, mas de forma mais prosaica para sistemas de recomendação comuns e perfis digitais. Quero levantar duas razões pelas quais isso não acontece.
Confiar
Como você sabe se pode confiar em um sistema de IA? Como você pode ter certeza se ele realmente conhece você e faz boas recomendações para você? Imagine um amigo lhe dizendo que você deveria sair com o primo dele, Alex, porque vocês dois seriam uma combinação perfeita. Ao decidir se vai conhecer Alex, você reflete sobre o quão confiável seu amigo é. Você pode considerar a confiabilidade do seu amigo (ele está bêbado e não pensando com clareza?), competência (até que ponto ele conhece você e Alex, quão bom ele é em fazer julgamentos sobre compatibilidade romântica?) e intenções (ele quer que você ser feliz, enganar você ou abandonar seu primo chato por uma noite?). Para saber se você deve seguir o conselho do seu amigo, você pode interrogá-lo gentilmente: Por que ele acha que você gostaria de Alex, o que ele acha que vocês dois têm em comum?
Isso é bastante complicado. Mas os julgamentos de confiança na IA são ainda mais complicados. É difícil entender o que uma IA realmente sabe sobre você e quão confiáveis são suas informações. Muitos sistemas de IA revelaram-se tendenciosos — reproduziram, por exemplo, preconceitos raciais e sexistas a partir dos seus dados de treino — por isso faríamos bem em não confiar cegamente neles. Normalmente, não podemos pedir a uma IA uma explicação sobre sua recomendação e é difícil avaliar sua confiabilidade, competência e as intenções do desenvolvedor. Os algoritmos por trás das previsões, caracterizações e decisões da IA são geralmente propriedade da empresa e não acessíveis ao usuário. E mesmo que esta informação estivesse disponível, seria necessário um elevado grau de especialização para a compreender. Como esses registros de compras e postagens nas redes sociais se traduzem em traços de caráter e preferências políticas? Devido à muito discutida opacidade, ou natureza de “caixa preta” de alguns sistemas de IA, mesmo aqueles proficientes em ciência da computação podem não ser capazes de compreender completamente um sistema de IA. O processo de como a IA gera um resultado é em grande parte autodirigido (o que significa que ela gera suas próprias estratégias sem seguir regras estritas projetadas pelos desenvolvedores) e difícil ou quase impossível de interpretar.
Crie você mesmo!
Mesmo que tivéssemos uma IA razoavelmente confiável, uma segunda preocupação ética permaneceria. Uma IA que lhe diz quem você é e o que deve fazer é baseada na ideia de que sua identidade é algo que você pode descobrir – informações que você ou uma IA podem acessar. Quem você realmente é e o que deve fazer da sua vida é acessível por meio de análises estatísticas, alguns dados pessoais e fatos sobre psicologia, instituições sociais, relacionamentos, biologia e economia. Mas esta visão ignora um ponto importante: nós também escolhemos quem somos. Você não é um sujeito passivo de sua identidade – é algo que você cria ativa e dinamicamente. Você desenvolve, nutre e molda sua identidade. Esta faceta autocriacionista da identidade tem estado na frente e no centro da filosofia existencialista, como exemplificado por Jean-Paul Sartre. Os existencialistas negam que os humanos sejam definidos por qualquer natureza ou “essência” predeterminada. Existir sem essência é sempre tornar-se diferente de quem você é hoje. Estamos continuamente nos criando e devemos fazê-lo de forma livre e independente. Dentro dos limites de certos fatos – onde você nasceu, qual a sua altura, o que disse ontem ao seu amigo – você é radicalmente livre e moralmente obrigado a construir sua própria identidade e definir o que é significativo para você. Crucialmente, o objetivo não é descobrir a única maneira correta de ser, mas escolher a sua própria identidade individual e assumir a responsabilidade por ela.
A IA pode fornecer uma perspectiva externa e quantificada que pode funcionar como um espelho e sugerir cursos de ação. Mas você deve permanecer no comando e certificar-se de assumir a responsabilidade por quem você é e como vive sua vida. Uma IA pode revelar muitos fatos sobre você, mas é sua função descobrir o que eles significam para você e como você permite que eles o definam. O mesmo vale para as ações. Suas ações não são apenas uma forma de buscar o bem-estar. Através de suas ações, você escolhe que tipo de pessoa você é. Seguir cegamente a IA implica abrir mão da liberdade de criar a si mesmo e renunciar à responsabilidade por quem você é. Isso equivaleria a um fracasso moral.
Em última análise, confiar na IA para lhe dizer quem você é e o que deve fazer pode prejudicar as habilidades necessárias para a autocriação independente. Se você usa constantemente uma IA para encontrar a música, a carreira ou o candidato político que você gosta, você pode eventualmente esquecer como fazer isso sozinho. A IA pode desqualificá-lo não apenas no nível profissional, mas também na busca intimamente pessoal da autocriação. Escolher bem na vida e construir uma identidade que tenha significado e te faça feliz é uma conquista. Ao subcontratar esse poder a uma IA, você perde gradualmente a responsabilidade por sua vida e, em última análise, por quem você é.
Uma crise de identidade muito moderna
Às vezes você pode desejar que alguém lhe diga o que fazer ou quem você é. Mas, como vimos, isso tem um custo. É difícil saber se ou quando confiar nos sistemas de perfis e recomendações de IA. Mais importante ainda, ao subcontratar as decisões à IA, você pode não conseguir atender à demanda moral de criar a si mesmo e assumir a responsabilidade por quem você é. No processo, você pode perder habilidades de autocriação, calcificar sua identidade e ceder o poder sobre sua identidade às empresas e ao governo. Essas preocupações pesam particularmente em casos que envolvem as decisões e características mais substanciais da sua identidade. Mas mesmo em casos mais mundanos, seria bom deixar de lado os sistemas de recomendação de vez em quando e ser mais ativo e criativo na seleção de filmes, músicas, livros ou notícias. Isso, por sua vez, exige pesquisa, risco e autorreflexão.
É claro que muitas vezes fazemos escolhas erradas. Mas isso tem uma vantagem. Ao se expor a influências e ambientes que não estão em perfeito alinhamento com quem você é atualmente, você se desenvolve. Mudar-se para uma cidade que o deixa infeliz pode perturbar o seu ritmo de vida habitual e incentivá-lo, por exemplo, a procurar um novo hobby. Depender constantemente de sistemas de recomendação de IA pode calcificar sua identidade. Esta não é, no entanto, uma característica necessária dos sistemas de recomendação. Em teoria, poderiam ser concebidos para alargar o horizonte do utilizador, em vez de maximizar o envolvimento, mostrando aos clientes o que eles já gostam. Na prática, não é assim que funcionam.
Este efeito calcificador é reforçado quando o perfil da IA se torna uma profecia auto-realizável. Ele pode lentamente transformá-lo no que a IA previu que você seria e perpetuar quaisquer características que a IA captou. Ao recomendar produtos e exibir anúncios, notícias e outros conteúdos, você aumenta a probabilidade de consumir, pensar e agir da maneira que o sistema de IA inicialmente considerou adequado para você. A tecnologia pode influenciá-lo gradualmente de tal forma que você evolui para ser quem originalmente era.
Este trecho, escrito por Muriel Leuenberger, foi editado quanto ao estilo e extensão. Reimpresso com permissão de “AI Ethics” editado por David Edmonds, publicado pela Oxford University Press. © 2024. Todos os direitos reservados.
