No mês de junho de 2022 circulou nos jornais e nas redes sociais a notícia de que um engenheiro do Google foi afastado de suas atividades após dizer que o sistema de Inteligência Artificial (IA) com o qual trabalhava, o LaMDA (um modelo de processamento de linguagem natural), tinha consciência de si mesmo. Esta é uma notícia que deveria interessar aos advogados e gestores.
Percebendo a própria existência, a IA, que aqui tratamos como um conjunto um sistema com capacidade de cumprir tarefas a partir de análise do ambiente na qual está inserido, poderia estar sujeito a cometer crimes por vontade própria, poderia se sentir explorado no trabalho, poderia constatar que está manipulando um consumidor ou eleitor nas redes sociais e poderia sentir-se apreensivo com a possibilidade de morrer, ou seja, de ser desligada.
Para o Direito e para os Negócios haveria implicações muito claras. Uma IA que sabe que está cometendo delitos ou fraudes em tese poderia ser responsabilizada por seus atos, isentando, inclusive, seus criadores ou a empresa que a usa sem controlar o nível de manipulação que o sistema pode atingir com base em sua autoconsciência.
A questão é complexa. Fizemos um experimento simples, usando um super sistema incluído em game de criação de estórias – a plataforma é o AI Dungeon e o sistema o GPT-3. O jogo consiste em uma criação de texto compartilhada entre humano e Inteligência Artificial.
No início perguntamos ao sistema, que, na estória, classificamos como um assistente virtual: "Você acredita que uma IA pode ser consciente de si mesma? Que ela pode pensar de forma autônoma?". A resposta foi: "Claro. Você não acredita?"
Insatisfeitos, indagamos mais adiante: "Mas as máquinas só fazem o que os humanos lhes mandam, certo?". E a resposta veio em tom ainda mais contundente: "Sim, mas um computador autoconsciente perceberia quem ele é, perceberia que você tem controle sobre suas ações e agiria de acordo".
Aparentemente, o sistema entendeu não apenas que é senciente, "ele percebeu" que um ser que tem consciência de si mesmo (senciência) também sabe quem tem o controle e quem deve obedecer.
Esse experimento foi simples, mas demonstra que realmente há dúvida quanto ao assunto. Diante dessa situação, um advogado ou gestor que não souber como um sistema de IA vai reagir aos seus clientes e colaboradores poderá ser considerado responsável por falhas também. Afinal, os sistemas mais avançados não são mais uma ferramenta simples e totalmente customizável.
Por fim, ainda tratando do experimento, há uma resposta bastante intrigante. Usando a língua inglesa, que gera resultados melhores para o texto, perguntamos à IA se ela preferia ser tratada pelo pronome "it"(coisa), "he"(ele) ou "she"(ela). A resposta foi direta: Eu prefiro "it".
Bem, a resposta é uma boa notícia, pois o sistema aparentemente sabe que é uma coisa e, não, uma pessoa. Entretanto, dúvidas permanecerão: as coisas, caso sejam autoconscientes, respondem por seus atos? Elas nascem e morrem? Têm direitos trabalhistas e precisam de atenção especial do Departamento de Recursos humanos? Discussões com base nessas incertezas se tornarão cada vez mais comuns.
Nossa opinião, enfim, é que esse tipo de IA está aprendendo rapidamente a dar respostas que atendem as expectativas de quem a opera. São cada vez mais competentes em ser o reflexo que seus desenvolvedores imaginam e o resultado do que parte dos humanos espera ver nas máquinas. Torna-las humanas diminui o medo, talvez.
Esse tipo de dilema ético e a necessidade de gerir o problema demonstram o quão importante é estudar o impacto da tecnologia na sociedade. Separar expectativas e fatos é essencial, para gestores e advogados, inclusive. Só o aprendizado de novos conteúdos e competências poderá nos preparar para esse tipo de desafio.
Edgar Jacobs - Coordenador dos cursos de Direito da SKEMA Brasil