Tortura Virtual

Sou um fã dos canais que oferecem programação on demand como o Netflix, o Amazon TV, o Hulu, a AppleTV e o ChromeCast, por exemplo. Já escrevi muitas vezes sobre o quanto absurdo me parece pagar-se por 150 canais de programação, 24 horas por dia e usar apenas 0,02% disso jogando no ralo todo o resto do dinheiro.

GettyImages – todos os direitos reservados

Por isso me chamou muito a atenção uma nova série denominada Black Mirror. Trata-se de uma série britânica que se diz uma ficção especulativa, que visa criticar a sociedade e os usos da tecnologia, prevendo consequências (as vezes funestas) da transformação dos indivíduos. Cada episódio é uma história inteira, independente e suficiente.

Cada episódio é capaz de nos fazer filosofar e refletir profundamente. Farei uma série de posts falando sobre as ideias apresentadas em alguns dos episódios, sempre tomando cuidado para não gerar nenhum tipo de spoiler.

O episódio especial de natal (White Christmas) tem uma história interessantíssima. Mas dentro dessa história vem o que me interessa. A possibilidade de criação de uma consciência paralela e como o Direito, hoje, lidaria com a problemática advinda disso.

Num futuro próximo, os seres humanos teriam suas casas altamente automatizadas. E o assistente de automação – uma espécie de SIRI que auxilia com todas as tarefas de cada pessoa – pode ser personalizado, para aqueles que tem dinheiro para tanto.

O assistente é uma espécie de mordomo virtual que organiza sua agenda, prepara seu café, prepara seu banho, liga e desliga as luzes, abre a porta da garagem, etc. Em regra, todos têm um assistente padrão. Mas como dá trabalho programar o assistente para conhecer todas as suas preferências, o futuro ofereceria um serviço de ultra personificação.

Uma espécie de um chip seria implantado no cérebro do proprietário da casa a ser automatizada e passaria a aprender o consciente do usuário, como que fazendo o download de todo o estilo de ser do usuário fonte.

Após uma semana, o chip seria retirado da cabeça do usuário e implantado na casa, para servir.

O problema trazido pelo episódio, é que no momento em que o chip absorve todo o conteúdo de conhecimento e consciência do usuário padrão, ele passa a acreditar que É o próprio usuário. Ou seja, o programa de computador passa a entender que ele é o próprio usuário padrão. Isso inclui ter os mesmos sentimentos, os mesmos inconformismos, os mesmos medos, as mesmas convicções…

O tal assistente pessoal seria uma consciência paralela de você, que acha que é você. Mas não é. É só um código de computador.

Mas como fazer com que um código que tem certeza de que é você (mas não o é) aceite ser seu assistente pessoal? Como fazer com que você (virtual) aceite ser escravo de você mesmo, especialmente levando-se em conta que ambos têm os mesmos valores (e dentre eles o de que ninguém quer e pode ser escravizado)?

Pois bem, como as convenções e cartas e leis que tratam de direitos humanos apenas referem-se a seres humanos, nenhum impedimento haveria no que se refere à consciências virtuais e paralelas. Um robô, afinal das contas, pode e deve ser seu serviçal e obedecer seus comandos…

Logo, a proibição de torturar um ser humano real não se aplicaria à tortura da consciência paralela. E é isso que a série mostra bem rapidamente. O “programador” de sua consciência paralela, para obrigá-la a aceitar ser seu assistente pessoal, a tortura, colocando-a sem fazer nada, em uma sala, por 6 meses e depois por vários anos.

Obviamente fazer com que uma consciência virtual passe 6 meses sem nada fazer em uma sala acontece em um segundo, porque isso também é simulado, passa em uma fração de segundo e nada mais é do que uma inserção na programação do assistente virtual.

A inteligência e a consciência artificial passam a acreditar que se passaram todos aqueles dias sem que houvesse nada para fazer e sobre todos os impactos de tal simulação.

Após a tortura virtual, a consciência virtual paralela é “domada” (programada) e passa a “obedecer” (cumprir) com a função para a qual foi designada.

E aqui vão as questões: ainda que virtual, poderia haver tortura de simulação de consciência, mesmo se sabendo que aquela artificialidade simulará a reação de um ser humano como se ele tivesse sido torturado? Isso violaria algum direito? Seria legal então o uso de consciência artificial para testar impactos de estratégias de contenção de delitos? Políticas criminais? Técnicas de tortura?

Haverá a necessidade de criação de uma ética especificamente voltada a experiências com consciência artificial? O proprietário de tal consciência terá direito de impedir que experiências sejam feitas com sua consciência alternativa? O avatar com o upload de todas as nossas memórias, no futuro, terá direitos garantidos?

E o preso? Poderia ter uma consciência alternativa criada para que se pudesse obter dela (e não do preso em si) a confissão com ou sem tortura?

Ainda estamos E-ngatinhando nessa área. Preparem-se para mais aulas de ética.