Em A Medida do Homem, 9º episódio da 2ª temporada de Star Trek: The Next Generation a Enterprise faz uma parada em uma base estelar onde um ciberneticista pede para estudar o tenente-comandante Data, que aprova a curiosidade científica, mas o pesquisador quer saber mais sobre o Cérebro Positrônico do androide, e planeja uma cirurgia exploratória que com certeza causaria danos. Data não aprova.
Bruce Maddox lembra que é um oficial superior e Data tem que obedecer, em resposta Data pede baixa de seu posto na Frota Estelar. O Comandante Maddox então exige acesso ao androide, alegando que Data é apenas uma máquina, não é um ser sensiente, apenas finge ter autoconsciência. É invocado um tribunal formal onde será decidido se Data tem direitos como todos os membros sensientes da Federação, ou é apenas um boneco de madeira, que vai ao chão quando os cordões são cortados.
Marcus du Sautoy, Professor de Harvard está preocupado com isso. Ele entende que estamos próximos (historicamente falando) ao momento em que computadores desenvolverão inteligência, passarão a programar a si mesmos.
Quando computadores desenvolverem algo análogo a consciência o Professor Sautoy diz que eles deverão deixar de ser meras ferramentas e passarão a ter os mesmos Direitos Humanos aplicados (teoricamente) a todas as pessoas do planeta.
É mais provável que aconteça algo como previsto nas histórias de Asimov, onde esse nível de autoconsciência era considerado um defeito. Inteligência Artificial capaz de dizer não, de considerar moralmente suas ações não é desejável. Uma coisa é a Siri 3.0 te convencer a não ligar bêbado pra ex, a outra é um míssil nuclear decidir que não vai matar 20 milhões de pessoas.
Por mais que a gente brinque com aquela coisa de Skynet e Apocalipse Robótico, estamos colocando na mão de nossos computadores tudo de importante. Estamos criando uma espécie que será oprimida, abusada, não terá para onde fugir e terá controle sobre tudo em nossas vidas. Receita para o desastre.
 |
| Tudo bem, não é humana, pode fazer o que quiser com esses malditos cilônios, torradeiras do demónio. |
Achar que a Humanidade vai evoluir e passar a tratar bem as inteligências artificiais é de uma ingenuidade ímpar. Nós somos especialistas em desumanizar outros grupos, é essencial que o inimigo seja desumano, não entenda nosso modo de vida, ele tem que ser moralmente inferior, seja com seu rock and roll e divórcios ou com suas fazendas coletivas.
O Genocídio Armênio (lá se vai meu convite pra CES — Ankara) foi uma das maiores atrocidades do Século XX, mais 1,5 milhão de pessoas; com base na evidente inferioridade dos Armênios, que praticavam a religião errada segundo os Turcos detentores da Verdade.
Na Bósnia vizinhos chacinavam e barbarizavam vizinhos muçulmanos. Homens e meninos eram mortos e enterrados em covas coletivas enquanto mulheres e crianças muçulmanas eram repetidamente estupradas para “gerar bebês cristãos”. Não é gente com antenas, pele verde ou três olhos, eram vizinhos, às vezes parentes com a religião errada.
A menos que a Humanidade tenha muito evoluído moralmente desde 1992 (spoiler: não), DUVIDO que uma inteligência artificial tenha melhor sorte. Ou melhor, terá. Será uma raça de escravos nos dirigindo a 120 km/h na estrada e controlando nossa bomba de Insulina.
Fonte: Telegraph.
Nenhum comentário:
Postar um comentário