IA, computadores e nossa visão de vida – 2ª Digressão

Humanos vs Computadores - Cérebros vs IAEu li essa tira semana passada e me perguntei: “O que tem demais nisso?”
Máquinas superando humanos, o que isso significa e por que isso importa?
Pra começar, eu acho que isso é algo único na história da Terra. Isso porque seria, provavelmente, o primeiro caso onde a criatura supera o criador. (Não, eu não vou começar uma discussão sobre Deus e humanos e quem criou quem e na possibilidade dos humanos terem superado Deus caso ele tenha mesmo nos criado. Pelo menos não agora. E eu provavelmente vou transcrever uma digressão sobre eu não ter usado letra maiúscula no pronome pessoal que se refere à Deus.)

Certo, mas o que uma máquina pode fazer? Um monte de coisas, certo? Sim, mas o que elas podem fazer por conta própria? Apenas o que os humanos mandarem elas fazerem. Então qual o problema de criarmos márquinas que são melhores do que os humanos em jogar xadrez, go ou mesmo jeopardy? Até mesmo uma simples calculadora faz contas melhor do que a maioria dos humanos e eu não vejos pessoas reclamando ou realmente preocupadas com isso….

Mas tem muito mais por detrás de computadores e IA do que aparenta. O que computadores conseguem fazer melhor do que os humanos são tarefas completamente mecanizadas e claramente “algoritimizáveis” (mas todas as tarefas podem ser transformadas em algoritmo, não?). Pense no que um programa de computador faz. Uma processador de planilha pega os dados que você fornece e roda o algoritmo que for pedido. A calculadora faz a mesma coisa. Assim como uma máquina de xadrez. E um computador que joga tênis de mesa. Mas os cientistas querem mais! Muito mais! E parece que existem questões bem importantes que a humanidade irá encontrar conforme avançamos no campo da IA.

Algumas IA conseguem aprender e criar novos padrões e algoritmos, como o que joga tênis de mesa, mas o que está de fato acontecendo? Podemos dizer que ela está “aprendendo”? Bom, provavelmente sim. Mas podemos chamar isso de “conhecimento”? Agora temos um problema maior (que incluí a definição de conhecimento).

Mas antes de aventurarmos nessas questões, qual é exatamente o problema de termos máquinas que fazem contas melhor do que nós, humanos? Ou que resolve o cubo mágico mais rápido do que o mais rápido dos humanos? É uma questão de auto-estima? Por acaso criar algo que consegue realizar uma tarefa melhor do que nós mostra as nossas próprias limitações? Ou será que prova as nossas capacidades? Porque mesmo que não sejamos nós que estamos realizando a tarefa, o primeiro passo para a sua realização é feita por nós (nós criamos os computadores que conseguem fazer conta rápido). Mas ainda assim parece que não é a mesma coisa do que, por exemplo, usarmos rodas para nos movermos mais rápido. Computadores e máquinas autônomas não são meras ferramentas, certo? É…..bem, não são?

Será que é apenas um terror social? Porque todos sabemos que assim que uma máquina é introduzida na linha de produção, um monte de humanos perdem seus empregos e apenas uma pequena quantidade de vagas de trabalho qualificado é criado (porque ainda precisamos de técnicos para montar as máquinas e realizar a manutenção periódica). Nível de desemprego dispara, a produçao também e o caos se forma porque como a produção está em alta e o consumo em baixa a deflação corre solta, as fábricas não conseguem manter seus lucros, mais trabalhadores são demitidos e o apocalipse econômico se inicia e é tudo culpa das máquinas! Certo? E se mesmo computadores sem uma IA conseguem fazer isso, imagine o que uma IA não faria!? Então vamos destruir as máquinas! Vamos reconquistar nosso espaço! Avante, meus amigos! Vamos….parar um pouco e pensar melhor. Ou talvez não, vamos destruir as máquinas, inclusive o seu smartphone e tablet que você tem aí com vocês. Eles também são produtos do mal, certo?

Talvez o medo social não esteja relacionado ao trabalho e economia, mas ao conceito de vida e estar vivo? Eu me lembro que assisti a um vídeo sobre o desenvolvimento de IA onde um dos cientistas levantou a questão da ética de se desligar uma IA. Eu tenho quase certeza de que o vídeo era sobre SIA (Super Inteligência Aritificial, ASI em inglês) ou IAF (Inteligência Artificial Forte, SAI em inglês) mas a questão me fez pensar (o que eu entendi é que ASI é uma IA que é melhor do que os humanos em todas as áreas e SIA é uma IA que consegue pensar e funcionar tão bem quanto o cérebro humano). Qual o problema de se desligar uma máquina? Qual o problema de se desligar uma SIA ou IAF?

Eu entendo o a importância da pergunta. SIA ou IAF seriam seres pensantes e conscientes. Eles seriam seres completamente autônomos e independentes e que conseguiriam pensar e raciocinar e agir como um humano mesmo sem a interferência humana. Mas eles estão “vivos”? E desligá-los seria a mesma coisa que matar um ser vivo? O que significa estar “vivo”? Ser capaz de pensar, aprender e ganhar conhecimento é o que define “viver”? Ou isso se aplica apenas àquilo que chamaríamos de “seres biológicos” que são compostos de células? As plantas estão “vivas”? Bem, acho que ninguém argumentaria contra isso. Mas as plantas pensam, aprendem e ganham conhecimento? Isso é algo que mais pessoas argumentariam contra. Você precisa fazer algo para “estar vivo”? Será que você está tão “vivo” enquanto for mantido em coma em um hospital do que enquanto você vive seus dias completamente isolado em sua casa e sobrevivendo sozinho (considere suprimento infinito de comida não perecível)?

Será que conseguimos mesmo achar uma definição abrangente o suficiente mas, ao mesmo tempo, precisa o suficiente para definir exatamente o que significa “estar vivo”?

Se (ou talvez, quando) o desenvolvimento da IA alcançar o ponto de ser chamado de SIA ou IAF, essas questões aparecerão. Mas  o que aconteceria se a desligássemos? Será que seria realmente análogo a matar alguém? Eu argumentaria que é mais próximo de se induzir alguém ao coma do que de fato matar. Isso porque eu estou assumindo que uma SIA/IAF pode ser religada simplesmente colocando o fio na tomada. Memórias, habilidades e conhecimento provavelmente continuariam intactas contando que as partes responsáveis pelo processamento e armazenamento ainda estivessem funcionais, o que é basicamente a mesma coisa para alguém que ficou em coma por muito tempo. A principal diferença provavelmente seria que alguém em coma ainda precisa ser alimentado e precisa respirar enquanto um computador desligado não. Além disso, não vamos nos esquecer de que existe a possibilidade de que uma SIA ou IAF seja apenas um programa, portanto, em tese, seria possível transferí-lo de um computador para outro sem grandes problemas.

Ainda assim, será que uma SIA ou IAF saberia disso? Será que elas aceitariam o fato de que elas poderiam ser “revividas” facilmente em qualquer momento no futuro, independente de quanto tempo elas passarem “mortas”? Será que isso afetaria o modo que elas reagiriam caso soubessem que alguém está tentando desligá-las? Em outras palavras, será que isso poderia acontecer?

Se aceitarmos que elas iriam temer e/ou prevenir que fossem desligadas, será que isso não significaria apenas que nós as construímos de modo muito similar a nós mesmos? Nós temos medo da morte ou, pelo menos, estamos todos tentando evitá-la (e não tente negar, seu corpo quer viver e dá tudo de si para mantê-lo vivo, independente do que a sua consciência diga!). É instinto. Se corte e seu corpo irá correr para parar o sangramento. Coma algo venenoso e seu corpo irá correr para se livrar do veneno. Tente pular do telhado e seu corpo irá tentar prevení-lo de fazê-lo. Pule do telhado e seu corpo irá correr para tentar minimizar os danos quando você acertar o chão. Isso é algo além do nosso controle.

Talvez eles precisem ser similares a nós? Se nós vamos construir máquinas que possam viver conosco, nos ajudar e, mais importante, interagir conosco, não seria muito mais confortável para nós se eles fossem parecidos conosco? Não apenas na aparência (por isso estamos tentando criar robôs antropomorfizados), mas no modo que pensam. Você gostaria de conversar sobre a vida e a morte com alguém (ou algo) que não compreende o significado que nós damos a esses conceitos e, pior ainda (ou melhor?), não tem medo da morte porque ela não vai passar por isso?

Existem muitos pontos que envolvem o desenvolvimento da inteligência artifical. Conhecimento, vida, ética, economia, estes são apenas alguns dos tópicos mais abrangentes. Cada um desses tópicos ainda apresentam uma vasta gama de novas discussões. Talvez nós deveríamos criar um super computador para nos ajudar a responder essas perguntas?

Alguns textos interessantes para ler (em inglês):
Ethical Issues in Advanced Artificial Intelligence
Three Laws of Robotics
The Myth of the Three Laws of Robotics – Why We Can’t Control Intelligence

One thought on “IA, computadores e nossa visão de vida – 2ª Digressão

  1. Pingback: AI computers and our own view of life - 2nd Digression | EDSM

Leave a Reply

Your email address will not be published. Required fields are marked *