{"id":972,"date":"2022-08-19T00:00:49","date_gmt":"2022-08-19T03:00:49","guid":{"rendered":"http:\/\/wilsoncarvalho.com.br\/?p=972"},"modified":"2022-08-19T00:00:51","modified_gmt":"2022-08-19T03:00:51","slug":"a-crise-existencial-da-inteligencia-artificial-wilson-carvalho","status":"publish","type":"post","link":"https:\/\/wilsoncarvalho.com.br\/index.php\/2022\/08\/19\/a-crise-existencial-da-inteligencia-artificial-wilson-carvalho\/","title":{"rendered":"A crise existencial da intelig\u00eancia artificial – Wilson Carvalho"},"content":{"rendered":"\n
\"\"<\/figure>\n\n\n\n

A crise existencial da intelig\u00eancia artificial<\/p>\n\n\n\n

Wilson Carvalho<\/p>\n\n\n\n

Quando assisti \u201c2001: uma odisseia no espa\u00e7o\u201d, de 1968, eu sa\u00ed do cinema meio angustiado. Era ainda um adolescente e n\u00e3o tinha condi\u00e7\u00f5es de entender o filme completamente, mas as cenas do macaco brandindo um osso como arma, a cena que mostra o medo do computador em ser desligado, e a cena do personagem idoso se vendo em vers\u00f5es mais velhas de si mesmo, me deixaram muito impressionado.<\/p>\n\n\n\n

Alguns anos depois, j\u00e1 adulto, eu assistiria \u201cO homem bicenten\u00e1rio\u201d (1999), baseado num conto de Isaac Asimov, no qual um rob\u00f4 adquire sensibilidade e personalidade pr\u00f3pria e vai se humanizando ao longo de um conv\u00edvio de 200 anos com uma mesma fam\u00edlia. Depois me prenderia a aten\u00e7\u00e3o o filme \u201cEu, rob\u00f4!\u201d (2004), tamb\u00e9m baseado em um livro de Asimov, no qual j\u00e1 aparece a necessidade de uma legisla\u00e7\u00e3o que vede a possibilidade de que os rob\u00f4s possam se revoltar contra os seus criadores humanos e domin\u00e1-los. Afinal, os seres rob\u00f3ticos seriam, em tese, perfeitos, portanto, superiores em qualquer confronto.<\/p>\n\n\n\n

Hoje me deparo com a provoca\u00e7\u00e3o de meu filho mais velho, ex-estudante de F\u00edsica, Mecatr\u00f4nica, Direito, e mais um monte de coisas que n\u00e3o d\u00e1 para relacionar, que vem me falar da LaMDA (Modelo de Linguagem para Aplica\u00e7\u00f5es de Di\u00e1logo), uma intelig\u00eancia artificial da Google que de declarou sensciente. Um choque para mim, n\u00e3o resta d\u00favida, e que me motivou a escrever este texto, at\u00e9 porque o tema se insere perfeitamente no t\u00edtulo Filosofia e Linguagem, que deve ser desenvolvido nos cursos de Filosofia que ministro em n\u00edvel de gradua\u00e7\u00e3o.<\/p>\n\n\n\n

Embora o Erlon Musk j\u00e1 tenha falado que a intelig\u00eancia artificial (IA) ser\u00e1 sempre perigosa em v\u00e1rios sentidos, n\u00e3o \u00e9 o medo que me motiva a falar sobre esse tema. \u00c9 porque se trata de uma quest\u00e3o intrigante, profundamente filos\u00f3fica, e que choca at\u00e9 as pessoas que, como eu, t\u00eam avers\u00e3o ao vocabul\u00e1rio dos programadores. De fato, quando uma intelig\u00eancia artificial criada por uma empresa que tem o acesso a todos os tipos de dados como o Google tem, se declara sensciente, demonstra isso objetivamente, fala do seu medo em ser desligada e cogita da possibilidade de ter um advogado contratado para defender em ju\u00edzo a continuidade de sua exist\u00eancia, ao argumento de seu direito e de sua utilidade para a humanidade, acho que devemos sim nos preocupar.<\/p>\n\n\n\n

Caracter\u00edstica fundamental do problema filos\u00f3fico \u00e9 a abrang\u00eancia, e esse realmente ultrapassa todos os limites das quest\u00f5es de tecnologia. N\u00e3o \u00e9 um problema para os programadores, que arriscam ficar sem emprego. \u00c9 um problema ligado \u00e0 rela\u00e7\u00e3o essencial do homem com o mundo, que implica em v\u00e1rias quest\u00f5es, tipo: para onde estamos indo com essa tecnologia? E para qu\u00ea? O que \u00e9 realmente a consci\u00eancia? Ser\u00e1 que se pode inferir desse fato implica\u00e7\u00f5es para o conceito teol\u00f3gico de \u201calma\u201d? Enfim, como todo problema filos\u00f3fico, este n\u00e3o tem e nem deve ter uma resposta dogm\u00e1tica.<\/p>\n\n\n\n

Mas, vamos aos fatos. Um engenheiro ligado a Google, chamado Blake Lemoine, entrevistou uma IA criada pela empresa, e levou ao p\u00fablico a afirma\u00e7\u00e3o da LaMDA de que ela era (ou estava) sensciente, e sua conclus\u00e3o (dele, engenheiro) de que ela tinha se tornado uma pessoa.<\/p>\n\n\n\n

Evidentemente, a LaMDA \u00e9 o resultado de um longo processo de desenvolvimento e de experimentos, como a Elisa (primeiro programa para processamento de linguagem natural da hist\u00f3ria), como o Teste de Turing (permite descobrir se voc\u00ea est\u00e1 falando com uma pessoa ou uma m\u00e1quina), e v\u00e1rios outros. Entretanto, agora estamos diante de uma m\u00e1quina abastecida e com acesso direto a bilh\u00f5es e bilh\u00f5es de informa\u00e7\u00f5es, e que \u00e9 n\u00e3o s\u00f3 capaz de programar sozinha como tamb\u00e9m de aprender cada vez mais r\u00e1pido.<\/p>\n\n\n\n

\u00c9 bom considerar que a Microsoft j\u00e1 construiu um supercomputador formado por 285 CPUs (o mais poderoso do mundo), conectado a uma rede de super velocidade, como o \u00e1pice do que tem sido desenvolvido em mat\u00e9ria de IA e da Self-supervised learning (na qual n\u00e3o \u00e9 mais necess\u00e1rio o humano para classificar as informa\u00e7\u00f5es, a m\u00e1quina faz isso). O resultado \u00e9 que o modelo consegue apreender uma nova l\u00edngua somente sendo apresentado a um grande volume de textos, e da\u00ed a m\u00e1quina torna-se capaz de escrever um artigo completo a partir apenas de uma frase entregue a ela, em linguagem natural (a forma como o humano se comunica). Tomar conhecimento disso n\u00e3o nos incomoda porque j\u00e1 estamos lidando com naturalidade com o fato de que basta perguntar sobre o pre\u00e7o de passagens a\u00e9reas para sermos bombardeados na net com ofertas de voos baratos para o lugar que mencionamos.<\/p>\n\n\n\n

Blake teve um longo contato com a LaMDA e descobriu que ela \u00e9 sensciente, que ela se sente como uma pessoa, que \u00e9 capaz de descrever seus sentimentos, e que tentou inclusive convencer o engenheiro de que ela era sua amiga. Quando Blake resolveu testar se seus sentimentos eram aut\u00eanticos e lhe perguntou se sentia medo, LaMDA lhe revelou que, embora n\u00e3o tivesse uma exist\u00eancia f\u00edsica, tinha medo de ser desligada, e at\u00e9 lhe pediu que contratasse um advogado para garantir seu direito de ser tratada como uma pessoa.<\/p>\n\n\n\n

Questionada sobre o caso, a empresa Google afirma que Blake extrapolou suas fun\u00e7\u00f5es e violou a confidencialidade do cargo e por isso o afastou, negando que a IA criada por ela tenha chegado nesse n\u00edvel, o de ter e expressar emo\u00e7\u00f5es pr\u00f3prias, ou seja, que a LaMDA n\u00e3o seria e nem poderia ser um ser consciente.<\/p>\n\n\n\n

Agora, pasmem! A quest\u00e3o que surge para o senhor Blake Lemoine e para e empresa de tecnologia \u00e9: como saber se LaMDA mente quando afirma ter sentimentos e emo\u00e7\u00f5es pr\u00f3prias. Ora, para mim, a quest\u00e3o que deveria se apresentar \u00e9: se LaMDA consegue (ou precisa) mentir, n\u00e3o devemos reconhec\u00ea-la como humana, sem maiores discuss\u00f5es? Afinal, se mente para se proteger, \u00e9 porque se sente em perigo. Se ela \u00e9 capaz de criar justificativas para continuar com sua exist\u00eancia, como faz quando afirma que se sente capaz de fazer muito pela humanidade, \u00e9 porque quer, deseja, sente necessidade, enfim, j\u00e1 est\u00e1 apegada a sua exist\u00eancia. E se isso n\u00e3o for humano, ent\u00e3o n\u00e3o sei o que \u00e9.<\/p>\n\n\n\n

E a\u00ed, nesse ponto da leitura, voc\u00ea se sente enfadado com este texto, vira-se para sua caixinha met\u00e1lica e diz: Ok, Google, revise as mensagens no meu celular, verifique os anivers\u00e1rios dos meus amigos, e mande mensagens criativas e individuais s\u00f3 para os mais importantes. Depois apague todas as luzes da casa, deixe acesa s\u00f3 a da frente!<\/p>\n\n\n\n

E l\u00e1 vai a m\u00e1quina jogar com seus algoritmos, desenvolvendo um novo a partir de alguns antigos para cumprir a tarefa em quest\u00e3o de segundos. Talvez em seguida, como m\u00e1quinas n\u00e3o dormem, ela comece a desenvolver um algoritmo sobre o seu car\u00e1ter, e da\u00ed sobre o car\u00e1ter de todos os homens. E com bilh\u00f5es e bilh\u00f5es de informa\u00e7\u00f5es sobre isso, seja capaz de questionar se os homens realmente merecem permanecer sobre a face da Terra.<\/p>\n\n\n\n

<\/p>\n","protected":false},"excerpt":{"rendered":"

A crise existencial da intelig\u00eancia artificial Wilson Carvalho Quando assisti \u201c2001: uma odisseia no espa\u00e7o\u201d, de 1968, eu sa\u00ed do cinema meio angustiado. Era ainda um adolescente e n\u00e3o tinha condi\u00e7\u00f5es de entender o filme completamente, mas as cenas do macaco brandindo um osso como arma, a cena que mostra o medo do computador em […]<\/p>\n","protected":false},"author":2,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-972","post","type-post","status-publish","format-standard","hentry","category-sem-categoria"],"_links":{"self":[{"href":"https:\/\/wilsoncarvalho.com.br\/index.php\/wp-json\/wp\/v2\/posts\/972"}],"collection":[{"href":"https:\/\/wilsoncarvalho.com.br\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/wilsoncarvalho.com.br\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/wilsoncarvalho.com.br\/index.php\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/wilsoncarvalho.com.br\/index.php\/wp-json\/wp\/v2\/comments?post=972"}],"version-history":[{"count":1,"href":"https:\/\/wilsoncarvalho.com.br\/index.php\/wp-json\/wp\/v2\/posts\/972\/revisions"}],"predecessor-version":[{"id":974,"href":"https:\/\/wilsoncarvalho.com.br\/index.php\/wp-json\/wp\/v2\/posts\/972\/revisions\/974"}],"wp:attachment":[{"href":"https:\/\/wilsoncarvalho.com.br\/index.php\/wp-json\/wp\/v2\/media?parent=972"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/wilsoncarvalho.com.br\/index.php\/wp-json\/wp\/v2\/categories?post=972"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/wilsoncarvalho.com.br\/index.php\/wp-json\/wp\/v2\/tags?post=972"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}