Em outubro, Rodney Brooks escreveu para o TechnologyReview.com a respeito dos sete pecados mortais que são normalmente cometidos a respeito de previsões com a inteligência artificial.
Nós estamos cercados de histeria a respeito do futuro da inteligência artificial e robótica – a histeria sobre quão poderosos eles irão se tornar, quão rapidamente, e o que farão aos empregos.
Recentemente uma história no MarketWatch dizia que robôs irão tomar metade dos empregos de hoje em 10 a 20 anos, havia até um gráfico para provar isso através dos números.
Trouxemos esses dados para você, confira aqui.
Na opinião de Rodney Brooks, as afirmações são ridículas. “Eu tento manter a linguagem profissional, mas às vezes… Por exemplo, a história dá a entender que iremos de um milhão de trabalhadores de chão de fábrica e manutenção dos Estados Unidos a apenas 50 mil em 10 a 20 anos, pois robôs irão assumir esses trabalhos. Quantos robôs estão atualmente operacionais nestes trabalhos? Zero.” enfatizou Brooks.
KrogerFeedback
Ainda de acordo com Brooks, as previsões erradas levam a medos de coisas que não vão acontecer, quer seja a destruição de empregos em larga escala, a Singularidade, ou o advento da IA que tenha valores diferentes dos nossos e possa tentar nos destruir. Nós precisamos combater estes erros. Mas qual a razão das pessoas cometerem estes erros? Estas 7 razões podem ser a resposta.
1 – Superestimando e subestimando
O cofundador do Institute for Future, Roy Amara, em Palo Alto, o coração intelectual do Vale do Silício é melhor conhecido por sua referenciada Lei de Amara:
Nós tendemos a superestimar o efeito da tecnologia a curto prazo e subestimar o efeito a longo prazo.
Existe muita coisa nestas poucas palavras. Um otimista pode ler de uma maneira, e um pessimista pode ler de outra.
Um grande exemplo dos dois lados da Lei de Amara é o sistema de posicionamento global americano (US GPS). Começando em 1978, uma constelação de 24 satélites (agora 31 com os reservas) foi colocada em órbita. O objetivo do GPS era permitir a entrega precisa de munições para os militares americanos. Mas o programa foi inicialmente cancelado e mais de uma vez na década de 80. O primeiro uso operacional para o seu propósito inicial foi em 1991 durante a Desert Storm, foram necessários muito mais sucessos para que os militares aceitassem sua utilidade.
Hoje o GPS é o que Amara chamaria de “longo prazo”, e as formas que esse sistema é utilizado não foram imaginadas no início. Um Series 2 Apple Watch usa o GPS enquanto seu usuário sai para uma corrida, gravando a localização com precisão suficiente para ver em qual lado da rua ele corre. O pequeno tamanho e preço do receptor seria incompreensível para os primeiros engenheiros do GPS.
A tecnologia sincroniza experimentos físicos ao longo do globo e exerce um papel importante sincronizando a rede elétrica dos Estados Unidos e a mantém funcionando. Ele até permite que comerciantes de altas frequências que são quem realmente controla o mercado de ações a desviar de erros de sincronia que seriam desastrosos. Ele tem sido utilizado em todos os aviões, grandes e pequenos, para navegações, e tem sido usado para rastrear prisioneiros. Ele determina qual tipo de semente será plantada em quais partes de muitos campos ao longo do planeta. Ele rastreia frotas de caminhões e reporta a performance dos motoristas.
O GPS começou fora desse objetivo, mas foi preciso um longo caminho até que ele trabalhasse bem como o esperado. Agora que ele já está infiltrado em tantos aspectos de nossas vidas que não iríamos apenas sentir falta se ele deixasse de existir, nós iríamos sentir frio, fome, e em alguns casos possivelmente morrer.
Nós vemos um padrão similar com outras tecnologias ao longo dos últimos 30 anos. Uma grande promessa a frente, desapontamento, e então lentamente ganha confiança nos resultados que excedem as expectativas originais. Foi assim com a computação, sequenciamento do genoma, energia solar, energia eólica, e agora mesmo serviço de entregas de compras.
Por essa razão há quem acredite que a IA seja superestimada de tempos em tempos, nos anos 60, nos anos 80 e agora, mas os prospectos a longo prazo provavelmente também estão sendo subestimados. Quão longe as tecnologias idealizadas foram muito além de nossa imaginação para elas durante sua idealização e desenvolvimento?
E se transportarmos esse muito além das expectativas, para algo que já tem expectativas gigantescas e muito ambiciosas como a IA, como imaginar o que temos pela frente?
A questão é, quão longo será esse longo prazo?
As próximas seis razões podem ajudar a explicar a escala temporal subestimada para o futuro da IA.
2 – Imaginando mágica
Arthur C. Clarke, um grande escritor de ficção científica como Robert Heinlein e Issac Asimov, foi também um inventor, escritor científico e futurista. Entre 1962 e 1973 ele formulou três máximas que ficariam conhecidas como as Três Leis de Clarke:
- Quando um distinto mas idoso cientistas afirma que algo é possível, ele está quase certamente certo. Quando ele afirma que algo é impossível, ele está provavelmente errado.
- A única forma de descobrir os limites do possível é se aventurando um pouco além dele, adentrando o impossível.
- Qualquer tecnologia suficientemente avançadas é indistinguível de mágica.
Conservadores e céticos a respeito do quão rápida será a ascensão da IA provavelmente deveriam se atentar as duas primeiras leis mas a terceira pode sim apontar a um grande erro comum.
Imagine que tenhamos uma máquina do tempo e pudéssemos transportar Isaac Newton do final do século 17 para os dias atuais, deixando em um lugar que seria familiar para ele: a capela do Trinity College na universidade de Cambridge.
Agora mostre a Newton um Apple. Pegue um iPhone e ligue-o, com a tela cheia de ícones e entregue-o. Newton, que revelou como a luz branca é obtida através de luzes de cores diferentes separadas de um raio solar com um prisma e então colocadas juntas novamente, ficaria sem dúvida muito surpreso com um objeto pequeno produzindo cores vívidas na escuridão da capela.
Agora coloque um filme para passar com uma cena de um país inglês, e então alguma música de igreja que ele já deva ter ouvido. E então mostre a ele uma página da internet com mais de 500 páginas da sua cópia pessoal da sua obra-prima Principia, mostrando a ele como usar o gesto de pinça para ampliar os detalhes.
Newton poderia começar a explicar como esse dispositivo é capaz de fazer tudo isso? Apesar de ele ter inventado cálculos e explicado tanto a ótica quanto a gravidade, ele nunca foi capaz de separar química de alquimia.
Então pense que ele ficaria confuso, e não seria capaz de explicar de forma coerente o que esse dispositivo é. Não seria para ele de uma encarnação do ocultismo — algo que era de grande interesse dele.
Seria indistinguível de mágica. E lembre-se, Newton era um cara bem esperto.
Se alguma coisa é mágica, então é difícil conhecer seus limites. Suponha que mostremos a Newton que o dispositivo pode iluminar o escuro, assim como pode tirar fotos e gravar vídeos e sons, como ele pode ser usado como lente de aumento ou espelho.
Então nós mostramos para ele como pode ser usado para lidar com computação aritmética em uma velocidade incrível e com várias casas decimais.
Mostramos o dispositivo contando os passos que ele da enquanto o carrega e que pode ser usado para falar com pessoas em qualquer lugar do mundo imediatamente dali mesmo da capela.
O que mais Newton conjecturaria que o dispositivo poderia fazer? Prismas funcionam para sempre. Ele iria imaginar que o iPhone funcionaria para sempre também, negligenciando entender que ele precisa ser recarregado? Lembre-se que nós o trouxemos de 100 anos antes do nascimento de Michael Faraday, então lhe falta algum conhecimento científico sobre eletricidade. Se o iPhone pode ser uma fonte de luz sem o fogo, poderia talvez transmutar chumbo em ouro?
Esse é o problema que todos nós temos com tecnologias do futuro imaginadas. Se for muito a frente das tecnologias que temos hoje, então nós não conhecemos seus limites. E elas se tornam indistinguíveis de magia, qualquer coisa que se diga sobre isso poderia ser verdade.
Esse é um problema para debates a respeito da IA, sobre se devemos ou não temer a inteligência artificial generalista, ou IAG — a ideia de que construiremos agentes autônomos que irão se comportar como seres vivos no mundo.
Há quem diga que isso nem mesmo pode existir, especialistas em tecnologia reportam que as pesquisas em IAG não vão bem em ser generalista ou suportando uma entidade totalmente independente com uma existência própria. Em aspectos, estamos ainda presos a problemas que tem estado sem solução pelos últimos 50 anos.
Muitas evidências apontam que não temos ainda ideia de como, de fato, construir algo assim. Suas propriedades seriam completamente desconhecidas, então retoricamente isso rapidamente se torna mágico, poderoso e sem limites.
Preste atenção em argumentos sobre a tecnologia do futuro que beiram a magia. Argumentos assim dificilmente podem ser refutados pois são argumentos baseados em fé, não em argumentos científicos.
3 – Performance versus competência
Normalmente levamos em consideração como uma pessoa pode desenvolver determinada tarefa, baseado em quão bem ela desempenha alguma outra tarefa relacionada.
Por exemplo, imagine-se em uma cidade desconhecida, e você pergunta a alguém na rua sobre como chegar em tal lugar, no mesmo momento a pessoa começa a lhe ditar o trajeto com grande confiança e demonstrando real conhecimento.
Então nós imaginamos que podemos também lhe perguntar a respeito do sistema de pagamento de passagens de ônibus naquele local.
Agora suponha que uma pessoa nos diz que uma foto em particular mostra pessoas frisbee em um parque. Naturalmente assumimos que essa pessoa pode também nos responder perguntas como: qual é o formato de um frisbee? Uma pessoa pode comer um frisbee? Uma pessoa com 3 meses de idade pode jogar frisbee? O tempo hoje está bom para jogar frisbee?
Computadores que podem classificar imagens como “pessoas jogando frisbee em um parque” não podem responder essas perguntas. Além do fato de que eles só podem classificar as imagens mas não podem responder nenhum tipo de pergunta, eles não tem ideia do que são pessoas, que parques geralmente são ao ar livre, que as pessoas tem idades, que o tempo é mais do que o que é mostrado em uma foto, por exemplo.
Isso também não significa que esses sistemas são inúteis, eles são de grande valor para mecanismos de busca. Mas é aí que as coisas dão errado. Pessoas ouvem que algum robô ou alguma IA pode realizar alguma tarefa e já generalizam a performance a partir de uma competência que uma pessoa realizando a mesma tarefa teria.
4 – Palavras maleta
Marvin Minsky chamou as palavras que podem ter uma variedade de significados de “palavras maleta”. “Aprender” é uma poderosa palavra maleta, ela pode se referir a muitos diferentes tipos de experiência. Aprender como usar baquetas é uma experiência bem diferente de aprender a sintonizar uma nova música. E aprender a escrever códigos é uma experiência bem diferente de aprender o seu caminho em uma cidade.
Quando as pessoas ouvem que o aprendizado de máquina está fazendo grande progresso em algum novo domínio, elas tendem a usar algum modelo mental de como uma pessoa iria aprender esse novo domínio. Apesar disso, o aprendizado de máquina é bastante frágil, no geral ele requer bastante preparação por pesquisadores humanos ou engenheiros, codificação com um propósito especial, conjuntos de dados de treino para um propósito especial, e estrutura customizada de aprendizado para cada novo domínio de problema. Hoje o aprendizado de máquinas não é uma esponja que sai absorvendo conhecimentos como os humanos que fazem progresso rapidamente em um novo domínio sem ter que ser cirurgicamente alterados ou construídos com esse propósito.
Da mesma forma, quando as pessoas ouvem que um computador pode vencer um campeão mundial de xadrez (em 1997) ou um dos melhores jogadores de Go do mundo (em 2016), elas tendem a pensar que ele está jogando da mesma forma que um humano iria. Claro que na verdade, nenhum desses programas tem ideia do que um jogo realmente é, ou tem consciência de que eles estavam jogando. Eles também são menos adaptáveis. Quando um humano joga um jogo, se ocorrer uma pequena alteração nas regras, ele ainda continuará capaz de jogar sem problemas. Não é o mesmo para o AlphaGo ou Deep Blue.
As palavras maleta podem enganar as pessoas do quão bem as máquinas estão indo em tarefas que as pessoas podem fazer. Isso particularmente acontece pois os pesquisadores de IA — e, pior, as instituições para as quais eles trabalham — estão ansiosos para clamar um grande progresso em uma instância de um dos conceitos na maleta.
A parte importante aqui é “uma instância”. Esse detalhe rapidamente é esquecido. As manchetes fazem o alarde na palavra maleta, e direcionam o entendimento geral de onde a IA está e quão próxima ela está de conquistar mais.
5 – O Exponencial
Muitas pessoas estão sofrendo de um grave caso de “exponencialismo.”
Todo mundo tem alguma ideia da Lei de Moore, que sugere que computadores se tornam melhores e melhores em um ritmo padrão. O que Gordon Moore de fato disse foi que o número de componentes que cabem em um microchip iria dobrar anualmente. Isso tem se mantido verdadeiro por 50 anos, apesar da constante do tempo de dobrar tenha gradualmente diminuído de um ano para dois anos, e o padrão esteja chegando a um fim.
Dobrar a quantidade de componentes em um chip tem feito com que computadores continuamente dobrassem sua velocidade. E isso tem levado a chips que quadruplicam de velocidade a cada dois anos. Isso também tem levado a câmeras digitais com melhores resoluções, e telas de LCD com um aumento exponencial de pixels.
A razão pela qual a Lei de Moore funcionou é porque ela é aplicada a uma abstração digital de uma pergunta de verdadeiro ou falso. Em qualquer circuito, existe uma carga elétrica ou voltagem lá ou não? A resposta permanece clara enquanto os componentes dos chips se tornam menores e menores — até que um limite físico intervenha, e nos leve a componentes com tão poucos elétrons que os efeitos quânticos comecem a dominar. E é aí que estamos agora com nossa tecnologia de chips baseada em silício.
Quando as pessoas estão sofrendo de exponencialismo, elas podem pensar que a exponenciação que elas usam para justificar um argumento irá continuar acelerada. Mas a Lei de Moore e outras leis aparentemente exponenciais podem falhar devido a não serem verdadeiramente exponenciais para começar.
Na primeira parte do século, era possível acompanhar a evolução exponencial da capacidade de memória de um iPod a partir do investimento de apenas 400 dólares ou menos.
Se essa extrapolação continuasse, hoje um iPod de 400 dólares teria 160,000 gigabytes de memória. Mas o máximo que um iPhone atinge hoje ( e que custa muito mais do que 400 dólares) é de apenas 256 gigabytes de memória, menos da metade do que a capacidade de um iPod de 2007.
Esse colapso exponencial aconteceu tão logo a quantidade de memória chegou ao ponto de ser grande o suficientes para guardar qualquer biblioteca musical pessoal razoável, e aplicativos, fotos e vídeos. Exponenciais podem colapsar quando um limite é atingido, ou quando não existe mais razão econômica para continuar.
De forma similar podemos ver a evolução da performance de sistemas de IA graças ao sucesso do deep learning. Muitas pessoas parecem pensar que isso significa que irão continuar a ver um aumento na performance da IA em um ritmo regular. Mas o sucesso do deep learning levou 30 anos para acontecer, e foi um evento isolado.
Isso não significa que não teremos outros eventos isolados, onde o trabalho que sustenta as pesquisas em IA subitamente alimente um rápido avanço no aumento da performance de muitas aplicações da IA. Mas não há nenhuma “lei” que diga o quão frequente isso irá acontecer.
6. Cenários de Hollywood
No enredo de muitos filmes de ficção científica de Hollywood o mundo é da forma que é hoje, exceto por uma nova reviravolta.
Em O Homem Bicentenário, Richard Martin, interpretado por Sam Neil, senta-se para tomar o café-da-manhã e é servido por um robô humanoide ambulante e falante. interpretado por Robin Williams. Richard pega um jornal para ler durante o café-da-manhã. Um Jornal! Impresso em papel. Não um tablet, nem um podcast vindo de um dispositivo Amazon Echo ou similar, e nem uma conexão neural direta com a internet.
Acontece que muitos especialistas e pesquisadores de IA, especialmente os pessimistas que afirmam que a IA ficará fora de controle e matará as pessoas, tem sua imaginação desafiada de forma similar.
Eles ignoram o fato de que se nós formos capazes de eventualmente construir dispositivos inteligentes, o mundo será alterado significativamente por eles. Nós não seremos surpreendidos pela existência dessas super inteligências.. Elas irão evoluir tecnologicamente ao longo do tempo, e nosso mundo será habitado por muitas outras inteligências, e nós já teremos muita experiência com elas.
Muito antes de haver super inteligências malignas que queiram se livrar de nós, haverá de alguma forma máquinas menos inteligentes e menos beligerantes. Antes disso, máquinas um pouco irritantes. E antes destas, máquinas arrogantes e desagradáveis. Nós iremos mudar o nosso mundo ao longo desse caminho, ajustando tanto o ambiente para as novas tecnologias quanto as próprias tecnologias. Não quer dizer que não haverá desafios. Quer dizer que isso não acontecerá inesperadamente ou rapidamente, como muitas pessoas pensam.
7. Velocidade de implementação
Novas versões de softwares são implementadas com grande frequência em algumas indústrias. Novas funcionalidades para plataformas como o Facebook são implementadas quase de hora em hora.Para muitas novas funcionalidades, contato que elas tenham passado pelo teste de integração, existe pouca desvantagem econômica se um problema aparecer em campo e for necessário reverter a versão. Isso é algo que o Vale do Silício e os web developers estão acostumados. Isso funciona porque o custo de margem de códigos recentemente implementados é muito, muito próximo de zero.
Implementar novo software, por outro lado, tem custos de margem significativos. Nós sabemos disso de nossa vivência. Muitos dos carros que nós estamos comprando hoje em dia, que não são auto dirigíveis, e em sua maioria não são habilitados para softwares, provavelmente ainda irão continuar na estrada em 2040. Isso coloca um limite embutido, em quão rápido todos os nossos carros serão auto dirigíveis. Se nós construirmos uma nova casa hoje, nós podemos esperar que ela esteja por aí por mais de 100 anos.
Ó custo mantém o hardware físico por perto por um longo tempo, mesmo quando existem aspectos high-tech nisso, e mesmo quando ele tem uma missão existencial.
A força aérea dos Estados Unidos ainda voa com o B-52H, uma variante do bombardeiro B-52. Essa versão foi introduzida em 1961, ele tem 56 anos. O último foi construído em 1962, meros 55 anos atrás. Atualmente espera-se que esses aviões ainda voem até 2040, e talvez além disso — existem conversas para estender a vida útil deles para 100 anos.
É comum vermos equipamentos com décadas de idade em fábricas ao redor do mundo. Ainda há computadores rodando o Windows 3.0 por aí. O pensamento é “se isso não está quebrado, não conserte isso.” Esses computadores e seu software estiveram rodando a mesma aplicação, fazendo a mesma tarefa de forma confiável por mais de duas décadas.
O principal mecanismo de controle em fábricas, incluindo as mais novas nos Estados Unidos, Europa, Japão, Coréia e China, é baseado em controladores lógicos programáveis, ou CLPs. Eles foram introduzidos em 1968 para substituir relês eletromecânicos. A “bobina” ainda é a principal unidade de abstração usada hoje, e CLPs são programados da forma que uma rede de relês eletromecânicos de 24 volts eram. Ainda assim. Alguns dos cabos de alimentação foram trocados por cabos Ethernet. Mas eles não são parte de uma rede aberta. Ao invés disso eles são cabos individuais, conectados ponto-a-ponto, fisicamente compondo o fluxo de controle — a ordem em que cada passo é executado — nesses “novos antigos” controladores de automação. Quando você quer mudar o fluxo de informação, ou fluxo de controle, na maioria das fábricas a redor do mundo, são necessárias semanas de consultores tentando entender o que está ali, desenhando novas reconfigurações, e então os times de comerciantes para religar e reconfigurar o hardware. Grandes empresas de fabricação desses equipamentos buscam fazer aprimoramentos de softwares a cada 20 anos.
A princípio, isso poderia ser feito de forma diferente. Na prática, não pode. Se você olhar nas listas de vagas de grandes empresas, ainda hoje, encontrará a Tesla Motors tentando contratar técnicos CLP para sua fábrica em Fremont, Califórnia. Eles usarão emulação de relês eletromagnéticos na produção do automóvel mais avançado em IA que existe.
Muitos pesquisadores e especialistas em IA imaginam que o mundo já é digital, e que é só introduzir novos sistemas de IA que isso trará mudanças imediatas no chão de fábrica, linha de suprimentos ou em campo, no design de produtos.
Nada poderia estar mais longe da verdade. Quase todas as inovações em robótica e IA vão demorar mais, e demorar muito mais, para que sejam largamente implementadas do que as pessoas na área e fora da área imaginam.
Rodney Brooks é um dos primeiros diretores do laboratório de ciência da computação e inteligência artificial do MIT e fundador do Rethink Robotics and iRobot. Maiores detalhes podem ser obtidos em seu website rodneybrooks.com