A inteligência artificial do Facebook aprendeu a enganar

João Pedro Pereira

Numa era de híper-abundância de informação e de distracções, a ideia de computadores a comunicarem com uma linguagem própria derivada do inglês não parece ser suficientemente interessante para cativar atenções – talvez por isso tantos órgãos de comunicação tenham pegado numa boa história e criado todo o tipo de exageros e extrapolações irrealistas.

O caso deu que falar na semana passada, mas já é mais antigo. Agentes de inteligência artificial desenvolvidos pelo Facebook (ou seja, software, e não robôs, como algumas notícias descreveram) tinham sido programados para negociarem entre si em cenários relativamente simples (do ponto de vista da inteligência humana). Tinham de discutir sobre como dividir um conjunto de objectos que incluía bolas, chapéus e livros. Como acontece com os humanos em muitas negociações, cada agente sabia o valor que cada um destes objectos tinha para si, mas não o valor que os outros agentes lhes atribuíam. Os cenários traçados pelos investigadores implicavam ainda que nenhum dos agentes de inteligência artificial que participava nas negociações conseguia tudo o que queria; e abandonar as negociações (ou não chegar a um acordo após dez rondas de negociações) significava perdas para todos os intervenientes. Negociar era fundamental.

Em meados de Junho, os investigadores disponibilizaram o código informático usado na experiência e houve quem notasse que os agentes de inteligência artificial dialogavam numa linguagem própria, que usava palavras inglesas, mas não respeitava as regras da gramática. Foi uma falha de programação e, como o objectivo da investigação é desenvolver chatbots que consigam dialogar com humanos, a equipa fez as afinações necessárias para que fosse usado inglês correcto. Ora, não tardaram a surgir “notícias” completamente distorcidas, numa bola de neve que se avolumou nos últimos dias (foi só neste momento, já tarde, que aqui no PÚBLICO demos pela história). Nos media, sucederam-se então títulos como “Facebook desactiva inteligência artificial”, “Inteligência robótica perigosa” e“ Robôs ganham vida própria e Facebook cancela o projecto”. Um dos investigadores responsáveis pelo estudo veio pôr água na fervura, classificando a cobertura como “irresponsável”. 

O artigo científico que descreve a investigação está publicado aqui e é, no essencial, legível por leigos. Uma explicação menos técnica pode ser encontrada aqui. Para os interessados no tema, estes documentos são uma leitura interessante. Um dos resultados da experiência é que as máquinas aprenderam a enganar os outros, sem que tivessem sido programadas para isso: em alguns casos, os agentes fingiam ter interesse num item para, mais tarde, o poderem dar como moeda de troca mais valiosa. Muitos bons títulos que poderiam ter sido escritos só com esta informação.

Digno de nota

- Não foi um arranque a grande velocidade, mas bastou para gerar muito entusiasmo: a Tesla entregou (a 30 dos seus próprios funcionários) os primeiros carros do seu modelo mais barato. É mais um passo a caminho do objectivo de massificar a adopção de veículos eléctricos. Numa altura em que fabricantes e governos querem que o combustível tenha os dias contados, a empresa do excêntrico Elon Musk (que também investe em foguetões e em comboios subterrâneos de alta velocidade) parece ser exímia a atrair atenções, mesmo quando a produção é uma pequena fracção dos carros que saem das fábricas das marcas rivais.

- Um jornalista da Wired decidiu criar um chatbot a partir de gravações das conversas que teve com o pai após este ter sido diagnosticado com um cancro de pulmão, que viria a ser fatal. O resultado está disponível para os familiares no Facebook. É, inevitavelmente, um exercício dado a muitas reflexões: “Se fui bem-sucedido na construção do bot, não é totalmente claro. Mas enquanto exercício, sinto que fiquei a conhecer melhor o meu pai, que celebrei a sua vida e que estive com ele numa altura em que estava a perdê-lo”, escreveu o jornalista. É um tema que a Karla Pequenino abordou há uns meses: Na Internet, nem a morte pára a conversa.

- Há empresas onde os funcionários podem colocar pequenos chips debaixo da pele (normalmente, numa mão) e usá-los para tarefas que normalmente requerem um cartão: abrir portas, fazer compras em máquinas de comida e usar impressoras.

- Investigadores do MIT estão a usar emojis do Twitter para ensinar computadores a identificarem sarcasmo nas frases publicadas pelos utilizadores (é material que abunda nas redes sociais). Em alguns testes, o algoritmo já foi mais eficaz a detectar sarcasmo do que humanos.

4.0 é uma newsletter semanal dedicada a tecnologia, inovação e empreendedorismo. O conteúdo patrocinado nesta newsletter não é responsabilidade do jornalista. Críticas e sugestões podem ser enviadas para jppereira@publico.pt. Espero que continue a acompanhar.