Esquizofrenia em defesa da IA

A defesa da IA geralmente começa por identificar tecnologias anteriores que surgiram e que foram também atacadas, mas que demonstraram ser depois bem assimiladas pela sociedade. Fala-se da electricidade ou da calculadora, assim como se fala da automação de fábricas ou da internet. Apontam-se os ganhos, nada se diz sobre os impactos negativos, menos ainda sobre o enorme trabalho que foi necessário para criar regulação que sustentasse essa integração societal. Bastaria dar o exemplo do RGPD para percebermos que a internet não nos trouxe só maravilhas, e que sem regulação estaríamos bem mal. Esta mesma defesa, diz depois que a IA não está aqui para substituir o humano, é apenas um complemento. E vai mais longe, dizendo que quem não quer ficar para trás tem de entrar no comboio, usando uma expressão que já se tornou mantra no domínio: uma IA não vai substituir uma pessoa, mas uma pessoa com IA vai substituir uma sem IA. Analisemos ambos os argumentos mais em detalhe, nomeadamente o impacto das tecnologias mais recentes nas funções cognitivas.

IA e o regressar aos valores da Escola

Durante décadas acreditámos que a IA seria apenas uma ajuda ao humano, que não seria nunca capaz de o substituir em tarefas que exigem inteligência elaborada e educada. Contudo, em 2023 isso deixou de ser uma verdade absoluta. A IA consegue escrever tão bem como um ser humano, consegue sintetizar, criar e expressar ideias. Pouco já está fora do seu alcance em termos da ideação e conceptualização. A IA consegue desenhar e animar de raiz as mais complexas formas visuais e sonoras. A IA consegue compor texto com desenho, som e movimento no tempo recriando representações que expressam “imagens mentais” que até agora só os humanos tenderiam a imaginar. A IA consegue ainda programar essas composições para que cumpram ordens ou tomem decisões. A IA consegue criar réplicas de si mesma, com variações de performance com vista a otimizar a sua ação ou em resposta ao que lhe é pedido. Podemos ir ainda a algo mais extremo, e dizer que a IA consegue ter “consciência de si”, quando consegue apresentar um estágio de “teoria da mente” de uma criança de 9 anos [1]. Ou seja, a IA atual consegue atribuir estados mentais aos humanos que interagem com ela, consegue especular e supor o que está a pensar o humano quando este realiza perguntas, por forma a descortinar a intenção, para o que usa todo um conhecimento sobre os humanos que assenta não apenas na informação, mas na emoção, nas vivências, motivações e crenças.

Imagem de Tony Coffield de Pixabay 

AI 2041

“AI 2041” (2021) apresenta uma estrutura deliciosa. Sendo um livro de não-ficção sobre IA, usa pequenos contos de ficção para ajudar o leitor a compreender, por via de situações reais e concretas, o alcance de conceitos e tecnologias de carácter abstrato. Kai-Fu Lee é uma referência na Ásia, por ter sido presidente da Google China, mas antes disso trabalhou nos EUA para a Apple, a SGI, e a Microsoft. Na academia formou-se na Columbia, e doutorou-se na Carnegie Mellon, em 1988, com uma tese em IA. Para este livro, convidou Chen Qiufan, autor chinês, premiado e reconhecido por um estilo de ficção científica realista. Juntos criaram um livro que junta o melhor da ficção com a não-ficção. Cada um dos 10 capítulos aborda um impacto futuro da IA, sendo cada tópico primeiro ilustrado por um conto, situado em 2041, de Chen Qiufan, depois seguido por uma análise académica de Kai-Fu Lee, que dá conta da tecnologia atual e da expetativa de desenvolvimento até 2041. Deste modo, Lee e Qiufan criaram uma nova e poderosa abordagem que deveria ser vista como um modelo a seguir pela comunicação de ciência. 

ChatGPT e os modelos de competência linguística

Finalmente, um artigo que discute a essência da forma do texto produzido pelo ChatGPT. Desde que surgiu e realizei múltiplas experiências com o assistente, havia algo que me perturbava profundamente na sua escrita: o facto de ser corretamente límpida, mas simultaneamente “vazia”. Vazia num sentido de intencionalidade humana, de se poder sentir por debaixo das palavras desejo, vontade, viés e distorção das ideias que se presta a discutir. Chamava a isto “voz”, mas precisava de algo mais para definir o que podia ser isto, e agora uma equipa do MIT apresenta um modelo linguístico, baseado em neurociência, que desconstrói essas competências linguísticas do ChatGPT. 

Humanos e Máquinas: métricas da mediania

O título “The Tyranny of Metrics” do professor Jerry Z. Muller é indissociável do título “The Tyranny of Merit” do imensamente mais conhecido professor Michael J. Sandel. Mas em defesa de Muller, o seu livro é de 2018, e o de Sandel de 2020. Mas a aproximação não se fica pelos títulos, vai ao fundo dos dois tópicos eleitos: mérito e métricas. Não as colocando lado a lado, mas antes em lados opostos, diga-se lados políticos. Porque se o “mérito” é o santo graal da esquerda, o motor da crença messiânica de que todos podemos ser tudo e fazer tudo desde que nos esforcemos. As métricas são o Santo Graal da direita, em que tudo tem de ser medido para que tudo possa ser transparente, porque só quando ajustado pela medida objetiva se pode eliminar qualquer vestígio de viés humano.

As métricas que nos transformam em máquinas

Máquinas de contar histórias

"Story Machines: How Computers Have Become Creative Writers" foi publicado em julho 2022, mas os seus autores, Mike Sharples e Rafael Perez, académicos na área da aprendizagem e criatividade IA, dizem-nos que o livro começou a ser preparado em 2001, por isso não se espere aqui um tratado sobre o enorme potencial aberto pelos sistemas GPT, que apesar de serem abordados representam apenas uma pequena parte da discussão.

Média Artificiais (artificial media)

2022 ficará na história como o ano em que a Inteligência Artificial foi reconhecida pelas suas capacidades criativas. 

No dia 30 de novembro a OpenAI colocou na rede, em acesso gratuito, um assistente de IA, o ChatGPT, que em apenas 5 dias conseguiu mais de um milhão de utilizadores, alimentados pela curiosidade de contactar com as suas capacidades extraordinárias de conversação. No meio dos muitos defeitos que lhe fomos encontrando —erros factuais, invenção de dados, excesso de confiança, ou falta de “voz” —, todos tivemos de reconhecer que nunca tínhamos visto nada igual. É possível entrar em diálogo com o assistente, conversar sobre a mais ampla gama de assuntos e gerar momentos de profunda partilha empática construída a partir da autoilusão com base na naturalidade, eloquência e compreensão discursiva do assistente.

Mas não foi apenas a conversação que foi tomada de assalto. Meses antes, a 12 de julho, tinha sido divulgado um outro assistente, o Midjourney, depois, a 22 de agosto, era também divulgado o Stable Diffusion da Ludwig Maximilian University de Munich, e ainda a 28 de setembro, a OpenAI disponibilizava a todos o Dall-E 2. Estes três assistentes de IA partilham as mesmas competências de desenho de imagens, com a particularidade de apresentarem resultados originais, simultaneamente muito humanos, como se tivessem sido criados por seres humanos. 

Galatea 2.2 de Richard Powers

"Galatea 2.2" é um livro sobre Inteligência Artificial (IA) escrito em 1995, algo que poderia ditar imediatamente todo um texto datado, no entanto não é daí que surgem os seus maiores problemas. Powers é uma mente brilhante, capaz de um olhar analítico em profundidade e a IA acaba sendo aqui uma ótima desculpa para dissertar sobre a vida e o ato de viver. Mais ainda porque o livro é escrito num tom autobiográfico, com o protagonista a ser nomeado com o nome do autor, um escritor escrevendo o seu quarto romance, aquele que estamos a ler, variando os países e a língua em que a sua mulher é profissional de tradução, mas mantendo intacta a vontade do autor de nunca ter filhos. Esta sua vontade acaba sendo central para compreender o desígnio final da IA criada.

Simulacros do Deepfake

Apresentei ontem uma keynote na conferência 2nd Conference on Pathologies and Dysfunctions of Democracy in Media Context, na Universidade da Beira Interior, dedicada ao fenómeno do deepfake e seus potenciais impactos políticos e culturais do ponto de vista da linguagem audiovisual. Em "Deepfake and the future of Audiovisual Simulacra" começo por traçar um paralelo com as edições fotográficas produzidas pelos regimes soviéticos, avançando depois para o papel da fotografia na criação de sentido, de comunidade e crença. A partir dessa perspetiva apresento o audiovisual como auto-suficiente, dotado de capacidades de simulacro, ou seja, capaz de servir de substituto de realidade, a partir do que traço algumas implicações futuras.

A palestra gerou uma discussão interessante, defrontando-se diferenças entre ficção e realidade, assim como o momento em que entramos em descrença e deixamos de acreditar no que quer que seja, pelo lado do Jorge Palinhos, ou ainda da importância e força das comunidades como "amortecedores sociais" pelo lado do Eduardo Camilo para suster os impactos do deepfake, ou ainda a importância cada vez maior da literacia audiovisual nas escolas pelo Pedro Pinto de Oliveira. O João Correia trouxe para a discussão o mundo cada vez mais constituído por crenças assentes na paisagem audiovisual.

Algoritmo Mestre

Confesso que parti para "The Master Algorithm" (2015) com várias reservas: a primeira prendia-se com a dificuldade de trazer um assunto desta complexidade para uma discussão leiga; a segunda tinha que ver com a minha desconfiança sobre a possibilidade efetiva de se criar um algoritmo único, de tudo capaz. No final do livro tenho de dizer que Pedro Domingos, professor na Universidade de Washington, fez um belíssimo trabalho, não só o livro é acessível como nos abre o apetite para o tema. O que mais gostei, e acaba sendo o cerne do livro, foi da descrição das metodologias que estão a ser seguidas para que a máquina possa aprender, não por serem exóticas mas antes pelo contrário, por responderem por métodos que nós próprios, humanos, também temos vindo a utilizar para construir conhecimento.

Domingos abre o livro com uma constatação que por mais óbvia que seja nos continua a surpreender, o Machine Learning (ML) já faz parte das nossas vidas, e muito daquilo que fazemos no nosso dia-a-dia já é controlado por ele. Desde o modo como pesquisamos e encontramos livros na Amazon e filmes no Netflix, às informações e notícias que vão surgindo no feed do nosso Facebook ou Instagram, aos sites e links que o Google nos indica em cada pesquisa. Onde existirem bases de dados  grandes, o ML estará lá a trabalhar para nós. Enquanto espécie animal somos a espécie mais inteligente no planeta, contudo no que toca a processar dados, em volume e rapidez, temos poucas ou nenhumas hipóteses com os algoritmos processados por máquinas.

Domingos começa por discutir as diferentes fases do processamento do conhecimento no nosso planeta — "Evolução", "Experiência" e a "Cultura". A evolução deu-nos o DNA, o primeiro modo de construção de conhecimento no planeta, capaz de codificar vida. Seguiram-se os neurónios que codificavam toda a experiência percetiva em conhecimento que podia ser re-utilizado para navegar no planeta. Na terceira fase surge então a cultura, ou seja, a produção de conhecimento pelo ser humano. Domingos refere que cada uma destas fases foi sempre muito mais rápida que a anterior, apresentando de seguida, aquilo que considera ser uma 4ª fase, a do conhecimento produzido pelos computadores. Esta última fase levantou-me algumas dúvidas. Ou seja, considero que só poderemos colocar na equação de produtores de conhecimento os computadores, no momento em que eles nos começarem a dar conhecimento original. É verdade que os últimos sistemas desenvolvidos para jogar Go ou Xadrez, têm apresentado jogadas completamente novas, e momentos de criatividade em nada semelhantes ao que conhecíamos no humano, contudo parece-me que ainda é cedo para considerarmos estes resultados como inovação própria, ou externa ao humano. Ou seja, o que temos para já, do meu ponto de vista, ainda é conhecimento produzido por meio de ferramentas que são parte da Cultura. Veremos como evolui depois tudo.

Domingos diz-nos que cada nível destes representou sempre aumento de velocidade na produção de novo conhecimento.

Domingos prossegue a discussão apresentando então as 5 grandes metodologias para descobrir o conhecimento que hoje estão a ser utilizadas pelos criadores de ML: "Symbolists, Connectionists, Evolutionaires, Bayesians, Analogizers". O livro dedica uma secção completa a cada área, e aqui tenho de dizer que nem sempre foi fácil seguir Domingos, mas também porque não quis dedicar o tempo suficiente que cada uma das secções requereria se eu estivesse verdadeiramente motivado para aprofundar o estudo do ML. Se a motivação e a necessidade estiverem presente, o livro com mais algumas pequenas pesquisas na web poderá ser fundamental para ajudar quem deseje entrar no domínio. Aproveito para deixar aqui a abordagem proposta por cada uma das 5 variantes:

1. Symbolists - Logic - Inverse Deduction
Busca por preencher as falhas no conhecimento existente. Começa-se por um conjunto de premissas e conclusões e faz-se dedução invertida para tentar descobrir o que falta.

2. Connectionists - Neuroscience - Backpropagation
Emulação do cérebro, também conhecido por "deep learning", em que se criam redes artificiais de neurónios que desencadeiam relações a partir das conexões.

3. Evolutionaires - Evoluationary Biology - Genetic Programming
Simulação da evolução, busca-se emular o funcionamento e lógicas do DNA.

4. Bayesians - Statistics - Probabilistic inference
Redução Sistemática de Incerteza, utilizando a probabilística.

5. Analogizers - Psychology - Kernel machines
A busca de semelhanças entre anterior e atual, com vários modelos para encontrar as semelhanças.

Esquema retirado da rede.

Como podemos ver, estes são alguns dos métodos que temos utilizado para produzir conhecimento sobre a realidade e que estão agora ao serviço das máquinas. O desejo dos investigadores da área, de construir um algoritmo mestre que possa de algum modo construir os seus próprios métodos de aprendizagem, não é mais do que a singularidade discutida por Ray Kurweil, correspondente a um dos maiores medos da nossa espécie. O momento em que as máquinas se tornem conscientes e passem a ser como nós, ou pior ainda, nos ultrapassem, seguindo o "Homo Deus" de Harari. Domingos é bastante otimista neste sentido, e diz ter dúvidas sobre essa possibilidade. O principal argumento que apresenta é a "falta de vontade" da máquina. Diria que há alguns anos teria concordado, hoje não. A vontade não é algo não implementável, menos ainda num sistema autónomo com capacidade para aprender. Se existe algo que não vai faltar às máquinas é a vontade, porque implementadas as necessárias rotinas para continuar a aprender, elas tenderão a incutir vontade. E não faltam notícias (1, 2) nos últimos anos sobre situações destas, em que os sistemas de ML desatam a realizar coisas inesperadas, seguindo aquilo que a sua aprendizagem os vai motivando a fazer.

Para quem quiser entrar desde já nesta discussão sem ter de esperar pelo livro, o Pedro Domingos fez uma comunicação na Google muito boa, na qual resume todo o livro em 50 minutos. Aconselho vivamente e deixo-a aqui abaixo.

Pedro Domingos "The Master Algorithm" (2015) na Google

Blade Runner 2049 (2017)

Foi uma das sequelas anunciadas que mais me incomodou. Não fazia sentido, não era necessária. Nem mesmo um remake já que “Blade Runner” (1982) consegue o extraordinário feito de se manter, no campo audiovisual, para não falar das ideias, completamente atual. Por isso e apesar de ir lendo boas impressões, não me aproximei inicialmente do filme. Agora que o vi, não quero deixar de agradecer a todos os que lhe deram “corpo”, desde o empenho de Ridley Scott na promoção do projeto e enquanto Produtor Executivo, à mestria de Denis Villeneuve (realização), Hampton Fancher (história), Benjamin Wallfisch (música), Roger Deakins (cinematografia), Joe Walker (montagem), Paul Inglis (arte) e tantos outros responsáveis, por muitas outras partes — desde o design de som, efeitos visuais, decoração, cenários, props, e maquilhagem ao guarda-roupa. Deixo os atores de fora? Não, mas o filme é tanto mais, e é sempre deles que se fala.

Em termos puramente experienciais, “Blade Runner 2049” marca o ano juntamente com “Dunkirk” (2017), muito graças às extraordinárias equipas criativas que foram capazes de levar ambos os projetos à pureza da perfeição audiovisual, nas diversas necessidades que compõem uma obra cinematográfica. Já no campo das ideias e do discurso “Blade Runner 2049” afirma-se e destaca-se. Socorre-se de um minimalismo expressivo, que claramente não lhe poderia granjear grande sucesso de bilheteira, mas sem isso teria sido apenas mais um filme sobre andróides. O que tem para dizer é impactante, porque muito hábil na relação empática, o que torna inevitável recordar o universo de “Children of Men” (2006). Assim, e continuando profundamente distópico, existe algo de muito distinto neste segundo filme, uma centelha de esperança!

Como pergunta Jorge Martins Rosa, especialista em Philip K. Dick (PKD), será esta ainda uma obra dickiana? Sim e não, exatamente pelo que disse acima, porque a distopia ganha aqui asas de utopia, algo longe do mundo dickiano. Apesar desta ligeira discordância, recomendo a leitura do texto do Jorge a quem quiser ganhar acesso às múltiplas camadas enterradas por debaixo da superfície plástica do filme. Mais ainda porque concordo com a essência do texto ao definir como pergunta central do filme, imbuída da visão dickiana: “O que é o humano?”

Concordo com esta definição, não apenas por partir de PKD, mas porque passei todo o filme a questionar-me sobre isso. Não, não foi a questionar quem de entre os personagens era humano e quem era replicant, essa questão para mim ficou lá atrás, em 1982. A minha questão foi perceber se em 2049 ainda existiam humanos, daí a colagem “Children of Men” ganhar toda uma enorme relevância, pela antecipação de um futuro anunciado em “AI: Artificial Intelligence” (2001). Mas esse futuro é em “Blade Runner 2049” assumido de modo muito distinto, o qual já qualifiquei acima de utópico, mas tem o seu quê de distópico, já que tudo o que parece mover aqueles que nos sucederão, é ser-se humano! Foi aqui que a história me perdeu, em parte, fez-me descolar da fantasia, porque foi longe demais, não no feito, mas no sentido desse feito, porque em essência me pareceram efeitos dos resquícios de criador, ou talvez melhor, chamar-lhe colonizador (porque não apenas cria como condiciona a cultura).

Existe tanto por onde pegar em “Blade Runner 2049”, o seu minimalismo ajuda, mas é difícil fazê-lo e manter o texto livre de spoilers. Contudo, passados vários filmes e livros sobre este tema, sinto que algo se vai esgotando na temática, porque atingimos uma espécie de fronteira do conhecimento sobre nós mesmos, não falo pela mera separação entre humano e máquina, mas antes pelo que aponta como marca do nosso devir, porque ganhámos a noção de que chegará o momento em que passaremos o testemunho. Sim, existe aqui um piscar de olhos a um caminho alternativo, ainda que muito breve, apresentado em "Prometheus" (2012), talvez porque Scott também tenha batido contra esta parede. E por isso, talvez seja eu agora quem termina este texto num tom distópico, talvez por homenagem ao dickiano que há em mim, contudo olho para esse momento como parte de algo maior que nós, e por isso mais utópico que distópico.

Pode a IA dar-nos melhor literatura?

Stephen Marche é um escritor canadiano com obra publicada e reconhecida, dedicando uma boa parte do seu trabalho à escrita de artigos e histórias para a Esquired, L.A. Review of Books, Wired, The Guardian, New York Times, entre muitas outras publicações internacionais. No meio de toda essa atividade, e como diz, estando atento ao desenvolvimentos computacionais, nomeadamente da IA, resolveu criar uma história com a ajuda de um desses programas de IA, na expectativa de conseguir criar algo nunca visto. A história é publicada na Wired deste mês, e no final conta com a análise de dois editores de topo.

O programa utilizado foi desenvolvido por dois investigadores da Universidade de Toronto, Adam Hammond na área das Humanidades Digitais, e Julian Brooke na área das Ciências da Computação. A aplicação consiste num comparador de histórias, baseado em estruturas e estilo, usando técnicas de "machine learning", como o "topic modelling", para sugerir e guiar o escritor no seu processo de escrita. Pode-se assim ir escrevendo bocados de texto e obtendo comparações com os textos existentes a vários níveis, desde o simples uso das palavras, a estrutura frásica, os nós narrativos, chegando assim aos estilos de artistas reconhecidos. Marche utilizou a ferramenta para otimizar o seu trabalho criativo, tendo utilizado como base de suporte à máquina, alguns textos de referência de grandes autores da ficção-científica — Ursula K. Le Guin, Philip K. Dick e Ray Bradbury. O resultado pode agora ser lido na Wired.

O género literário da FC não é muito exigente em termos de escrita, os seus autores são mais reconhecidos pelos universos que criam do que pela beleza da sua prosa. Daí que encetar um esforço destes na área da FC poderia ser um bom ponto de partida, contudo da leitura do texto percebemos que o resultado acaba por ficar bastante aquém. Vale a pena ler as notas que Marche faz na lateral do texto, explicando as interações com a máquina, para ir percebendo o processo e o input da máquina num texto, que ainda assim conta com imensa mão humana.

Se dúvida houvesse quanto à qualidade, fica a primeira impressão de Andy Ward, editor da Random House, que não sabendo nada sobre o origem da história, diz tudo sobre o caminho longo que a IA ainda terá de percorrer:

“Full of unnecessary detail, wooden, implausible dialog (Who talks like this?), and sentences that don’t actually hold up when you read them carefully. They seem like they hold up, but they don’t. It’s aimless. It uses language to describe things rather than reveal them (flowing “brightly and glamorously,” etc.). That stuff doesn’t sound human—or, better, doesn’t sound writerly. Feels like words on a page.” 

Andy Ward, editor da Random House 

Questões que a automação coloca à Arte

As tecnologias continuam a desenvolver-se, notando-se uma aceleração nos processos de automação e das chamadas "inteligências artificiais" (IA), que não passam de algoritmos que controlam e acedem a bases de dados gigantes, detentoras de saber acumulado construído com base na mímica de ações de milhares de humanos. O mais recente exemplo vem na forma de uma reportagem da BBC feito a partir da Adobe Max Conference anual, que indica as futuras adições de IA ao Photoshop.

O que Adobe nos apresenta é excepcional, dá vontade de começar a utilizar desde já, é imensamente atrativo, e parece apresentar um enorme avanço no que toca a Edição de Imagem, estática e dinâmica, contudo não deixa de levantar questões sobre o que apresenta, e ainda mais sobre o que nos reserva para os anos vindouros o seu natural progresso. Deixo algumas dessas questões que me surgiram ao ver o vídeo de apresentação:

. Estaremos a abrir a porta ao fim do virtuosismo na criação artística?

. Iremos cada vez menos precisar de investimento técnico, menos esforço, e tudo ficará à mão de meia-dúzia de cliques e escolhas?

. Deixaremos de reconhecer o trabalho e reconheceremos apenas as ideias e os resultados? 

. Sem esforço, podendo qualquer um criar o que quer que seja com grande qualidade técnica, fazendo explodir a produção, não se tornará praticamente impossível a individualização das ideias e desses resultados?

. Abandonaremos a ideia de contexto na criação, porque o contexto não pertencerá ao criador, mas ao sistema que propícia a técnica? 

. etc. etc.

Ver o vídeo no site da BBC.

A vontade de ser (e recriar o) humano

“Ex Machina” é a nova jóia da coroa da ficção científica cinematográfica, apesar de trabalhar um tema — a Inteligência Artificial — já tão intensamente discutido e aprofundado sob os mais diversos ângulos: a consciência ("2001: A Space Odyssey” (1968); “Blade Runner” (1982)); as emoções ("A.I. Artificial Intelligence" (2001); "I, Robot" (2004)); a igualdade ("Metropolis" (1927); "Bicentennial Man" (1999)); o controlo ("The Matrix" (1999); "The Terminator" (1984)); a companhia ("Her" (2013); "Wall-E" (2008)); a inteligência (“Colossus: The Forbin Project” (1970); “Star Trek: Generations” (1999), etc.. Assim, apesar de não parecer, “Ex Machina” traz algo bastante novo, apresenta uma proposta para definir o momento em que a máquina se torna verdadeiramente humana (a singularidade), por um meio que vai muito para além do “Teste de Turing”, ou seja, em que esta se torna capaz de dar resposta aos três fundamentos base da vontade humana: autonomia, competência e conectividade.

Não posso entrar no detalhe da explicação das três variáveis sem desvendar o enredo, e por isso mesmo não o farei aqui, direi apenas que este método se poderia designar por “Labirinto da Vida”. Julgo que é um filme obrigatório ver, porque é um filme que não se cola ao deslumbramento tecnológico, concentrando-se antes na essência daquilo que nos torna humanos. Aliás, somos confrontados com um ser (Ava), servido de qualidades da fisionomia homínidea, mas incompleto à superfície, demonstrando a sua natureza maquínica, com o objectivo claro de nos obrigar a ver, e a sentir, além da tecnologia. Claro que esta incompletude na forma é cirurgicamente desenhada, com a cara, centro nevrálgico da comunicação humana, a permanecer intacta.

Diga-se que o trabalho preconizado por Alicia Vikander é grandemente responsável pela eficácia do filme. Vikander consegue desenvolver toda uma linguagem corporal e facial, que se encaixa claramente entre o Uncanny Valley e o Humano. Claro que ajuda o facto de ela não se apresentar vestida como nós, mas o modo pausado e rítmico como ela se move e interage é tão específico, longe do comum robô, mas também diferente do comum humano. Ao longo do filme, podemos nem ter consciência do facto, mas sentimos ali algo distinto. Não tinha conseguido perceber como tinham conseguido esta nuance, até que numa entrevista Alex Garland explica que Vikander tinha estudado Ballet enquanto jovem, conseguindo assim exercer um controlo perfeccionista dos movimentos do corpo, que ela acabaria por usar aqui para estabelecer a linguagem corporal de Ava.

Teaser de “Ex Machina” (2015)

Como um todo, temos uma obra imensamente coesa no modo como vai gerindo a informação, acompanhada por uma estética profundamente racionalizada, tudo coordenado por Alex Garland, que é  autor da ideia, do guião e da realização. De alguma forma acredito que é diferente quando um realizador parte para filmar uma ideia que é sua, desde que tenha competências para a levar a bom termo. Garland tinha visto várias das suas ideias chegarem ao cinema com “The Beach” (2000), “28 Days Later…” (2002) e “Sunshine” (2007) sempre pelas mão de Danny Boyle. Depois dedicou vários anos a adaptar ideias de terceiros, “Never Let Me Go” (2010) e “Dredd” (2012) para o cinema, e o videojogo “Enslaved: Odyssey to the West” (2010). “Ex Machina” surge assim como uma espécie de súmula de todo este trabalho, da escrita original à visualização de ideias, emergindo um projecto profundamente autoral pela clara vontade de expressar uma visão.

Design de interacção em "Her"

Já aqui escrevi a propósito de “Her” antes, tendo falado exclusivamente sobre o seu tema e conflito, a Inteligência Artificial (IA) e os potenciais impactos desta sobre a humanidade. Agora venho falar sobre um outro aspecto que esteve comigo ao longo de todo o visionamento do filme, o design de interacção.

Como tinha falado nesse primeiro texto, Jonze optou por apresentar um futuro bastante naturalista, isto é sem grandes transformações operadas pelas possibilidades tecnológicas, ao contrário da tradição que vem de Metropolis ou Blade Runner. Essa foi uma decisão que acabou por ser muito determinada pelo designer de produção KK Barrett, que já trabalhou anteriormente com Jonze (Being John Malkovich, Where the Wild Things Are) e Sofia Coppola (Lost in Translation, Marie Antoinette), tendo chegado a consultar alguns conceituados designers como Stefan Sagmeister, Elizabeth Diller e Ricardo Scofidio. E assim é muito interessante seguir uma entrevista dada por Barrett à Wired, onde ele começa pela principal grande questão por detrás do design do filme: “In a world where you can buy AI off the shelf, what does all the other technology look like?”

Ou seja, é preciso repensar o ecossistema humano e projetá-lo num futuro mais ou menos próximo, capaz de expressar a ideia de ter decorrido progresso tecnológico. E se na Ficção Científica este futuro costuma ser altamente saturado com enorme presença de luzes, ecrãs, movimento (Minority Report, The Fifth Element), em "Her" temos exactamente o contrário de tudo isso. A ideia foi antes pensar em tudo aquilo que a IA poderia simplificar nas nossas vidas, o inverso de um progresso multi, poli, um mundo de tranquilidade, passividade e serenidade. A ideia que subjaz a esta inversão é o mais interessante de tudo, porque se sustenta numa abordagem da tecnologia ao serviço do humano, e não o seu inverso, como tem vindo a acontecer.

Deste modo aquilo que “Her” trabalha estética e tematicamente, do ponto de vista da tecnologia, é o design da sua invisibilidade e nesse sentido acaba por ir de encontro aos princípios de transparência do design de interfaces acabando por depois extravasar para todo o design de interacção e de experiência. De todos os elementos principais do filme, Samantha, a personagem que serve o papel de assistente pessoal artificial de Theo, e que dá o título ao filme “Ela”, é aquele em que estes princípios foram mais cuidados. Esta personagem no filme possui apenas uma interface ou forma de expressão, o som, a voz, ou seja mais transparente era impossível. O filme foge da sua representação visual e física. Pode estar espalhada pela casa, mas o mais comum é estar no auricular, acabando por ser uma voz que apenas ouvimos, residente num ciberespaço sem representação física nem expressão visual. Theo entra em comunicação apenas ativando o auricular, para o espectador é como se a voz estivesse sempre ali presente, num acesso directo entre “mentes”.

Isto leva-nos a outras preocupações, como deve agir a persona (personagem) que continua a ser uma máquina, ou seja como se desenha aqui a interacção humano-computador além da interface, nos seus aspectos de interacção e experiência? A forma escolhida foi aproximá-la do ser humano, o que é a abordagem mais natural, já que quanto mais humano mais transparente, porque mais familiar para nós. Mas existe aqui uma questão que o filme acaba por abordar no final, sendo a IA tão desenvolvida, com uma inteligência elevadíssima e com um acesso quase instantâneo a toda a informação que existe em rede, isto obriga a proceder ao inverso do design de interacção que temos feito até aqui.

Cartoon que me foi enviado no dia do pai, mas que dá conta da questão central por detrás do design de interacção humano-computador, que assenta na procura pela emulação do ser-humano no computador.

Ou seja, até aos dias de hoje, temos procurado sempre emular nas máquinas as atitudes do ser-humano, para criar o máximo de empatia na relação e assim gerar uma interactividade capaz de se aproximar do processo de conversação humana, mas como a IA está ainda pouco desenvolvida, somos obrigados a desenhar quase tudo passo por passo, o que lhe dá um ar mecânico, robotizado. Ora aqui temos o contrário, uma IA tão desenvolvida, que vai obrigar a desenhar passos intermédios na sua capacidade de acção para que ela corresponda ao que o ser humano espera, para que seja transparente e invisível a tecnologia, levando-nos a acreditar que se trata de outro ser-humano. Como Barrett diz,

“…you don’t want a machine that’s always telling you the answer. You want one that approaches you like, ‘let’s solve this together.”

Assim podemos dizer que em termos de design de interacção o filme acerta completamente no que devemos esperar do futuro da tecnologia, já quando entramos no design da experiência, tenho muitas dúvidas, e quase certezas de que o filme está muito longe daquilo que virá a existir. Porque não será isto que o ser-humano vai desejar em termos de experiência, estou a referir-me concretamente ao facto da máquina, o outro que é agora um “ser” dotado de “consciência” gerada por IA, se comunicar conosco apenas através de um único canal perceptivo, a audição. Somos dotados de uma percepção da realidade que se subdivide em cinco sentidos, tendo começado por dar quase atenção exclusiva à visão, depois adicionámos a audição, e mais recentemente introduzimos o tacto com os ecrãs de toque. Ou seja, se hoje conseguimos criar uma experiência que nos envolve por três canais distintos, porque razão haveríamos de andar para trás e voltar a ter apenas um canal novamente?

Aliás, foi isso que mais dúvidas me deixou em toda a relação entre Samantha e Theo, por mais que eu tenha desejado entendê-la, achei-a sempre demasiado distante. Um canal sensorial apenas, não é suficiente para criar o engajamento necessário, fica-se num nível de abstracção demasiado grande. Torna-se impossível atribuir uma identidade concreta a Samantha, quem é ela para além da voz? A voz é sensual, mas pertence a quem? Como identifico o “outro” apenas por detrás de uma voz? (Senti algo parecido com os videojogos em primeira-pessoa, em que o protagonista não tem corpo porque é apenas uma câmara, e como tal fico sem personagem com quem empatizar.) Porque tudo isto se joga, sempre que precisamos de desenhar relações entre humanos e não-humanos. Sabemos que a forma de facilitar essa relação é desenhar a máquina com a forma mais humana possível, já que não existem seres humanos constituídos apenas por voz.

Além de Samantha, temos toda uma outra quantidade de problemas que não são abordados no filme, que cria aquela ideia de que quase tudo pode ser feito apenas por meio da voz, do som. Barrett fala na ideia de que o som passe a representar a nova Realidade Aumentada, em vez de sobrepormos imagens à realidade, sobrepomos o som. O que é interessante, não digo que não é, mas uma coisa é ter acesso a informação textual por voz, outra é trabalhar informação gráfica, visual, apenas por meio de som. A voz pode dar-me informações sobre o local em que estou, mas o modo como ganho compreensão desse local, é muito diferente se puder ter acesso a um mapa do espaço que me enquadra no contexto geral do lugar. Ou seja, o problema do som, é que é um canal muito mais limitado, possui apenas um fluxo de transmissão e em modo contínuo, não posso fazer pausa e ficar a investigar o conteúdo, o que o torna muito difícil de ser trabalhado em termos de elementos de contexto.

Aliás neste sentido os videojogos que Theo joga acabam sendo mais realistas, talvez também porque se tenham distanciado muito pouco daquilo que hoje já é possível fazer. A única parte verdadeiramente interessante dos videojogos de "Her" foi a IA do pequeno personagem, aplicada no sentido de lhe atribuir uma pré-consciência. Ele não é um mero boneco ali à nossa espera, conversa conosco, chateia-se conosco e chama-nos nomes. Mas isto foi muito pouco explorado pelos designers do jogo. Em certa medida o design dos jogos foi feito à margem do design do filme e isso acaba por se tornar evidente.

Apesar desta minha visão menos concordante, continuo a pensar que "Her" é um excelente filme, procurou dar respostas seguindo caminhos diferentes, propondo novas possibilidades. É um filme inteligente, reflectido e que vale a pena ser visto e revisto, porque vai continuar a ser capaz de despertar muita discussão durante os próximos anos.

um naturalismo especulativo

"Her" (2013) é um filme capaz de exercer sobre nós o encanto de um enredo tão entrelaçado como só a literatura sabe fazer. É ficção-científica, sem show nem artifício, apenas realidade, uma espécie de naturalismo especulativo. A tranquilidade do discurso em conjunto com a leveza visual dos tons pastel, muito própria da filmografia de Spike Jonze, conduz-nos através de uma história sobre o amor em tempo de relações virtuais.

“Her” tem tanto de distopia como de utopia. O isolamento a que os seres humanos se deixam votar, empurrados pelo progresso do seu individualismo, numa sociedade higienizada pelo digital, dá lugar ao romance do impossível. O computador pessoal, que passa a assistente pessoal, assume agora o lugar da alma gémea.

Nada mais temos feito do que evoluir intelectualmente, desenvolvendo conhecimento sobre aquilo que somos enquanto seres conscientes, e à medida que nos conhecemos melhor, isolamo-nos cada vez mais. Assumimos a identidade, como um Eu, porque só nós nos podemos sentir. Só nós sabemos aquilo que sentimos, mas não sabemos porquê, e quando questionamos os nossos semelhantes, não lhes encontramos respostas. Por isso o caminho para a individualização torna-se uma necessidade do desenvolvimento do nosso auto-conhecimento.

Com todo o auto-conhecimento acumulado conseguimos recriar algo semelhante a nós, uma espécie de inteligência artificial que nos imita, aprende e cresce a cada interação connosco. Mas assim como nós nos isolámos, esta acabará por fazer o mesmo. Quando a capacidade para abstrair a realidade, e a procura por respostas atinge o limiar da consciência humana, a fuga interior é a única escapatória.

Em "Her" deixamo-nos levar pelo desejo racional da possibilidade latente nos seres virtuais de algum dia se tornarem reais. Mas sabemos que tudo está no mero reino da especulação sem sustentação. Enquanto formos consciências presas dentro de corpos perceptivos, a premissa de "Her" não se poderá realizar. A fuga para o individualismo é real, mas apenas num plano mental, o nosso corpo terá sempre uma palavra a dizer. Podemos até desejar a fuga, podemos até sonhar com o contacto entre duas consciências, mas o corpo exigirá sempre a sua parte. A nossa consciência não existe sem este, porque aquilo de que somos feitos, é o todo que o suporta, e não apenas uma teia de ligações neuronais.

Se me sinto triste, alegre, ou com medo, é porque a configuração biológica das minhas vísceras assim definem o meu sentir. Sem elas não passo de um sistema de lógica, incapaz de ser. O sentir é predominantemente corpóreo, o contacto humano é fundamental, o toque humano representa muito mais do que um mero contacto de pele.

Spike Jonze produziu uma obra brilhante, capaz de questionar a sociedade atual e as mudanças que esta atravessa. Apesar da problemática mente/corpo que aqui levanto, a fuga para o interior é uma realidade dos nossos tempos. O final do filme aponta algumas pistas, mas cabe a cada um procurar as respostas.


Ler mais
Design de Interacção em "Her"

IA: "eles seremos nós"

Apenas um pequeno apontamento para deixar o último da série Shots of Awe em que Jason Silva entra pela discussão da problemática da Inteligência Artificial. Tenho a dizer que concordo com tudo o que ele aqui diz, porque é aquilo exatamente que já disse no primeiro post deste blog a propósito do filme Artificial Intelligence: AI (2001). Não há que ter medo, porque eles seremos nós.

"The human era we'll have ended, we'll have become our creations, they'll be our children, but they will be really us. There's no reason to fear this, this is just Evolution."