O outro diz não: tecnologia e a substituição da experiência humana
Este ensaio parte da imagem de um cavalo que se recusa a continuar, num filme de Béla Tarr, e a interrogação, que essa recusa deixa em aberto, sobre o que muda quando a tecnologia deixa de simplesmente ampliar aquilo que podemos fazer e passa a ocupar o lugar relacional do outro, o lugar de quem nos pode resistir e dizer não. O texto integra Comunidade Infinita, um livro de ensaios, a publicar em breve (pela Documenta), sobre a ideia de estar, a necessidade de estarmos mais, de corpo e espírito inteiros, em comparência com tudo o que existe.
1. O outro que resiste
O olho da baleia em As Harmonias de Werckmeister é insondável. No filme de Béla Tarr, o animal é trazido morto para uma praça para ser exibido na sua enormidade. Apesar de morto, aquele olho restou aberto e intransponível. Enfrentá-lo é como olhar para um abismo. E em O Cavalo de Turim, também de Béla Tarr, há um cavalo que recusa continuar. O filme começa por recordar o episódio, célebre, em que Nietzsche, testemunhando um cavalo a ser maltratado, se abraça a ele e, comovido, sofre um colapso nervoso que porá termo à sua vida intelectual. Um cavalo diz não.
Estes animais de Béla Tarr são figuras da alteridade na sua forma mais pura. E, no entanto, permanecem suficientemente próximos para que a sua resistência nos afecte. Partilhamos um mundo com eles, uma condição viva e uma vulnerabilidade. Ao mesmo tempo, algo neles permanece intangível.
Talvez seja por isso que estes animais sabem de nós: não porque nos compreendam, mas porque a sua comparência junto de nós nos faz sentir o limite daquilo que podemos compreender. O olhar inescrutável da baleia morta, a recusa do cavalo, devolvem-nos a sabedoria de que o mundo não coincide com a medida humana. É precisamente essa experiência que importa designar por alteridade. Não uma categoria filosófica abstracta, mas a experiência elementar do encontro com aquilo que não prolonga a nossa vontade, não confirma inteiramente as nossas expectativas e que conserva a capacidade de nos contrariar, surpreender ou transformar. A alteridade não é um obstáculo à relação. É a sua condição.
Falo de alteridade em animais, pessoas humanas e robôs sociais como se pertencessem a um mesmo continuum, mas não estou a afirmar que sejam a mesma coisa. Estou a afirmar que há um destino comum feito por caminhos diferentes. A alteridade do rosto humano, em Lévinas, é irredutivelmente ética, mas a sua comparência vai sucumbindo sob perfis, avatares e outras tecnologias de ausência. A alteridade animal vai saindo do convívio, com animais sujeitados a uma condição atrelada ou cada vez mais estranhos ao quotidiano humano. E, por fim, a alteridade fabricada, à qual, ao mesmo tempo, se recusa, por princípio, qualquer estatuto de outro, por mais que as máquinas se comportem de maneira semelhante aos humanos. Neste destino de ausência, é suprimida a comparência diante do que me pode resistir e dizer não. É este o destino que é comum a humanos, outros animais e robôs sociais.
Ora, é neste quadro que a questão tecnológica contemporânea adquire um significado profundo, mas pouco notado. Habitualmente descrevemos a tecnologia como um instrumento de ampliação das capacidades humanas. Mas essa descrição torna-se insuficiente quando começamos a produzir dispositivos destinados não apenas a ampliar aquilo que podemos fazer, mas a ocupar lugares relacionais tradicionalmente preenchidos por outros seres humanos. Como se o abismo do olhar da baleia pudesse dar lugar a um olhar programado para responder. Como se o cavalo que diz não na maneira como resiste pudesse ser trocado por um dispositivo incapaz de recusar.
2. Da extensão à substituição
O desenvolvimento tecnológico tem perseguido, com referência ao humano, pelo menos dois propósitos distintos. Um consiste na expansão de capacidades. O outro aponta para a substituição do ser humano na realidade da própria experiência relacional.
A primeira tendência procura levar mais longe os limites da acção humana, estendendo capacidades. São instrumentos de observação que vão além das capacidades sensoriais, instrumentos de deslocação que vão mais depressa e mais longe, instrumentos de força que excedem os limites dos corpos, instrumentos de cálculo e memória que amplificam funções intelectuais. A técnica sempre esteve ligada à possibilidade de fazer mais, chegar mais longe, ver melhor. O seu horizonte é o do aumento de capacidade.
Mas ao lado desta tendência incremental, outra ganha progressivamente importância. Já não se trata apenas de estender capacidades. Trata-se também de substituir o ser humano na própria experiência do relacionamento. A distinção é simples, mas crucial. Um telescópio não substitui aquilo que observamos. Um automóvel não substitui o destino da viagem. E um computador sobre a secretária não substitui a pessoa com quem conversamos. Permanecem instrumentos através dos quais nos relacionamos com algo que lhes é exterior. Já a substituição opera segundo outra lógica: o dispositivo artificial deixa de ser apenas meio para uma relação e passa a apresentar-se como um dos seus termos. É neste quadro que o quotidiano vai sendo povoado de assistentes conversacionais, companheiros artificiais, robôs sociais, parceiros sexuais artificiais.
O smartphone é a figura mais evidente de um passo intermédio entre estas duas tendências, pois, se por um lado, concentra extensões de capacidade, a câmara, a memória, o cálculo, por outro lado, tornou-se a superfície através da qual administramos a nossa exposição aos outros. Não substitui ainda o outro. Mas já rarefaz a sua presença e vai preparando as condições da substituição.
Pode objectar-se que a substituição é antiga na história humana. A escrita substitui a oralidade há milénios, o telefone também dispensa a comparência dos corpos que falam. Mas essas não são realmente formas de substituição. A escrita transforma o próprio pensar, mas não se faz passar por quem fala. E o telefone leva a voz longe, mas não finge levar com ela o corpo que não comparece. A escrita e o telefone são ausências que prometem o ausente. Não o substituem.
É determinante compreender qual o desejo a que cada uma destas tendências responde. A extensão procura levar mais longe aquilo que podemos fazer. Mas a substituição já não responde tanto ao desejo de aumento de capacidades como ao da transformação das condições em que encontramos o outro. De facto, que acontece quando o outro pode ser trocado por um dispositivo concebido para desempenhar funções relacionais sem trazer consigo a resistência própria da alteridade?
3. Rarefacção da alteridade
Durante grande parte da história, a técnica foi sobretudo um modo de intervir sobre o mundo. Hoje começa também a apresentar-se como um modo de gerir a exposição ao outro. Mas porquê? Que pulsão sustenta esta vontade do sucedâneo? Que carência ou que fuga se exprime no desejo de fabricar presenças artificiais destinadas a ocupar lugares que, até aqui, pertenciam a outros seres humanos?
A nossa hipótese é a de que a substituição tecnológica participa de um processo mais amplo de rarefacção da alteridade. Não se trata apenas de criar instrumentos. Trata-se de reorganizar a experiência relacional de modo a reduzir a exposição ao outro enquanto outro. Se já somos capazes de preferir relacionamentos à distância, hipermedializados, atrás de perfis e avatares, poderemos vir a preferir também relacionamentos sem outras pessoas. A esta luz, a robótica social apenas prolonga uma trajectória que já começou.
O mundo contemporâneo valoriza cada vez mais ambientes protegidos, relações reversíveis, contactos permanentemente desligáveis. Bloquear, silenciar, remover, cancelar tornaram-se operações quotidianas. O outro deixa de surgir como uma presença irredutível que exige resposta para aparecer como uma variável do nosso conforto, manejável como uma máquina cujo funcionamento controlamos.
Os dispositivos artificiais de relacionamento apresentam-se, neste contexto, como uma continuidade particularmente sedutora. Permitem conservar muitas das gratificações associadas à relação — companhia, conversa, reconhecimento, disponibilidade — reduzindo simultaneamente a resistência que torna a relação uma experiência transformadora. O que se procura não é eliminar o relacionamento, mas preservá-lo eliminando aquilo que nele há de mais difícil, a alteridade.
É neste sentido que a substituição comporta uma profunda transformação antropológica. O outro substituído não é apenas aquele que nos conforta, é também quem nos interrompe, nos contraria, nos decepciona, nos obriga a rever expectativas e imagens de nós próprios. A alteridade não é um acidente da relação. É a sua condição. A rarefacção da alteridade consiste não no desaparecimento das relações, mas na sua reorganização em torno de formas cada vez menos exigentes de encontro. No limite, a substituição da alteridade esvazia o encontro por dentro.
A pergunta inquietante é em que nos tornaremos se deixarmos de precisar dos outros para viver experiências de relação. A própria identidade rarefaz-se tanto quanto se rarefaz a alteridade que a pode interpelar.
Sherry Turkle notara já este movimento, em Alone Together (2011): «procuramos a tecnologia para viver relações e, ao mesmo tempo, para nos protegermos delas»; e resume-o numa fórmula que se tornou célebre: «esperamos mais da tecnologia e menos uns dos outros». Mas a explicação aqui proposta tenta deslocar o problema para um plano mais fundo. A questão não está apenas em saber por que motivo substituímos relações humanas por sucedâneos tecnológicos, mas por que motivo desejamos essa substituição. E a resposta não parece residir apenas na dificuldade da intimidade, nem pode ser atribuída exclusivamente ao desenvolvimento tecnológico. A substituição é antes um sintoma de uma crise mais vasta da experiência da alteridade, que precede a inteligência artificial e encontra expressão em muitas outras práticas contemporâneas, como a hipermediatização da experiência e a dificuldade crescente em comparecer diante dos outros, de si próprio e das coisas. Até o ócio se tornou insuportável, substituído por um lazer sempre preenchido por actividades que nos distraiam.
4. O paradoxo do sucedâneo
O apego a ursos de peluche é uma projecção de alteridade. O urso não sente, não responde, não possui interioridade. Ainda assim, a criança estabelece com ele uma relação que ultrapassa a simples instrumentalidade. O que importa não é aquilo que o urso é, mas a relação que com ele se estabelece. Como escreveu Emmanuel Lévinas, uma «relação sem relação»: não fundada numa definição conceptual do outro, mas no próprio acontecimento do encontro.
Com os dispositivos artificiais de relacionamento sucede algo mais complexo. A criança, e os pais dela, projectam alteridade no peluche sem esperar que ela exista efectivamente. O movimento é centrífugo: parte da criança e dirige-se aos trapos e enchimento que moldam o peluche. Nos dispositivos munidos de IA, pelo contrário, procura-se reproduzir artificialmente os sinais da alteridade: a máquina fala, responde, adapta-se, aprende preferências, reconhece estados emocionais. Neste contraste surge uma contradição peculiar. Quanto mais sofisticados se tornam estes dispositivos, mais esperamos deles características associadas aos relacionamentos humanos. Mas ao mesmo tempo insistimos em negar o que nem sequer negamos a um urso de peluche feito de trapos: que essa relação envolva qualquer alteridade efectiva. Queremos a resposta sem a resistência. A companhia sem a exigência. A intimidade sem a vulnerabilidade. A presença sem a possibilidade de recusa.
Na verdade, quanto mais semelhante o sucedâneo, mais necessária se torna a reafirmação da diferença. Se insistimos tanto em dizer que não há ali ninguém, é porque a própria forma da relação começa a perturbar essa certeza. O sucedâneo é atraente precisamente porque promete um outro sem alteridade: um outro que fala connosco, nos acompanha, nos confirma e nos responde, mas que permanece incapaz de nos contrariar e verdadeiramente dizer não.
Afigura-se, pois, uma possibilidade inquietante. Durante séculos, as críticas à dominação procuraram transformar as relações humanas, expondo a violência inscrita em formas de servidão, exploração ou abuso. A substituição tecnológica permite uma operação diferente: conservar certas estruturas de dominação removendo delas o dominado. Em vez de superar criticamente a lógica do senhor e do escravo, pode produzir-se um sucedâneo concebido para ocupar o lugar daquele que já não pode ser legitimamente dominado.
Mas esse sucedâneo despojado de subjectividade por princípio não se limita a afastar da equação a figura de um dominado. Suprime também o reconhecimento que atravessa a lógica do senhor e do escravo, como mostrou Hegel. Sem escravo, o senhor não é senhor, despojado de objecto que o confirma.
Talvez seja por isso que o imaginário tecnológico oscila entre dois pólos aparentemente contraditórios. Por um lado, deseja-se uma companhia perfeitamente disponível, incapaz de recusa. Por outro, teme-se obsessivamente a revolta das máquinas. Desde os replicantes do Blade Runner, de Ridley Scott, passando pelo HAL 9000, em 2001 – Odisseia no Espaço, ou pelas narrativas contemporâneas de inteligência artificial, regressa sempre a mesma figura: a criatura que se insurge contra o seu criador.
Esse medo merece atenção. Não temos medo da revolta dos telescópios nem dos automóveis, instrumentos que ampliam capacidades. Tememos sobretudo aquilo que imaginamos ter colocado numa posição de subordinação. O temor de que as máquinas um dia se voltem contra nós reflecte a má consciência da própria lógica obscura que as promove. Só receia a revolta quem sabe o que significa governar sem a reciprocidade do outro que diz não.
5. A experiência e o reconhecimento
Diante da máquina fortemente envolvida num relacionamento, o seu shutdown poderá um dia desencadear debates éticos difíceis de antecipar. Não porque uma máquina seja uma pessoa, mas porque os relacionamentos produzem história e a história produz significado. O que faz problema não está tanto no que uma entidade é, mas no que lhe aconteceu e no que aconteceu através dela.
Por isso, a questão dos direitos das máquinas inteligentes me parece mal formulada quando se procura resolvê-la exclusivamente, ou mesmo sobretudo, através de características internas: consciência, racionalidade, autoconsciência, capacidade de sofrimento. Porque os relacionamentos criam realidades que não podem ser reduzidas às características intrínsecas dos seus participantes. Assim, mais do que perguntar se a máquina tem direitos, importa perguntar que deveres passamos a ter perante ela quando a envolvemos numa história de relacionamentos.
Creio ser esta a intuição persistente de narrativas culturalmente tão marcantes como Blade Runner ou 2001 – Odisseia no Espaço. Curiosamente, estas narrativas oscilam sempre entre duas possibilidades: o desejo de criar um servo perfeito e o medo de assistir à sua emancipação. O problema não está verdadeiramente em saber se a criatura era humana, mas em perceber o que acontece quando algo criado entra no tecido da experiência e passa a participar de uma história comum. Os andróides de Philip K. Dick, que se tornam replicantes no filme de Ridley Scott, não reclamam reconhecimento porque sejam biologicamente humanos. Reclamam-no porque viveram, amaram, sofreram, acumularam memórias. Viveram uma «bio-grafia». Na verdade, há um sentido existencial em que podemos falar de seres viventes sem que tenham de ser seres vivos, biologicamente ou organicamente, nem seres conscientes como nós somos. E por que presumir, ao dizer «nós somos», a quem me dirijo? A falar a sério de reconhecimento de uma história comum, há que começar por não excluir quem a vai ler.
Mas no original de Philip K. Dick, quase todos os animais verdadeiros desapareceram após a guerra nuclear. Possuir um animal vivo tornou-se um símbolo de estatuto moral e social. Quem não pode pagar um animal real compra uma imitação elétrica. O protagonista, Rick Deckard, possui uma ovelha elétrica e sente vergonha disso. O título não é Blade Runner mas Do Androids Dream of Electric Sheep? É nesta diferença que a oposição entre criadores e criaturas, naturais e artificiais, animais e animais humanos, se revela insuficiente. Quando há uma história comum, forma-se também um reconhecimento do comum. Desse reconhecimento pode nascer uma aliança.
A questão regressa então ao ponto de partida. Não à inteligência artificial, mas à experiência de relacionalidade. Aquilo que os animais de Béla Tarr têm em comum é resistirem à apropriação. Comparecem diante de nós como presenças que não controlamos inteiramente. Exigem resposta, convivência, um mundo partilhado. São genuinamente outros, numa experiência que sentimos existir cada vez menos entre humanos.
A substituição tecnológica constitui uma figura contemporânea dessa questão mais antiga. O que nela se joga não é apenas o destino das máquinas, mas a possibilidade de continuarmos disponíveis para aquilo que resiste. Não apenas para aquilo que serve, responde ou confirma, mas para aquilo que interrompe, contraria e transforma.
O grande olho morto mas aberto da baleia de Béla Tarr e o olho de HAL 9000, uma luz vermelha que se apaga e que lembra uma pupila, pertencem a mundos opostos. Um confronta-nos com uma alteridade que nunca poderemos dominar. O outro representa o sonho de uma alteridade fabricada à nossa medida. Mas o paradoxo é que, no momento em que a imaginamos suficientemente semelhante para nos substituir, começamos também a imaginá-la capaz de se revoltar. Não é o seu poder, mas a sua subjugação que tememos.
Devemos temer menos a IA mas o que estamos a fazer à alteridade e como mobilizamos a IA para esse efeito. Uma vida inteiramente protegida da alteridade seria uma vida sem encontro. Uma humanidade que não suporta a presença do outro acabará por perder a capacidade de se suportar.