Afonso Casaca
A expansão dos modelos generativos de IA e a sua capacidade de, progressivamente, se tornarem mais embutidos em processos de concepção e de fazer design estão a reconfigurar a maneira como percepcionamos, criamos e valorizamos a Imagem. À medida que o machine learning se torna um meio para produzir tanto as ideias como os resultados visuais, surgem novas questões sobre autoria, criatividade e significado. Neste post, procuro refletir sobre o controlo e a evolução do papel do design(er) num panorama de conceptualização mediado por estas tecnologias.

Para compreender melhor este paradigma sem cair numa leitura linear de evolução tecnológica, é importante começar por averiguar a integração destas ferramentas no ato projetual. A sua utilização pode não ocorrer de forma uniforme, sendo possível utilizá-la em modalidades menores, como, por exemplo, na utilização de ferramentas de micro-automação integradas em software, generative fill, expansão de imagens ou remoção de backgrounds, entre outras funcionalidades que aceleram tarefas mais operativas e técnicas. Noutros casos, pode ser utilizada para fins de pesquisa, na concepção inicial de ideias e exploração de conceitos, mas também na produção direta de resultados visuais finais. Cada uma delas, respetivamente, desloca subtilmente o lugar onde reside a decisão do designer. Com isto, o machine learning será um colaborador ou um competidor que substitui a decisão do designer? O que acontece com o sentido crítico de um projeto quando o designer recorre aos poderes generativos da máquina? E, acima de tudo, pode a escrita de um prompt ser encarada como um verdadeiro processo de design?

Figura 2 — Meme adaptado do filme I, Robot (real. Alex Proyas, 2004). Fonte: Arquivo digital / redes sociais, c. 2023.
Escrever um prompt exige uma intenção. Para obter resultados mais precisos, requer valências como um vocabulário conciso e um repertório sensível de referências, capacidades que residem num pensamento crítico e projectual sólido. Ainda assim, existe uma diferença decisiva entre projetar um sistema de raiz e selecionar resultados a partir da geração de opções configuradas pelos cálculos de um algoritmo. Ou seja, a utilização de um prompt só se pode tornar um ato de design quando o designer recorre à sua própria criticidade para interrogar e perceber possíveis enviesamentos da máquina.
AI-generated visuals are “mean images” in a double sense: mathematical averages computed from vast datasets of scraped imagery, and “mean” in their social effects—stingy, cruel, and extractive, replacing photographic witness with “statistical rendering.”

Este ponto torna-se ainda mais evidente quando observamos a relação entre o criador e a infraestrutura técnica. Ao recuperar o pensamento de Vilém Flusser sobre o «aparelho» [1], Sean Dockray, em Learning from YouTube, alerta para o modo como as infraestruturas do machine learning não se limitam a responder aos prompts humanos, mas treinam os próprios utilizadores a formular intenções que sejam legíveis pela máquina [2]. Num ambiente previamente programado, o utilizador corre o risco de passar a desejar e a formular apenas aquilo que o sistema já está capacitado para prever e executar, restringindo a intenção criativa dentro dos limites do programa [1].
“Instead of being an instrument of a single artistic imagination, AI has become a mechanism for influencing the imaginations of billions. Gathered and aggregated data about the cultural behaviors of multitudes is used to model our ‘aesthetic self,’ predicting our future aesthetic decisions and tastes and potentially guiding us towards choices preferred by the majority.
Lev Manovich, AI Aesthetics, 2019, Strelka Press
Ao conferir o papel de criador à máquina, este modelo desvia o design(er) do centro da produção direta, limita as suas opções de trabalho e transforma a sua autoria num mero exercício de seleção estatística. É precisamente neste ponto que o «porquê?» se torna a pergunta mais urgente e insubstituível da prática do design(er). Num cenário saturado pela facilidade técnica de gerar milhares de variações visuais em segundos, o valor de um objeto de design deixa de residir na destreza da sua execução formal ou no virtuosismo estético imediato. Qualquer sistema automatizado consegue produzir um «como» visualmente sedutor; contudo, a máquina é incapaz de formular um propósito situado no mundo real. Se, como afirmam Colomina e Wigley, os artefactos podem desencadear novos modos de pensamento [3], então a IA poderá transformar a forma como o designer pensa e entende o seu papel, e não necessariamente substituí-lo.
Importa também sublinhar que estes modelos de machine learning se sustentam sobre bases de dados de larga escala construídas através da recolha massiva e indiscriminada de registos visuais e textuais. Como demonstra Kate Crawford em Atlas of AI, este processo extrativo desvincula imagens e produções culturais dos seus contextos históricos, sociais e autorais originais, frequentemente sem consentimento nem salvaguarda de proteção de dados, convertendo-as em meros padrões estatísticos [4]. Ao mesmo tempo, Wendy Hui Kyong Chun adverte que os sistemas algorítmicos de reconhecimento e correlação não são espelhos neutros da realidade: ao aprenderem com arquivos passados marcados por assimetrias, acabam por automatizar, normalizar e amplificar enviesamentos sociais mascarados sob uma aparência de objetividade técnica [5].

É precisamente aqui que a capacidade do design(er) de contextualizar, questionar e justificar cada decisão e output gerado se afirma ainda como o ponto diferenciador. Consequentemente, o processo recupera o protagonismo face ao resultado final: o rasto das decisões, a pertinência das perguntas levantadas e o rigor conceptual passam a pesar mais do que o artefacto finalizado. Rafael Cardoso defende que o design deve ser encarado como um «campo ampliado cuja maior importância reside na capacidade de construir pontes e forjar relações num mundo fragmentado pela especialização» [6]. Esta visão reforça que o papel do design(er) não depende de uma ferramenta específica, mas da sua visão relacional e crítica.
Responder a quem é o designer hoje implica, portanto, recusar tanto o auxílio submisso à máquina como a visão romântica e saudosista de uma autoria puramente individual. Hoje, o design é uma prática fundamentalmente interdisciplinar, participativa e sistémica. O desafio que se coloca à teoria e à prática do design(er) passa por formalizar o seu trabalho sem abdicar da agência ética e política. Mesmo quando a forma visual emerge da colaboração entre modelos generativos, cabe ao designer situar o projeto no mundo real, assumir uma posição de crítica perante os enviesamentos destas ferramentas e reivindicar uma autonomia intelectual que não funcione meramente numa base de lógica e probabilidades, como os algoritmos.
As questões e discussões levantadas pelos autores e designers convocados ao longo deste post são exemplos essenciais para preservar uma prática do design atenta, crítica e responsável. Contudo, perante o complexo contexto sociopolítico atual, juntamente com a crescente precarização laboral da área, como abordei no post anterior, e a aceleração imposta pela máquina e os seus consequentes problemas, impõe-se perguntar: que designers conseguirão efetivamente sustentar e cultivar uma prática desta natureza? Como lembra Afonso Matos, exigir criticidade ao designer sem questionar as condições materiais e económicas que limitam a sua margem de ação ignora os constrangimentos reais da profissão [7].
Notas:
[1] Flusser, Vilém — Filosofia da Caixa Preta: Ensaios para uma futura filosofia da fotografia. Lisboa: Relógio D’Água, 2011.
[2] Dockray, Sean — “Learning from YouTube.” Rivers of Emotion, Bodies of Ore. Oslo: Uten Tittel (Not Yet Titled Press) in collaboration with Kunsthall Trondheim, 2018
[3] Colomina, Beatriz; WIGLEY, Mark — Are We Human? Notes on an Archaeology of Design. Zurique: Lars Müller Publishers, 2016.
[4] Crawford, Kate — Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence. New Haven: Yale University Press, 2021.
[6] Cardoso, Rafael — Design para um mundo complexo. São Paulo: Cosac Naify, 2012.
[7] Matos, Afonso — Who Can Afford to Be Critical?. Eindhoven: Set Margins’, 2022.




You must be logged in to post a comment.